반도체 설계의 오랜 난제를 해결하다
반도체 설계는 고도의 전문성과 시간이 요구되는 분야로, 특히 5G나 6G 통신에 필수적인 주파수 생성 회로인 LC-VCO(LC 전압제어 발진기)의 경우 숙련된 전문가가 수개월에 걸쳐 작업해야 했습니다. 그런데 최근 UNIST와 경북대학교 연구팀이 인공지능(AI)을 활용해 이 같은 설계 시간을 획기적으로 단축하는 데 성공했습니다. 기존에 119시간이 소요되던 설계 작업을 AI 모델은 28.5시간 만에 완료했고, 이는 기존 자동화 방식 대비 76% 이상 시간이 줄어든 수치입니다. 단순히 빠른 것뿐 아니라, 회로의 종합 성능을 나타내는 성능 지수(FoM)도 기존 연구보다 우수한 결과를 보여주면서 기술적 돌파구를 마련했죠.
왜 반도체 설계에 이렇게 오랜 시간이 걸렸을까요? 그 이유는 크게 세 가지입니다. 첫째, 회로도를 실제 칩 레이아웃으로 옮길 때 발생하는 '기생 효과'를 보정하기 위해 수만 번의 시뮬레이션이 필요했습니다. 둘째, 전력 소모와 잡음, 성능과 칩 면적 간 상충 관계를 최적화하는 일이 복잡했습니다. 셋째, 나노 공정 노드가 바뀌면 설계를 거의 처음부터 다시 시작해야 하는 경직성이 문제였습니다. AI 모델은 이런 복잡한 변수들을 통합적으로 관리하며 한 번에 최적화하는 방식을 채택해 난제를 해결한 겁니다.
강화학습과 경사하강법이 만든 설계 혁명
연구팀이 개발한 AI 모델의 핵심은 회로 설계와 레이아웃 설계를 분리하지 않고 동시에 최적화하는 데 있습니다. 회로 설계 단계에서는 강화학습을 적용했습니다. AI가 주파수, 전력, 잡음 등 목표 성능을 스스로 학습하며 최적의 변수 조합을 찾아내는 방식이죠. 레이아웃 단계에서는 경사하강법을 사용했습니다. 배선의 폭이나 간격을 미세하게 조정해 성능이 향상되는 방향으로 점진적으로 개선해 나갑니다. 여기에 더해, 인덕터 설계에는 딥러닝 기반 예측 기술을 도입했습니다. 기존에는 전자기 시뮬레이션에 많은 시간이 들었지만, AI 예측 모델로 이 과정을 크게 단축한 거죠.
이 모델의 또 다른 강점은 '전이 학습' 가능성입니다. 반도체 공정이 예를 들어 65나노미터에서 40나노미터로 바뀌더라도, AI는 기존에 학습한 내용을 바탕으로 새로운 데이터의 약 10%만 추가해 재학습하면 됩니다. 이는 공정 전환 시 발생하는 설계 비용과 시간을 획기적으로 절감해 줍니다. 연구를 주도한 윤희인 UNIST 교수는 이 기술이 단순히 설계 속도뿐 아니라, 만성적인 반도체 설계 인력 부족 문제를 완화하는 데도 기여할 것이라고 밝혔습니다.
5G·6G 통신과 AI 칩의 미래를 열다
이번 성과는 고속 통신과 AI 칩 발전에 직접적인 영향을 미칠 전망입니다. LC-VCO는 5G, 6G 통신 시스템과 AI 가속기 칩의 핵심 부품으로, 여기서 생성되는 주파수의 정확도와 안정성이 전체 시스템 성능을 좌우합니다. AI를 통한 설계 자동화가 본격화되면, 더 우수한 성능의 회로를 더 낮은 비용으로 빠르게 구현할 수 있게 되죠. 이는 관련 산업의 경쟁력을 한층 높이는 계기가 될 겁니다.
물론, 아직 모든 반도체 설계가 AI에 의해 대체되는 단계는 아닙니다. 현재 기술은 LC-VCO 같은 특정 아날로그·RF 회로에 집중되어 있고, 더 복잡한 디지털 회로나 시스템 반도�� 설계로 확장하려면 추가 연구가 필요합니다. 하지만 연구팀은 향후 다양한 아날로그 및 RF 회로 설계 자동화로 기술 범위를 넓힐 계획이라고 밝혔습니다. 이번 연구 결과는 IEEE의 저명한 학술지인 '집적회로 및 시스템 설계자동화(TCAD)'에 온라인으로 공개되었고, 삼성전자, 액시온 등 산업계의 지원도 받으며 실용화 가능성을 높였습니다. AI가 반도체 설계의 새로운 표준을 만들어 가는 과정이 본격화되고 있습니다.