인공지능(AI)가 인류의 삶을 어떻게 바꿔 놓을지를 두고 여러 추측과 전망이 나오고 있는 가운데 최근 반도체 칩 설계에도 AI가 쓰이고 있어 AI기술이 짧은 시간 내 기술이 획기적으로 발전할 것이라는 관측에는 이견이 없다. 특히 그 설계 대상에 매우 강력한 AI 프로그램을 가동시키기 위해 필요한 팁도 포함돼 AI가 첨단 분야에서 사람을 대신하게 될 수 있다는 말까지 나온다.
IBM이 개발한 2나노미터 반도체 기술 미국에 큰 가치
칩 설계는 복잡하고 난해해해 손톱 크기보다 작은 기판 표면에 수십억 개의 트랜지스터를 채워 넣어야 한다. 이 때문에 설계의 각 단계에서의 결단은 제품의 최종 성능과 신뢰성에 영향을 미친다.
이 나노스케일의 전자부품에서 최고의 퍼포먼스와 전기효율을 이끌어내는 회로를 설계하기 위해서는 설계 엔지니어들의 오랜 경력을 통해 축적된 경험과 노하우가 절대적이다.
칩 설계의 자동화 대처는 수십년 전부터 진행되어 왔지만, 거의 성과는 오르지 않았다. 하지만 최근의 AI의 진화에 의해 반도체의 아키텍쳐(architecture)에 관한 '흑마술'의 일부를 알고리즘을 통해 학습할 수 있게 되었다. 덕분에 반도체 업체들은 과거보다 훨씬 짧은 시간에 더욱 강력하고 효율적인 설계도를 만들 수 있게 되었다.
이렇게 되면 엔지니어가 AI 알고리즘과 협동할 수 있게 될날도 머지 않았다고 AI전문가들은 보고 있다. 최적의 설계를 찾아낼 수 있도록 다양한 AI의 코드나 반도체의 레이아웃을 시험하는 것이다.
인간과 AI의 협동
또 동시에 AI의 대두에 따라 새로운 칩에 대한 관심이 높아지고 있다. 자동차부터 의료기기, 학술 연구까지 최첨단의 칩은 경제의 모든 장면에서 중요성이 높아지고 있다. 이에 엔비디아(NVIDIA)나 구글, IBM을 포함한 업계 대기업은 복잡한 기판에 반도체의 컴포넌트와 배선을 레이아웃 할 때에 AI를 이용하는 실험을 진행하고 있다.
이 수법은 업계를 뒤흔듦과 동시에, 반도체의 엔지니어링에 새로운 복잡함을 가져올 가능성이 있다. 왜냐하면, 이런 종류의 AI의 알고리즘은 인간이 예상할 수 없는 일을 하기 때문이다.
엔비디아의 마크 랭 선임연구원은 강화학습으로 알려진 AI 기법이 반도체 컴포넌트 배치와 회로 전체를 설계하는 과정에서 어떻게 도움이 되는지를 연구하고 있다. 기계학습에 있어서 컴퓨터는 주어진 작업에 도전해 그 경험으로 배우는데 이는 AI의 진화에 큰 역할을 하고 있다.
랭이 AI툴의 시험을 통해 팁의 성능을 높이기 위해 어떤 설계가 최적인가 산출할 수 있도록 다양한 팁의 설계를 시뮬레이션 하면서 대규모 인공 뉴럴 네트워크(neural network)를 훈련하고 있다. 이 방식이라면 반도체 개발에 필요한 엔지니어링이 절반이 되는 한편 인간이 설계한 칩과 같거나 그것을 상회하는 성능의 칩을 만들어낼 수 있다는 것이다.
행은 "지금까지보다 효율적으로 칩을 설계할 수 있게 됩니다"라고 말한다. 동시에 더 많은 설계를 시험할 수 있기 때문에 결과적으로 더 뛰어난 칩이 만들어지는 것이라는 그의 설명이다.
강화 학습의 위력
원래 엔비디아는 게이밍PC용 그래픽보드가 주력인 업체였다.그런데 빠른 시간 안에 기계학습의 강력한 알고리즘을 움직이는 데 필요한 칩의 가능성을 깨닫고 이제는 고성능 AI칩으로 업계를 주도하는 기업으로 성장했다.
엔비디아는 AI를 사용해 설계한 칩의 시장에의 투입을 계획하고 있지만, 렌은 구체적인 시기를 명확하게 밝히지 않았다.하지만, 먼 미래에는 「많은 칩을 AI가 설계하게 되어 있겠지요」라고, 그는 말한다.
강화학습은 바둑처럼 복잡한 게임을 할 수 있는 컴퓨터 훈련에 사용되면서 유명해진 기술이다. 이렇게 훈련된 AI는, 게임의 룰이나 어떠한 플레이가 뛰어난가 라는 것에 대해 명확한 지시가 없어도 초인적인 능력을 획득하는데 성공하고 있다. 예를 들면, 미지의 물체라도 잡을 수 있는 로봇이나 전투기의 조종, 알고리즘에 의한 주식거래 등 다양한 분야에서 실용화가 기대되고 있다.
매사추세츠공대(MIT) 조교수로 전기공학과 컴퓨터 사이언스를 가르치는 한송은 칩 설계를 개량하는 데 있어 강화학습은 큰 가능성을 내포하고 있다고 지적한다. 이런 한중 연구팀은 강화학습을 이용한 AI로 다양한 설계를 시뮬레이션함으로써 칩 위에 배치되는 트랜지스터의 최적 크기를 정하는 도구를 개발했다.
이 툴은 특정 칩에 관해 학습한 내용을 다른 종류의 칩에도 응용할 수 있기 때문에 자동화 비용 절감이 가능해진다는 점에서 중요한 의미를 갖는다.
실험에서는, AI가 설계한 칩은 인간의 엔지니어의 칩과 비교해서 전기 효율이 2.3배가 된 반면, 간섭은 5분의 1로 줄어 들었다고 한다. MIT 연구팀은 동시에 인간과 AI 모두의 능력을 최대한 활용할 수 있는 AI 알고리즘 개발에도 몰두하고 있다.
모든 기계 학습에 공통되는 문제
칩 설계에 있어서의 AI의 활용은, AI의 개발과 이용에 고액의 투자를 하고 있는 기업을 중심으로 적극적으로 진행되고 있다.그 중에서도 구글은, 자사의 AI를 훈련하기 위한 팁의 설계로 이 분야에 16년에 참가하고 있어, 업계에서는 어느 쪽인가 하면 신참자다.이 회사는 강화 학습을 활용해 각 컴포넌트를 기판 위에 어떻게 배치할지를 정하고 있다.
구글 연구진이 6월에 학술지 「Nature」에 발표한 논문에서는, 이 기법에 의해 몇주는 커녕 몇시간안에 칩의 설계를 완성시킬 수 있는 것이 밝혀졌다.AI에 의한 설계는, 클라우드 상에서의 AI의 처리에 최적화한 프로세서인 클라우드 TPU(Tensor Processing Unit)의 차세대 모델에 채용될 전망이라고 한다.
이와 별도로 구글은 특정 처리의 고속화를 목적으로 한 칩을 기계 학습을 통해 설계하는 APOLLO라는 프로젝트도 진행 중이다.구글 연구자들은 또 컴퓨터 비전의 알고리즘 퍼포먼스를 향상시키기 위해 AI 모델과 칩을 연계해 설계를 진행하는 방법도 제시하고 있다.
이러한 AI 툴은 경험이 부족한 엔지니어가 한층 더 뛰어난 칩을 개발하는 데 도움이 될 것이라고 엔비디아의 렌은 지적한다.
반도체 분야에서는 AI로 어떠한 태스크를 해내는 것에 특화한 칩이 유통되게 되어 있어 이것은 중요한 의미를 가질 가능성이 있다.
그러나 렌은 "강화 학습에 의한 AI는 인간이 예상하지 못한 동작을 하는 일이 있어 엔지니어가 이것을 눈치채지 않으면 그 후의 설계나 제조 단계에서 코스트가 드는 에러로 연결될 가능성이 있다"고 경고한다.
이 때문에 엔지니어에게는 앞으로도 상당한 양의 전문 지식이 요구될 것이다. 예를 들면, 게임을 플레이하는 강화학습 알고리즘은 단기적인 이익으로 이어지지만 최종적으로는 실패하는 전략을 고집한다는 것이 연구에 의해 제시되고 있다.
이러한 알고리즘의 오작동에 대해 랭은 "기계 학습 프로그램의 모든 것에 공통되는 문제"라며 "칩 설계에 있어 이것이 더욱 중대한 문제가 된다"고 지적한다.