미래 인공지능(AI) 반도체 개발의 화두는 무엇일까. AI 모델이 쏟아지고 크기가 커지는 가운데 전문가들은 ‘효율’을 꼽고 있다.
지난 27일 서강대에서 열린 특별 강연 ‘AI 반도체로 세상을 삼키다’에서 백준호 퓨리오사AI 대표와 박철민 삼성전기 상무가 연사로 나서 각각 AI 반도체 설계, 반도체 패키징 기술을 중심으로 차세대 AI 반도체의 과제를 짚었다. 박영선 전 중소벤처기업부 장관이 사회를 맡았다.
AI 반도체가 성능과 효율을 갖추려면 고효율 연산이 가능한 AI 칩과 이를 구동하는 패키징 기술이 함께 뒷받침돼야 한다는 게 이날 참석자들의 공통된 의견이다. 칩은 AI 연산을 담당하는 ‘두뇌’ 역할을 하며 패키징은 AI 칩, 메모리 장치, 입출력 회로 등을 기판 위에 정밀하게 배치해 고속 연산과 에너지 효율을 가능하게 하는 공정이다.
백 대표는 AI 반도체를 설계할 때 연산 효율을 우선해야 한다고 강조했다. 그는 “최신 AI 모델은 2016년 개발된 구글 알파고에 비해 천만 배 이상 커졌다”며 방대해진 연산을 실시간으로 처리하려면 기존과 다른 고효율 설계 구조가 필요하다고 말했다.
그는 ‘레니게이드(RNGD)’를 예로 들었다. 퓨리오사AI가 2024년 개발한 2세대 AI 추론 전용 칩으로, 반복적인 행렬 곱셈 등 핵심 연산을 빠르고 효율적으로 처리할 수 있도록 설계됐다. 전력 소모는 줄이고 병렬 연산 성능은 높인 구조로 150W 수준의 전력량을 자랑한다. 비슷한 성능을 보이는 다른 회사 AI 칩과 비교하면 절반 이하에 불과한 것으로 에너지 효율성을 높였다는 평가를 받는다. 백 대표는 “기존 그래픽처리장치(GPU)가 가솔린 차라면 우리가 만든 칩은 같은 성능을 내지만 에너지를 적게 소비하는 전기차로 볼 수 있다”고 비유했다.
박 상무는 AI 연산 효율을 극대화하려면 마더보드(기판) 역시 진화해야 한다고 강조했다. 그는 “최근 고성능 AI 반도체를 보면 크기는 기존 마더보드의 10분의 1인데 성능이 100배 가까이 높아졌다”며 “이는 하나의 기판에 로직(연산) 유닛과 메모리 장치를 붙였기 때문”이라고 설명했다. 유리 기판이 부상하는 배경이다. 이와 관련해 장덕현 삼성전기 사장은 28일 서울대 재료공학부 강연에서 연내 미국 빅테크 2~3곳에 유리 기판 시제품을 공급할 예정이라고 밝혔다.
최영총 기자 Youngchoi@hankyung.com