세미콘 코리아 2019 기조연설
“클라우드 인프라와는 별개로 스마트폰이나 자율주행자동차에서 인공지능(AI) 연산이 가능한 ‘온 디바이스 AI’ 시대가 올 것으로 예상합니다. 이러한 시대가 와야만 진정한 의미에서의 AI 시대가 열릴 것입니다.”
심은수 삼성전자 종합기술원 AI&SW 연구센터장(전무)은 23일 서울 삼성동 코엑스에서 개막한 세미콘 코리아 2019 기조연설에서 이 같이 강조했다.
AI는 ‘학습’을 기반으로 구현된다. 컴퓨터가 고양이와 강아지 사진을 구분할 수 있는 건 수많은 사진 데이터를 입력하고 “이건 고양이”, “저건 강아지”라고 학습을 시켰기 때문에 가능했다. 컴퓨팅 업계에선 이 같은 학습 정도에 따라 기계학습(머신러닝), 심화학습(딥러닝) 등으로 구분을 짓고 있다. 컴퓨터 학습은 일반적으로 대용량 서버로 구성된 클라우드 인프라에서 이뤄졌다. 데이터를 대량으로 넣어놓고 비교적 빠르게 학습을 시키기 위해서다. 바둑천재 이세돌과 겨룬 구글 알파고 시스템도 클라우드 인프라 위에서 학습한 뒤 구현됐다.
심 전무는 그러나 “개별 디바이스단의 AI 학습 능력도 클라우드 인프라 이상으로 중요하다”면서 “진정한 AI를 위해선 우리가 보는 것, 말하는 것, 듣는 것 모두를 저장하고 학습시켜야 하는데, 클라우드에 올릴 경우 개인정보 유출 우려가 있는 것이 사실”이라고 말했다.
연결성도 문제다. 클라우드 인프라 상에서만 AI 학습이 구현될 경우 통신 음영 지역에선 서비스를 받을 수 없다. 정제되지 않은 다량의 데이터를 수많은 사람들이 클라우드에 올릴 경우 예상되는 통신 과부하는 치명적일 수 있다. 자율주행차 연산 기반을 클라우드 인프라에만 의존한다면 통신 지연으로 사고 위험에 직면할 수 있다고 전문가들은 경고한다.
개별 디바이스에서 AI 학습과 연산이 가능하다면 이러한 연결성 및 연산 과부하 문제를 해결할 수 있다. 다만 이 경우 전력 소모량을 최소화하고 칩 내부 메모리에서 발생하는 병목 현상을 해결하는 것이 가장 큰 과제다.
심 전무는 “삼성전자 종합기술원은 이미 수년 전부터 이런 상황을 인지, 예측하고 온-디바이스 AI 기술을 연구하고 성과를 냈다”면서 “조만간 출시될 신형 갤럭시S10 스마트폰에 우리가 개발한 뉴럴네트워크유닛(NPU:Neural Processing Unit)이 탑재된다”고 말했다.
심 전무가 언급한 NPU의 주요 사항은 오는 2월 17일 미국 샌프란시스코에서 열리는 국제고체회로학회(ISSCC:International Solid-State Circuits Conference)에서 공개될 예정이다. 삼성전자가 논문을 냈다. 논문 내용은 8나노 시스템온칩(SoC)에 내장된 나비 구조 듀얼코어 NPU(논문 제목 : A 11.5 TOPS/W 1,024-MAC Butterfly-Structure Dual-Core Sparsity-Aware Neural Processing Unit in 8nm Flagship Mobile SOC)다. 저전력, 고성능, 확장성(다양한 학습 프레임워크 지원) 면에서 지금까지 나온 NPU 가운데 가장 진보했다는 것이 심 전무의 설명이다.
심 전무는 “온 디바이스 AI의 경우 휴대기기의 한정된 자원만을 활용해야 하기 때문에 학습을 거듭할수록 이전에 학습한 정보가 지워지는 문제가 있고 이를 해결하는 것이 또 다른 과제”라면서 “다양한 과제를 해결한 온 디바이스 AI가 구현되면 우리가 꿈꾸는 진정한 AI 시대를 맞게 될 것”이라고 말했다.
