<인터뷰 원문>

-첫 순서 윤상호 전문기자 모셨습니다. 안녕하세요.

“안녕하세요.”

-어제였죠? 삼성이 가전 AI TV, 그리고 오늘은 또 냉장고 AI. AI가 대세는 대세인데, 그중에서도 '온디바이스 AI'라는 말이 유행처럼 번지고 있어요.

“온디바이스 AI라는 단어적인 뜻으로 설명해 드리면, 기기에서 작동하는 AI를 얘기하거든요.”

-기기 내에서.

“그렇죠, 인터넷 연결 없이. 온디바이스 AI라는 건 새로운 개념은 아닙니다.”

-새로 나온 건 아니에요?

“기존에도 우리가 쓰고 있었죠. 예를 들면 시간에 맞춰서 알람을 주고 이용 패턴에 따라서 바꿔주는, 밥솥에서도 들어가 있었고요. 선풍기 이런 데도 AI를 많이 썼었습니다.”

-간단한 AI 기능이잖아요.

“일종의 머신러닝(Machine Learning)이나 정해진 패턴을 분석하는 AI들을 많이 썼었는데. 올해 온디바이스 AI가 대두된 이유는 온디바이스 AI로 생성형 AI(Generative AI)가 동작할 수 있게 됐기 때문입니다. 생성형 AI(Generative AI)라는 건 창작이 가능한 AI를 얘기합니다.”

-스스로 머신러닝을 넘어서서.

“머신러닝 같은 경우에는 패턴을 파악해서 이용자가 자주 쓰는 걸 최적화해 주는 개념이잖아요. 이건 새로운 제안을 할 수 있는 겁니다.”

-가령 우리가 챗GPT(ChatGPT)에 뭘 넣어줘, 뭘 만들어줘 이러면 만들어 주는 걸 얘기하는 거죠?

“그게 생성형 AI죠. 생성형 AI가 기기에서 돌아갈 수 있을 정도의 세상이 온 거죠.”

-온디바이스 AI를 유행시킨 게, 단초가 된 게 삼성전자의 갤럭시 S24 아니에요?

“갤럭시 S24인데, 스마트폰의 생성형 AI가 들어갈 수 있게 된 것은 그만큼 시스템 반도체 성능이 좋아졌기 때문인 거죠.”

-당연히 좋아져야겠죠.

“퀄컴의 스냅드래곤 8 3세대가 나오면서부터 스마트폰의 생성형 AI가 온디바이스 AI로 들어가게 된 겁니다.”

-작년에 퀄컴이 스냅드래곤 8 3세대를 하와이에서 발표했나요?

“작년에 10월에 발표했고요.”

-그때도 AI를 강조했었어요.

“중국에서는 이미 10월부터 스냅드래곤 8 3세대를 내장한 스마트폰을 팔았습니다. 이번에 MWC 때 두드러졌지만. 왜냐하면 그들이 중국에서 팔던 폰을 세계 시장에 런칭 한 거거든요. 그래서 샤오미(Xiaomi), 오포(OPPO), 아너(Honor) 이런 기업들이 폰을 중국만이 아니라 세계 시장에도 런칭 한 거고, 또 이런 이유로 삼성이 예전보다 빨리 1월에 갤럭시 S24를 발표한 것도 있죠.”

-삼성전자의 갤럭시 S24 광고를 보면 동시 번역? 통역?

“실시간 통역이라든지 사진 편집이라든지. 동그라미를 치면 검색을 해준다거나 이런 게 그런 기능인데요. 동그라미를 치면 검색해 주는 ‘서클 투 서치’ 같은 경우에는 구글 기능입니다. 그건 사실 안드로이드 폰이면 다 되는 거예요.”

-원래 되는 거예요?

“구글이 삼성에 먼저 준 거죠. 그래서 추후 안드로이드 폰들은 그게 될 겁니다. 아너(Honor) 같은 경우에는 그걸 매직링(MagicRing)이라고 표현하고 하는데, 용어들이 조금씩 다른 것뿐이고요. 온디바이스 AI의 장점은 개인정보가 나가지 않는다.”

-인터넷 연결이 안 되니까.

“그리고 데이터 소모가 안 된다. 즉, 비행기 모드에서도 작동한다는 겁니다. 그러다 보니 통신비를 줄일 수 있죠. 우리나라 같은 경우에는 정액제가 대세니까 큰 차이는 없을 수 있으나, 해외에는 아직도 종량제나 이런 곳들이 있거든요. 어찌 됐든 데이터가 오고 가는 동안 데이터를 쓰지 않습니까? 그런 것을 줄일 수 있죠. 거기서 걸리는 지연 시간이 있고요.”

-갤럭시 S24를 지금 쓰고 계시죠? 안 쓰는 입장에서 보면 동시통역 같은 걸 제외하고. 온디바이스 AI라는 게 결국 폰 자체에서 새로운 정보를 만들어 낼 수 있는 성능을 갖췄다는 거잖아요. 그런데 한계가 있지 않아요?

“온디바이스 AI의 반댓말은 클라우드 AI(Cloud AI)입니다. 그러니까 인터넷을 통해서 우리가 쓰는 챗GPT나 클로바X나 이런 것들이 클라우드 AI고, 온디바이스 AI는 기계에서 쓰는 거고. 성능 차이는 분명히 있습니다. 왜냐하면 폰에서 돌리는 컴퓨팅 자원과 클라우드를 이용한 컴퓨팅 자원은 막대하게 컴퓨팅 자원이 다르지 않습니까? 그러니까 당연히 클라우드 성능이 더 좋고 폰 성능이 덜 좋은 건 맞습니다. 그런데 우리가 무엇을 우선시할 거냐의 문제죠. 예를 들면 개인정보보호가 필요한 내용들은 온디바이스 AI로 하고 더 전문적인 지식이 필요한 건 클라우드 AI로 하고, 개발사들의 숙제들도 있는 거거든요. 막대한 GPU들을 투입해서 클라우드 AI를 돌리는 것과 온디바이스 AI를 돌리는 것과는 비용 문제가 다르죠. 실제 제가 이번에 MWC 출장을 갔다 왔는데요, 해외 로밍 환경 아닙니까? 여기서 갤럭시 S24로 온디바이스 AI를 써보니까. 파파고 정도의 성능은 온디바이스 AI가 거의 동일한 성능을 냈습니다. 즉, 메뉴판을 번역한다거나 문서를 번역한다거나 관광지 팻말을 번역한다거나. 텍스트를 사진을 찍어서 번역하는 건 오히려 더 나은 성능을 보일 때도 있었어요. 왜냐하면 통신 환경이 불안정한 곳들이 있었으니까. 하지만 그러면 클로바노트급의 성능인가?”

-클로바노트라는 건 뭐죠?

“회의 같은 거 녹음해서 텍스트로 변환해 주는 기능이죠, 여기에서 차이가 있었습니다. 왜냐하면 사람들마다 발음이 다르고 억양이 다르고.”

-보정 해 주는 그런 거죠?

“클라우드 AI는 더 많은 사례를 학습한 거죠. 그런데 온디바이스 AI는 그 부분에서는 발언자들의 차이라든지, 같은 단어도 저의 발음과 진행자님의 발음이 다르지 않습니까? 속도도 다르고요. 거기서는 확실히 클라우드 AI가 더 나은 모습을 보였습니다.”

-지금 시점에서 온디바이스 AI가 이 정도의 성능을 갖추고 있는데, 결국에는 앞으로 AP가 더 업그레이드해야 하는 거 아니에요? 더 발전하게 된다면 온디바이스 AI를 통해서 할 수 있는 기능이 더 넓어지고 깊어지고 풍부해진다고 볼 수 있는 거예요?

“그렇죠, 그러면 온디바이스 AI가 진화하면서 클라우드 AI를 대체할 것인가?”

-그건 아닐 것 같은데요.

“이건 아니죠, 왜냐하면 온디바이스 AI가 똑똑해지는 만큼 클라우드 AI는 더 똑똑해집니다. 즉, 두 개를 병행해서 쓰는 '하이브리드 AI' 시대가 보편화 될 거라는 게 업체들의 전망이기도 해요. 왜냐하면 이쪽에서 필요한 것과 저쪽에서 필요한 건 다르거든요. 아까도 얘기했지만 개인정보 누출 우려가 있는 건들은 온디바이스 AI로 하고, 전문적인 지식이 필요한 것은 클라우드 AI로 하고. AI 공급사들도 막대한 공부를 시키는 비용과 이걸 경량화한 모델을 온디바이스 AI에 공급하는 것은 또 다른 영역이거든요. 수익을 창출해야 하니까요.”

-개인적으로 궁금한 게, 결국 이것도 AI라는 게 붙었잖아요. 온디바이스 AI지만, 챗GPT를 저도 가끔 한번 써보는데. 물론 무료 버전이긴 하지만, “기사를 작성해줘” 이렇게 하면 나름 챗GPT 같으면 과거 버전으로 여러 가지 정보를 학습해서 그럴싸하게 만들어 내잖아요. 그런데 그건 외부에 인터넷이 연결돼 있고, 클라우드에 들어있는 정보를 내가 갖다 쓸 수 있으니까 그런 거 아니에요?

“그렇죠.”

-그런데 온디바이스 AI는 기본적으로 한계가 있잖아요.

“그래서 온디바이스 AI는 경량화된 거고, 특정 분야의 스페셜리스트라고 보면 됩니다.”

-제 얘기는 확장성에도 아주 급속도로 성능이 업그레이드되지는 않지 않을까 생각하는데, 그건 어떻게 보세요?

“여전히 AI를 학습시키고 이런 부분들은 과제들이 많이 남아 있어요. 우리가 초거대 AI라든지 거대언어모델(LLM)이라든지 이런 얘기가 나온 지 2년 정도밖에 안 됐어요. 그래서 초반에는 잘 생각해 보시면 매개변수가 몇 개다. 그러니까 파라미터가 “우리는 100억개다, 200억개다” 이런 걸로, 파라미터가 쉽게 표현하면 얼마나 많은 경우의 수를 공부했냐 거든요. 그런데 지금은 이 공부법이 또 발전한 겁니다. 그래서 무조건 오랜 시간 공부하는 것보다 효율적인 공부법들이 나왔거든요. 그래서 매개변수가 더 줄어도 옛날만큼 공부시킬 수 있게 된 거예요. 그리고 이 경량화 AI는 무조건 전 과목 공부를 다 해야 하는 건 아니다.”

-국영수만 하자.

“국어 공부가 돼 있는 애들은 어느 정도 국어를 이해하니까 과학만 파든지, 수학만 파든지 이런 겁니다. 그게 경량화 AI고. AI 업체들이 아직 돈을 못 벌고 있거든요. 돈을 벌려면 경량화를 잘해야 한다. 그중에 하나가 온디바이스 AI 영역인 거죠.”

-하여간 기술의 진화 속도가 되게 빠른 것 같은데. 일단 그 얘기는 거의 다 한 것 같고. 결국 온디바이스 AI 덕분에 애플과의 격차가, 그래서 지금 삼성이 웃고 있는 거 아니에요?

“삼성이 이번 MWC 때 제가 아까 퀄컴이나 중국 업체 얘기를 했지만, 삼성이 갤럭시 AI로 거의 끌어가는 것처럼 이미지를 선점했죠. 그러니까 마케팅이라든지 이런 부분에서 삼성이 전략을 잘 짠 거죠.”

-우리가 국내 언론이긴 하지만 "애플이 지금 잘 못한다, 위기다"라는 얘기도 많잖아요. AI도 주도권을 놓치고.

“왜냐하면 애플 같은 경우에는 전통적으로 타사들이랑 크게 협력을 하지 않았었거든요.”

-독자적으로 하는 거죠.

“그러면 애플이 초거대 AI를 확보하고 있느냐? 그것도 지금 물음표거든요. 초거대 AI가 없는데, 그럼 경량화 AI는 당연히 없는 거고. 다른 회사와 협력하지 않는 한 예전 패턴이라면, 그러니까 지금 물음표가 찍혀 있는 겁니다. 또 여기에 애플은 AP도 자체 제작을 하거든요. 그러면 M시리즈가 생성형 AI를 돌릴 수 있을 만큼 NPU 성능을 낼 수 있을 것이냐? 이 부분도 있는 겁니다. 왜냐하면 지금 퀄컴이 이 기세를 몰아서 PC 쪽에도 온디바이스 AI를 몰아가고 있거든요.”

-그래요?

“올해 6월부터 제품이 나올 건데. 그래서 지금 인텔이랑 AMD가 우리도 한다는 제품을 막 발표도 했고 나오고 있죠.”

-그러면 노트북에서도 인터넷 연결 없이.

“아까 그런 작업들을 그대로 할 수 있는 겁니다.”

-스마트폰보다 더 확장된 작업을 할 수 있는 거네요? 크기가 크니까.

“퀄컴이 얘기한 스펙대로면 스냅드래곤 8 3세대는 100억개의 매개변수를 돌릴 수 있거든요. 그런데 PC용 스냅드래곤X 엘리트는 130억개를 돌릴 수 있어요. 인터넷 안 돼도, 와이파이 안 찾아다녀도. 아까 제가 말씀드린 것들을 그냥 퀄컴 PC에서 할 수 있는 거예요. 그래서 그걸 마케팅 요소로 퀄컴이 내세우고 있죠.”

-그거를 인텔도 하려고 하고, AMD도 하려고 한다.

“그렇죠, 왜냐하면 그 부분들이 광고 문제들도 그렇고 개인정보의 중요성이 점점 올라가지 않습니까? 그런 부분들을 소비자들이 민감해하는 거죠. "과연 얘는 무슨 데이터로 학습을 하지?" 물론 AI 업체들이 익명화하고 개인정보 식별 불가능하게 한다고 해도 불안이 남아 있는 거잖아요. 그리고 정보 유출 사고가 날 수도 있는 거고, 해킹을 당할 수도 있는 그런 부분들을 막아주는 거죠.”

-알겠습니다, AI가 빨라요.

“그래서 삼성전자가 TV도 발표하고 냉장고도 발표하고 했다지만, 거기에도 온디바이스 AI가 있지만 삼성전자에서 생성형 AI를 탑재한 건 아니에요.”

-그래요? 그 정도 급은 아니군요.

“예전처럼 머신러닝이나 이런 AI가 들어있는 거예요.”

-조리법을 설명해 주고 이 정도라는 거죠?

“예전에도 그런 애들을 AI라고 했었지만, 더 묶어서 얘기하는 거죠. 그리고 비단 삼성전자뿐만 아니라 다른 회사들도 옛날에 다 AI 얘기를 했었지만, 더 크게 하는 거고요.”

-생각해 보니까 인공지능이라는 말이 광고에 나온 게.

“10년도 넘었습니다.”

-20년 전에도 있었던 것 같아요.

“아까 밥솥 얘기하지 않았습니까? 온디바이스 AI 자체는 새로운 개념이 아니에요. 그게 다 온디바이스 AI입니다. 인터넷 연결 없이 작동하지 않습니까? 그런데 그때의 AI와 지금의 AI가 똑똑해진 게 엄청 달라졌기 때문에 다시 뜨는 거죠.”

-알겠습니다, 요즘 HBM 얘기 잠시 후에 해드릴 텐데 확실히 AI가 화두는 화두고 이슈는 이슈입니다. 하여간 이 이슈에 대해서는 계속 팔로업을 해서 전달해 드리도록 하겠습니다. 잠시 쉬었다 오겠습니다.

“감사합니다.”