EO

드라마 <스타트업>에는 자매 관계인 달미(수지 분)와 인재(강한나 분)가 사람을 인식하는 기술로 대결을 펼치는 장면이 있습니다. 이 대결 이전까지 인재의 인재컴퍼니는 높은 정확도로, 달미의 삼산텍은 경량화를 장점으로 내세웠는데요. 이에 따라 싱글보드 PC에서 각 회사의 프로그램이 원활히 실행되는지 아닌지를 두고 벌인 대결의 승자는 삼산텍이 됩니다.

국내에서는 최초로 삼성그룹과 LG그룹이 동시에 투자한 한국 스타트업 노타는 삼산텍과 같은 경량화 기술을 딥러닝 계열에서 선보이고 있는데요. 창업 초기부터 대기업의 주목을 받은 노타는 저비용의 경량화된 AI 모델을 제공하며 매출 기준으로 2019년 대비 2020년 약 8배 이상 성장했고 누적 투자 100억 원을 달성했습니다.

기술적 우위를 실제 사업 성과로 연결하기 위해 직접 고객을 만나며, 더 큰 도약을 준비하는 노타의 이야기를 EO가 들어봤습니다.

Q. 자기소개 먼저 부탁드립니다.

안녕하세요. 온디바이스(on-device) AI 스타트업 노타의 대표, 채명수입니다. 노타는 딥러닝 모델을 경량화하는 기술을 기반으로 AI를 실제 산업군과 일상생활에 보편화하는 데 기여하는 기업입니다.

AI가 빠르고 효율적으로 실생활에 적용되기 위해서는 여러 가지 제약을 해결해야 하는데요. 예를 들면 높은 클라우드와 서버 구축 비용, 보안 문제, 그리고 필수로 필요한 통신 등의 문제가 있습니다.

이런 많은 제약 조건 중 일부는 딥러닝 모델 경량화라는 기술을 통해 해결할 수 있는데요. 노타가 바로 딥러닝 모델 경량화 기술을 기반으로 여러 제약 요소를 해결한 온디바이스 AI를 실현하는 기술 스타트업입니다.

2016년에 네이버 D2 SF와 블루포인트파트너스에서 시드 투자를 유치했고, 2020년에 삼성벤처투자와 LG CNS가 공동으로 투자해 총 누적 투자 100억 원의 시리즈A 투자를 완료했습니다. 한국에서는 삼성과 LG그룹이 동시에 투자한 첫 번째 스타트업이기도 합니다.

Q. 온디바이스 AI의 개념을 조금 더 설명해주시면 좋을 것 같아요.

온디바이스 AI는 통신 없이도 구동되는 AI를 말한다고 보시면 되는데요. 예를 들면, 자율주행을 실생활에서 활용하려면 어디든지 자동차를 타고 갈 수 있어야 하잖아요. 그런데 미국이나 유럽의 일부 지역은 여전히 통신이 안 되는 곳들이 굉장히 많습니다.

자율주행을 클라우드나 서버 기반으로 구동한다면 통신이 되지 않는 지역에서는 갑자기 자율주행이 구동되지 않는 거예요. 노타는 이런 우려를 해소하며 온디바이스로 구동되는 자율주행 기술을 만드는 데 기여할 수 있습니다.

Q. 2015년 카이스트에서 학생 창업으로 사업을 시작하셨다고 들었습니다.

대학에서는 산업공학을 전공했어요. 저학년 때부터는 데이터 분석에 관심이 있어서 자연스럽게 머신러닝이라는 분야에도 관심을 갖게 됐던 것 같습니다.

대학원과 연구소에서 했던 대부분의 일은 선행기술을 연구하고 특허를 출원하고 논문을 쓰는 일이었는데, 아무래도 기술과 일상이 결합이 되는 데까지는 시간이 많이 걸리는 일이다 보니까 재미가 조금 떨어지더라고요.

조금 더 실용적인 일을 하고 싶다고 생각하던 차에 친구들과 모여서 냈던 아이디어가 있었어요. '스마트폰에서 키보드를 터치할 때마다 발생하는 오타를 머신러닝을 통해 해결할 수 있지 않을까?' 하는 아이디어였습니다.

간단하게 여러 가지 실험을 해보면서 실제 오타 방지 효과가 있다는 걸 확인하고, 카이스트의 E5라는 학생 창업 프로그램에 입상하면서 처음 창업에 대한 꿈을 꾸기 시작했습니다.

이후에도 같은 아이템으로 여러 공모전에 입상하면서 우연히 네이버의 D2 SF를 알게 됐어요. D2 SF가 투자 의향을 보이면서 본격적인 창업의 길로 접어들게 됐습니다.

Q. 그 사업 아이템이 노타의 시초, 키보드앱이었나요?

맞습니다. 스마트폰에서 쓰는 키보드 앱, 노타키보드인데요. 보통은 스마트폰 제조사가 만든 키보드를 동일하게 쓰는데, 사람에 따라 오타가 생기는 패턴이 다르다고 생각했어요. 사람마다 왼손이 더 크기도 하고 오른손 엄지가 더 크기도 하니까요.

오타가 생기는 패턴을 AI로 학습시켜서 개인 맞춤형 키보드를 만들면 오타가 줄어들 거라고 생각했습니다. 처음에는 노타키보드를 B2C로 제공했어요. 최대 15만 명 정도가 다운로드해서 사용했는데, B2C에서는 수익 구조를 만들어가기 어렵다고 판단해 B2B로 전환했습니다.

노타키보드를 스마트폰 제조사의 기본 키보드로 탑재하는 비즈니스를 시도했지만, 역시 여의치가 않았어요. 스마트폰에서 키보드로 터치하는 내용 중에는 비밀번호나 계좌번호 같은 개인 정보가 포함되기 때문에 서버나 클라우드를 거쳐서 AI 서비스를 제공하면 고객들의 굉장한 불만이 예상됐거든요. 그렇기 때문에 반드시 온디바이스에서 구현 가능하도록 해야 했어요.

2015~2016년 무렵이었는데 당시만 해도 온디바이스 AI는 학계에도 알려지지 않았던 상태였어요. B2B 전환에는 실패했지만, 스마트폰에서 AI 서비스가 성공적으로 구동되도록 한 것이 현재 온디바이스 AI의 시초가 됐다고 볼 수가 있습니다.

그 후로 온디바이스 AI와 AI 모델을 경량화하고 압축하는 기술을 새로운 사업 아이템으로 결정하게 됐습니다.

Q. AI 모델 경량화가 노타의 가장 큰 강점이라고 들었는데, AI 모델을 경량화하고 압축하는 기술에 대해 조금 더 구체적으로 설명해주시면 좋겠습니다.

'AI 모델을 압축한다'라는 이야기는 두 가지로 설명할 수 있을 것 같아요. 첫 번째는 어떤 AI 모델의 사이즈가 1GB로 용량이 크다고 할 때 이를 10MB 내지는 50MB로 줄여주는 압축이라 볼 수 있고요.

두 번째는 연산을 1만 번 내지는 2만 번 정도를 해야 하는 상황에서 이를 10분의 1로 줄여주는 것 역시 압축이라고 할 수 있습니다. 자율주행을 예로 들어 설명해볼게요.

자율주행은 굉장히 다양한 AI 기술이 얽혀 있는 총체적인 시스템으로, 여러 AI 기술이 복잡하게 활용됩니다. 물체를 빠르게 인지하는 것이 자율주행의 중요한 기술인데, AI 모델 하나하나가 굉장히 많고 복잡한 연산으로 이뤄지면 자동차 컴퓨터 안에 부하가 생겨요.

이때 노타의 AI 모델 경량화 기술을 활용하면 자율주행에 쓰이는 여러 AI 기술이 저전력 디바이스에서도 원활하게 구동되도록 해줍니다. AI 모델을 경량화하는 기업 대부분은 내부에서 엔지니어가 직접 AI 모델을 커스터마이징 하는데, 노타는 그 과정을 자동화하고 있고요.

Q. 그게 넷츠프레소라는 서비스인가요?

맞습니다. 넷츠프레소는 AI 모델 경량화를 자동화하는 플랫폼이에요. 플랫폼 안에 노타가 가지고 있는 경량화 기술을 탑재해놓고, 경량화가 필요한 모델과 정보를 입력하면 아웃풋으로 작은 모델이 나오는 방식입니다.

자동화이기 때문에 많은 엔지니어가 필요하지 않아서 기업 입장에서도 수월하고, 다른 기업 대비 훨씬 빠르게 작은 모델을 만들 수 있는 장점이 있습니다.

실제로 기업이 가지고 있는 비교적 큰 AI 모델을 넷츠프레소 플랫폼을 통해서 경량화하는 비즈니스를 많이 진행했는데요. 삼성그룹 중에는 삼성SDS와 삼성전자, LG그룹 같은 중에는 LG전자와 LG CNS 같은 기업과 협업을 진행했습니다.

Q. 아직은 조금 어렵게 들리는데, 실제 적용된 사례가 있으면 소개 부탁드릴게요.

일반적인 넷츠프레소의 활용보다도, 솔루션 형태로 넘어가는 좋은 사례로 이마트가 있습니다. 기존에는 직원들이 시간마다 직접 창고에 가서 재고가 쌓여 있는지 확인해야 했는데, 이를 AI로 자동화한 사례가 있어요.

창고에 카메라를 달아두고 실시간으로 계속 체크해, 재고 수준이 30% 이하로 떨어졌을 때 알림을 주는 겁니다. 알림을 받은 직원이 부족한 아이템을 그때 직접 채우는 거죠. 재고관리 시스템에 경량화된 AI 기술이 활용된 사례입니다.

해외 사례로는 독일의 도이치텔레콤과 협업을 논의 중이고, 인텔이 가지고 있는 보드나 칩셋 위에 노타의 소프트웨어를 올려서 같이 패키징해 세일즈하는 협업도 진행하고 있습니다.

노타의 기술이 AI에 대한 원천기술이고, 굉장히 쓰일 수 있는 분야가 다양하기 때문에 해외에서도 사업을 하면 좋겠다는 생각을 막연하게 하고 있었어요.

그러던 차에 비즈니스를 총괄하시는 양석열 이사님께서 시장에서 가장 유명한 전시회에 참여해서 해외 시장의 반응을 확인하는 게 가장 확실한 방법이라고 하셨죠. 이후 CES나 MWC 같은 전시회에 참여했는데, 예상보다 훨씬 우리 기술에 관한 관심도가 높다는 걸 느낄 수 있었습니다.

Q. 해외 시장에도 적극적으로 진출하셨네요.

저의 가장 큰 장점은 추진력이라고 생각해요. 해외 시장을 개척할 때도 마찬가지로 빠르게, 적극적으로 추진했습니다.

유럽 같은 경우는 GDPR이라는 개인 정보보호 규정이 굉장히 강해서 클라우드나 서버 기반 AI를 제공하는 기업은 굉장히 그 법에 신경을 많이 씁니다. 그렇다 보니 유럽 시장이 온디바이스 AI에 관심이 더 많을 거라고 자연스럽게 생각했던 것 같아요.

유럽과 북미 시장에서 노타 기술에 대한 높은 수요를 확인하고 북미보다는 유럽이 조금 더 큰 시장이라고 판단했죠. 자연스럽게 북미에는 지사를 설립하고, 2020년 3월 독일 베를린에는 유럽 법인을 설립했습니다.

사실 해외 진출을 한다는 게 어떻게 보면 겁이 나는 일 같고 또 아주 큰 일 같지만, 실제로는 그렇지 않거든요. 대부분은 페이퍼워크고 누구나 할 수 있는 일이기 때문에 최대한 빨리 진행하면서 성과를 내기 위해 노력하고 있습니다.

Q. 실제 사업을 전개하면서 가장 어려웠던 점은 무엇인가요?

엔지니어들이 사업에 대해 익숙하지 않다는 사실이 스타트업을 운영하면서 가장 어려웠던 부분이었어요. 노타 창업자 대부분이 엔지니어 출신이다 보니까, 사업을 하면서 계속 기술적 우위에만 집중했던 시기가 있었습니다.

대부분의 기술 기업이 기술적 우위에 굉장히 집중해요. 우리가 얼마나 좋은 논문을 냈고, 얼마나 많은 특허를 내서 기술적으로 우위에 있는지 집중하는 거죠. 하지만 기술적 우위가 실제 사업적 성과로 이어지는 게 아니더라고요.

기술 중심으로 사업을 전개하기보다 문제를 발견하고, 그 문제에 적용될 수 있는 기술을 개발하는 방향으로 사업을 전개하는 게 중요하다는 걸 많이 느꼈던 것 같아요. 프로덕트의 완성도에도 집중해야 하고요.

결국에는 사업적 성과를 내야 스타트업도 흥행할 수 있기 때문에 계속 고객과 소통하면서 우리 프로덕트의 완성도를 높이는 데 집중하는 쪽으로 마인드를 많이 바꿨습니다.

지금도 우리가 가진 기술로 고객의 니즈를 얼마나 정확하게 해소할 수 있는지에 집중하고, 실생활에 조금 더 도움이 되는 AI 제품과 서비스를 만들기 위해 노력하는 것이 노타의 가장 큰 차별점이라고 생각합니다.

Q. 노타의 최종 목표는 무엇일까요?

노타가 궁극적으로 바라보는 뷰는 영화 <Her>에 나오는 사만다 같은 인공지능 비서를 만드는 거예요. 영화가 현실에서 실제로 구현되려면 스마트폰 안에서 모든 것이 처리될 수 있어야 하거든요.

내가 하는 말과 주변의 모든 환경이 서버나 클라우드로 가지 않고 스마트폰 안에서 처리돼야 하기 때문에 인공지능 경량화 기술이 우리가 상상하던 개인화된 인공지능 비서를 만들 수 있다고 봅니다.

앞으로 해외에서도 더 많은 성과를 내서, 전 세계적으로 노타의 기술을 통해 AI가 더욱 보편화되는 데도 일조하고 싶습니다.

* 본 아티클은 2020년 12월 공개된 <삼성과 LG가 동시에 투자한 인공지능 기술>의 내용을 바탕에 두고 있습니다.

👆🏻 딥러닝 모델 경량화 기술로 어디서나 인공지능을 만날 수 있는 시대를 꿈꾸는 노타 채명수 대표의 이야기를 영상으로도 만나보세요.

글·편집 이영림

EO(Entrepreneurship & Opportunities)