▎사진:스퀴즈비츠

지난 2016년 포항공대 대학원생이었던 김형준 스퀴즈비츠 대표는 약 6년간 AI 모델 경량화에 대한 연구를 지속하면서 논문을 발표했다. 그의 팀은 AI를 효율적으로 구동하는 방법에 대한 연구로만 국제 논문 약 70편을 발표했다. 그리고 양자화 기술을 적용해 AI 모델의 정확도는 유지하면서 모델 크기를 30배가량 압축하고, 추론 속도는 수십 배 향상하는 이원신경망(Binary Neural Network)에 대한 논문을 발표하여 온디바이스(On-device, 기기 자체에 AI 연산을 할 수 있는 칩을 내장) AI*의 시대의 포문을 열었다. 연구팀은 졸업 후 스퀴즈비츠를 창업하고 AI 경량화 기술을 실제 산업에서 사용되는 다양한 AI 모델에 최적화함으로써 기업AI서비스 운용비용을 절감하고 서비스 구동 속도를 개선했다.

“고객사 중 한 곳은 기존에 클라우드 GPU를 사용하여 AI 모델을 서비스하고 있었는데, 스퀴즈비츠의 기술을 도입해 약 12배 정도 모델을 경량화할 수 있었고, 덕분에 온디바이스 AI의 형태로 앤드유저의 스마트폰에서 AI를 구동할 수 있게 됐죠. 결론적으로 클라우드 운영 비용을 완전히 삭감할 수 있었습니다.”

또 스퀴즈비츠는 AI 경량화 기술을 최근 활성화하고 있는 생성형 AI에 선제적으로 적용해, 온디바이스 상황에서 생성형 AI를 사용할 수 있도록 하는 기술을 발표했다. 김 대표는 “가장 대표적인 이미지 생성 AI인 스테이블 디퓨전(Stable Diffusion) 모델을 경량화·최적화하여 스마트폰(아이폰 14 pro)에서 1초 만에 원하는 이미지를 생성할 수 있도록 하는 기술을 시현했다”며 “이는 글로벌 수준에서도 가장 빠른 속도이며 발표 당시 구글, 퀄컴, 애플 등의 기술보다도 훨씬 빠른 수준”이라고 전했다.

“AI의 긍정적인 영향을 위해서는, 더 많은 사람이 손쉽게 접근하고 비용 부담없이 사용할 수 있어야 하죠. 이것이 바로 저와 스퀴즈비츠의 비전입니다.”

※ 추천
The VC
한국벤처캐피털협회 회원사(VC)

- 이진원 기자 lee.zinone@joongang.co.kr

콘텐트 및 랭킹 로고 이용 라이센싱 안내