한국전자통신연구원이 또 한 번 세계가 주목하는 연구 프로젝트에 돌입했다. 다양한 스마트기기에 탑재되는 인공지능 서비스를 쉽고 간편하게 자동 생성하는 소프트웨어 개발 플랫폼이다.
한국전자통신연구원(ETRI)은 지난 1977년 설립 이래, 한국은 물론 글로벌 반도체·컴퓨터·통신·ICT 기술 개발을 이끌어온 세계적 연구기관이다. 세계 최초로 코드분할다중접속(CDMA)을 상용화하는 등 45년이 넘는 기간 동안 ETRI에서 탄생한 수많은 첨단기술이 우리사회 곳곳에 스며들어 있다. 지난해 9월 ETRI 산하의 서울SW-SoC융합R&BD센터는 인공지능(AI) 시대를 리드할 또 다른 프로젝트를 선보였다. ‘스마트 에지 디바이스 소프트웨어 개발 플랫폼’을 구축하겠다는 야심찬 발표였다.

나중찬 ETRI 책임연구원은 센터의 연구개발(R&D)을 책임지는 센터장을 역임한 후 현재는 대전 유성구 ETRI 본원에서 관련 연구를 이어가고 있다. 나 연구원을 만나 에지 AI에 필요한 소프트웨어 플랫폼이란 무엇인지, 해당 기술이 관련 산업에 어떤 의미를 지니는지 물었다.

나 연구원을 비롯한 센터 연구진이 스마트 에지 디바이스에 적용될 소프트웨어 플랫폼에 착안한 건 지난 2021년 무렵이다. 사물인터넷(IoT) 등 에지 디바이스 수가 기하급수적으로 늘어나는 데 비해, 이를 제대로 운용하도록 돕는 소프트웨어 개발은 아직 초기 수준이라는 판단에서다. 에지 디바이스에 적용될 소프트웨어 개발 플랫폼이란 무엇일까? 나 연구원은 우리 주변에서 흔히 볼 수 있는 AI 스피커를 예로 들었다.

“스마트 소프트웨어는 AI의 핵심인 머신러닝(ML)을 기반으로 한 응용프로그램을 말합니다. 스피커를 예로 들어볼까요. 사람의 말을 인식한 스피커는 통신망을 통해 외부의 대형 클라우드에 관련 정보를 전달합니다. 그러면 클라우드에서 ML을 돌려 정보를 분석하고 명령을 내리죠. 이게 다시 통신망을 타고 스피커로 전달돼 음악이 나옵니다. 이 과정에서 스피커는 껍데기일 뿐이에요. 스피커 안에는 ML 기능이 전혀 없죠. 그런데 이제는 스피커에 자체적인 AI 프로그램을 심기 시작했습니다. 그게 바로 에지 AI죠. 클라우드와 에지가 7 대 3 정도로 역할을 분배하고, 30%의 에지 AI를 잘 돌아가게 만드는 소프트웨어를 바로 ‘스마트 에지 디바이스 소프트웨어’라고 부르는 겁니다.”

누구나 쓸 수 있는 AI 모델 개발 플랫폼

에지 디바이스의 자체 AI를 원활하게 가동하는 소프트웨어에 대한 이해가 비로소 조금씩 풀릴 무렵, 나 연구원은 ‘플랫폼’ 개념을 추가했다. 디바이스 자체에 AI 모델을 탑재하고 싶지만, 기술을 모르고 기기별로 경량화·최적화에도 어려움을 겪는 기존 개발자들을 위한 ML 전용 플랫폼이란 뜻이다.

“C언어나 자바 같은 프로그래밍언어를 익힌 개발자는 많아요. 그런데 최신 AI 모델 개발에 익숙한 개발자 수는 훨씬 적죠. AI 모델 개발에 어려움을 겪는 개발자들이 우리 플랫폼을 이용하면 손쉽게 AI 모델이 가미된 소프트웨어를 개발할 수 있게 됩니다. 막대한 추가 개발 비용 없이 손쉽게 AI 기술을 응용 소프트웨어에 포함하면서도 5G 통신 등을 통해 배포·관리도 쉽게 할 계획입니다.”

ETRI가 개발에 나선 스마트 에지 소프트웨어 개발 플랫폼은 시각지능, 감성지능, 사물지능, 헬스케어지능 등 스마트기기(에지)에 다양하게 탑재될 계획이다. 지난해까지 플랫폼 설계를 마쳤고, 올해 요소기술 구현, 2024년 통합 프로토타입 구현, 2025년 고도화, 2026년 실증 및 보급이 목표다. 특히 최근 자율주행, 사물인식, 음성인식 등 AI 연산 처리에 최적화된 반도체(NPU 등)가 국내 팹리스 스타트업들을 중심으로 속속 선보이면서, 에지 단말에서 직접 데이터를 처리하는 에지 컴퓨팅과 이를 구현할 하드웨어(반도체)와 소프트웨어 확보가 AI 기술 패권에서 핵심으로 떠오르고 있다.

ETRI가 개발 중인 스마트 에지 소프트웨어 개발 플랫폼은 저비용·고효율·범용성이라는 에지 AI의 핵심을 관통하는 차세대 플랫폼 기술이 될 것으로도 기대된다. 나 연구원은 “이 프로젝트를 활용하면 에지 단말에서 실행되는 AI 모델 성능을 최대 25배까지 향상하면서도 저장공간은 10분의 1 이하로 줄일 수 있다”고 설명했다. 개발이 완료되고 본격적으로 기술이전과 보급이 이뤄지면 국산 AI 프로세서 활용도가 높아지는 것은 물론, AI 반도체 생태계 활성화와 기술 패권 확보에도 가속이 붙을 전망이다.

“대기업은 분야마다 전문가 풀이 잘 갖춰져 있습니다. 하지만 작은 기업들이 AI 모델을 갖추기에는 비용이나 기간 등 부담이 클 수밖에 없죠. 이럴 때 소프트웨어 개발 플랫폼을 활용하면 그 안에서 자동으로 머신러닝을 바탕으로 한 경량화, 컴파일링(다양한 프로그래밍언어로 쓰인 프로그램을 어셈블리언어나 기계어로 쓰인 프로그램으로 변환하는 작업) 등이 가능해집니다.”

머신러닝 등 AI 모델을 개발하기 위해서는 데이터를 가공하고 학습하기 위한 대용량 컴퓨팅 자원, 복잡한 학습 모델 등이 꼭 필요하다. 대기업 등 자본력을 갖춘 기업들은 자체 컴퓨팅 환경을 구축·유지할 수 있지만 중소기업에는 그림의 떡일 뿐이다. 또 기업의 의지가 있다 하더라도 데이터과학자, 머신러닝 모델 개발자로 구성된 팀을 꾸리는 데만 막대한 투자비가 소요된다. 이런 문제점을 해결하기 위해 등장한 서비스가 최근 각광받고 있는 서비스형 머신러닝(MLaaS)이다. 특히 에지 다비이스 기반 서비스인 초소형 에지 머신러닝(TinyMLaaS)이 제안되고 있는데, ETRI의 이번 프로젝트가 대표적이다.

새로운 에지 디바이스들의 증가는 머신러닝, 즉 AI를 활용할 기회의 확대를 의미한다. 아마존, 구글, 마이크로소프트 등 주요 클라우드 서비스 제공업체들은 이러한 사업성을 일찍 간파해 에지 AI 반도체(GPU·NPU 등) 기업들과 긴밀한 파트너십을 형성해 다양한 에지 AI 모델을 퍼뜨리기 위한 생태계 구성에 한창이다. ETRI의 소프트웨어 개발 플랫폼이 완성돼 활용되면, 이를 사용하는 기업, 에지 디바이스 제조사, NPU 등 AI 칩 개발사 등 국내 기업들이 에지 AI 생태계를 이끌어가고 다양한 서비스를 창출하는 데 크게 기여할 것으로 기대된다.

※ 핵심 개념
· 다양한 에지 디바이스 응용 소프트웨어 개발자에게 머신러닝 모델을 자동으로 생성·배포
· 에지 디바이스 하드웨어 아키텍처(NPU 등)에 최적화된 경량 고성능·저전력 딥러닝 모델 컴파일러

※ 혁신 포인트
· 특정 NPU(AI 반도체)에 특화된 플랫폼이 아닌, 다양한 NPU와 머신러닝 프레임워크를 지원하는 뛰어난 범용성
· 에지 디바이스 탑재용 딥러닝 모델과 런타임(프로그램 실행을 돕는 소프트웨어)의 경량화·최적화

- 장진원 기자 jang.jinwon@joongang.co.kr 사진 최영재 기자