모든 것이 연결된 세상이다. 헤아릴 수 없을 만큼 많은 디바이스가 사물인터넷(IoT)과 인공지능(AI), 클라우드와 통신망으로 연결돼 있다. 우리 주변을 가득 메운 에지 디바이스들도 이제 단순한 스마트기기를 넘어 AI 모델을 구현하는 가장 말단의 첨병으로 진화 중이다. 에지 AI 시대의 도래다.
#1. 인파로 붐비는 서울 도심 한복판. 주말 나들이를 나온 A씨는 잠시 한눈을 판 사이 네 살배기 아이의 손을 놓치고 말았다. 아이를 잃어버린 A씨가 지체 없이 달려간 곳은 인근의 경찰지구대. 스마트폰에 저장된 아이의 사진을 관제 시스템에 전송하자, 인근 지역에 설치된 CCTV가 일제히 자체 이미지 센서망을 가동한다. 불과 몇 초 후, 수많은 인파 속에서 AI가 아이 얼굴을 찾아낸다. 가까운 곳을 순찰하던 경찰이 아이를 안전하게 데려온 후에야 A씨는 놀란 가슴을 쓸어내린다.

#2. 제품 출하가 한창인 스마트팩토리. 불량품을 골라내려고 작업대 끝에 서 있던 직원은 이제 없다. 대신 고성능 자체 AI 모델을 탑재한 카메라가 실시간으로 불량품을 걸러낸다. 예전처럼 대규모 클라우드나 중앙집중식 서버에 큰돈을 쏟아붓지 않아도 된다. 번거로운 과정 없이도 카메라 검사장비 자체에 AI 소프트웨어를 탑재할 수 있게 된 덕분이다. 불량 검출은 물론 생산 최적화, 품질관리, 예측 유지관리, 실시간 공정관리, 재고 관리, 수량 계산 등이 자동으로 실시간 집계된다.

가까운 미래를 그린 SF 영화에 등장할 법한 장면들이다. 하지만 이런 상상이 실제로 우리 눈앞에서 하나 둘 실현되고 있다. 에지(Edge) 인공지능(AI)의 활성화 덕분이다. 컴퓨터 능력이 고도화됨에 따라 인류는 불과 수십 년 만에 개인용 컴퓨팅(PC) 시대를 지나 클라우드 서버를 통한 중앙 집중형 컴퓨팅 시대를 거쳤다. 최근 들어선 AI 기술의 급격한 발전이 새로운 컴퓨팅 시대를 열고 있다. 이른바 에지 컴퓨팅 시대다. 에지는 말 그대로 ‘모서리’나 ‘가장자리’를 뜻한다. 컴퓨팅 용어로는 데이터가 발생하는 모든 말단을 뜻한다. 스마트폰, 자율주행차, 서빙로봇, 로봇청소기, 스마트팩토리, CCTV 같은 관제 시스템 등 데이터가 처음 수집되는 모든 장소와 단말이 바로 에지다.

에지 AI를 이해하려면 에지 컴퓨팅을 먼저 들여다봐야 한다. 에지 컴퓨팅은 대규모 클라우드 컴퓨팅과 대비되는 개념이다. 클라우드는 대개 기가바이트 수준의 대용량 메모리와 초고속 처리가 필요한 매개변수 수백만 개로 구성된 신경망 모델을 처리하기 위해 구축된다. 이러한 대규모 신경망 모델은 무제한 컴퓨팅 자원과 메모리에 접근할 수 있기 때문에 정확성과 속도에 초점을 맞춘다. AI 프로세스를 대표하는 딥러닝의 경우 그 실행만으로도 엄청난 컴퓨팅 용량이 필요하다. 기업이나 기관이 이를 자체 구축할 경우 막대한 비용이 들기에 구글, 아마존, 마이크로소프트 등이 대규모 클라우드 서버 구축 사업에 뛰어들어 어마어마한 수익을 올리고 있다. 현재 대부분의 AI 프로세스는 이러한 대형 클라우드에서 실행되고 있다. AI 모델이 점차 대중화되는 것도 클라우드 서비스의 발전 덕이다. 하지만 이런 시스템에는 분명한 단점도 있다. 먼저 대형 클라우드 구축에는 막대한 자본이 투입된다. AI 프로세스를 마친 클라우드와 에지 사이는 통신망으로 연결되기에, 자칫 통신 장애라도 발생하면 AI는커녕 먹통이 될 수도 있다. 자율주행차를 예로 들어보자. 수천 분의 1초에 목숨이 왔다 갔다 하는데, 통신이 끊기거나 AI 모델을 운용하는 클라우드에 문제가 생기면 비참한 사고로 이어질 수도 있다. 보안 위험도 중앙 집중형 클라우드의 약점이다. 통신에 의존하기 때문에 어쩔 수 없이 소요되는 레이턴시(지연시간)도 극복하기 어려운 한계로 지적된다.

클라우드 극복할 대안으로 떠오른 에지 컴퓨팅

클라우드 컴퓨팅의 한계와 단점을 극복하기 위한 방안으로 최근 급속히 떠오르고 있는 분야가 바로 에지 컴퓨팅이다. 그리고 에지에 직접 AI 모델을 내재화해 운용하는 개념이 에지 AI다. 간단히 말해 에지 컴퓨팅과 인공지능을 조합한 개념이다. 에지 단말에 직접 결합한, 혹은 내재된 AI 알고리즘은 장치에서 직접 처리되거나 가까운 지역의 서버, 즉 로컬 단위에서 처리된다. 이때 적용되는 알고리즘도 장치 자체에서 생성된 데이터를 활용한다. 클라우드 컴퓨팅처럼 인터넷이나 통신망에 연결하지 않고도 짧은 시간 안에 독립적인 결정을 내릴 수 있다. 기사 첫머리에 든 사례처럼 CCTV나 스마트팩토리에 에지 AI를 도입하면, 이전과는 차원이 다른 성능과 속도로 대규모 연산을 처리할 수 있게 된다.

에지 AI의 또 다른 강점은 잠재적인 사용처가 거의 무궁무진하다는 것이다. 관련 솔루션과 애플리케이션은 스마트폰, 스마트워치 등 개인용 모바일 디바이스에서부터 스마트팩토리의 생산라인, 물류, 스마트시티, 자율주행차, 로봇, 드론 등 에지 디바이스가 가동되는 거의 모든 분야에 적용할 수 있다. 현재 에지 AI는 반자율주행차와 스마트 냉장고는 물론이고, 스마트폰의 얼굴 인식과 라이브 트래픽 업데이트 등에 활발히 사용되고 있다. 이 밖에도 스마트 스피커, 로봇, 드론, 보안 카메라, 웨어러블 헬스 모니터링 기기 등도 에지 AI가 적용된 단말들이다. 삼성전자는 에지 AI를 활용할 수 있을 만한 분야를 다음과 같이 소개했다.

■ 자율주행자동차: 자율주행 분야만큼 즉각적인 응답 시간이 중요한 곳도 드물다. 자율주행차가 교통신호, 다른 차량과 보행자의 움직임에 신속하고 적절하게 반응하고 도로 상황에 실시간으로 대응할 수 있으려면 데이터를 매우 빠르게 처리할 수 있는 성능을 갖춰야 한다.

■ 보안 감시 및 모니터링: 과거 보안 카메라는 원본 영상 신호를 직접 클라우드로 보내서 대역폭을 많이 사용하고 서버에 과부하를 일으켰다. 이제 카메라에 내장된 머신러닝이 활동을 모니터링하고, 중요한 이벤트만 클라우드에 전송한다.

■ 산업 IoT: 자동화를 활용하는 산업에서는 에지 AI로 안전을 개선하고 비용을 낮출 수 있다. 로컬에서 실행되는 AI가 장비에서 잠재적 결함을 모니터링해 실시간으로 대응하고, 로컬 딥러닝이 데이터 수집에도 기여한다.

■ 이미지 및 오디오 분석: 이미지나 오디오 분석과 관련해 에지 AI를 활용할 방법은 무궁무진하다. 실시간 이미지 및 장면 인식에서 기기가 오디오 트리거에 반응하는 것에 이르기까지 지연 이슈가 중요한 여러 분야에 에지 AI를 적용할 수 있다.

글로벌 에지 AI 산업도 폭발적으로 커지고 있다. 마켓앤드마켓리서치가 발표한 자료에 따르면 전 세계 에지 AI 소프트웨어 시장은 2020년 5억9000만 달러에서 2026년 1조8300억 달러로 성장할 것으로 예상된다. 포브스는 AI 모델의 기반이 되는 머신러닝을 서비스형 소프트웨어로 구현한 ‘서비스형 머신러닝(MLasS)’ 시장 규모가 2020년 10억 달러에서 2026년 84억8000만 달러에 이를 것으로 전망했다. 구글, 아마존(AWS), 마이크로소프트 등 글로벌 클라우드 서비스 공급업체들도 앞다퉈 서비스형 머신러닝 사업에 뛰어든 상태다.

기업 투자 몰릴 것으로 예상되는 에지 AI

전 세계 GPU 시장을 장악하고 있는 엔비디아는 2023년을 ‘에지 AI의 해’로 선언하며, 아래와 같이 다섯 가지 에지 AI 트렌드를 제시했다. 경제 환경이 여전히 불확실하지만, 에지 AI가 자동화와 효율성을 추구하는 기업과 조직에는 확실한 투자처로 떠오를 것이라는 전망이다. 특히 판매 촉진, 비용 절감, 고객만족도 증대, 운영 효율성 향상에 도움이 되는 분야에서 에지 AI 도입이 활발할 것으로 예상했다.

2023년 에지 AI 주요 트렌드

1. 더 높은 투자수익률(ROI)을 에지 AI로 실현

투자수익률은 기술 투자에서 언제나 중요한 요소다. 기업들이 비용을 절감하고 경쟁우위를 확보할 수 있는 새로운 방법을 찾는 가운데, AI 프로젝트가 더욱 보편화될 것으로 기대된다. 몇 년 전만 해도 AI는 ‘실험적’이라는 인식이 대부분이었다. 하지만 IBM의 연구에 따르면, 오늘날 비즈니스에서 AI를 사용하는 기업은 전체의 35%, AI를 탐색하는 기업은 전체의 42%에 달한다. 특히 에지 AI를 활용하면 효율성 제고와 비용 절감에 도움이 될 수 있어, 새로운 투자에 집중하는 데 매력적이다. 예를 들어 슈퍼마켓과 대형 매장은 도난이나 인간의 실수로 인한 손실을 줄이기 위해 무인계산대에 도입되는 AI에 많은 투자를 하고 있다. 기업은 98% 정확도로 오류를 감지할 수 있는 솔루션을 통해 불과 몇 개월 만에 투자수익률 증가를 확인할 수 있다.

2. 점점 커지는 인간과 기계의 협업

에지 AI의 사용 사례로 자주 언급되는 지능형 기계와 자율 로봇 사용이 점차 증가하고 있다. 당일 배송 수요를 충족하기 위한 자동화된 유통시설, 식료품점의 재고 현황을 모니터링하는 로봇, 생산라인에서 인간과 함께 일하는 협동로봇 등 지능형 기계가 더욱 보편화되고 있다. 가트너(Gartner)에 따르면, 로보틱스와 지능형 기계 사용은 10년 내에 크게 증가할 것으로 예상된다. 이 같은 미래를 현실화하기 위해 2023년에 주목해야 할 분야 중 하나는 인간과 기계의 협업 지원이다. 자동화된 프로세스는 로봇의 반복 동작과 내구성을 뜻한다. 이를 활용하면 인간은 더욱 전문적이고 능숙하게 작업을 수행할 수 있다. 2023년에는 인력 부족과 공급망 문제를 완화하기 위해 기업이 인간과 기계의 협업 분야에 투자를 늘릴 것으로 예상된다.

3. 안전을 위한 AI 사용

AI 기능을 활용한 안전은 인간과 기계의 협업 트렌드와 관련돼 있다. AI 기능 안전이라는 개념은 자율주행차에서 처음 등장했는데, 점점 더 많은 기업이 AI를 사용해 산업 환경에 능동적이고 유연한 안전 조치를 추가하고자 노력하고 있다. 역사적으로 산업현장에서의 안전은 주로 사건이 발생할 때 장비가 손상을 입히는 것을 즉시 방지하는 기능을 말했다. 반면 AI는 상황 인식과 함께 사건 발생을 예측한다. 이를 통해 AI가 미래의 잠재적 안전 사건에 대한 경고를 사전에 전송해 사고를 방지할 수 있다. 따라서 안전사고와 관련한 비용을 크게 줄일 수 있다. 2023년에는 안전 분야에 AI 사용을 규정한 새로운 기능형 안전기준이 나올 것으로 예상된다. 새로운 기준은 공장, 창고, 농업 등에서 조기 채택될 전망이다. AI 안전기준 채택은 최우선적으로 작업자 자세 감지, 낙하물 방지, 개인보호장비 감지 등 작업자 안전 개선에 초점이 맞춰질 것으로 예상된다.

4. IT업계, 에지 사이버보안에 집중

사이버 공격은 2021년에만 50% 증가했으며, 그 후에도 계속 늘어 IT 조직의 최우선 관심사가 되었다. 특히 에지 컴퓨팅은 AI 활용 사례와 결합될 경우 기존 데이터센터와 방화벽 외부에 더 넓은 공격처를 만들어 많은 조직이 사이버보안 위험에 노출될 수 있다. 제조, 에너지, 운송 같은 산업에서 에지 AI를 적용하기 위해서는 IT팀이 기존 운용기술(Operational technology) 팀이 관리하던 환경으로 보안 설치 공간을 확장해야 한다. 운용기술팀은 일반적으로 외부와의 네트워크 연결이 없는 자체 시스템에 의존하며 운영 효율성에 중점을 둔다. 에지 AI 활용 사례는 이러한 제약을 넘어설 수 있다. 따라서 IT팀은 엄격한 보안 기준을 유지하면서 클라우드 연결을 활성화해야 한다. 전 세계 수십억 개 장치와 센서가 모두 인터넷에 연결돼 있다. IT팀은 직접적인 공격으로부터 에지 장치를 보호하는 동시에 네트워크와 클라우드 보안도 고려해야 한다. 2023년에는 AI가 사이버보안에 적용될 것으로 예상된다.

5. 에지와 디지털트윈의 연결

디지털트윈이라는 용어는 물리적 현실과 완벽하게 동기화된 가상현실을 말한다. 실제 자산, 프로세스 또는 환경을 가상으로 구현한 개념이다. 디지털트 윈을 물리적 세계와 에지 컴퓨팅에 연결하려면 IoT 센서와 데이터의 폭발적인 증가가 필수다. 2023년에는 물리적 환경의 실시간 데이터를 가상 시뮬레이션에 점점 더 많이 연결하게 될 것으로 전망된다. 이들은 과거의 데이터 기반 시뮬레이션에서 벗어나, 라이브 디지털 환경으로 이동해 진정한 디지털트윈을 이룰 것이다. 기업은 물리적 환경의 실시간 데이터를 디지털트윈과 연결함으로써 현장 환경을 실시간으로 통찰할 수 있다. 또 이를 통해 더 빠르고 정확한 정보에 입각한 의사결정을 내릴 수 있다. 아직 초기 단계지만, 2024년 이후부터 관련 시장이 더 크게 성장할 것으로 예상된다.

- 장진원 기자 jang.jinwon@joongang.co.kr