summary | 투자대상과 관련한 수많은 변수의 움직임은 물론이고, 수백만 수천만에 이르는 다른 투자 주체의 의사결정을 미리 알아야 하며, 그 결정이 다시 모든 투자 주체에 영향을 주면서 나타날 변화를 몇 차에 걸쳐 파악해야 주가의 등락과 추이를 예측할 수 있다. 그런데 투자 주체와 관련한 이런 데이터를 사전에 얻는 일은 가능하지 않다고 할 수 있다.

구글의 알파고가 예상을 뒤엎고 인간 대표 이세돌 9단을 꺾자 미래 인공지능(AI)의 권능에 대한 논의가 무성하다. AI가 많은 전문직에서까지 사람의 일자리를 꿰차는 것은 시간문제라는 우울한 전망이 지구촌에 짙게 드리웠다. 수많은 수치를 활용해 판단하고 숫자로 거래가 이뤄지는 주식투자의 세계도 머잖아 AI에 점령당하고 말 영역으로 꼽혔다. 과연 투자의 주도권이 인간의 손을 떠나 컴퓨터 프로그램으로 넘어갈 것인가? 인간은 컴퓨터 프로그램의 보조자 역할로 밀려날 것인가? 거두절미하면, 필자는 그렇게 되지 않으리라고 본다.

이 전망은 두 갈래로 나뉜다. 첫째 AI 투자는 새로운 것이 아니라 서구 시장을 중심으로 자리잡은 지 오래 됐다. 그러나 그 성과는 두드러지지 않는다. 이로부터 미루어보면 앞으로도 달라지지 않을 듯하다. 둘째 AI가 앞으로 발달하더라도 바둑에서와 달리 주식투자에서는 세계 최고가 될 가능성이 크지 않다.

미국 주식거래 중 ‘AI 투자’ 70% 넘어

AI는 주식투자에서 ‘미래’가 아니라 ‘현재’다. AI 투자는 건수를 기준으로 현재 미국 주식거래 중 70% 넘는 부분을 담당하는 것으로 알려졌다. 유럽연합(EU) 주식시장에서 AI 투자가 차지하는 비중은 3분의 1 이상이라고 한다. 국내에서는 파생 상품 거래의 60% 이상을 AI 투자가 차지하고 있다고 추정된다. 다만, 국내 주식거래에서 AI 투자의 존재는 미미하다. 주식은 거래세의 부담이 크기 때문이다.

AI 투자회사 가운데 가장 주목받은 곳이 르네상스 테크놀로지다. 설립자 제임스 사이먼스는 UC버클리 대학에서 물리학 박사 학위를 받고 하버드대 수학과 교수로 재직하다 투자업에 뛰어들었다. 그는 1982년에 회사를 차리고 희귀한 수학 현상을 바탕으로 주가변동 양상에 대한 가설을 세우고 그에 따라 투자했다. 르네상스 테크놀로지의 대표 펀드인 메달리온은 약 30년 동안 연평균 40%라는 경이적인 수익률을 기록했다. 그러나 르네상스 테크놀로지도 미래 주가의 등락을 체계적으로 예측하는 비법을 찾아낸 것은 아닌 듯하다. 이곳에서 알고리즘 트레이딩 모델에 관여하는 사람은 1년에 한 번 새로운 아이디어를 내놓아야 한다는 사실이 그 방증이다.

르네상스 테크놀로지는 예외적인 경우라고 볼 수 있다. AI 투자가 일반적으로 인간이 투자하는 것보다 수익률이 낫다는 통계는 없다. 만약 양자의 수익률 차이가 뚜렷하다면 지난 몇 년 동안 펀드매니저가 대거 컴퓨터로 대체됐을 텐데, 그런 사태는 발생하지 않았다. 영국 은행 로열뱅크오브스코틀랜드(RBS)가 최근 투자자문 인력 550명을 줄이고 대신 로보어드바이저를 쓰기로 했다. 이런 움직임은 AI 채용이 급속히 확산되는 첫 시도가 될지 모른다는 측면에서 눈길을 끌었다. 그러나 로보어드바이저가 수수료 절감이라는 장점이 있지만 투자 수익률에서 인간에 비해 우월하다는 보장이 없다는 점을 고려할 때 RBS의 움직임이 대세가 될지는 의문이다.

한편 매매건수를 보면 AI 투자는 시장을 쥐락펴락하는 듯한 인상을 준다. 그러나 AI 투자의 대부분이 초단타매매(HFT)이고, HFT는 일반투자자에 비해 적어도 수천 배 넘게 자주 거래하기 때문에 건수를 기준으로 한 비중은 그만큼의 의미는 없다고 봐야 한다.

지금까지 투자 주체에 따라 주식투자를 AI와 인간으로 구분할 때 어느 한 쪽이 우세하다고 할 수 없다는 점을 살펴봤다. 이제 둘째 주장을 따져볼 차례다. 둘째 주장은 주식시장의 특성상 AI가 현재보다 비약적으로 진화하더라도 이 분야에서는 고수가 될 수 없다는 것이다.

먼저 주식시장과 바둑의 차이부터 생각해보자. 바둑에는 무수한 경우의 수 가운데 유리한 선택이 있다. 주식투자에서 유리한 선택은 가격변화를 선점하는 것이다. 값이 오를 주식을 남보다 먼저 매수하고 떨어질 주식은 공매도하는 식이다. 따라서 주식시장에서는 주가의 움직임이나 그 움직임에 영향을 줄 변수의 동향을 미리 알아차리거나 파악하는 일이 가장 중요하다.

상호작용의 결과는 예측하기 어려워

그럼 주가를 예측하는 작업에서 AI는 사람보다 뛰어날 수 있을까? 가능하지 않다. 앞서 주장한 것처럼 주식시장은 복잡계보다 여러 차원에서 복잡하기 때문이다. 복잡계에서는 어느 한 곳에서 발생한 작은 사건이 그 주변에 있는 다양한 요인에 영향을 주고, 다양한 요인의 변화가 복합돼 더 큰 힘이 되며, 그 힘이 멀리 떨어진 곳에서 큰 사건을 일으킨다. 복잡계와 비교해 주식시장이 다른 점은 복잡계는 관찰하고 측정하는 대상인 반면 주식시장은 관찰하고 평가하는 투자 주체로부터 영향을 받는다는 것이다. 예를 들어 어느 종목의 지표와 시장 상황에 아무런 변화가 없는데도 더 많은 투자자로부터 관심을 받으면 해당 종목의 주가가 더 큰 폭으로 움직인다. 게다가 한 투자자의 움직임이 다른 투자자의 반응을 유발한다. 이 상호작용의 결과는 누구도 정확하게 예측할 수 없다. 그 사례는 수백 년 동안 여러 차례 되풀이된 버블의 형성, 금융위기의 국가 간 확산과 금융회사 간 전염 등에서 찾을 수 있다.

투자자의 상호작용으로 인한 시장의 이상 등락은 투자 주체가 AI일 때에도 발생한다. 그런 현상 중 가장 극적인 지수 폭락이 2010년 3월 6일 일어났다. 이날 오후 2시 40분경 미국 다우존스 지수가 5분 동안 전날 종가 대비 9.2% 추락했다. ‘플래시 크래시’라고 불린 이 폭락에는 아무런 요인이 없었다. 그래서 누구도 예상하지 못했다. 플래시 크래시는 알고리즘 트레이딩 사이의 상호작용이 촉발한 현상이라고 진단됐다. 요컨대 투자대상과 관련한 수많은 변수의 움직임은 물론이고, 수백만 수천만에 이르는 다른 투자 주체의 의사결정을 미리 알아야 하며, 그 결정이 다시 모든 투자 주체에 영향을 주면서 나타날 변화를 몇 차에 걸쳐 파악해야 주가의 등락과 추이를 예측할 수 있다. 그런데 투자 주체와 관련한 이런 데이터를 사전에 얻는 일은 가능하지 않다고 할 수 있다. AI는 인간을 대신해 많은 일을 할 수 있다. 그러나 주식시장에서 AI가 큰 일을 하리라는 기대는 지금까지 그런 것처럼 앞으로도 기대에 그칠 공산이 크다.

- 백우진 한화증권 편집위원 woojinb@hanwhawm.com

[박스기사] 명칭으로 보는 AI 투자 - 알고리즘, 퀀트, 로보어드바이저…

AI 투자는 여러 가지 이름으로 불려왔다. 각각의 명칭은 그 이름이 만들어진 배경과 특징을 보여준다. AI 투자는 현재 로봇 투자라고 불린다. 로봇은 투자 프로그램이 장착돼 스스로 주식을 거래하는 컴퓨터를 가리킨다. 투자 프로그램이 알고리즘에 따라 짜인다는 측면에서 AI 투자를 알고리즘 트레이딩이라고도 한다. 알고리즘 트레이딩을 전에는 시스템 트레이딩이라고도 했다.

투자 알고리즘은 수학과 통계학을 이용해 만들어지고, 이런 측면에서 AI 투자를 퀀트 기법 투자라고 부르기도 한다. 퀀트는 ‘계량적인(quantitative) 주식시장 분석’에서 나온 말이다. 책 [퀀트]에 따르면 퀀트 투자기법은 2000년대 초 이후 월가를 지배하게 됐다.

알고리즘 트레이딩은 매우 빠른 속도로 자주 거래하도록 설계된다. 알고리즘에 따라 주식이나 파생상품을 초당 수천 건 이상 거래하는 투자기법을 초단타매매(HFT)라고 부른다. HFT의 알고리즘은 예를 들어 빠른 속도로 주문을 내 매도호가와 매수호가 사이의 스프레드를 차지하거나 주식과 선물 가격의 괴리에서 차익을 거두도록 설계된다.

빅데이터가 유행하면서 과거 자료를 분석해 향후 주가의 움직임을 찾아내려는 시도도 진행되고 있다. 빅데이터를 통한 주가 예측은 AI 투자의 핵심을 구성한다고 볼 수 있다. 또 금융과 기술을 융합하는 핀테크 혁신의 측면에서 사람 대신 투자자문을 해준다는 뜻에서 로보어드바이저라는 용어가 만들어졌다.