기술에 규제가 필요한 것은 분명하지만 ‘AI’라는 모호한 용어를 규제할 수는 없다.

▎개빈 뉴섬 캘리포니아 주지사의 책상 위에서 AI 규제 법안이 통과를 기다리고 있지만, 이 법안은 AI가 무엇인지 명확하게 정의하는 데 실패했다. / 사진:GETTY IMAGES

정의할 수 없는 것을 어떻게 규제할까? 미국 캘리포니아주는 AI 법안 통과를 눈앞에 두고 있다. 그러나 이 법안 SB 1047은 개빈 뉴섬 주지사의 책상 위에서 통과를 기다리고 있으면서도, 법안의 핵심 용어인 인공지능이 무엇인지 명확하게 정의하지는 못한다. 이처럼 모호한 개념만 다루는 법안은 제대로 된 효과를 발휘할 수 없다.

이 법안과 관련된 논란은 다른 이유에서 비롯됐다. AI 업계의 선구자인 앤드루 응은 이 법안에 대해 “기술의 특정 응용이 아니라 범용 기술 자체를 규제하는 것은 큰 실수”라고 평했다. 페이스북 최고개인정보책임자를 지낸 크리스 켈리는 법안이 “다방면에서 너무 광범위한 동시에 너무 범위가 좁다”고 지적했다. 스테이빌리티AI의 벤 브룩스는 이 법안에 “개방된 혁신을 심각하게 위협하는” 조항이 포함되어 있다고 썼다.

그러나 이보다 근본적인 문제가 있다. 이 법안은 규제 대상을 제대로 정의하지 못한다. 이 법안에서 AI 정의는 매우 모호하다. 거의 모든 컴퓨터 프로그램에 적용될 수 있다.

이 법안에서 AI 정의는 다음과 같다. “공학적으로 제작되거나 기계를 기반으로 하는 시스템으로, 다양한 수준의 자율성을 지니며, 받은 입력을 바탕으로 명시적·묵시적 목적을 위해 물리적 환경 또는 가상 환경에 영향을 미칠 수 있는 출력 생성 방법을 추론한다.”

이 정의가 왜 모호한지 한 문장씩 따져보자.

“다양한 수준의 자율성”은 모든 시스템이나 기계에 해당된다. 자율성의 수준은 활용되는 방식, 인간이 자동으로 작동하도록 허용하는 정도에 따라 결정된다.

“받은 입력을 바탕으로 출력 생성 방법을 추론한다”는 말은 모든 컴퓨터 프로그램에 해당되는 말이다. 프로그램은 입력을 받아서 출력을 생성한다.

“물리적 환경 또는 가상 환경에 영향을 미칠 수 있다”고 했는데, 컴퓨터 프로그램 출력의 영향은 활용 방법에 따라 결정된다. 예를 들어 출력이 온도계를 제어한다면 어떻게 해야 할까? 이는 인간에게 달렸다.

법안에는 조금 더 구체적인 내용도 담겼지만, 턱없이 부족한 수준이다. 법안은 규제 대상을 특정 기준을 충족하는 “AI 모델”로 좁혔지만 여전히 모호하다. 명확한 규정이 없다면 ‘모델’이라는 말은 거의 모든 형식이나 프로그램을 포괄할 수 있는 용어다. 게다가 여기서 확립된 기준은 AI와 관련된 질뿐 아니라 단순한 양, 즉 모델 개발 시 수행되는 계산의 수에도 적용된다.

그 결과 이 법안은 수많은 계산을 통해 암호를 해독하는 프로그램 등 AI와 관련되지 않은 많은 프로그램에도 적용된다. 심지어 프로그래밍 오류로 인해 의도치 않게 많은 수의 계산을 수행하는 프로그램에도 적용될 수 있다.

AI가 아니라 잘 정의된 기술에 대한 규제 필요

명확한 초점이 없기 때문에 이 법은 사실상 적용이 불가능하지만, 그럼에도 부패한 영향력이 있는 곳에서는 악용될 소지가 있다. 나는 법학자가 아니지만, 모든 소송에서 다음과 같은 변호 전략을 주장할 수 있을 것이다. “이 법은 너무 광범위하여 간접적으로 해를 가할 수 있는 모든 컴퓨터 프로그램에 적용될 수 있으며, 이를 내 컴퓨터 프로그램에만 적용할 근거는 없다.” 그와 동시에 그런 법은 다수의 비AI 시스템을 선별적으로 기소하는 데 악용될 것이다.

유럽연합(EU) 집행위원회도 같은 문제에 직면했다. EU 집행위원회는 AI를 데이터와 알고리즘의 조합으로 아주 폭넓게 정의한 법안을 발의했다. 네덜란드 AI 연합에서는 “이 정의는 AI뿐 아니라 모든 소프트웨어에 적용된다”고 지적했다.

근본적인 문제는 AI가 모호한 유행어라서 정의하기가 어렵고 그 자체가 과장되어 있다는 점이다. AI가 주관적으로 정의되는 경향이 만연하다면 이를 법에 도입해서는 안 된다. 공개적인 토론에서는 AI는 정의하기 어렵지만 보면 알 수 있다고 말하는 경우가 많다. 이러한 입장은 머신러닝이나 기타 기술의 규제와 관련 법률제정을 어렵게 만든다.

AI 자체를 규제하려고 시도해서는 안 된다. 알고리즘 기반 의사결정의 편향을 해소하거나 자율 무기 개발을 감독하는 등 기술에 규제가 필요한 것은 분명하다. 이 두 가지는 모두 머신러닝과 관련된 것이며, 따라서 때로는 AI로 여겨진다. 따라서 여기서는 명확한 정의가 매우 중요하다. 정확하지 않은 AI라는 용어는 기술을 규제하려는 시도의 효과와 신뢰성을 크게 저해할 수 있다. 규제는 정의가 명확하더라도 쉽지 않은 활동이다.

에릭 시겔은 구더AI의 공동 설립자 겸 CEO다.

- Eric Siegel 포브스 기자

위 기사의 원문은 http://forbes.com 에서 보실 수 있습니다.

포브스 코리아 온라인 서비스는 포브스 본사와의 저작권 계약상 해외 기사의 전문보기가 제공되지 않습니다.

이 점 양해해주시기 바랍니다.