인공 지능의 최대 위협
2024년 5월 13일 오픈AI는 LLM 기반의 신형 서비스인 GPT-4o를 출시했어. 기존 GPT-4가 텍스트 프롬프트 환경 기반의 서비스(챗지피티)에 국한되었다면 이제는 텍스트, 음성, 이미지를 인식하고 대답할 수 있는 서비스로의 확장이 이뤄지고 있지. 이전에 아이폰의 시리나 KT의 기가 지니처럼 인공지능 음성 서비스가 없었던 건 아니지만 최근 챗지피티가 보여준 괄목할만한 정확성이 더해진 모델이라서 사람들의 관심이 몰리고 있어.
그런데 GPT-4o는 출시되자마자 논란에 휩싸이고 있어. 미국의 유명 배우인 스칼렛 요한슨이 GPT-4o에서 사용되는 목소리가 자신의 목소리를 너무 닮아 있다고 사용 중지를 요청했기 때문이지. 서비스 출시 전에 오픈AI가 스칼렛 요한슨에게 목소리 사용 가능 여부를 문의했지만 거절했고 샘 올트먼이 출시일에 요한슨이 출연했던 영화인 “Her”를 오마주하는 트윗을 남겼던 정황이 알려지면서 문제가 커졌지. 결국 오픈AI는 음성 서비스를 종료했다고 해.
GPT-4o 서비스 출시 과정에서 나타난 문제는 앞으로 인공지능 기반 서비스가 보편화되는 과정에서 발생할 수 있는 권리 관계와 프라이버시의 문제를 압축적으로 보여주고 있어. 비탈릭은 블로그를 통해 인공지능 서비스가 가지는 잠정적 문제를 해결하는데 있어 크립토가 필요한 이유에 대해 설명했어. 크립토가 가지는 탈중앙성과 소유권 보장이 중앙화된 인공 지능으로 인해 발생하는 무분별한 데이터 프라이버시 침해의 문제를 해결하는데 도움을 줄 수 있다는 거야. 이러한 크립토의 가능성을 제대로 이해하기 위해서는 먼저 자동화와 자율의 차이에 대해 이해할 필요가 있어.
자동화(Automation)와 자율(Autonomous)의 차이
자동화(Automation)와 자율(Autonomous)는 모두 그리스어에서 기원한 단어야. 여기서 사용되는 Auto는 고대 그리스어인 αὐτός에서 기원하는데 자기 자신(Self)을 뜻해. 예를 들어 자동차는 영어로 Automobile인데 자기 자체(Auto)로 움직이는(Mobile) 물체여서 그렇게 부르는 거야. Automation은 Auto에 생각, 행동에서 파생된 ματος를 붙여 만들어진 단어야. 다시 말해 스스로 생각하고 움직이는 것을 의미하는 거지.
자동화는 기계를 통해 문제를 해결해나가고자 했던 오토마타 이론(Automata Theory)과 밀접한 연관성을 가지고 있어. 문제를 해답을 도출하는 방식을 알고리즘으로 옮김으로서 해법을 출력하는 기계를 만드는 거지. 우리가 사용하는 컴퓨터와 인공 지능을 비롯한 모든 기계는 오토마타 이론의 일환으로 자동화의 범주에 속해 있어. 기계를 통해 효율성이 높은 문제 해결 방식을 도출해 나가는게 자동화의 핵심인거야.
반면 자율(Autonomous)은 자신을 뜻하는 Auto에 법과 규정을 뜻하는 νόμος가 더해진 단어야. 다시 말해 자체적인 법규, 즉 자주권을 가진다는 의미이기 때문에 의미 그 자체로만 해석해서는 자동화가 내포하는 기계화와는 관계가 명확하지 않아. 그런데 테슬라, 웨이모와 같이 완전 자동화 운송 수단(Fully Automated Vehicle)을 자율 주행차라고 부르잖아? 그 이유는 현존하는 자동화 기계와의 차별성을 강조하는데 있어. 기존의 자동화 기계들이 스스로 움직이는 방식을 넘어 인간의 개입이 전혀 없이 자체적인 업데이트를 위한 인지, 사고, 판단, 행동, 학습이 가능한 기계를 만들기 위해서는 자율성 보장이 필요한거지.
그런데 기계에 자율성이라는 단어를 대입하는 순간 새로운 문제가 생겨. 바로 제 3자의 개입과 통제권 행사(Third Party Intervention and Control)야. 예를 들어 특정 누군가가 외부에서 자율 주행 자동차의 시동을 꺼버리거나 작동 방식을 변경시켜 버릴 위험성이 존재하지 않을까? 더 나아가 통제권을 가진 누군가가 자동차를 원하지 않는 곳으로 보내버릴 가능성은? 자동화 기계의 통제권이 온전하게 보장되기 위해서는 자동화를 통한 효율적 연산 방식을 넘어 자주권을 보장하는 영역이 필요해지는 거지.
위와 같은 문제를 해결하는데 있어 크립토는 온체인의 탈중앙성을 활용하면 자동화 기계의 통제권을 분산하고 자율성을 보장할 수 있다고 말하고 있어.
크립토가 말하는 자율성
크립토에서 정의하는 자율성은 크게 두 가지 조건을 가져
- 온체인 프로그램(스마트 컨트랙트)이 배포되어 있다
- 온체인 프로그램이 통제권이 오픈된 코드의 방식에 따라 구동된다
프로그램이 온체인으로 배포되어야 하는 이유는 해당 코드의 데이터 베이스를 임의로 수정할 수 없도록 하기 위함이야. 우리가 블록체인에 배포된 코인, NFT와 같은 디지털 자산의 소유권이 보장된다고 믿는 이유는 분산화된 블록체인 데이터 베이스에 저장된 프로그램을 제3자가 임의로 수정할 수 없다고 믿기 때문이잖아? 이처럼 블록체인에 프로그램의 일부 혹은 전부를 배포함으로서 제3자가 임의로 프로그램을 통제하는 백도어(Backdoor)가 없는 환경을 보장하는 거야.
추가적으로 온체인에 저장된 프로그램에 의해 통제권이 구동되어야 하는 이유는 프로그램의 업데이트 권한이 프로그램 코드에 적혀있는 대로 작동해야 한다는 의미야. 고도화된 프로그램일수록 외부와의 소통을 통해 프로그램의 상태(스테이트) 혹은 코드 베이스 자체를 업그레이드할 상황이 발생할텐데 업그레이드의 주체가 스마트 컨트랙트에 작성된 내용에 따라 이행되는지 여부에 따라 자율성 보장 수준이 달라지는 거지.
크립토에서 주장하는 프로그램 자율성의 핵심은 온체인에 배포된 프로그램의 비율이 높을수록, 온체인 프로그램에 의해 프로그램의 방향성이 통제될수록 자율성이 높다는 거야. 이론적으로는 온체인으로 배포된 프로그램이 작성된 코드에 따라 자체적인 학습, 업데이트 가능한 상황을 상상해 볼 수 있어. 프로그램의 소유권이 코드로 규정되어 토큰의 형태로 분배되고 프로그램의 업데이트를 해당 토큰의 소유자들의 거버넌스에 의해 온체인 상에서 이뤄질 수 있다면 외부 개입에 종속되지 않는, 자율성이 높은 시스템을 만들었다고 말할 수 있을거야.
어디까지 자율성이 보장되어야 할까?
현실적으로 돌아가자면 온체인 프로그램의 거버넌스에 의해 온전히 통제가 이뤄지는 자율적 프로그램이라는 건 존재하지 않아. 예를 들어 비트코인의 경우 프로토콜의 업데이트는 온체인 프로그램과 전혀 관계가 없는 BIP와 포럼을 통해 이뤄지지. 이더리움의 경우도 마찬가지이고. 또한 블록체인이 가진 성능의 한계를 보았을 때 용량과 복잡성이 높은 인공지능, 멀티 유저 게임과 같은 소프트웨어를 온체인으로 처리하는 건 한계가 존재해.
현재 사용되고 있는 다오의 스마트 컨트랙트 프레임워크는 온체인으로 자율적인 프로그램에 따라 의사 결정 방식을 실현하는 실험적인 수준이라고 보는게 맞을거야. 예를 들어 현재 사용 중인 다오 프레임워크는 컴파운드에서 만든 거버넌스 컨트랙트의 기조를 따르는데 거래가 가능한 토큰($COMP)와 안건 투표를 위한 정족수(Threshold), 안건 토표 일수(Timelock)과 같은 함수를 통해 누가, 어떻게 참여해야 프로그램의 의사 결정을 통과시키는지 규정하고 있는 거지. 그러나 고도화된 프로그램을 위해 다양한 소유권 유형을 나누고 의사 결정을 세분화하는 작업은 아직 이뤄지지 못했다고 보는게 맞을거야.
자율적인 프로그램을 설정함에 있어 궁극적으로는 권한 분배, 업무 분배의 영역이 중요해져. 한 면으로는 효율적인 업데이트를 위해 전문가에게 권한을 위임하는 영역이 필요할 것이고 정당성을 위해 다소 비효율성이 발생하더라도 꼭 안건 결정에 참여를 요구해야할 상황이 있을거야. 즉 프로그램의 자율성은 프로그램이 도입되는 영역(조직)의 특성과 목적에 맞춰 설계될 때 실질적인 의미를 가질 수 있어.
