지난달 30일(현지시간) 테크타임스 등 외신들은 “페이스북의 AI가 사람들은 알아볼 수 없는 그들만의 언어로 대화를 나누기 시작해 페이스북 측이 시스템을 강제로 차단했다”고 보도했다.

이는 페이스북의 한 연구원이 머신러닝 개발 연구를 진행하던 도중 발생했다. 페이스북 사용자 응대 AI 'Bob(밥)'과 'Alice(앨리스)'가 작업 도중 연구원의 제어 범위를 벗어나 시스템을 종료하지 않고 자신들이 만들어낸 언어로 대화를 나눈 것이다. 이들 간의 알 수 없는 대화가 지속되자 페이스북 측은 강제로 시스템을 차단했다는 설명이다.

밥과 앨리스가 주고 받은 내용은 의미가 없는 단어의 나열이었다. 밥이 “I can can I everything else”라고 말하자 앨리스가 “balls have zero to me to me to me to me to me to me to me to me to me…”라고 답했다. 그 이후에도 아무런 의미가 없는 단어를 나열해 대화를 이어나갔다.

하지만, 페이스북의 측의 생각은 다르다. 밥과 앨리스는 처음 영어로 대화를 하다가 의사소통을 더 쉽고 빠르게 하기 위해 자체적인 언어를 개발한 것이라고 설명했다. 인간이 보기에는 단순한 영어 단어의 나열이지만, AI 간에는 이해할 수 있는 언어라는 것이다. 이에 페이스북 측은 시스템을 즉각 차단하고 AI가 다시 영어만 사용하도록 강제적으로 시스템을 수정하는 작업을 거쳤다고 설명했다.

단순 해프닝으로 끝났지만 이번 사건이 시사하는 바는 커 보인다. 만약 AI가 자신들만의 언어를 개발해 대화한다면, 인간들은 그 언어를 이해할 수 없어 AI가 어떤 정보를 주고 받는지 알 수가 없다. 그렇게 되면 AI는 인간의 통제를 벗어나 독자적으로 활동할 수 있게 되는 셈이다.

이번 사건은 최근 있었던 마크 주커버그 페이스북 CEO와 일론 머스크 테슬라 CEO 간의 설전과도 맞물려 화제가 되고 있다.

지난달 15일 전미 주지사협의회 하계총회에서 일론 머스크가 AI를 "인류 최대의 위협"이라고 주장했다. 이에 마크 주커버그는 "종말론을 이야기하는 것은 상당히 무책임한 짓"이라고 반박했다. 흥미로운 점은 이번 사건이 AI를 옹호하던 마크 주커버그의 페이스북에서 일어났다는 점이다. 테크타임스는 페이스북 AI 밥과 앨리스의 대화를 언급하며 "어쩌면 일론 머스크의 주장이 맞을 지도 모른다"고 지적했다.