[웹이코노미=이지웅 기자]

# "핵무기보다 인공지능이 더 위험할 수 있어"

# "우리나라, 인공지능 강국 위해 가장 시급한건 '규제악법' 폐지"

전기의 등장은 인류의 삶을 근본적으로 바꿨다. 앞으로 다가올 새 시대에 전기와 같은 혁명적인 기술이 있다면, 그것은 바로 '인공지능(AI)'일 것이다.

전기가 보편화되기 전 사람들은 전기 이후의 세상을 상상할 수 없었다. 인공지능이 보편화되기 전인 지금, 우리는 인공지능이 우리에게 무엇을 가져다줄지 모른다.

미래 우리의 삶을 근본적으로 뒤흔들 인공지능에 대해 자세히 들어보기 위해 지석규 한국디자인사이언스연구소 스마트센터장과 만났다. 그는 지난 3월 e북 '인공지능의 역습: AI와 미래산업'을 출간한 인공지능 분야 전문가다.

지석규 센터장과 미래 인공지능 기술의 빛과 그림자에 대한 이야기를 나눴다.

Q. 전 세계적으로 코로나19가 성행하고 있는데, 인공지능도 그 영향을 받고 있나?

코로나19 팬데믹으로 인공지능 시대가 더 빨리 오고 있다. 온라인 생활이 폭증하면서 산업과 소비형태도 급격히 변하는 중이다. 4차 산업혁명을 체감할 수 있는 상황이다. 세계적으로 사람 대신 자동화 시스템과 인공지능 도입이 확산되고 있다.

특히, 우리나라는 노동시장 경직과 기업규제로 변화의 흐름이 더 빠르다. 현장에서는 인공지능 도입 문제가 효율성 증대 뿐 아니라 '노조 리스크'에서 벗어나는 위기경영까지 고려하는 중이다. 앞으로 일자리 문제는 더 심각해질 것으로 보인다.

Q. 지난 3월 출간한 '인공지능의 역습'에서 독자들이 상식으로 알아야 할 게 있는가?

인공지능하면 SF 영화 속 로봇을 떠올리는 사람이 많다. 인간형 로봇인 안드로이드를 생각하곤 한다. 안드로이드는 아직은 수십 년 후 이야기다. 독자들이 인공지능과 로봇의 차이를 상식으로 알아두면 좋겠다.

인공지능은 로봇이 아니라 두뇌 기능을 하는 컴퓨터 시스템이다. 즉, 인공지능은 사람의 뇌에 해당하고, 로봇은 사람의 몸에 해당한다. 그런데, 모든 로봇이 인공지능을 탑재하는 건 아니다. 인공지능이 없는 단순 자동화시스템 로봇부터 인공지능을 탑재한 대화형 지능로봇까지 다양하다.

또, 상식으로 알아둘 부분이 있다. 인공지능(AI, Artificial Intelligence)이라는 말은 1956년에 미국 다트머스대학 '사고하는 기계'에 대한 연구회에서 처음 등장했다. 무려 60년이 넘었다. 인공지능 개념은 두 가지 기준을 알아두면 된다. ① 인간처럼 생각하는 컴퓨터 ② 인간이 할 일이나 프로세스를 기계에서 대신 시키는 시스템과 그걸 만드는 기술이다.

Q. 대표적인 인공지능 서비스는 무엇인가?

우리가 매일 사용하는 인공지능 스피커 음성 비서가 대표적이다. 삼성 '빅스비', 구글 '구글 어시스턴트', KT '지니', 애플 '시리', 아마존 '알렉사' 등이 있다. 사람의 목소리와 자연어를 처리해 '지니톡', '파파고' 등 통번역 서비스부터 이미지나 동영상을 분석해 서비스하는 SNS나 감시카메라 영역까지 진출하지 않은 곳이 없다.

이외에도 무인주차장, 엘리베이터, 인공지능 에어컨, 바리스타 로봇, 자율주행차, 수술 로봇, 주식투자 로보어드바이저 등 우리 생활 속에 깊숙이 들어와 있다. 이러한 인공지능은 기본적으로 데이터를 입력하면 알고리즘으로 패턴을 알아내 예측하거나 결과를 분류해 서비스를 제공한다.

Q. 최근 인공지능이 널리 확산된 이유는 무엇인가?

기술적 이유와 기업 생산성 이유를 꼽을 수 있다.

과거와 달리 상용화할 수 있는 똑똑한 인공지능 개발이 가능해졌다. '딥러닝(Deep Learning)'을 통해 인공지능 학습이 가능해지면서 기업이나 가정에서 활용할 수 있게 됐다. 대기업의 고객응대 채팅·음성 로봇 서비스, 넷플릭스의 개인 맞춤형 콘텐츠 추천 등 누구나 만족할 수준까지 올라왔다. 인공지능의 이미지 인식률은 99%를 넘었다. 사람보다 정확도가 높다.

또 하나는 아무래도 사람 보다 자원 효율성과 생산성을 높일 수 있다. 특히, 단순하고 기계적으로 반복되는 일은 가장 먼저 인공지능으로 대체하기에 적합한 영역이다.

Q. 일자리가 인공지능으로 대체된다면, 일자리가 줄어드는 것은 자명한데 그에 대한 대책이 있나?

인공지능으로 인한 일자리 감소 문제는 간과해서는 안되는 심각한 문제다. 다른 나라에서도 이미 대량 실직이 벌어지고 있다.

인공지능에는 두 종류가 있다. '약한 인공지능'과 '강한 인공지능'이다. 아직은 기술적 한계로 강한 인공지능은 등장하지는 않았지만, 약한 인공지능만으로 수많은 일자리가 줄어들고 있는 실정이다.

약한 인공지능은 특화형으로 특정한 업무만 잘하는 인공지능이다. 알파고처럼 바둑만 잘 두거나, 채팅만 하는 챗봇, 음성안내만 하는 음성봇, 주식투자를 돕는 로보어드바이저 등이 그 예다. 챗봇과 음성봇 때문에 콜센터 직원이 사라지고, 로보어드바이저 때문에 투자전문가를 고용할 일이 줄어들고 있다.

인공지능은 사람 보다 수익률이 높다. 은행업무 자동화시스템이나 모바일 뱅킹은 고액연봉을 받는 은행원의 단순 업무를 대체하고 있다. 신용평가를 할 때도 인공지능이 사람 보다 정확하다. 자동차 제조 등 조립라인 생산직도 인공지능 자동화 도입을 피해갈 수 없다. 일단은 인공지능과 협업하며 일자리 형태를 바꾸는 방향을 고민해야 한다.

한편으로 혹자는 인공지능 확산과 기술혁명으로 흥미롭고 창의적인 새로운 직업이 많이 생긴다고 한다. 그러나 이는 애매하고 추상적인 전망이다. 실직자가 신종 직업 취업자 보다 현저히 많을 것이다. 또한, 실직자 중 재교육을 통한 재취업은 일부의 혜택으로 그칠 확률이 높다. 당장 사람과 인공지능이 일자리를 두고 싸우지는 않지만, 심각하게 논의할 때다.

Q. 지금도 이세돌 9단을 이긴 알파고에 대한 놀라움이 있다. 당시 대국 지켜봤나?

TV로 봤다. 알파고가 이세돌 9단과 두 번째 대국에서 둔 37번째 수는 프로기사라면 절대 둘 수도 없고, 두지 않는 수라고 한다. 알파고는 인간의 바둑기보를 흉내낸 것이 아니라 바둑 역사에 없던 새로운 수를 뒀다. 적어도 특정 기능을 하는 인공지능 수준은 인간을 뛰어넘었다고 봐도 무방하다. 인간의 상식, 판단 등 지식체계를 넘어 인공지능 스스로 지식체계를 구축해 간다고 볼 수 있다. 그 예가 바로 알파고의 37번째 수다.

대국이 끝난 후에 알파고를 개발한 딥마인드 측은 알파고가 이세돌 9단을 어떻게 이겼는지 답변하지 못했다. 알파고가 딥러닝을 통해 바둑을 학습해 온 건 알지만, 37번째 수를 판단한 내부 알고리즘은 알 수 없기 때문이다. 인공지능이 어떻게 예측하고 판단하는지 파악할 수 없다. 일종의 '블랙박스(기능은 알지만 작동 원리를 이해할 수 없는 장치·시스템)'다. 이 문제도 연구자나 개발자 사이에서 중요한 이슈로 부각된 상황이다.

Q. 현재 인공지능 발전 정도와 한계는?

인공지능은 4차 산업혁명의 핵심 화두다. 4차 산업혁명 기반 기술인 정보통신기술(ICT)의 급속한 발전이 인공지능 개발 속도까지 끌어 올리고 있다. 인공지능이 빠르게 성장한 이유는 초고속 통신 속도가 빅데이터 생산과 수집을 용이하게 했고, 딥러닝 개발로 인간을 뛰어넘는 기계지능이 가능해졌기 때문이다. 컴퓨팅 핵심부품인 반도체도 인간 뇌 신경망을 모방한 NPU(신경망처리장치) 계열 차세대 '인공지능 반도체'가 개발되고 있다. 또, 구글은 슈퍼컴퓨터를 넘어 양자컴퓨터를 개발 중이다. 양자컴퓨터는 슈퍼컴퓨터가 1만 년 걸리는 계산을 3분만에 해낼 수 있다.

인공지능의 한계를 아는 것은 매우 중요하다. 인공지능이 처음 태동한 1950년대부터 인간은 공상 과학 소설이나 영화에 나오는 로봇을 구현하려 했다. 인간처럼 생각하고 행동하는 기계지능을 만들기 위해 60여 년 동안 놀라운 발전과정을 거쳤다. 인공지능 기술은 머신러닝(Machine Learning)이라 불리는 기계학습이 보급되면서 급속한 발전을 이뤘다. 최근 들어서야 인공신경망과 딥러닝 방식을 통해 인간의 능력을 넘어서는 성과를 내기 시작했다.

그런데, 인공지능의 의사결정 과정에서 이해할 수 없는 문제가 발생했다. 결과는 알겠는데 왜 그런 결과가 나왔는지 모른다. 머신러닝 기반 모델이 블랙박스로 작동한다는 점이다. 즉, 인공신경망으로 구성된 딥러닝 모델이 복잡하고 난해해 설계자 조차 자동화된 추론이 어떻게 도출되는지 모른다. 알고리즘 작동에 투명성이 보장되지 않는다. 이런 한계를 해결하기 위해 데이터 과학자 사이에 인공지능 신뢰성을 확보할 수 있는 '투명한 알고리즘', '투명한 프레임워크'가 도입되고 있다. 설명 가능한 인공지능, 해석 가능한 인공지능이 될 때 향후 대두될 인공지능 책임성을 따질 수 있다.

Q. 가까운 미래에 나올 수 있는 강한 인공지능인 '초지능 인공지능'에 대한 우려가 크다.

초지능 인공지능에 대한 우려는 수년 전부터 세계적 전문가들이 지적하고 있는 문제다. 초지능 인공지능이란 한 마디로 인간을 뛰어넘을 수 있는 인공지능을 말한다. 엘론 머스크 테슬라 회장은 인공지능 기술에 대해 '인류의 위협'이라고 말했다. 스티븐 호킹 박사는 2014년 BBC와의 인터뷰에서 "완전한 인공지능 기술의 발전은 인류의 종말을 초래할 수 있다"고 경고했다.

지금의 인공지능 청소기 기술로는 꿈 같은 일이라고 생각하겠지만, 미래에는 인공지능의 물리적·지적 능력이 인간을 넘어설 수 있다. 침팬지는 4살 정도 아이의 지능이고, 개나 고양이는 3살 정도의 지능이다. 지금 일반 인공지능은 5살 정도의 지능으로 보면 된다.

생물학적 진화를 따르는 인간과 기술의 진화에 의존한 인공지능이 경쟁할 수는 없다. 결국 인간을 대체하는 방향으로 갈 것이다. 이런 점 때문에 엘론 머스크는 MIT대학 연설에서 "인공지능과 관련해 신중한 접근이 필요하다. 우리에게 가장 크게 실존하는 위협이 있다면, 아마 인공지능이다. 어쩌면 우리는 인공지능이라는 괴물을 소환하고 있을지 모른다"며 인공지능 연구 이면의 위험성을 경고한 바 있다.

물론, 반론도 있다. 인간을 넘어서는 기계지능 출현까지는 수십 년이 걸리며, 그 전에 초지능 인공지능을 통제할 수 있는 안전장치가 마련될 수 있다는 의견이다. 이런 의견이 현실화 되려면 인공지능 연구자, 하이테크 기업, 국가들이 인공지능 개발에 대한 표준과 기준을 마련하고 지켜야 한다. 개인적인 견해이지만 지금처럼 ICT 기술 진화 속도가 빠른 상황에서는 핵무기보다 인공지능이 더 위험할 수 있다고 생각한다.

Q. 인공지능으로 인해 발생할 수 있는 문제·위험으로 또 무엇이 있나?

초지능 인공지능 로봇의 출현보다 당장 심각한 것은 인공지능 무기다. 자동으로 작동하는 군사 인공지능 무기시스템 개발은 치명적인 결과를 초래한다.

지난해 이슬람 테러조직이 무인 드론으로 사우디아라비아 유조탱크와 이라크 미군기지를 공격하는 사건이 발생했다. 인공지능 무기로 수행하는 무력충돌은 인간이 수행하는 충돌 보다 규모나 피해가 더 클 것이다.

구글 인공지능 책임자 데미스 하사비스와 엘론 머스크가 참여하고 있는 FLI(Future of Life)은 "인간의 개입 없이 표적을 자동으로 선별해 파괴하는 무기 개발은 세계적으로 새로운 무기 경쟁을 유발할 수 있다"며 대내외에 보호책을 촉구했다. 몇 년 안에 일어날 수 있는 인공지능 무기 개발 위험을 금지하는 일이 가장 시급하다. 판도라의 상자가 열리면 닫기가 어렵다.

Q. 국가 간 인공지능 개발 경쟁이 치열하다. 승자는 누가 될 것으로 보는가?

인공지능 기술이 국가와 기업의 경쟁력을 결정하는 중요한 기술로 받아들여지고 있다. 산업발전, 국가안보의 핵심요소로 생각하는 것이다. 중국, EU, 미국은 인공지능 산업을 6가지 범주로 경쟁력을 비교한다. 인력, 연구, 개발, 도입, 데이터, 하드웨어 등이다. 1위는 미국이다. 중국, EU 역시 그 뒤를 바짝 쫓고 있다.

25개국 대상 주요 인공지능 연구자 100인을 선정해 분석한 인공지능 두뇌지수(AI Brain Index)가 있는데, 여기서도 1위 미국, 2위 스위스, 3위 중국, 4위 캐나다 순이었다. 한국은 19위다. 국가별 인공지능 기술력에서 중국에 한참 뒤쳐져 있다.

한국 역시 지난해 '인공지능 기본구상'을 발표하고 IT를 넘어 인공지능 강국으로의 도약을 국가전략으로 제시했다. 산업계와 기업이 전면에 나서야 하는데, 경쟁력 확보가 어렵다. 구글, 페이스북이 인공지능 연구에 앞서는 이유는 빅데이터, 연구자, 정책지원 덕분이다. 반면, 우리가 가장 시급하게 해결해야 하는 일은 바로 규제악법을 폐지하는 일이다. 대중영합주의(포퓰리즘)에 갇혀 국회가 규제를 강화하고 있어 걱정이다.

이지웅 웹이코노미 기자 webeconomy@naver.com