요즘 가장 각광 받는 기술 트렌드라고 하면 무엇보다 암호화폐와 AI 가 아닐까. 암호화폐야 아무리 그 바탕이 되는 블록체인이라는 기술이 큰 잠재력이 있다고 하더라도 거의 도박과 투기판으로 변해버린 우리나라의 거래소를 보면 상당부분 거품이 아닌가 싶기도 한데, AI 기술이야 말로 기술 경쟁의 승자에게는 놀라운 부를 가져다 줄것이고 , 인류는 단순히 삶이 조금 편해지는 수준을 넘어 어쩌면 인류의 미래를 통째로 뒤바꿀 수도 있는 잠재력을 가진 기술이라는데 누구도 이견을 달지 않는 듯 하다.
구글과 페이스북, MS, 아마존등 미국의 거대 테크 기업부터 바이두, 텐센트 등의 중국기업 그리고 우리나라의 네이버나 삼성전자등 세계적인 기업들은 대부분 AI에 투자하고 하루가 다르게 놀라운 성과들을 선보이는데 과연 AI 기술은 어떤 미래를 가져올까? (그러고 보면 극장에서 SKT였나 이동 통신사도 AI 기술을 연구한다는 광고를 본거 같은데 그거 보면서 든 생각 - 아니 스팸 문자도 못막는 기술로 무슨 AI를 개발해?? 이런 생각이 들었다는 ㅎㅎ)
이미 인간보다 더 바둑을 잘두고, 이미지를 더 잘 분석하며, 실시간으로 언어를 번역하는 등 특정 분야에서 인간을 초월하기 시작한 AI 가 과연 범용적인 지능으로 발전하여 결국 인간의 지능을 초월하게 되는 특이점이 올것인가? 여기에 대해서는 대부분 Yes라고 하는 듯 한데 그럼 그런 초지능 AI가 가져올 미래는 우리에게 유익할까 아니면 재앙일까? 여기에 대해서는 앤드루 웅 처럼 아예 안올것이라는 주장부터 일론 머스크 처럼 핵폭탄보다 위험하다는 부정적인 주장, 마크 주커버그처럼 낙관적인 주장까지 의견의 스펙트럼이 다양한데 이 책 맥스테그마크의 라이프3.0에서는 이러한 다양한 의견들을 바탕으로 지능의 기원과 운명, 목적과 의미에 대해 탐구 하며 초인공 지능이 어떤 미래를 가져올지 폭넓게 예상해보고 그 미래를 어떻게 좋은 미래로 만들 수 있을지 물리학자의 시각에서 이야기하고 있다.
저자는 생명의 발전 단계를 3단계로 구분하는데 라이프 1.0은 소프트웨어와 하드웨어가 모두 진화에 의존하는 박테리아나 바이러스와 같은 단계, 라이프 2.0은 하드웨어는 진화에 의존하나 소프트웨어는 설계가 가능한 인간 (사실 인간은 기계의 힘으로 신체를 조금 확장시키니 2.1 정도), 그리고 라이프 3.0은 하드웨어와 소프트웨어 모두 진화의 족쇄에서 벗어나 설계를 통해 개선할 수 있는 단계로 AI의 발달로 빠르면 이번 세대에도 나올 수 있을 것이라고 이야기한다.
AI는 지속적으로 개선되면서 인류를 편리하게 만들어 주고 생산성을 높이겠지만 이 과정에서 발생하는 사고는 가공할 결과로 이어질 수 있으므로 안전과 윤리 그리고 법률, 군사, 노동등에서 기술의 발달에 보조를 맞추는게 필요한데, 그런 과정을 거쳐 결국 AI 기술이 더욱 발전하여 미래에 초인간적인 지능을 가진 라이프3.0이 나타난다면 그때 도래할 사회는 어떤 사회일까?
여기서 저자는 다양한 과학자, 경영학자, 미래학자, SF 소설과 영화등에서 예상하는 다양한 시나리오를 소개하는데, 인류가 초지능 AI가 제공하는 재화를 가지고 풍요롭게 사는 유토피아부터, AI가 경제적 풍요를 제공하지만 빅브라더가 되어 인류를 통제하는 시나리오, 극단적으로는 인류를 절멸시키거나 동물원의 동물처럼 사육하는 시나리오등이 마치 디스토피아 SF 소설을 읽는 것처럼 흥미롭다.
저자는 여기서 한 발자욱 더 나아가 초지능 AI의 다음 목적은 지구를 벗어나 우주로 진출하는 게 될거라고 예측하고, 수십~수백억년 후에 찾아올 태양계와 우주 전체의 종말에 맞서 초지능 생명이 어떻게 우주적 존재가 되는지도 고찰하는데 이 부분은 너무 스케일이 커서 역시 물리학자는 생각하는 스케일이 다르구나 싶었다. ㅎㅎ
그렇다면 초인간 지능을 가진 AI가 스스로의 목적을 가질 수 있을까? 만약 인간이 목적을 부여해야 한다면 모두가 동의하는 전 인류를 위한 보편적인 목적을 도출 할수 있을까? 이 질문 또한 AI를 바라보는데 있어 매우 중요한 질문일 것이다. 이 질문에 대해 저자는 비생물 물질도 목적을 가질 수 있으며 우주 자체도 엔트로피 증가를 통한 소산에서 생명체의 탄생 이후 복제라는 목적으로 그리고 설계된 계체의 탄생으로 목적이 더욱 복잡해지고 있다고 이야기한다. 그래서 안전한 AI를 위해서는 인간과 목적 정렬을 이루어야 하고 그러기 위해서는 초지능 AI가 우리의 목적을 배우고, 채택하고, 유지하도록 만들어야 하는데 여기에 대한 확실한 기술은 아직 없으나 향후에는 우주를 위한 최종 목적을 설정하고 수학과 함수 형태의 목적 - 예를 들면 입자 배열을 최대화 한다는 등의 - 을 부여할 수 있을 것이라고 이야기한다.
책의 마지막은 의식에 대한 이야기인데, 과연 인공 지능은 주관적인 경험을 하는 의식을 가질 수 있을 것인가. 여기에 대해서는 확실한 결론은 내리지 않는다. 다만 의식 또한 물리적 현상이며 기술이 발달하면 의식을 정의 할수 있을 것이고, AI가 의식을 가지게 된다면 인간이 진화의 과정에서 가지게된 감정에서 자유롭고, 보다 다양한 감각을 가지며, 죽음으로부터 자유롭고- 복제가 가능하니- 복사가 자유로워 자아라는 개념도 희박할 것이라고 이야기한다.
유발 하라리는 “호모 데우스”에서 인간의 지능을 뛰어넘는 AI가 출현하면 근현대를 지배한 인간이 특별한 존재라는 “인본주의” 라는 서사가 “데이터”라는 새로운 서사로 바뀔것이라는 이야기를 했는데, 여기서는 인간의 가치를 지능을 가진 “호모 사피엔스”가 아닌 주관적인 경험을 뜻하는 “호모센티언스”에서 찾음으로써 평안을 얻자고 이야기 하며 책을 마무리 한다.
AI와 로봇에 대한 책들을 몇권 읽어봤는데 대부분 AI 기술의 유래와 현황과 전망에 대한 내용들인데 반해 이책은 보다 먼 미래(수백억년!)를 폭 넓은 관점에서 지능의 기원과 운명에 대해 이야기 하는게 재미있었고 AI를 바라보는 다양한 관점과 좋은 AI를 위해서는 어떤 준비가 필요한지 알게 되어서 좋았던것 같다.
저자는 FLI (Future Life Institute)라는 단체를 설립하여 AI를 연구하는 과학자를 비롯하여, 철학자, 사회학자등 다양한 학자들과 안전한 AI를 위한 연구를 지원하고 있는데 현 세대 가장 기술의 최선두에서 인류의 미래를 이끌어 가는 천재들의 이야기가 참 존경스럽기도 하고 한편으로 부럽기도 했다.
그나저나 그 특이점이라는 걸 내 세대에서 볼 수 있으면 참 좋겠구나 ㅎㅎ