AI를 처음 접했던 3년여 전 부터 인류의 미래가 우려스러웠다. 당시에도 가능만 하다면 모든 개발을 중단하는게 낮다고 생각했더랬다. 하지만 이것이 불가능함은 알고 있었기에 어떻게 하면 좋게 이끌어갈지를 고민하겠다(?)는 나름의 위안과 핑계를 가지고 공부를 시작했더랬다.
물론 당시 우려했던 이유는 지금 나오고 있는 이유와는 달랐다. AI 기술은 마태효과처럼 잘하던 곳이 점점 더 잘할 수 밖에 없기에 특정 기업 또는 개인에게 쏠릴 부의 집중이 지금보다 훨씬 심해질 것이라는 생각이었다.
그러다 최근 몇 달 전부터 GPT4의 등장으로 AI업계의 많은 사람들이 생각보다 너무 빠른 발전에, 이를 받아들일 제도적, 사회적 준비가 되지 않았다는 것에 우려를 표하기 시작했다. 그 중에서도 AI계의 구루 중의 구루인 힌튼옹의 얘기는 어느 때 보다 무게감 있게 다가온다. 인류 지능의 총합보다 더 큰 지능의 출현. 그리고 그들은 더 빨리 교류하고 복제될 수 있다.
개인적으로 가장 인상 깊게 다가왔던 인류 위험에 대한 진술 중 하나는 유발하라리의 얘기였다. 즉 이 AI가 말과 글을 지배함으로서 인류는 자신들이 지배당한지도 인식하지 못한채 이들에게 지배당할거라고... 인류의 사고체계와 협력과 민주주의가 말과 글에 의해 정립되고 교류되어왔기에.
즉 인간이 번성했던 중요한 이유였던 언어와 그를 통한 협력을 더 잘, 빨리 하는 새로운 지능을 출현이다. 그들 스스로가 의도와 목적성을 가진다고 생각하긴 어렵지만, 인류의 누군가가 넣어줄 초기 목표를 달성하기 위한 서브 목표들은 스스로 생각하고 수립하고 달성할 수 있는 시대가 도래했다.
집단으로서의 인간은 이기적이기에 AI를 더 이상 개발하지 말자는건 현실적이지 않은 상황에서, 더군다나 이 구루 조차도 아직 마땅한 대안이 없다는 상황에서 우리는 어떤 희망을 품어볼 수 있을까. 유일한 희망은 AI 발전속도가 더이상 우리가 지금 예상하는 것 만큼 빠르지 못할 때 뿐인가..