[7월17일][책과 삶] 속내 알 수 없는 AI에 대응하려면

새로운 질서

헨리 키신저·에릭 슈밋·크레이그 먼디 지음

이현 옮김 | 윌북 | 272쪽 | 1만9800원

스페인 탐험가 에르난 코르테스가 1519년 유카탄반도에 다다랐을 때, 아즈텍 제국의 황제는 단호하게 대처할 수 없었다. 코르테스가 아즈텍에 도착한 후 혜성과 일식, 기형아의 출생이 있었는데, 코르테스는 1519년에 바다에서 돌아오겠다던 아즈텍 전설 속의 신인(神人) 토필친으로 여겨졌다.

문명을 융성케 하려는 귀인일까, 정복하려는 침략자일까. 인공지능(AI)을 바라보는 현대인의 시선은 코르테스와 마주했던 아즈텍인과 닮았다. AI는 많은 현대인들을 매료시킨 동시에 경계하게 하고 있다.

외교가의 거목이던 헨리 키신저는 전 구글 최고경영자(CEO) 에릭 슈밋과 2023년 <AI 이후의 세계>를 공저한 데 이어 생애 마지막 저서로 이 책을 냈다. 책에서 저자들은 AI가 발전하면서 정치와 안보, 과학 분야에서 어떤 변화가 일어날지를 예측했다.

인간은 AI가 어떻게 그런 결과를 도출하는지는 알지 못한다. AI에게 그림을 그려달라고 주문하지만, 그 그림을 어떻게 그리는지는 알지 못하는 식이다. 저자는 “AI가 인간이 수용할 수 없고 상상하지 못한 결정을 내린다면, 그것을 정정하거나 무시할 근거가 인간에게는 없다”는 점을 지적한다. AI가 발전해 정치와 안보 분야에서 중대한 결정을 내린다면 이 문제는 더욱 심각해진다. AI가 디지털 자원을 차지하기 위해 인간과 경쟁할 수도 있고, 목표를 달성하기 위해 인간을 속일지도 모른다.

AI가 더 많은 능력을 갖춘다면, 그리고 존엄성의 정의를 분명히 재정립하지 않으면, AI가 스스로 존엄한 존재가 돼 인간을 대체하거나 인간과 통합될 수도 있다고 저자들은 지적한다. 저자들은 “불안과 두려움으로 가득 찼으나…악을 따르지 않고 선을 택할 자유를 행사할 수 있으며 실로 행사하는 창조물에 내재된 속성”에서부터 존엄성을 다시 정립해야 한다고 주장한다. 불안도 두려움도 느끼지 못하며 선과 악을 스스로 가르는 능력이 없다는 게 AI의 특성이기 때문이다.