더 커밍 웨이브

The Coming Wave

AI, Power, and Our Future
_{Mustafa Suleyman, Michael Bhaskar | 2023}

저자 배경이 이 책을 선택하는 기준이 되었습니다. 딥마인드 공동 창립자로 인공지능 분야에 있어 선구적 인물이 전하는 인공지능에 대해 하고자 하는 말이 무엇인지 궁금했습니다. 그리고 책 전반은 단순한 기술 이야기를 넘어 윤리적 문제 의식을 투영하여 이야기 합니다.

위험은 AI를 과대 선전하는 데 있는 것이 아니라
다가오는 거대한 물결의 규모를 간과하는 데 있다.
AI는 단순한 도구나 플랫폼이 아닌
혁신적인 메타 기술이고,
기술과 모든 것의 기반이 되는 기술이며,
그 자체로 도구이자 플랫폼인 제작자이고,
단순한 시스템이 아닌
다른 모든 종류의 시스템을 만들어 내는 시스템이다.

2부 새로운 물결
4장 지능의 기술

듣고 싶지 않은 이야기를 하려는게 이 책의 목적이라고 저자분이 말합니다. 인공지능은 우리가 익숙한 프로그래밍으로 단순히 자동화하는 걸 넘어 인간이 가진 지능을 모방하고, 이제 초월할 수 있는 능력을 갖추었다고 강조합니다. 그리고 이 진화 속도가 예측을 할 수 없을 정도로 빨라 정치, 경제 같은 사회 구조 근본을 뒤흔들 수준이라는 걸 경고합니다. 그 힘이 과대 포장되고 있지 않고, 간과되고 있다는 것이 위험이라는 겁니다.

결국, 컴퓨터는 만들어지는 것뿐만 아니라 성장할 수도 있다.
DNA는 그 자체로 우리가 알고 있는
가장 효율적인 데이터 저장 메커니즘이며,
거의 완벽한 충실도와 안정성으로
현재 컴퓨팅 기술의 수백만 배에 달하는 밀도로
데이터를 저장할 수 있다는 점을 기억해야 한다.

2부 새로운 물결
5장 생명의 기술

기술 과학에 인공지능이 있다면, 생명 과학에는 유전자 가위가 있습니다. 이 도구를 사용하는 합성 생물학은 생물 구성 요소를 재설계하거나 재창조하는 기술입니다. 질병, 식량, 수명 등에 긍정적인 영향을 끼칠 수 있겠지만, 모든 기술이 양면성을 갖고 있듯이, 무기나 병원체 같은 부정적이면서 치명적인 면도 있습니다. 이 기술도 비용이 내려가면서 누구나 사용할 수 있게 되면서 우려를 낳고 있습니다. 이런 생명 과학 분야가 인공 지능과 결합하게 되었을 때 과연 우리는 제어할 수 있을지 의문이 듭니다. 단순히 의문이 아니라 우려가 되는 상황이라고 보는게 정확합니다.

다가오는 물결이 초래할 결과를 따라가다 보면
분명한 사실을 하나 발견하게 된다.
그 사실은 바로 모두를 위해 억제가 가능해야 한다는 것이다.

3부 실패한 국가
12장 딜레마

기술이 모든 문제를 해결한다고 보는 것도 잘못된 것이지만, 기술 없이 모든 문제를 해결할 수 있다고 보는 것도 큰 잘못입니다. 이 기술이라는 것은 특성상 멈출 수 없지만, 그대로 두어도 위험해지는 딜레마를 가지고 있습니다. 더구나 그 힘이 예측 불가능하고, 지금도 제어가 되지 않는 인공지능이라는 기술이 발견된 이 시점에 어쩌면 우리는 문명 전체의 방향을 정하는 기로에 서 있는게 아닐까 싶습니다. 그리고 우리는 꼭 이 방법을 찾아야 합니다.

처음에 이 책을 접하며 기대한 건 인공지능 개발사 내부에 대한 이야기를 듣고 싶어서 였습니다. 발전해가면서 벌어진 경쟁과 성공기 따위 말입니다. 하지만, 그런 생각과 기대와는 거리가 먼 인공지능에 대한 철학적 고찰이 담겨있습니다. 아무래도 누군가 말한 것처럼 인공지능으로 인한 기술 특이점이라는 시기라서 더 먼 미래를 보는 사람들에겐 이 문제가 더 크게 보이리라 생각됩니다. 그래서 이 분야에 조금이라도 깊이 연구하거나 관여된 사람들은 기술 자체에 대한 얘기보다는 우려를 말합니다. 기술 중심에서 인간 중심으로 미래를 결정 지을 수 있어야 한다는 것 말입니다.