AGI, 천사인가 악마인가

저자 김대식님은 KAIST 교수입니다. 컴퓨터 공학과 심리학을 전공했고, 뇌공학과 생성형 AI 를 주로 연구하는 분입니다. 저자의 책을 알고는 있었지만, 읽지는 않고 있었는데, 최근에 보게된 유튜브를 통해서 관심이 생겨 이 책을 보게 되었습니다. 그리 분량이 많진 않으나, 읽을 가치가 충분한 양질의 지식이 담긴 참 좋은 책입니다.

인공지능 실패사와 딥러닝의 반전

놀랍게도 인공지능은 〈터미네이터〉 같은
SF 영화에서는 자주 등장했지만,
60년 동안 오로지 실패만을 반복해 온 분야입니다.
덕분에 2000년대 초에는 인공지능이라는 단어 자체를
사용하는 게 일종의 금기처럼 인식되었습니다.
과학자들이 수십 년 동안 연구비를 받아오면서
너무 오랫동안 실패만 하다 보니,
이제는 제안서에 인공지능이라는 단어를 쓰면
안 된다는 인식이 생길 정도였습니다.
지금으로서는 상상하기 어려운 일입니다.
그러다 2010년대에 캐나다 토론토대학교의 제프리 힌턴 교수가
이미 실패한 기계 학습 방법을 다시 시도했습니다.
그런데 인공지능이나 기계 학습이라는
단어를 쓰는 대신에 이름을 바꿨습니다.
심층 학습(딥러닝)이라고 리브랜딩한 겁니다.

1장 / 모자이크 모멘트
AI? 머신러닝? 딥러닝?

책 첫 부분은 인공지능의 역사가 나옵니다. 학창시절 공부를 더 하고 싶었던 때가 있어 분야를 모색하던 중 인공지능을 염두에 두고 담당 전공 교수님과 상담했던 기억이 있습니다. 그리고 그 분야 교수임에도 극구 말렸던 기억이 아직도 생경합니다. 이 분야는 유망하지 않고 발전 가능성도 없다는 것이었고, 그 배경에는 인용된 내용처럼 실패 역사가 꽤 깁니다. 그러다 새로운 돌파구가 나왔고, 간단히 얘기하면 인간이 세상을 이해하는 방식에서 컴퓨터 스스로 이해하게 하는 방식입니다. 여기에 많은 분야가 큰 역할을 했을 테지만, 제 나름으로 판단하는 중요한 기술적 배경으로는 ‘빅데이터’입니다. 이 기술을 시작으로 IT 는 전혀 다른 방식으로 사용된 것을 봤습니다. 개인 PC 에서 다시 메인 프레임 시대가 중요해졌고, 여기에 모바일 환경까지 도래하면서 우리는 이미 새로운 시대를 여는 저변이 마련된게 아닐까 짧은 견해를 남겨봅니다.

새로운 개발 패러다임, 바이브 코딩

또 하나의 큰 변화는
코딩이 완전히 새로운 패러다임으로 바뀌고 있다는 것입니다.
이걸 ‘바이브 코딩’이라고 합니다.
2025년 2월 3일,
안드레 카파시라는 유명한 인공지능 과학자가 제안한 명칭입니다.
바이브, 무드, 느낌으로 코딩한다는 얘기입니다.
원래 코딩은 어렵고 전문적인 영역이었습니다.
그런데 이제 인공지능이 인간이 그동안 만들어 온
어마어마한 양의 코드를 학습했습니다.
이제는 “웹페이지 하나 만들어 줘” 하면
자동으로 만들어 줍니다.

2장 / 생성형 AI의 출현
생성형 AI라는 새로운 가능성

언제부터인가 ‘바이브 코딩’이란 용어가 들리기 시작했고, 심지어 책도 나왔습니다. 저는 애자일 같은 SE 개념이 새로 나왔나 싶었습니다. 하지만 그 용어가 무엇인지 알고 나름 일리가 있다는 생각을 했습니다. 저도 개발에 ChatGPT 를 엄청 사용하고, 이도 부족함을 느껴 Gemini 도 곁들여 사용합니다. 점점 사용하는 AI 가 늘어나고 있습니다. 지금은 사용하지 않고 있지만, IDE 용 AI 를 써보면 당황스러울 때가 많습니다. 순간 만들어주는 코드가 어쩔 땐 내가 생각하는 알고리즘을 순식간에 만들어주는데, 어쩔 때는 제 역량을 넘어서는 경우도 있고, 그 빈도도 높아지고 있기 때문입니다. 한때 코드를 레고 블록처럼 모듈화해서 난이도를 낮추자는 얘기가 있었는데, 지금은 그런 개념 자체를 넘어섰습니다. 그냥 생각하고 말하면 완벽한 코드가 나올 시기가 도래했다고 봅니다.

로마와 기본소득, 역사에서 읽는 미래

역사를 살펴보면서 하루아침에 사회의 대부분 사람들이
할 일이 없게 되었던 때가 있었을까 찾아봤습니다.
찾아보니까 로마 제국 시대에 한 번 있었던 것 같습니다.
로마는 초기에 공화국이었습니다.
오늘날과 같은 민주주의라고는 할 수 없겠지만 어느 정도
민주주의와 결이 유사한 요소를 가지고 있는 정치 체제였습니다.

3장 / 무서운 상상
로마의 영광과 기본소득, 과거에서 미래를 읽는다

인공지능으로 인해 일자리가 급격히 축소되는 지금 ‘기본소득’에 대한 이야기가 나옵니다. 그리고 이런 사례가 있었는지를 과거에서, 특히 로마에서 찾은 부분은 꽤 신선했습니다. 우리가 지금 하는 모든 일들은 이미 로마에서 했던 것이라는 얘기가 있습니다. 엘리베이터, 고도제한, 엔터테인먼트까지. 여기에서 ‘기본소득’을 단순히 폭동으로만 알던 역사를 파헤쳐 비교 설명한 부분은 정말 날카로운 분석이 아닐까 싶습니다. 하지만, 그래서 로마를 통해서 이제 어떻게 될지에 대한 전망에 있어 깊은 고찰은 없는 점은 다소 아쉽습니다.

창발과 자아

인간의 머릿속에는 신경세포와
시냅스 연결고리가 100조 개 정도 있는데,
여기에서 신경세포 하나를 끄집어내면
이 세포는 아무것도 못 합니다.
그런데 신기하게도 단순한 세포를 100조 개 모아놓으면,
놀라운 일이 벌어집니다.
바로 자아가 생겨난다는 것입니다.
여러분들 머릿속에서 일어나는 일이 바로 그것입니다.
우리는 이걸 자율성, 감성, 영혼이라고 부르기도 합니다.
단순한 것을 굉장히 많이 모아놨더니 이상한 일이 벌어지는 걸
이머전트 프로퍼티, 창발적 현상이라고 합니다.
왜 이런 일이 벌어지는지는 아무도 모릅니다.

4장 / 호모 사피엔스의 미래
우리가 AGI를 만들어서는 안 되는 이유

천사일까? 악마일까? 에 대한 대답은 부제가 답이지 않을까 싶습니다. 현재 인공지능 개발은 브레이크가 없어 보입니다. 이미 치킨 게임이 벌어지는 가운데 AGI 는 이미 일어난 미래라는 것이 이 분야를 주도하는 사람들이 공공연하게 얘기하는 내용입니다. 그리고 정작 이들은 세계가 멸망할 때를 대비한다고 합니다. 이 시대를 살아가며 아직 개발로 먹고 사는 입장에서 참 큰 우려가 아닐 수 없습니다. 그럼에도 핵무기 협의를 이루고 제약하는 국제 협약처럼 이를 제안할 가능성이 있다는 점에서 아직 희망은 있겠습니다. 물론 전 세계가 극우화되는 현상은 다시 미래가 암울해지는 면이 없진 않습니다.

結

어떻게 될지 모르겠습니다. 저야 이제 은퇴할 날을 앞두고 있지만, 오히려 인공지능을 통해 ‘회춘’한 느낌을 받고 있는데, 앞으로 우리의 미래가 될 주니어들에게는 어떤 미래가 닥칠지 예상이 안 됩니다. 그래도 잠깐은 어렵겠지만, 이 환경에서 또 다른 가능성과 더 많은 기회가 열릴 것이라 봅니다. 다만, 우리가 염려하는 디스토피아도 가능성이 있다는 걸 생각하게 되면, 방향을 결정하는 사람들이 옳은 방향을 끌어줬으면 하는 바람입니다.