AI 트루스

출판사에서 지원해주셔서 AI 트루스책을 읽어보았습니다.

책은 총 6장(미래, 인공지능 시대의 시작, 인간의 삶으로 파고드는 인공지능, 코딩의 종말, 인공지능과 지적노동, 다시미래)으로 되어 있습니다.

1장의 미래는 한사람의 개발자가 인공지능과 함께 협업하는 미래를 그리고 있는 짧은 소설로 되어 있습니다. 미래를 사는 삶이 어떠한지 작가의 상상력으로 그려본 것인데 나름 재미가 있었습니다. 인공지능이 모든걸 처리해주는 미래가 개발자에게 좋은 미래이기만 한 것은 아니었지만요.

1장에 나왔던 문구들 중에 기억나는 문구 입니다.

- 저는 당신의 일을 빼앗지 않습니다.
유진의 목소리가 단호했다.

- 당신처럼 인공지능의 도움을 얻어 전보다 더 많은 일을, 
더 효 율적으로, 더 빨리 수행하는 사람이 
그렇지 않은 사람의 일을 빼앗는 것뿐이에요.

p 25

그런 인공지능 개발자에게 할 일을 알려주고, 중간 과정에서 필요한 리뷰를 수행하고, 
최종 결과를 검증하는 일을 담당하는 일이 이전에 없던 새로운 직업으로 부상했다. 
실제로 코딩을 수행하는 일은 거의 없지만 세상은 그들을 사람 개발자라고 불렀다. 

유진과 나는 이런 격변의 시기를 함께 통과한 사람 개발자였다. 
우린 사람이 직접 코딩하는 세계에 대한 경험도 잠깐이나마 있었다.

p 34

2장은 인공지능의 역사를 간략하게 훓습니다. 2번 인공지능의 흥망성쇠와 3번째 봄 그리고 여름이 되었음도요. 약간은 문학적인 다음의 문장으로 2장을 시작합니다.

세상은 이렇게 다가온 인공지능의 세 번째 봄이 전과 다르다는 것을 느꼈다.
봄은 여름이 되었다.
아직도 여름 한복판이다.

개인적으로는 사람들의 이야기, 기술의 역사이야기를 좋아하기에 매우 재미있게 보았습니다. 수학 천재들로 구성된 기호주의와 문과생 연결주의의 대결도 재미있었습니다.

로직에 따라 같은 말을 할 뿐인 일라이자에게 마음을 주는 일라이자 효과도 처음 알게 되었네요. 전문가 시스템은 왜 실패했고, 인공지능의 봄은 어떻게 다시 찾아오게 되었는지도 보게 되었습니다.

3장은 이미 인간의 삶에 파고든 인공지능을 이야기합니다.

책을 읽고 잠깐 생각해 보니 인공지능은 이미 저의 삶에도 깊숙하게 들어와있네요. 간단한 개발 스크립트는 ChatGPT에게 물어보고, 디버깅도 도움을 많이 받기도하고요.

인공지능이 파고든 분야중에 바둑, 글쓰기, 단백질구조 예측등이 나옵니다. 딥페이크등의 악용된 사례도 나옵니다.

인공지능이 인류문명을 파괴하는 것 아니냐는 질문에 대해서 저자는 아래와 같이 답을 합니다.

미래에 인공지능이 인류 문명을 파괴한다면 
그건 너무 똑똑해진 인공 지능의 의도 때문이 아니라, 
인공지능이 아무 생각 없이 추구하는 효율성 때문일 확률이 높다. 
p 99

인간이 정말 무서워해야 하는 것은, 
그렇게 인간의 관리와 통제를 벗어 난 인공지능이 
스스로의 판단과 동기에 의해 극도의 효율성을 추구하 는 세상이다. 
제프리 힌튼 교수가 조만간 인공지능이 인류를 조종하 게 될 것이라고 말한 것은 
어쩌면 그런 세상이 다가오고 있기 때문일 지도 모른다.
p 101

4장은 코딩의 종말이라는 제목으로 되어 있습니다. 개발자인 저에게는 충격적인 제목이 아닐 수 없는데요. 4장의 분량이 가장 많았습니다. 저자가 하고자 했던 말이 여기에 대부분 있을 것이라는 생각이 들었습니다.

인공지능은 결국에는 사람이 일하는 방식을 많이 바꿀 것이라고 저자는 생각하고 있었습니다. 저 또한 그렇게 생각하고요.

인공지능이 사람을 대체할것인가? 에 대해서는 아직은 아니라고 하고 싶습니다. 다만, 최근에 대기업에서 개발자를 구하는 숫자가 매우 줄어들긴 했습니다. 인공지능의 영향이 아주 없다라고는 할 수 없다고 생각합니다. 저조차도 생산성이 일부 향상된 부분이 있기 때문입니다.

AGI와 무관하게 2024년 현재의 인공지능은 이미 인간의 언어를 와 그작 와그작 다 씹어삼켰다. 
청동 소녀를 만든 헤파이스토스는 지금의 인공지능에게 풀무질이나 용접을 시킬 수는 없겠지만 
바람이 난 자신의 부인 아프로디테에 대한 이야기를 나누거나, 
자신의 신체적 결함이나 열등감 등에 대해 적절한 조언을 구할 수는 있을 것이다. 
아니, 잘못 말했다. 풀무질이나 용접을 시키는 것도 가능하다. 
이렇게 분야를 가리지 않고 다재다능해진 인공지능은 
이제 사람이 만들던 컴퓨터 프로그램조차 만들기 시작했다. 
코딩을 하는 것이다.

p 152

이런 일을 할 수 있는 인공지능이 나타나면 개발자만 문제인 것도 아니다. 
지식, 논리, 추론 등 지능을 이용해 노동을 수행하는 이 세상의 모든 화이트칼라 노동자가 
다 함께 벼랑 끝으로 향하게 된다. 

p 160

데빈 에이아이의 SWE-bench 수행 결과가 더 향상되어 13,86%에서 
30% 언저리까지 증가하면 개발자 세계의 지형은 근본적으로 달라질 수 밖에 없다. 
시장은 사람 개발자와 완전히 동일한 수준의 인공 지능을 기다릴 필요가 없기 때문이다. 
인공지능의 역량이 사람 개발 자 역량의 삼분의 일 지점에 도달하면, 
산술적으로 8시간을 근무하는 직원과 24시간 근무하는 인공지능의 생산성이 비슷해진다.

p 168

인공지능은 사람 개발자를 대체할 것인가?
이 질문은 사실 잘못되었다. 
깃허브나 코그니션은 AI 코딩 도구의 목 적이 사람 개발자를 대체하는 것이 아니라고 거듭해서 밝힌 바 있다.

그렇다면 이 질문에 대한 답은 No인가? 
인공지능이 사람 개발자를 대체하지 않는 것인가? 그렇게 말하면 문제가 다 해결되는 것인가?
그럴 리 없다. 
이 질문을 굳이 Yes/No로 치환되는 질문으로 바라봐 야 한다면 답은 당연히 Yes다. 
즉, 인공지능은 사람 개발자를 대체한다.

인공지능 때문에 향후 3년 이내에 사람 개발자의 수가 줄어들 것인가?
이게 정확한 질문이다. 이렇게 물어야 제대로된 답변을 생각할 수 있다. 
질문에 답을 하자면 개발자들이 앞으로 3년 이내에 '
더 이상 개발 업무를 수행하지 못하게 되는 일은 일부 일어날 것이다. 
즉, 인공지능의 영향으로 사람 개발자의 수가 줄어들 것이다.
p203,205

5장은 코딩 이외의 지적노동이 어떻게 바뀔지 적어두고 있고, 6장은 다시금 AI로 변화된 미래를 그리고 있습니다.

책 전체적으로 저자님은 인류는 AI라는 호랑이 위에 올라탔다.고 이야기 하고 있습니다. 정신을 바짝 차리지 않으면 승자독식인 세상이 올 것이라는 것이죠. 세상이 어떻게 흘러갈지 좋은 세상이 올지는 사실 아무도 알 수 없습니다. 인간이 편하자고 만든 기술이 인간을 괴롭힌 역사는 너무도 많으니까요.

그래도 나름의 해결책을 저자님은 적어두셨습니다. 낙관적이지는 않아요.

해결책
------
해결책이 없는 건 아니다. 유일한 해결책이 있긴 하다.

우선 현재 인공지능을 연구하고 개발하는 지구상의 모든 나라가 
인류의 미래를 진정성 있게 걱정하는 합리적이고 민주적인 정부를 수립한다. 
그 다음 그런 정부가 한자리에 모여 국제적 협의체를 만든다.

관련 분야의 전문가들도 대거 참석해야 한다. 
그 자리에서 인공지능을 인류의 복지를 위해 안전하게 개발하는 방법을 논의한다. 
일종의 전지구적 차원의 슈퍼얼라인먼트다.
 
필요한 가이드를 만들어 인류 가 통제할 수 없는 기술을 제한하고, 
정책을 위반하는 국가나 회사는 처벌할 수 있는 실질적 방법을 강구한다. 
그런 과정을 통해 만들어진 인공지능 기술의 혜택은 국가와 회사와 사회 계층이 공평하게 나누어 갖도록 관리한다.

불행하게도 인류는 단 한 번도 이런 일을 한 적이 없다. 
일단 첫 번째 과제부터 난항이다. 
인공지능을 연구하는 모든 나라는 고사하고 
단 하나의 나라라도 진심으로 인류의 미래를 걱정하는 
합리적이고 민주적인 정부를 수립한 적이 있는지 모르겠다. 

생존 투쟁과 경쟁을 목표로 삼고 살아온 호모사피엔스의 
역사를 생각해보면 그런 정부가 가능할 것 같지 않다.

소감

2024년에 읽었던 개발관련 책 중에 가장 빠르게 그리고 재미있게 읽었습니다. AI가 그리는 미래가 그리 좋은 미래가 아닐 가능성이 높다고 이야기 하는 것을 보며, 정말 호랑이등에 올라타서 멈추지도 못하고 끌려다니는 삶이 될 수 있겠구나 라는 생각을 잠깐 하기도했습니다.

개인적으로는 이 책 덕분에 AI에 더욱 관심을 가질 수 있게 된 것 같습니다. 공부는 세상의 해상도를 높이는 행위이다. 라고 했던 분의 글귀가 생각납니다.

이 책을 통해서 AI세상을 바라보는 해상도가 높아졌음을 체감하고 있습니다. 과거와 현재와 미래의 AI세상을 바라보는 해상도를 높이고 모든 싶은 분에게 추천드립니다.