멀게만 느꼈던 AGI 시대, 축복일까 재앙일까 ; The Coming Wave

22년말 오픈AI의 챗GPT 소개 후 AI전문가가 아닌 일반인들은 AI가 얼마나 빠르게 똑똑해지고 있는지, 인간을 대체하고 있는지를 지켜보고만 있다. 인공지능에 대한 우리의 이해속도는 인공지능의 발전속도를 따라가지 못하고 이를 어떻게 활용해야할지 우왕좌왕하면서 AI 도래로 인한 장점과 위협을 떠들어대는 각종 콘텐츠에 압도당하고 있을 뿐이다.

 

나조차도 chatGPT3.0,  코파일럿을 업무에 사용하고 있지만 지극히 단순한 수준이고 그 외에는 미드저니 같은 이미지 생성 AI를 그저 재미로 몇번 이용했을 뿐이다. 막연하게나마 이런 업무에 접목하면 좋겠다라는 아이디어는 있지만 그걸 어떻게 해야하는지, 누구와 상의해야하는지도 잘 모르겠다.

 

한편으로는 나날이 똑똑해지는 AI를 보면서 나의 일은 어떻게 변해갈지, 더 나아가 내가 할 수 있는 일이 있을지 막연한 불안감에 휩싸이다가도, 누군가 AI는 도구일 뿐이고 이를 사용하는 건 결국 인간이라는 말에 안심을 하곤한다.

그런데, 이번 독서모임에서 읽은  '더 커밍 웨이브' 라는 책을 통해 AI가 어디까지 왔고, 어디까지 발전할 수 있는지 그리고 이것이 어떻게 악용될 수 있는지를 굉장히 자세히 알게 되었고, 나의 고민이 얼마나 지협적이고 사소했는지 알게 되었다.

 

AI라는 기술은 이미 생겨났고 창발성, 자율성이라는 기술의 특성에 맞게 현재까지는 별다른 제약없이 미친 속도로 발전해가고 있다. 특히나 AI의 범용성은 여러 분야에 영향을 미치고 있고, 이로 인한 인센티브가 엄청나기에 제한하는게 매우 어렵다는 것, 아마 거의 불가능할 것이라는 것도 알게 되었다.

 

출처 : 교보문고

 

기술낙관주의인 나도 이 책을 읽고나니 여러 SF영화의 디스토피아적 상황 - AI가 인간을 지배하는 - 이 연상되면서 그게 결코 허무맹랑한 이야기가 아니라는 것에 마음이 무거워졌다.

그럼에도 불구하고 인간은 방법을 찾겠지...라는 나의 생각은 비관회피주의 함정에 빠진거거나 또는 근거없는 낙관주의 였다.

그런데 책에 쓰여진 내용들을 읽고나니 더이상 그렇게 생각할 수 없게 되었다.

이미 AI 기술은 누구나 마음 먹으면 치명적인 무기가 될 수도 있고, 우리의 시스템을 파괴할 수도 있다. 

 

저자는 AI 기술 발전을 제한할 수 있는 10가지 단계를 제시하지만 방법이 아니라 단계라고 표현했듯이 각 단계가 모두 잘 이행되었을 때 억제가 가능성이 높아질 뿐이다. 

지구 온난화에 대해 몇십년전부터 위기라고 말했지만 대부분 크게 공감하지 못하고 적절한 조치를 취하지 못하다가 최근 몇년간 전세계적인 이상기후가 나타난 뒤에야 위기를 느끼듯이 우리는 직접 체감하지 전에는 위험보다는 이득에 더 관심이 갈 수 밖에 없다.

그럼에도 AI와 같은 기술은 한번 발전하면 되돌리기 어렵기에 우리 모두가 AI의 위험에 대해 잘 인지하고 공감하는 것이 필요하다.

 

내 일을 잃지 않기 위해서 AI가 몰고올 파도를 탈 생각만 했지 위험에 대해서는 별로 고민하지 않았는데 자칫하다가는 직업 뿐 아니라 인류라는 종 자체가 AI의 지배를 받게 될지도 모른다.

정규 교육과정에서도 이런 내용들이 공유되어 AI의 잘못된 방향의 발전을 억제하는 연구들 공부하는 학생들도 많아지면 좋겠다는 생각이 들었다.

 

기술 낙관주의인 나의 뒤통수를 세게 친 책이다. 아마 이 책은 기술 낙관주의읜 나의  알고리즘에는 전혀 노출되지 않았을 것이다.

다시한번 다양한 시각의 콘텐츠를 봐야한다는 것을 깨달았다.