2030년 인공 초지능(ASI)이 인류 지배하는 세상

어떤 천재보다 10,000배 현명한 지적 레벨. 그것이 바로 인공 초지능(ASI, Artificial Super Intelligence)입니다.

 

인공 초지능의 위험을 예언한 레오폴드 아센브레너. 전 오픈AI 연구자 - 사진 레오폴드 아센브레너 공식 X 계정

 

AI(인공지능)의 본고장 미국에서는 “ASI가 인류 역사상에서 가장 강력한 기술이며, 핵무기를 뛰어 넘는 가장 강력한 무기가 될 것” “ASI를 가진 세력이 없는 자를 완전히 지배하게 될 것”이라고 주장하는 문서들이 나오고 있습니다.

 

이런 주장을 펼치는 사람은 ChatGPT를 개발한 오픈AI의 전 연구자인 레오폴드 아셴브레너가 대표적입니다. 그는 AI 전문가가 아니면 읽을 수 없는 데이터나 오픈AI의 내부 정보를 근거로 "ASI는 높은 확률로 세계 전쟁의 방아쇠가 될 것“ ”그 위기는 2030년 경 현실이 된다"고 주장하고 있습니다.

 

 

ASI란 무엇인가?

 

그렇다면 ASI는 ChatGPT와 같은 기존 AI와 어떻게 다른가? ChatGPT는 어떤 단어 다음에 오는 단어를 예측하는 수준의 간단한 프로그램입니다. GPU 등의 연산 장치를 대량으로 사용해, 이 프로그램을 고속으로 실행하면 어느 시점을 경계로 지성을 갖춘 존재처럼 말하기 시작합니다. 그것이 ChatGPT의 기본 메카니즘입니다.

 

GPU를 늘려 컴퓨터 성능을 높일수록 ChatGPT의 성능은 올라가고, 어떤 분야의 질문에도 답할 수 있게 되어 인간과 구분할 수 없는 지성을 갖추게 됩니다. 이러한 AI를 '범용 인공지능(AGI = Artificial General Intelligence=AGI)'라고 부릅니다. 오픈AI뿐만 아니라 구글이나 메타 등 거대 IT 기업이 AGI의 완성을 목표로 투자와 연구를 진행하고 있습니다.

 

문제는 그 이후입니다. 인간과 AI의 가장 큰 차이점은 "스스로 자신을 학습시켜 개선할 수 있는지 여부“입니다. 인간은 모두가 자력으로 학습해 지성을 높이고 성장해 갑니다.

 

현재 AI에는 그것을 할 수 없지만, 만약 향후 인간과 같은 수준의 지성에 도달하게 되면, “스스로 자신을 재작성해 보다 현명해지는 것”이 가능해집니다. 그 단계에 이른 AI야말로 인공 초지능(ASI)으로 불립니다.

 

 

인류 마지막 발명

 

인간의 학습 속도에는 한계가 있습니다. 아무리 머리가 좋은 사람이라도 일반인보다 100배의 속도로 문자를 읽을 수 없고, 생각할 수도 없습니다. 그런데 AI에는 그런 제약이 없습니다. 방대한 수의 GPU를 동시에 구동시켜, 빛의 속도로 생각할 수 있습니다.

 

일각에서는 ASI가 불과 몇 분만 에 하나님의 지성을 획득해 인류가 컨트롤할 수 없게 될 수 있다고 말하는 경우도 있습니다. 영국 수학자 I·J·굿(Good)은 1960년대에 “첫 ASI가 인류의 마지막 발명품이 될 것"이라고 예언했습니다.