전세계가 우려하는 초지능 AI 개발...“더 나가면 통제 못해” AI heavyweights call for end to ‘superintelligence’ research

AI heavyweights call for end to ‘superintelligence’ research

I have worked in AI for more than three decades, including with pioneers such as John McCarthy, who coined the term “artificial intelligence” in 1955.

In the past few years, scientific breakthroughs have produced AI tools that promise unprecedented advances in medicine, science, business and education.

At the same time, leading AI companies have the stated goal to create superintelligence: not merely smarter tools, but AI systems that significantly outperform all humans on essentially all cognitive tasks.

https://theconversation.com/ai-heavyweights-call-for-end-to-superintelligence-research-267961

초지능 AI 개발, “더 나가면 통제 못합니다”

노벨상 수상자와 기술 거물, 전직 미국 고위 관리, 영국 왕실 인사들이 현존하는 인공지능(AI)보다 뛰어난 ‘초지능(superintelligence)’ 개발을 중단하라고 촉구했다. 인간의 모든 인지 능력을 넘어서는 AI의 등장이 통제 불능의 위험을 초래할 수 있다는 경고다.

22일(현지시간) 공개된 공동성명에는 리처드 브랜슨 버진그룹 창업자, 스티브 워즈니악 애플 공동창업자, 오슈아 벤지오 캐나다 몬트리올대 교수를 비롯해 작년 노벨 물리학상 공동 수상자인 제프리 힌턴 캐나다 토론토대 석좌교수 등 AI ‘대부’로 불리는 과학자들이 다수 이름을 올렸다. 이들은 “초지능은 인간의 경제적 역할과 자유, 존엄, 통제권을 잃게 할 뿐 아니라 국가안보와 인류 생존 자체를 위협할 수 있다”라며 “안전하게 설계, 통제할 수 있다는 과학적 합의와 사회적 지지가 형성되기 전까지 개발을 금지해야 한다”라고 주장했다.

이번 성명은 기술계뿐 아니라 정치, 종교, 언론계 인사 등 폭넓은 연대 속에 발표됐다. 전 합참의장 마이클 멀린, 수전 라이스 전 백악관 안보보좌관, 전 트럼프 보좌관 스티브 배넌, 방송인 글렌 벡, 해리 왕자 부부, 메건 마클 공작부인, 메리 로빈슨 전 아일랜드 대통령 등이 서명자 명단에 포함됐다. 서명자는 빠르게 늘어나면서 현지시간 22일 오후 9시 3200명을 넘어섰다.

오픈AI와 메타, xAI 등 기업들이 개발하고 있는 초지능은 모든 영역에서 인간을 뛰어넘는 지능을 가진 AI를 의미한다. 메타는 초지능 구축을 위해 지난해 150억 달러를 투입해 ‘초지능랩’을 신설했고 오픈AI는 최신 AI 모델인 GPT-5를 출시하면서 범용AI(AGI)를 향한 연구를 가속화하고 있다.

벤지오 교수는 성명에서 “몇 년 안에 AI가 대부분의 인지 영역에서 인간을 능가할 수 있다”라며 “이를 안전하게 발전시키려면 인간을 해치지 않는 구조를 과학적으로 증명해야 한다”라고 말했다. 그는 이어 “이 기술이 인류의 미래를 결정할 문제인 만큼 시민들이 더 강하게 목소리를 내야 한다”라고 덧붙였다.

한편 초지능 개발을 중단하라는 목소리가 터져 나온 날, 메타는 빠른 초지능 개발을 위해 AI 부문 인력 600명을 감원하는 조직개편을 시행했다. 알렉산더 왕 메타 최고 AI 책임자는 이날 직원들에게 보낸 내부 메모를 통해 “결정 과정의 속도를 높이고 각 인력이 더 큰 책임과 영향력을 갖도록 하기 위한 감축”이라고 밝혔다. 메타는 올해 초부터 AI 전략을 대대적으로 손질해왔다. 스타트업 스케일AI에 143억 달러를 투자했고 초지능 개발 전담 조직을 신설했다.

https://www.mk.co.kr/news/it/11449933