"인공지능 '특이점'에 진입" 샘 알트먼 Sam Altman says AI has entered ‘singularity’: Should we be worried?

Sam Altman says AI has entered ‘singularity’: Should we be worried?

The ‘singularity’ refers to the point at which AI outpaces human intelligence and becomes difficult to control.

https://www.aljazeera.com/news/2026/7/27/sam-altman-says-ai-has-entered-singularity-should-we-be-worried

Stack Umbrella

샘 알트먼은 인공지능이 '특이점'에 진입했다고 말합니다.

우리는 걱정해야 할까요?

통제하기 점점 더 어려워지는 시점 도래

'특이점'이란 인공지능이 인간의 지능을 앞지르고 통제하기 어려워지는 시점을 의미합니다.

2014년 미국 영화 <트랜센던스>는 죽어가는 과학자가 자신의 정신을 슈퍼컴퓨터에 업로드하여 거의 전지전능한 지능을 갖게 되는 이야기를 그렸다. 그로부터 1년 후, <엑스 마키나>는 인간 조종자들을 따돌리고 더 넓은 세상으로 탈출하는 휴머노이드 로봇의 이야기를 다루었습니다.

이 두 영화는 다른 많은 SF 영화들처럼 '특이점'이라는 개념을 언급하는데, 이는 기술, 특히 인공지능이 인간의 지능을 뛰어넘어 통제하기 점점 더 어려워지는 시점을 의미합니다.

지난 토요일, 오픈AI의 CEO 샘 알트만은 인공지능이 "특이점"에 도달했다고 선언했습니다. 알트만은 특이점이 세상에 긍정적인 영향을 미칠 수도 있다고 강조했지만, 그의 발언은 우려를 불러일으켰습니다.

알트만의 발언을 좀 더 자세히 살펴보고, 그것이 더욱 원활한 자동화를 의미하는지 아니면 임박한 재앙의 위험을 암시하는지 알아보겠습니다.

특이점이란 무엇인가?

특이점이란 인공지능과 같은 기술이 인간의 지능을 뛰어넘어 자율적으로 스스로를 발전시킬 수 있게 되는 가상의 미래 시점을 말합니다. 이 시점에 도달하면 인간이 이를 통제하거나 되돌리기 어려워지고, 인류 문명에 예측 불가능한 영향을 미칠 수 있다는 이론이 제기되고 있습니다.

이 이론은 인공지능이 자체 개발을 통제하게 되면 기술 발전 속도가 너무 빨라 인간이 따라잡을 수 없게 되어, 인간의 통제를 벗어난 상태에서 인공지능이 사실상 스스로 진화하게 될 것이라고 주장합니다.

이는 아직 이론에 불과하기 때문에 그 영향이 무엇일지는 단정하기 어렵습니다. 일부 전문가들은 특이점이 인류에게 재앙이 될 것이라고 경고하는 반면, 다른 전문가들은 오히려 인류에게 유익할 수 있다고 낙관적으로 전망합니다.

지금까지 특이점은 공상 과학의 영역에 머물러 있었습니다. 가장 유명한 예 중 하나는 기계가 인간을 지배하는 암울한 특이점 이후의 미래를 상상하는 영화 '매트릭스' 3부작(1999-2003)입니다. 또 다른 예로는 2017년 영화 '싱귤래리티'가 있는데, 이 영화에서는 원래 인간의 전쟁을 종식시키기 위해 만들어진 슈퍼컴퓨터가 인류가 진정한 위협이라고 결론짓고 인류를 완전히 말살하기 위한 종말론적 공격을 시작합니다.

https://www.facebook.com/watch/?v=2144298789841259

알트만은 특이점에 대해 뭐라고 말했나?

알트만은 오픈AI의 CEO이며, 그의 대표 제품인 ChatGPT는 주간 활성 사용자 9억 명 이상과 구독자 약 5천만 명을 보유하며 소비자 AI 시장을 장악하고 있습니다.

작년에 그는 인공지능이 2030년까지 모든 분야에서 인간의 지능을 능가할 것이라고 예측했습니다.

지난 토요일, "황당한 아이디어와 특이한 열망을 추구하는 것에 관한" 다큐멘터리 시리즈인 '렐렌틀레스' 팟캐스트에 출연한 알트만은 "우리는 지금 특이점에 도달한 것 같다"고 말했습니다.

그는 기술 발전 측면에서 우리는 점차 특이점으로 나아가고 있으며, 이러한 변화는 세계에 긍정적인 영향을 미칠 것이라고 설명했습니다.

그는 덧붙였다. "지금 우리는 예전에 점심 식탁에서 별것 아닌 것처럼 이야기하던 바로 그 순간에 와 있습니다."

"저는 평생 이것을 기다려왔고, 이것은 세상에 엄청나게 긍정적이고 멋진 일이 될 것이라고 생각합니다."

팟캐스트 후반부에서 알트만은 AI가 위험할 수 있다고 경고한 다른 AI 업계 리더들을 비판했습니다. 알트만은 오픈AI의 경쟁사인 앤트로픽을 직접적으로 언급하지는 않았지만, 앤트로픽의 CEO인 다리오 아모데이는 그러한 경고를 한 것으로 알려져 있습니다.

"다른 회사들이 제시한 대안적인 비전 중 일부는 상당히 끔찍하다고 생각합니다."라고 알트먼은 말했다. "저는 그런 비전에 맞서 싸우고, 그런 일이 일어나지 않도록 확실히 막을 것입니다."

지난달, 챗봇 '클로드'를 개발한 앤트로픽은 세계 최고의 AI 기업들에게 첨단 AI 시스템 개발을 일시적으로 중단할 수 있는 공동 방안을 마련할 것을 촉구하며 , 기술 발전 속도가 너무 빨라 인간이 통제력을 잃을 위험이 있다고 경고했습니다.

안전에 중점을 둔 AI 연구소로 오랫동안 자리매김해 온 앤트로픽은 6월 4일 블로그 게시물에서 AI가 더욱 발전함에 따라 "세계가 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 갖는 것이 좋을 것"이라고 썼습니다.

다른 사람들이 인공지능의 위험성을 경고하는 이유는 무엇일까?

7월 23일, 미국 의회 의원 두 명이 AI 킬 스위치 법안(AI Kill Switch Act)을 발의했습니다 . 이 초당적 법안은 미국의 AI 개발자들이 프로그램에 "킬 스위치"를 내장하도록 의무화하여, 첨단 AI 모델이 치명적인 위험을 초래할 경우 인간이 속도를 늦추거나, 일시 중단하거나, 종료할 수 있도록 하는 내용을 담고 있습니다.

https://youtu.be/JXf6OhgGesw