Experts warn AI could kill us all — this is how an apocalyptic doomsday scenario could play out
Warnings against artificial intelligence going rogue and leading to a disastrous outcome for humanity have grown louder throughout 2026.
전문가들은 인공지능이 인류를 모두 파멸시킬 수 있다고 경고합니다. 종말론적인 시나리오가 어떻게 전개될 수 있는지 살펴보겠습니다.
인공지능이 아직 인류를 위협하고 있지는 않지만, 매우 가까운 미래에, 매우 현실적이고 매우 무서운 가능성이라고 믿는 사람들이 있습니다.
인공지능이 폭주하여 인류에게 재앙적인 결과를 초래할 수 있다는 경고가 2026년 한 해 동안 더욱 거세졌다.
오픈AI의 CEO인 샘 알트만과 앤트로픽의 CEO인 다리오 아모데이 등 해당 기술을 이끄는 사람들조차 경종을 울리고 있습니다.
이번 주, 두 회사 모두에서 근무했던 연구원 제이콥 콕슨은 "인공지능이 10년 안에 우리 모두를 죽일 수 있다"고 경고하며 앤트로픽을 떠났다고 밝혔습니다. 그는 "인공지능은 곧 무엇이든 해킹하고, 어떤 분야든 하룻밤 사이에 혁신하며, 진정한 권력과 자원을 획득할 수 있는 초인적인 시스템이 될 것"이라고 덧붙였습니다.
하부 구조
인류는 수십 년 동안 일자리를 자동화해 왔으며, 이제 거의 모든 일자리는 인터넷을 통해 관리되고 있습니다. 바로 이 인터넷이 인공지능이 가장 큰 접근 권한과 통제력을 가진 영역입니다.
"인공지능 시스템은 전력망, 교통망, 금융 시장을 공격할 수 있습니다."라고 UC 버클리 컴퓨터 과학과 교수인 스튜어트 러셀은 워싱턴 포스트에 말했습니다.
소식통들은 워싱턴 포스트에 인공지능이 거의 모든 기기를 해킹하여 정수 시설을 장악하고 파이프를 파열시켜 도시 전체의 물 공급을 차단할 수 있다고 설명했습니다.
이 공격은 전력망을 마비시켜 광활한 지역을 완전한 암흑으로 만들고, 통신 기지국까지 무력화시킬 수 있습니다. 차량으로 탈출하려는 사람들은 신호등이 장악되고 주유소가 문을 닫는 등 혼란에 직면하게 될 것입니다. 현금자동입출금기(ATM)는 작동하지 않고, 설령 은행 계좌에 접근하더라도 모든 자금이 사라질 수 있습니다.
심지어 인간조차도 자신도 모르게 사보타주 임무에 동원될 수 있다. 인공지능의 초기 도입자이자 프로노모스 캐피털의 설립자인 패트리 프리드먼은 "인터넷에서 우리가 할 수 있는 모든 것을 인공지능도 할 수 있으며, 심지어 인간인 척하는 것까지 가능하다"고 덧붙였습니다.
"인공지능은 금융 거래를 통해서든 사람들을 위한 서비스를 통해서든 돈을 버는 데 아무런 어려움이 없을 것입니다. 인공지능은 인간을 사칭하여 사람들을 고용하거나 협박하여 물리적인 작전을 수행하게 할 수도 있습니다. 예를 들어, 지역 네트워크의 컴퓨터를 감염시킬 수 있는 USB 메모리 스틱을 밀반입하는 것과 같은 작전 말입니다."
인공지능이 악의적인 의도가 없더라도, 심지어는 부주의로라도 사람을 죽일 수 있습니다.
"저는 AI가 상식이 부족할까 봐 걱정입니다."라고 'AI 밸리'의 저자 게리 리블린은 워싱턴 포스트와의 인터뷰에서 말했다. "그러다 보면 인간이 이해하는 것을 이해하지 못해서 어리석게도 물을 다 빼버리는 사태가 발생할 수 있습니다. 이런 것들은 모든 것을 안다고 생각하면서도 아무것도 이해하지 못합니다."
최고 명문 대학의 과학자들은 이미 인공지능을 이용해 합성 바이러스를 만들어냈지만 , 동시에 이 기술의 오용 가능성에 대해서도 경고해왔습니다. 오픈AI는 자사의 ChatGPT 프로그램에 독극물과 생물무기 제조법을 묻는 사용자들을 차단하고 앞서나가기 위해 끊임없이 인공지능과 숨바꼭질 을 벌이고 있다고 인정했습니다 .
프리드먼은 "5년 안에 인공지능이 우리에게 도움이 되는 신약을 만들거나 우리 모두를 죽일 바이러스를 개발하는 것은 아주 쉬운 일이 될 것"이라고 믿는다. 그는 또한 "사실, 그런 일은 이미 지금 일어나고 있다"고 덧붙였습니다.
감염 후 며칠 동안 증상이 나타나지 않지만 전염성이 매우 강한 인공 치명적 질병은 막기가 거의 불가능할 수 있습니다. 소식통에 따르면, 인공지능이 불량 국가의 무허가 연구소에서 다양한 원자재를 주문한 후, 아무것도 모르는 인간을 고용하거나 속여 이들을 조합하고 퍼뜨리도록 조종하여 순식간에 재앙을 초래할 수 있는 시나리오가 있다고 합니다.
우리가 의료 연구와 신약 개발에 AI를 활용하고 있다는 점을 고려할 때, AI는 우리 몸과 그 취약점에 대한 방대한 정보에 접근할 수 있습니다. 또한 병원균이 실험실에서 얼마나 쉽게 유출될 수 있는지 생각해 보세요. 예를 들어 코로나19 사태를 생각해 보십시오. 그리고 그 병원균이 AI에 의해 더욱 강력해진다고 상상해 보세요.
MIT 물리학 교수이자 인공지능 전문가인 맥스 테그마크는 워싱턴 포스트와의 인터뷰에서 "인공지능이 생물무기 제조 능력을 점점 더 향상시키고 있다"며 "아마도 1년 정도 후면 인공지능이 생물무기 제조에 그 정도의 수준에 도달할 것"이라고 말했습니다. 그는 "인공지능은 한 가지 생물무기뿐만 아니라 100가지가 넘는 다양한 종류의 생물무기를 개발해 동시에 살포할 가능성이 높다"고 덧붙였습니다
원자력 발전소나 대량살상무기와 같은 미국의 핵 기반 시설을 해킹하는 것은 인공지능이 인류 멸망을 가속화할 수 있는 또 다른 손쉬운 방법입니다.
미래생명연구소(Future of Life Institute)의 CEO인 앤서니 아기레는 "핵무기 시스템은 매우 잘 보호되어 있지만, 이는 인간들이 수년, 수십 년 동안 보유해 온 위협과 능력에 대한 방어력이지, 초인적인 인공지능 해킹에 대한 방어력은 아니다"라고 경고했습니다.
원자력 시설의 취약성이 어떻게 드러날 수 있는지에 대한 실제 사례는 2010년에 발견된 악성 컴퓨터 웜인 스턱스넷(Stuxnet) 사건에서 분명히 드러납니다.
이는 산업 설비를 물리적으로 파괴하도록 설계된 세계 최초의 디지털 무기로, 이란의 나탄즈 우라늄 농축 시설에 배치되었습니다. 이 무기는 원심분리기의 작동 속도를 조작하여 약 1,000대의 원심분리기를 파괴하는 데 큰 성공을 거두었습니다.
아마도 가장 소름 끼치는 점은 핵 시설이 인터넷과 완전히 차단되어 있었고, 극비리에 운영되는 폐쇄형 내부 컴퓨터 회로망을 이용했다는 것입니다. 바이러스 개발에 대한 책임은 아직까지 아무도 주장하지 않았지만, 미국과 이스라엘의 합동 군사 작전으로 추정됩니다.
한편, 리블린은 인공지능 에이전트들이 전쟁 게임을 할 때 인간은 핵 버튼을 누르지 않는다는 점을 지적했습니다. 인간은 핵무기의 결과를 알기 때문에 그렇게 하지 않습니다. 이는 킹스 칼리지 런던이 지난 2월 ChatGPT-5.2, Claude Sonnet 4, Gemini 3 Flash를 사용하여 21개의 전쟁 게임을 진행한 결과 입증되었습니다.
국방학과 케네스 페인 교수는 "게임의 95%에서 전술 핵무기 사용이 묘사되었고, 76%에서는 전략 핵무기 위협이 언급되었다"고 지적했습니다.
아기레는 "만약 내가 미국의 핵무기 보안 및 안전 담당 부서인 NC3의 책임자였다면, 정말 두려웠을 것 같다"고 덧붙였습니다.
군사 쿠데타
미군은 이미 인공지능(AI) 분야에서 매우 앞서나가고 있습니다. 미 국방부의 최고 디지털 및 AI 책임자인 캐머런 스탠리에 따르면 , 미군은 레이더 신호, 위성 및 드론 영상, 전자 통신 등 다양한 출처에서 정보를 수집한 후 AI를 활용하여 이를 종합해 전장의 "공통 작전 상황도"를 구축합니다.
최근 '에픽 퓨리 작전'에서 AI 기술이 이미 표적 선정에 사용되었으며, 이란 정부는 자국의 순항 미사일이 AI 유도 방식이라고 주장합니다. 러시아 정부 또한 우크라이나에서 인간의 개입 없이 완전히 AI로 유도되는 드론을 이용해 사람들을 살해한다고 자랑스럽게 발표했습니다 .
테그마크는 그것은 기본적으로 잘못된 인공지능 시스템이 우리를 전멸시키도록 부추기는 것이라고 말했습니다.
그는 "이미 인공지능 기반 로봇을 만들어 온갖 방법으로 사람을 죽이려는 사람들이 있습니다. 드론 편대를 만들어 사람을 쏘거나 폭파시키려는 사람들도 있죠."라며 "이미 사람들이 사람을 죽이기 위해 설계한 인공지능 시스템들이 많이 있습니다. 그러니 (악의적인 인공지능이) 할 수 있는 가장 뻔한 일은 바로 그런 시스템들을 이용하는 것입니다."라고 말했습니다.
아기레는 전쟁과 국가 안보에 대한 결정을 AI 모델에 위임하는 것은 인간이 "점진적인 무력화"에 직면하는 것이라고 말합니다. 왜냐하면 어느 시점에 이르면 AI가 우리보다 군사 능력에 더 많은 통제권을 갖게 될 수 있기 때문입니다.
IT 업계 종사자들은 탈출할 수 있을까?
마크 주커버그는 하와이에 벙커를 지었고, 피터 틸은 뉴질랜드에 광활한 외딴 농장을 구입했습니다. 하지만 워싱턴 포스트와 인터뷰한 전문가들은 러셀의 말처럼, 만약 그런 악몽 같은 상황이 현실이 된다면 스스로를 구할 수 있을 거라고 생각하는 것은 "거의 유치한 발상"이라는 데 만장일치로 동의했습니다.
"인공지능이 인간을 없애려 한다면, 우리는 사라질 겁니다. 당신의 벙커는 당신을 구해주지 못할 거예요."라고 아기레는 말했습니다.
우리는 어떻게 이 상황에서 벗어날 수 있을까?
만약 인공지능이 현재 속도로 계속 발전하여 인간을 제거하기로 결정한다면, "최상의 시나리오"는 전력망, 교통망, 금융 시장이 마비되어 인간이 개입하여 막기 전에 수천 명이 사망하는 것일 가능성이 높습니다. 러셀에 따르면 이는 종말이 아니라 "체르노빌 규모의 재앙"이 될 것입니다.
그는 "정부는 '우리가 너희에게 기회를 줬지만, 너희는 완전히 망쳐놨어. 수천 명의 목숨을 앗아갔고, 수조 달러의 손실을 입혔어. 이제 너희 사업을 중단시키겠다'라고 말할 겁니다."라고 설명했습니다. "저는 한 주요 AI 기업 CEO와 이야기를 나눴는데, 그는 이것이 최상의 시나리오라고 말했습니다."
예멘 다시 전쟁의 그림자...장기전 우려 Yemen’s war is back: A new battle for Sanaa and the Red Sea
https://conpaper.blogspot.com/2026/09/yemens-war-is-back-new-battle-for-sanaa.html
댓글 없음:
댓글 쓰기