AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC
An artificial intelligence researcher who quit AI firm Anthropic has said people working on the technology were "genuinely frightened" about the speed of its advancements and what it could mean for humanity.
AI 직원들이 인류의 미래를
'진심으로 두려워한다'고 전 인류학 연구원이 BBC에 전했다
인공지능 기업 앤스로픽을 떠난 한 인공지능 연구원은 해당 기술 분야에 종사하는 사람들이 기술 발전 속도와 그것이 인류에게 미칠 영향에 대해 "진심으로 두려워했다"고 말했다.
"만약 우리가 현재의 발전 속도를 늦추지 않는다면, 머지않아 우리 모두가 죽을 가능성이 매우 높다고 생각합니다."라고 그는 말했다.
제이콥 콕슨은 인공지능의 위험성에 대한 자신의 사임 글이 업계의 안전 문제에 대한 우려가 커지는 가운데 온라인에서 큰 반향을 일으킨 후 BBC와 인터뷰를 했다.
27세인 그의 전 상사인 앤트로픽 CEO 다리오 아모데이는 최근 인공지능 개발 속도를 늦춰야 한다고 주장했지만, 일각에서는 그 동기에 의문을 제기하고 있다.
경쟁 관계에 있는 두 AI 기업의 CEO인 오픈AI의 샘 알트만과 xAI의 일론 머스크는 모두 아모데이가 제안한 업계 전반의 개발 속도 늦추기 및 규제, 그리고 AI 모델 개발에 대한 독립적인 감시 방안 에 동의한다고 밝혔다 .
아모데이는 토요일에 발표한 에세이에서 해당 기술 개발 자체는 의심의 여지가 없지만, 그와 관련된 위험은 "심각"하며 기업과 정부가 이러한 위험을 해결할 시간을 가져야 한다고 썼다.
앤스로픽에 합류하기 전 오픈AI에서 근무했던 콕슨은 개발 속도 둔화 제안을 환영했지만, "국제적인 경쟁"을 피하기 위해서는 중국과의 조율이 필요하다고 말했다.
"이 회사 직원들이 규제를 요구하는 것은 그들이 경쟁에 갇혀 있다는 것을 느끼기 때문이며, 그 경쟁의 결과가 두렵기 때문입니다."라고 그는 일요일 로라 쿠엔스버그와의 인터뷰에서 말했다.
콕슨에 따르면 가장 답하기 어려운 질문은 인공지능으로 인한 종말이 어떤 모습일 것인가 하는 것이었다.
아모데이의 발언에서 언급된 위험 중 하나는 수많은 봇들이 슈퍼컴퓨터처럼 작동하여 인터넷을 장악할 수 있다는 것이었다.
콕슨은 이러한 시나리오가 6개월에서 1년 안에 현실화될 수 있다고 말했다.
콕슨의 사임에 대해 앤트로픽 대변인은 BBC 뉴스에 "우리는 인공지능이 엄청난 이점과 전례 없는 위험을 동시에 가져올 것이라는 점을 항상 투명하게 밝혀왔다"고 말했다.
"이러한 위험에 대응하기 위해 우리는 업계에서 가장 강력한 안전장치를 갖춘 모델을 지속적으로 개발하고 있습니다."
회사 대변인은 "이 회사는 AI 모델 작동 방식 연구의 선구자 역할을 해왔다"며, "AI 모델 개발로 인한 위험을 완화하기 위한 프레임워크를 최초로 발표했고, 모델을 적극적으로 테스트하고 그 결과를 공개하여 AI 오작동 사례를 예방하고 검증을 돕고 있다"고 덧붙였다.
https://www.lemonde.fr/en/pixels/article/2026/09/11/ai-incidents-and-anthropic-researcher-s-resignation-push-aipocalypse-debate-to-new-heights_6757415_13.html?srsltid=AU7gw4W1vxx1OYDkYTHai2XhvkBJosjFXK6kk9WfxNKcEMjaXNUVKYTU
"이러한 연구 결과는 업계가 강력한 모델을 출시하는 속도를 조절하기 위해 합법적이고 검증 가능한 방식으로 협력하는 것이 세계에 도움이 될 것이라고 믿는 이유이기도 합니다."라고 그들은 말했다.
콕슨은 동료들이 그러한 위험이 향후 2년 안에 닥칠 수도 있다고 우려하고 있다고 말했다.
그는 AI 기업 직원들이 "앞으로 어떻게 살아갈지 계획하고 자신의 일이 미칠 영향에 대해 고민하고 있다"며, 일부는 "AI의 급속한 발전으로 인한 불안정성에 대한 두려움 때문에 어딘가에 땅을 사두는 것까지 고려하고 있다"고 말했다.
"그들은 모두 기술 개발에 몰두하는 동안 매일 이 점을 명심하고 있습니다."
하지만 콕슨은 AI의 미래에 대해 어느 정도 낙관적인 전망을 내놓으며 BBC와의 인터뷰에서 해당 기술을 연구하는 사람들이 "질병을 해결하고 모든 사람의 삶을 개선하는 것"과 같은 긍정적인 측면을 진심으로 기대하고 있다고 말했다.
콕슨의 소셜 미디어 게시물 이후, 인류학 과학자 에반 후빙거를 비롯한 업계의 많은 사람들이 우려를 표명했다 .
"우리는 인공지능이 인류를 전멸시킬 수 있다고 진심으로 믿습니다! 개인적으로는 향후 10년 안에 그 비율이 10%를 넘을 것이라고 생각합니다."라고 휴빙거는 말했다.
'인공지능의 대부'로 알려진 컴퓨터 과학자이자 노벨상 수상자인 제프리 힌튼은 금요일 BBC와의 인터뷰에서 인공지능이 인류를 전멸시킬 확률이 10%라는 것은 "불합리한 수치가 아니다"라고 말했다 .
한편, AI 안전 회사인 패컬티의 최고경영자 마크 워너는 BBC의 '더 월드 디스 위켄드' 프로그램에서 AI가 모든 인류를 죽일 확률을 "극히 예측하기는 어렵다"고 말했다.
"하지만 이 사람들이 하는 말이 매우 진심이라는 점을 인식하는 것이 중요합니다."라고 그는 덧붙이며, 여러 AI 기업의 대표들이 수년 동안 AI를 둘러싼 위험성을 제기해 왔다고 지적했다.
앤트로픽의 유급 고문인 리시 수낙 전 총리는 선데이 타임스에 기고한 글에서 전반적으로 낙관적이지만 인공지능이 인류에게 미칠 위험성에 대해서도 우려를 표명했다.
하지만 업계 일각에서는 해당 발언들이 과장되었거나, 과장된 관심을 불러일으키기 위해 의도적으로 나온 것일 수 있다고 지적했다.
AI 플랫폼 '허깅 페이스'의 최고경영자 클레멘트 델랑그는 소셜 미디어에 "죄송하지만, 제이콥 콕슨에게 AI 멸종 위험에 대해 묻는 것은 에어컨 기사에게 기후 변화에 대해 묻는 것과 같습니다. 꼭 흥미롭지 않거나 틀린 질문이라는 뜻은 아니지만, 균형 잡힌 시각을 유지하는 것이 중요합니다."라고 말했다.
하지만 아모데이의 에세이가 발표된 후, 델랑그는 앤트로픽 CEO가 제안한 잠재적 해결책에 참여하여 돕겠다고 제안했다.
Grindr의 최고경영자 조지 아리슨은 BBC와의 인터뷰에서 비슷한 견해를 밝히며, 앤트로픽사를 비롯한 여러 기관의 발언이 투자자들의 지지를 얻기 위한 것이라고 시사했다.
미-중, 워싱턴 정상회담 후 300억 달러 규모 상품 관세 인하 합의 US, China strike deal to lower tariffs on $30B in goods after Trump-Xi Washington summit
댓글 없음:
댓글 쓰기