Anthropic whistleblower says Congress should let AI companies police themselves until a regulatory body is established
인공지능 업계 내부고발자는 규제 기관이 설립될 때까지 의회가 인공지능 기업들이 자체적으로 규제하도록 해야 한다고 주장했습니다.
앤트로픽 연구원,
자체적 규제 허용해야
전 인류과학 AI 연구원이었던 제이콥 콕슨은 일요일, 의회가 AI 개발 속도를 늦추기 위한 장기적인 규제 체계를 마련하는 동안 미국의 주요 AI 연구소들이 자체적으로 규제할 수 있도록 허용해야 한다고 촉구했습니다.
"제 개인적인 의견으로는 현 연구소들이 스스로 규제하도록 해야 한다고 주장하고 허용해야 합니다. 연구소 운영진, 특히 최근 그들의 입장을 보면 그들은 진심으로 속도를 늦추고 싶어하는 것 같습니다."라고 콕슨은 NBC 뉴스 '밋 더 프레스'에서 말했습니다.
그는 인공지능이 인간의 통제 범위를 넘어서기 시작할 경우를 대비한 국가적 "킬 스위치" 프레임워크를 포함하여 현재 의회에 제출된 법안들이 곧 시대에 뒤떨어지게 될 것이라고 덧붙였습니다.
콕슨은 "킬 스위치는 현재로서는 많은 AI에 적용될 수 있을 것"이라며, "하지만 상당히 많은 스위치가 필요하다는 점을 기억해야 한다. 우리 데이터 센터는 규모가 상당히 크기 때문에 쉬운 일은 아니지만, 물리적으로 한 곳에 한정된다면 충분히 실현 가능하다"고 말했습니다.
그는 킬 스위치가 작동하지 않는 한 가지 시나리오를 이번 주에 앤트로픽 AI의 CEO인 다리오 아모데이가 설명했다고 덧붙였습니다.
인류학 연구소(Anthropic Institute)의 CEO 다리오 아모데이는 위험한 기술 개발 위험을 줄이기 위해 미국 연구소들이 연구 개발 속도를 늦춰야 한다고 촉구했다. (Jason Henry / Bloomberg via Getty Images 파일)
그는 인공지능을 규제하는 모든 국가 법률은 신속하고 새로운 모델에 적응할 수 있어야 한다고 덧붙였습니다.
"우리가 만들어내는 모든 새로운 사고방식이 적절하게, 일종의 제약을 받도록 끊임없이 노력하는 것입니다."라고 전직 AI 연구원은 말했습니다.
콕슨은 지난주 앤트로픽, 오픈AI, 구글 딥마인드 등 영국 주요 AI 연구소들의 AI 개발 속도에 대한 우려를 불러일으켰다.
그는 앤트로픽의 연구원 직에서 사임한 지 몇 시간 뒤인 화요일에 X 포럼 에 다음과 같은 글을 올렸습니다. "저는 지난 3년 동안 오픈AI와 앤트로픽에서 사전 학습 연구를 수행했습니다. 두 회사 모두 책임감 있게 행동하지 않고 있습니다. 그들은 스스로 발전하는 초지능을 향해 질주하며 우리의 삶을 위험에 빠뜨리고 있습니다."
이후 게시물 에서 콕슨은 다음과 같이 덧붙였습니다. "인공지능을 개발하는 사람들은 인공지능이 10년 안에 우리 모두를 죽일 수 있다고 진심으로 믿습니다. 이것은 마케팅 전략이 아닙니다. 오히려 많은 경영진과 선임 연구원들은 언론에서는 그럴듯하게 들리도록 표현을 다듬겠지만, 저는 그들이 사적으로는 두려움을 표출하는 것을 듣습니다. 다른 어떤 인간 활동도 이 정도의 위험을 내포하지 않습니다."
일요일에 콕슨은 인공지능 모델 구축을 "외계인의 정신을 지구로 초대하는 것"에 비유했습니다.
"인간 수준 또는 초인적인 수준의 정신을 만들면서도 그것이 무엇을 원하고 생각하는지, 어떻게 생각하는지 이해하지 못하는 것은 본질적으로 매우 두려운 일이라고 생각합니다."라고 콕슨은 덧붙였습니다.
콕슨이 X에 대한 자신의 생각을 게시한 다음 날, 미국의 AI 연구소 소속 연구원 여러 명이 콕슨의 분석에 동의했습니다. 그중에는 앤트로픽의 정렬 과학자인 에반 허빙어도 있었는데, 그는 X에 대한 게시글에서 "제이콥의 말이 맞습니다. 우리는 AI가 모든 인류를 멸망시킬 수 있다고 진심으로 믿습니다! 개인적으로는 향후 10년 안에 10% 이상이 멸망할 것이라고 생각합니다. 앤트로픽은 최선을 다하고 있지만, 초지능에 대한 정렬 문제를 해결할 계획은 아직 없으며, 그 방향으로 나아가고 있다고도 확신할 수 없습니다."라고 썼습니다.
지난주 콕슨의 게시물로 인해 초당파적인 의원 그룹은 의회에 생성형 인공지능 산업에 대한 규제를 신속히 시작할 것을 촉구했습니다.
플로리다주 공화당 소속 애나 폴리나 루나 하원의원은 수요일 X지에 기고한 글에서 인공지능(AI)에 대한 특별 회의 소집을 촉구하며 "AI는 우리가 알고 있는 사회에 매우 현실적인 영향을 미치고 있습니다. 당파적인 정치를 떠나서, 초지능을 향한 경쟁은 엄청난 파급 효과를 가져올 것입니다."라고 썼습니다.
안나 파울리나 루나. (데이비드 디 델가도 / 게티 이미지 파일)
플로리다주 공화당 소속 애나 폴리나 루나 하원의원은 인공지능(AI)에 대한 규제를 강화하기 위해 초당적 지지를 촉구하고 있다. (데이비드 디 델가도/게티 이미지 파일)
코네티컷주 민주당 소속 크리스 머피 상원의원은 수요일 콕슨의 게시글에 직접적으로 다음과 같이 답글을 달았습니다 . "인공지능 기업들이 누가 먼저 살상 기계를 만들지 맹목적으로 경쟁하는 문제는 쉽게 해결할 수 있습니다. 연구는 계속되되, 우리를 파멸시키지 않는 방식으로 진행될 수 있도록 규제 시스템을 구축하면 됩니다."
금요일, 악시오스는 하원 의원들이 마이크 존슨 하원의장에게 인공지능 보호 조치 관련 법안을 통과시키기 위해 예정보다 일찍 하원을 소집할 것을 촉구하는 서한을 돌리고 있다고 보도했습니다 .
존슨은 일요일 "밋 더 프레스"와의 별도 인터뷰에서 인공지능 규제는 "매우 중요한 문제"라고 말하면서도 "서두를 수 있는 문제는 아니다"라고 덧붙였습니다.
그는 "인공지능이 통제 불능 상태가 되지 않도록 몇 가지 안전장치와 안전장치를 마련해야 한다"며, "하지만 동시에 중국과의 글로벌 경쟁에서 우위를 잃지 않도록 해야 한다. 그렇지 않으면 국가 안보에 위협이 될 수 있기 때문이다. 따라서 우리는 이 두 가지를 적절히 균형 있게 유지해야 한다"고 덧붙였습니다.
존슨은 또한 미국의 주요 AI CEO들이 AI 개발 속도를 늦춰야 한다고 주장했지만, 어떻게 늦출 것인지에 대해서는 아직 구체적인 방안을 제시하지 않았다고 말했습니다.
"그들 자신도 오늘날까지 답을 알지 못합니다. 따라서 서둘러 의회가 국가 안보에 해가 될 만한 일을 처리할 수는 없습니다."라고 하원의장은 말하며, "플랫폼 제공업체들을 모두 한자리에 소집하여 함께 이 문제를 해결하겠다"고 덧붙였습니다.
도널드 트럼프 대통령은 아일랜드에서 기자들에게 인공지능(AI) 개발에 대한 우려를 일축하며 "우리는 AI 분야에서 중국을 앞서고 있다. 우리는 세계에서 가장 앞선 AI 기술을 보유한 국가이며, 솔직히 말해서 나는 이 상태를 유지하고 싶다. 왜냐하면 AI에서 승리하는 자가 승리하는 것이기 때문이다."라고 말했습니다.
"우리는 안전장치를 마련하고 이런저런 조치를 취할 수 있지만, 괜히 문제를 제기해서는 안 되는 부정적인 세력들이 그런 문제를 꺼내고 있고, 일어나지도 않을 일들을 이야기하고 있습니다."라고 대통령은 덧붙였습니다.
"11111111" "단일" 일련번호 희귀 지폐의 가치 Find a banknote with a ‘solid’ serial number? It’s probably worth so much more
https://conpaper.blogspot.com/2026/09/11111111-find-banknote-with-solid.html
댓글 없음:
댓글 쓰기