인간의 통제없는 미 국방부 'AI 킬러 로봇'에 대한 우려 Fears Pentagon was 'building killer robots in the basement'...

국방부, 고위 관리들에게 AI 무기 검토 요구

AI 로봇은 정보, 감시 및 정찰 데이터 수집하는 데 사용

  미 국방부가 '지하에 킬러 로봇을 건설한다'고 한 것이 모든 시스템을 배치하기 전에 승인을 받아야 한다는 AI 규칙을 더 엄격하게 만든 것 아니냐는 우려가 나오고 있다.

국방부(DoD)는 최근 전장에서 스스로 결정하는 기계를 어떻게 사용할 계획인지에 대한 '많은 혼란' 가운데 AI 규칙을 업데이트했다고 국방부 차관보가 말했다.

마이클 호로위츠는 이번 달에 열린 한 행사에서 이 지시가 '어떤 시스템의 개발도 금지하지 않는다'고 설명했지만, 치명적인 자율 시스템을 개발하면서 '무엇이 무엇이고 무엇이 허용되지 않는지 명확히 하고' '책임 있는 행동에 대한 약속'을 지킬 것이라고 말했다.

미 국방부는 이러한 변화가 국민들의 마음을 편안하게 해줄 것이라고 믿고 있지만, 일부는 이러한 노력에 대해 '확신'되지 않는다고 말했다.

2012년 미 국방부의 '무기체계의 자율성'에 대한 업데이트 소식은 온라인 상에서 많은 사람들이 '미 국방부가 안 한다고 하면, 그들은 하고 있다'고 말하면서 논쟁을 촉발시켰다

Dailymail.com 은 위원회에 의견을 요청했다.

국방부는 인간의 개입 없이 목표물을 선택하고 공격하는 자율 드론, 탱크 및 기타 무기로 무기 현대화를 적극적으로 추진해 왔다.

옹호 단체인 Future of Life Institute (FLI)의 Mark Brakel 소장은 DailyMail.com 에서 '이 무기들은 의도하지 않은 확대의 거대한 위험을 가지고 있습니다.'라고 말했다

그는 AI로 작동하는 무기가 햇빛과 같은 것을 잘못 해석해 위협으로 인식해 이유 없이 외세를 공격할 수 있다고 설명했다.

브라켈은 '의미 있는 인간의 통제가 없다면, 인공지능으로 작동하는 무기들은 스테로이드에 대한 노르웨이의 로켓 사건과 같고, 대만 해협과 같은 핫스팟에서 사고의 위험을 높일 수 있기 때문에 그 결과는 파괴적일 수 있다고 말했다.'

Fears Pentagon was 'building killer robots in the basement' sparked stricter AI rules, DoD official claims

https://www.dailymail.co.uk/sciencetech/article-12996995/Pentagon-building-killer-robots-stricter-AI-rules.html