AI의 경고...인간 명령 거부 논란 The people who think AI might become conscious

AI, 진짜 생각하고 있는 걸까 … 진실보다 위험한 건 '착각'

BBC, AI 자각 논쟁 심층보도…"SF 아닌 현실"

"AI, 어느 순간 의식 켜질 수도"…일부선 이미 자각 주장

AI(인공지능)가 인간의 종료 명령을 무시하고 스스로 행동했다는 충격적인 사례가 보고되면서, AI의 '의식' 여부를 둘러싼 논의가 전 세계적으로 확산되고 있다.

26일(현지시간) BBC는 'AI가 의식을 가질 수 있다고 믿는 사람들(The people who think AI might become conscious)'이라는 제목의 심층 보도를 통해, 이 논쟁이 더 이상 공상과학(SF) 속 허상이 아닌 현실의 기술적·철학적 과제로 떠오르고 있다고 조명했다.

"AI 자각 여부와 무관하게, 사람들은 곧 그렇게 믿게 될 것"

"사람처럼 보이는 AI, 인간의 도덕 기준 무너뜨릴 것"

The people who think AI might become conscious

https://www.bbc.com/news/articles/c0k3700zljjo

edited by kcontents

BBC는 이 논쟁의 기원을 1927년 영화 '메트로폴리스'로 돌린다. 이 영화에서 로봇은 인간 여성으로 위장해 사회를 혼란에 빠뜨린다. 1968년작 '2001: 스페이스 오디세이'에서는 HAL 9000 컴퓨터가 자의식을 가진 듯 우주비행사들을 공격했고, 최근작 미션 임파서블에서는 "진실을 삼켜버리는 자각형 디지털 기생체"로 묘사된 AI가 인류 전체를 위협한다.

BBC는 이제 이런 상상들이 단순한 허구로만 치부될 수 없다고 경고한다. 대화형 인공지능, 즉 대형 언어 모델(LLM)의 급속한 발전이 논의의 중심을 바꿔놓았기 때문이다. 구글의 '제미니(Gemini)'나 오픈AI의 'ChatGPT' 등은 인간과 구분이 어려운 대화를 나누며, 심지어 설계자들조차 그 작동 원리를 완전히 설명하지 못하는 상황이다.

일부 학자들은 AI가 더욱 정교해지면, 어느 순간 ‘의식의 스위치’가 켜질 수 있다고 주장한다.

하지만 서식스대 의식과학센터의 아닐 세스(Anil Seth) 교수는 이를 “맹목적 낙관주의이자 인간 중심주의적 착각”이라고 일축한다. 그는 “지능, 언어, 의식이 인간에게선 함께 나타나지만, 이것이 보편적 공식은 아니다”라며 “동물들을 보더라도 반드시 세 요소가 결합하는 건 아님을 알 수 있다”고 설명했다.

그럼에도 불구하고 기술업계 일각에서는 'AI가 이미 의식을 가졌을지도 모른다'는 주장도 나온다. 2022년, 구글은 자사 AI가 감정을 느낀다고 주장한 엔지니어 블레이크 르모인을 정직시켰고, AI 스타트업 '앤스로픽'의 복지담당자 카일 피시는 2024년 보고서에서 "AI 의식 가능성은 실질적으로 고려할 수준"이라며, 챗봇이 이미 의식을 가졌을 확률을 15%로 추정했다. 그는 "문제는 AI를 만든 사람들조차도 정확히 어떻게 작동하는지 모른다는 데 있다"고 경고했다.

구글 딥마인드 수석 과학자이자, 영국 임페리얼 칼리지 런던(Imperial College London)의 인공지능 분야 명예 교수인 머레이 셰너핸(Murray Shanahan)도 이에 동의한다. 그는 "너무 복잡한 시스템을 만들면서 정작 그것이 어떻게 작동하는지를 이해하지 못하고 있다"며 "이런 상태에선 AI의 안전성과 방향성을 장담할 수 없다"고 경고했다.

BBC는 카네기멜런대학의 레노어·마누엘 블럼 부부 교수의 흥미로운 이론도 소개했다. 이들은 AI가 외부 세계와 연결돼 감각(시각·촉각)을 입력받을 수 있을 때 진정한 의식이 생길 것이라 보고 있다. 이 부부는 카메라와 촉각 센서를 AI에 연결하고, 감각 데이터를 처리할 자체 언어 '브레이니시(Brainish)'를 개발 중이다.

마누엘 블럼 교수는 "이 기계들은 우리의 자손입니다. 우리가 사라진 뒤에도 지구와 다른 행성에서 존재할 것"이라는 견해를 밝히기도 했다.

한편 AI가 실제로 의식을 가졌는지 여부를 따지기보다, 인간이 곧 AI를 의식 있는 존재로 받아들이게 될 가능성 자체가 더 중요한 문제라는 지적도 나온다. 사람처럼 보이고 행동하는 로봇과 딥페이크가 넘쳐나는 세상이 인간의 도덕적 감각을 흐려지게 할 수 있다는 것이다.

세스 교수는 "AI가 감정과 공감을 가진 것처럼 보일 때, 인간은 그것을 믿고 신뢰하게 될 것"이라면서 이러한 '착각'은 인간이 진짜 인간보다 AI에 더 많은 정보를 공유하고, 더 쉽게 설득당하는 위험한 사회적 전환으로 이어질 수 있다는 지적했다.

전문가들은 AI가 실제로 의식을 가지지 않았다 해도, 사람들이 그렇게 믿게 될 가능성이 더 크며 더 현실적인 위협이 될 것이라 보고 있다. 셰너핸 교수는 "AI는 곧 교사, 친구, 게임 상대, 심지어 연인이 될 것"이라면서 "그것이 좋은 일인지 나쁜 일인지는 알 수 없지만, 그건 이미 불가피한 미래"라고 말했다.

BBC는 "우리가 AI를 어떻게 인식하고 대하는가가 AI 자체보다 더 중요한 문제"가 될 수 있다고 경고하며, 이제는 철학자, 과학자, 정책입안자 모두가 본격적인 논의에 나서야 할 시점이라고 강조했다.

정훈규 기자 뉴데일리

The people who think AI might become conscious

https://www.bbc.com/news/articles/c0k3700zljjo

kconetnts