로봇 몸 안에 주입되는 ChatGPT의 뇌...윤리적 문제 대두 VIDEO: Putting ChatGPT Brains Inside Robot Bodies. What Could Possibly Go Wrong?



과학자들은 ChatGPT의 뇌를 로봇 몸 안에 넣고 있습니다. 무엇이 잘못될 수 있을까요?

로봇에게 인공지능 두뇌를 제공하려는 노력은 현실적인 큰 도전과 더 큰 윤리적 문제를 드러내고 있습니다

상하이에서 뉴욕에 이르기까지 전 세계의 식당에서 로봇들이 식사를 요리하고 있습니다. 그들은 지난 50년 동안 로봇들이 다른 것들을 만들었던 것과 거의 같은 방식으로 버거와 도사, 피자와 볶음요리를 만듭니다. 지시를 정확하게 따르고, 같은 방식으로, 같은 방식으로, 계속해서 같은 단계를 반복함으로써 말입니다.

하지만 이시카 싱은 저녁식사를 할 수 있는 로봇을 만들기를 원합니다. 이 로봇은 부엌으로 들어가 냉장고와 캐비닛을 휙휙 지나며 맛있는 요리 한두 개가 될 재료들을 꺼내어 식탁을 차릴 수 있는 로봇입니다. 아이가 할 수 있는 것은 매우 쉬운 일입니다. 하지만 어떤 로봇도 할 수 없습니다. 로봇이 프로그래밍을 하는 것은 하나의 부엌에 대해 너무 많은 지식과 너무 많은 상식과 유연성과 지략이 필요합니다.

서던캘리포니아대학교 컴퓨터공학과 박사과정 학생인 싱은 로봇공학자들이 고전적인 계획 파이프라인을 사용한다는 것이 문제라고 말합니다. "그들은 공식적으로 모든 행동과 그 전제조건을 정의하고 그 효과를 예측합니다"라고 그녀는 말합니다. "그것은 환경에서 가능하거나 불가능한 모든 것을 명시합니다." 많은 시행착오와 수천 줄의 코드 끝에도 불구하고, 그러한 노력은 로봇의 프로그램이 예측하지 못한 것에 부딪혔을 때 대처할 수 없는 로봇을 만들어 낼 것입니다.

저녁 식사를 다루는 로봇이 자신의 "정책"(지시를 이행하기 위해 따를 행동 계획)을 수립할 때, 로봇은 자신이 요리하는 특정한 문화(이 근처에 "매운" 이라는 것은 무엇을 의미하나요?)뿐만 아니라, 그 로봇이 요리하는 특정한 부엌(높은 선반에 숨겨진 밥솥이 있나요?)과 그 특정한 밤에(헬터는 운동으로 인해 더 배가 고플 것입니다). 또한 로봇은 놀람과 사고에 대처할 수 있을 만큼 충분히 유연해야 합니다(제가 버터를 떨어뜨렸어요! 무엇으로 대체할 수 있을까요.

싱의 박사과정 연구를 감독하고 있는 U.S.C.의 컴퓨터 공학 교수인 제시 토마슨은 바로 이 시나리오가 "달이 쏜 목표였다"고 말합니다. 로봇에게 인간의 어떤 일도 할 수 있게 되면 산업이 변화하고 일상 생활이 더 쉬워질 것입니다.

로봇 창고 직원, 로봇 개, 로봇 간호사 및 물론 로봇 자동차에 대한 인상적인 모든 비디오에도 불구하고, 이 기계들 중 어떤 것도 인간의 유연성과 대처 능력에 가까운 것으로 작동하지 않습니다. "고전 로봇 공학은 여러분이 로봇에게 세계 지도를 가르쳐야 하기 때문에 매우 취약하지만, 세상은 항상 변화하고 있습니다"라고 조경 로봇이 날씨, 지형 및 소유자 선호도의 끊임없는 변화에 대처해야 하는 회사인 일렉트릭 쉽의 CEO인 Naganand Murty는 말합니다. 현재 대부분의 작업 로봇은 전임자들이 한 세대 전에 했던 것과 마찬가지로 일을 합니다: 엄격하게 제한된 대본을 따르도록 하는 엄격하게 제한된 환경에서 같은 일을 반복적으로 수행합니다.

LLM이 빠르게 진화함에 따라 그러한 잘못된 행동에 대한 경계가 따라잡을 수 있는지는 분명하지 않습니다. 일부 연구원들은 현재 언어뿐만 아니라 이미지, 소리 및 심지어 실행 계획을 생성하는 "멀티모달" 모델을 개발하려고 노력하고 있습니다.

하지만 아직 우리가 걱정할 필요가 없는 한 가지는 LLM으로 구동되는 로봇의 위험입니다. 기계들에게, 사람들에 관해 말하자면, 미세한 소리를 내는 단어들은 쉽지만, 실제로 일들을 처리하는 것은 훨씬 더 어렵습니다. 구글의 하우스만은 "병목은 서랍을 열고 물건들을 옮기는 것과 같은 단순한 것들의 수준에 있습니다"라고 말합니다. "이것들은 또한 최소한 지금까지 언어가 극도로 도움이 되지 않았던 기술들입니다."

현재로서는 LLM이 제기하는 가장 큰 도전은 로봇의 몸이 아니라 인간이 잘 하고 병에 걸린다는 것을 신비한 방법으로 따라하는 방식일 것입니다. 텔렉스는 LLM은 "인터넷의 일종의 제스탈트"라고 말합니다. 그래서 인터넷의 모든 좋은 부분은 어딘가에 있습니다. 그리고 인터넷의 모든 최악의 부분도 어딘가에 있습니다." LLM이 만든 피싱 이메일과 스팸 또는 LLM이 만든 가짜 뉴스와 비교했을 때, 그녀는 "이러한 모델 중 하나를 로봇에 넣는 것은 아마도 여러분이 로봇으로 할 수 있는 가장 안전한 것들 중 하나일 것입니다."라고 말합니다

Scientists Are Putting ChatGPT Brains Inside Robot Bodies. What Could Possibly Go Wrong?

https://www.scientificamerican.com/article/scientists-are-putting-chatgpt-brains-inside-robot-bodies-what-could-possibly-go-wrong