South Korea Passes World’s First AI Laws: Visionary or Foolish?
South Korea’s AI Basic Act can be looked at as both a bold first step in AI governance and also a move that could stifle AI development, writes Satyen K. Bordoloi
In a hugely polarised world that we live in, if there is one thing about which there is near-perfect agreement, it is that everyone, besides the tech-bros of the world, wants AI to be regulated. Yet every attempt to do so has failed. Until now. Because, recently South Korea became the first country to pass a comprehensive law to regulate AI.
https://www.sify.com/ai-analytics/south-korea-passes-worlds-first-ai-laws-visionary-or-foolish
극도로 양극화된 세상에서 거의 모든 사람이 동의하는 한 가지가 있다면, 그것은 바로 IT 업계의 일부 엘리트층을 제외한 모든 사람들이 인공지능(AI) 규제를 원한다는 점입니다. 하지만 지금까지 모든 규제 시도는 실패했습니다. 그러나 이제는 상황이 달라졌습니다. 최근 한국이 세계 최초로 AI를 포괄적으로 규제하는 법을 제정했기 때문입니다.
1월 22일, 한국에서 ‘인공지능 개발 및 신뢰 구축에 관한 기본법’( 일명 ‘인공지능 기본법’) 이 발효되었습니다 . 서울은 이 법을 세계 최초의 포괄적인 인공지능 법적 틀 이라고 부릅니다 . 이 법률 제정은 단순한 국내 정책 변화를 넘어, 주요 기술 경제국인 한국이 세계적인 규범과 법률에 영향을 미치고 인공지능의 미래를 선도하려는 전략적 행보로도 해석될 수 있습니다.
이러한 결정적인 움직임은 한국이 미국, 중국과 함께 'AI G3'에 진입하고, 글로벌 표준을 설정하는 데 있어 선도적인 이점을 확보하려는 의도로 해석될 수 있다. 이는 유럽연합(EU)과 같은 선진 경제국들이 단계적으로 AI 관련 법안을 도입하고, 미국이 새로운 정부 형태 하에서 입법 교착 상태에 빠져 있는 상황에서 더욱 의미가 있다.
혁신적이면서도 신뢰할 수 있는 법률 지향
인공지능 기본법은 두 가지 목적을 위해 마련되었습니다. 첫째, 기술 발전을 가속화하는 것이고, 둘째, 필수적인 안전장치를 마련하는 것입니다. 이 법은 단순히 제한적인 규제에만 초점을 맞추는 것이 아니라, 19개의 개별 인공지능 관련 법안을 하나의 틀로 통합하여 스타트업 지원, 인재 확보, 연구 자금 지원 등을 통해 인공지능 발전을 적극적으로 장려하는 일관된 접근 방식을 제시합니다.
한국의 인공지능 기본법은 혁신을 촉진하는 것과 안전장치를 마련하는 것 사이에서 균형을 잡으려는 시도입니다.
그럼에도 불구하고, 이 법은 사회에 큰 영향을 미칠 수 있는 인공지능 시스템을 규제하려는 시도도 담고 있습니다. 법은 이러한 시스템을 오작동 시 생명, 재산 또는 기본권을 침해할 수 있는 인공지능, 또는 학습에 막대한 연산 능력(특히 10²⁶개 이상의 부동 소수점 연산)이 필요한 시스템으로 정의합니다. 이러한 시스템은 일반적으로 의료, 고용, 금융, 에너지 인프라, 정부 서비스 등 11개 고위험 분야에서 발견됩니다.
이 법은 영향력이 큰 AI 시스템을 운영하는 사람들에게 안전과 책임을 보장하기 위한 다양한 의무를 규정하고 있습니다. 이러한 의무에는 사람들의 권리에 미칠 수 있는 잠재적 영향을 사전에 평가하고, 중요한 의사 결정 과정에 의미 있는 인간의 참여를 보장하며, 영향력이 큰 AI와 상호 작용하거나 AI가 내린 결정의 영향을 받는 사람들에게 이를 알리고, 딥페이크와 허위 정보에 대응하기 위해 이미지, 비디오, 오디오를 포함한 AI 생성 콘텐츠에 명확한 라벨을 붙이고, AI 생성 결과에 대한 설명을 요청할 권리를 사람들에게 부여하는 것 등이 포함됩니다.
한국의 해당 법률은 인공지능 오류가 생명, 재산 또는 기본권을 침해할 수 있는 11개 고위험 분야를 대상으로 합니다.
주요 비판점 및 실행상의 우려 사항
미래지향적인 성격에도 불구하고, 인공지능 기본법은 특히 한국의 기술 업계와 스타트업들 사이에서 불안감을 불러일으키고 있습니다. 가장 흔한 비판은 법이 모호하고 구체성이 부족하다는 점입니다. '고위험 인공지능'과 같은 중요한 개념들이 명확하게 정의되지 않아 기업들이 자사 제품이 법에서 요구하는 가장 엄격한 요건을 충족해야 하는지 판단하는 데 어려움을 겪고 있습니다.
현지 보도에 따르면, 이러한 모호한 지침으로 인해 많은 현지 AI 스타트업들이 아직 공식적인 규정 준수 절차를 시작하지 못한 것으로 나타났습니다. 또한 일부 스타트업들은 이러한 불확실성 때문에 제품 출시 및 업데이트를 연기하고 있다고 밝혔습니다.
영향력이 큰 AI 시스템을 운영하는 기업은 포괄적인 규정 준수 의무를 이행해야 합니다.
이 법에 대한 가장 큰 우려 중 하나는 준수 비용과 복잡성이 자원이 부족한 중소기업과 스타트업에 특히 큰 부담이 될 것이라는 점입니다. 비판론자들은 이로 인해 기업들이 위험 회피적인 태도를 보이고 혁신의 핵심인 AI 시스템을 실험하고 신속하게 개선하는 데 주저하게 되는 "위축 효과"가 발생할 수 있다고 주장합니다.
다음으로 한국의 디지털 환경을 살펴보면, 과학기술정보통신부(MSIT), 개인정보보호위원회(PIPC), 공정거래위원회(KFTC) 등 여러 경쟁 기관이 주도하고 있습니다. 이들 기관은 역사적으로 협력적인 모습과 모순적인 모습을 모두 보여왔습니다. 인공지능 기본법은 과학기술정보통신부를 주관 기관으로 지정했지만, 공정거래위원회와 같은 다른 기관들은 이미 인공지능 분야의 경쟁 정책을 발표했고, 개인정보보호위원회는 데이터 보호 위반 여부를 사전에 감시하는 역할을 맡고 있습니다. 이는 이중적인 관할권으로 인해 서로 상충되는 규정이 생겨나면서 기업의 규제 준수 비용이 증가하고 혼란이 가중될 수 있음을 의미합니다. 특히 스타트업이 가장 큰 타격을 입을 가능성이 높습니다. 기관 간의 긴밀한 협력이 이루어지지 않으면 과도한 규제 집행으로 이어져 첨단 인공지능 산업의 혁신을 저해하는 '족쇄 효과'를 초래할 수 있습니다.
'고성과 AI'와 같은 핵심 개념에 대한 모호한 정의로 인해 한국 스타트업들은 혼란스러워하며 조심스러운 태도를 보이고 있다.
이 법에는 사전 검토를 하지 않거나 사용자에게 알리지 않는 등의 위반 행위에 대해 최대 3천만 원(약 2만 800달러)의 행정 과태료를 부과하는 조항도 포함되어 있습니다. 정부는 원활한 전환을 위해 1년간의 유예 기간을 두었으며, 이 기간 동안에는 과태료 부과를 유예합니다. 이는 환영할 만한 조치입니다. 그러나 시민단체들은 실질적인 독립적 감독이나 처벌이 부재한 상황에서 이 법의 윤리적 목표가 공허한 수사에 그칠 수 있다는 우려를 계속해서 제기하고 있습니다.
한국의 규제 체계가 국제 무대에서 차지하는 위치
우려와 비판에도 불구하고, 이러한 접근 방식은 AI 거버넌스가 파편화되고 빠르게 진화하는 현 상황에서 두드러진다. EU는 위험 수준에 따라 엄격한 단계별 규제를 적용하는 예방적이고 권리 기반적인 접근 방식을 취하고 있다. 미국의 법률은 콜로라도와 캘리포니아 주를 중심으로 분야별로 나뉘어 있으며, 행정 명령이 혼란을 가중시키기도 하지만, 대체로 규제가 미흡하고 분산되어 있다. 반면 중국은 주권과 안정을 목표로 하는 행정 규제에 집중하고 있으며, 이는 AI 기업에 더 강력한 콘텐츠 통제권을 요구한다는 것을 의미한다.
이는 한국이 인공지능의 촉진자이면서 동시에 규제자 역할을 동시에 수행하려는 독특한 접근 방식을 취하고 있음을 보여줍니다. 전 세계적으로 고용, 금융, 의료 등 중요 분야에서 인공지능 규제에 대한 공통적인 기대, 즉 위험 평가, 감독 및 투명성에 대한 요구가 뚜렷하게 수렴되고 있습니다. 한국의 법률은 이러한 추세에 부합하면서도 경제 경쟁력과 윤리적 안전장치를 우선시하는 국가적 관점에서 이를 실행하고 있습니다.
소규모 스타트업들은 규제 준수 비용이 과도하게 부담스러워 신속한 반복 개발과 실험을 저해할 수 있다고
한국의 인공지능 기본법은 글로벌 인공지능 거버넌스에 있어 획기적인 성과이며, 인공지능 시대의 리더십은 단순히 기술을 습득하는 것을 넘어 규칙을 정립하는 데서 비롯된다는 점을 깊이 이해하고 있음을 보여줍니다. 한국은 이러한 선구적인 조치를 통해 규제 실험의 장으로 자리매김하고, 나아가 자국의 거버넌스 모델을 해외로 수출하고자 합니다.
궁극적으로 인공지능 기본법은 인공지능과 관련 기업들을 규제하기 위한 기나긴 싸움의 첫 포문에 불과합니다. 진정한 시험대는 법안 제정 속도가 아니라, 얼마나 적응력이 뛰어나고 정부가 얼마나 신속하게 대응하는가에 달려 있습니다. 이 법이 효과를 발휘하려면 한국 규제 당국은 법을 신속하게 개선하여 규제와 신뢰 분위기를 조성함으로써 법에도 불구하고 인공지능 혁신이 일어날 수 있도록 해야 합니다. 만약 그렇게 된다면, 그것이야말로 진정한 성공일 것입니다. 규제가 인공지능 혁신의 걸림돌이 아니라 오히려 필수 조건일 수 있음을 입증하는 것이기 때문입니다.
https://www.sify.com/ai-analytics/south-korea-passes-worlds-first-ai-laws-visionary-or-foolish
댓글 없음:
댓글 쓰기