EU, 세계 첫 AI 규제법 도입

▲ EU, 세계 첫 AI 규제법 도입 ▲

▲ AI 산업에 대한 국가 차원의 첫 규제 법안 ▲

유럽연합(EU)이 12월 8일 인공지능(AI) 기술 이용을 규제하고, 규정을 위반하는 기업에는 벌금을 부과하는 내용을 핵심으로 한 「AI 규제법(The AI Act)」 제정에 잠정 합의했다. 이번 법안은 AI 기술을 둘러싼 글로벌 규제 논의가 활발하게 진행되는 가운데 나온 것으로, 앞서 미국은 지난 10월 말 AI 오남용으로 인한 부작용을 막기 위해 AI 행정명령에 서명한 바 있다. EU의 AI 규제법 세부사항은 향후 추가 논의를 통해 최종 결정되며, 유럽의회와 각국의 승인 절차가 필요해 이르면 오는 2026년쯤 전면 적용될 것으로 보인다.

주요 내용

EU는 이번 법안에서 AI 기술의 위험성을 시민의 권리, 민주주의 위협 등을 기준으로 4가지 등급으로 나눠 규제를 차등 적용하기로 했다. 위험도가 가장 높은 등급인 「용인할 수 없는(unacceptable) 위험」에는 안면인식기술을 선정하고 얼굴 이미지 대량 수집과 데이터베이스(DB) 구축 등을 금지했다. 다만 사법당국의 인신매매 피해자 수색, 테러 위협 예방, 살인·강간 등 범죄 용의자 추적 등을 위한 실시간 안면 인식은 허용하는 등 일부 예외 조항을 뒀다. 또 오픈AI 챗GPT, 구글 바드와 같은 대규모언어모델(LLM)을 기반으로 한 AI는 규제 대상이지만 국가 안보와 법 집행을 위한 광범위한 예외를 인정하기로 했다.

EU는 또 기업이 AI를 학습시키는 데 사용한 데이터를 문서로 명시하고, AI의 잠재적 위험을 완화하기 위한 조치를 취했다는 사실을 외부 연구진을 통해 감사받도록 의무화했다. 또 생성형 AI가 만든 이미지, 영상, 글에는 「AI가 만든 콘텐츠」라는 워터마크(식별표시)를 부착해야 한다. EU는 법을 위반하는 AI 기업에는 750~3500만 유로 또는 글로벌 매출의 1.5~7%를 벌금으로 부과하기로 했다.

-박문각 시사상식 2023 10~12-