바이든 美 대통령, 「AI의 안보·건강 위험, 정부에 보고」

▲ 바이든 美 대통령, 「AI의 안보·건강 위험, 정부에 보고」 ▲

▲ AI 규제 첫 행정명령 서명 ▲

조 바이든 미국 대통령이 10월 30일 인공지능(AI)의 질서 있는 개발과 기술에 따른 부작용을 막기 위한 행정명령에 서명했다. 이 행정명령은 머신러닝 등 AI 훈련부터 개발, 생산과 서비스까지 전 분야에 대한 규제를 담고 있는 것으로, AI에 대한 미 정부의 첫 번째 규제 조치다. 이는 ▷AI용 안전 및 보안 기준 마련 ▷개인정보 보호 ▷형평성과 시민권 증진 ▷소비자 보호 ▷노동자 지원 ▷혁신과 경쟁 촉진 ▷국제 파트너와의 협력 ▷연방정부의 사용과 조달을 위한 지침 개발 등 8개 부분으로 구성됐다.

AI 규제 행정명령 주요 내용

행정명령에는 기업들이 새로운 AI 모델을 개발할 때 상무부에 개발 의도와 훈련 계획, 사이버 보안 조치를 보고하도록 의무화하는 내용이 담겼다. 이에 따라 기업들은 AI 시스템을 출시하기 전 미 상무부 산하 국립표준기술연구소(NIST)의 안전성 평가를 의무적으로 거쳐야 한다. 행정명령은 이를 위해 NIST가 객관적인 안전성 표준을 마련하도록 했으며, 에너지부에는 핵무기·생화학·에너지 안보 분야 등에서 위협이 될 수 있는 AI 기술을 선별하는 수단을 개발하도록 했다. 미 정부는 또 허위 정보를 제공하거나 차별 발언을 하는 것과 같은 AI의 문제점을 찾아내는 공격조(레드팀)를 구성해 신규 AI 모델의 안전 점검을 맡길 계획이다. 아울러 허위정보 확산을 방지하기 위해 AI로 생성된 콘텐츠에 식별장치(워터마크)를 삽입하는 기준을 제정한다는 내용도 포함했다.

이와 함께 국가안보회의(NSC)에는 적국이 AI를 활용해 미국이나 동맹국에 위협을 초래할 가능성, 미국이 AI를 국가안보 강화를 위해 활용할 수 있는 방안 등을 담은 「AI 국가 안보 보고서」를 작성해 제출하도록 했다.

☼ 미 국무부가 11월 13일 한국과 프랑스·독일·이탈리아·일본·영국 등 45개국과 함께 AI와 자율성(Autonomy·인간의 직접적 개입에서 독립된 AI의 판단 및 작동 시스템)의 책임 있는 군사적 이용에 관한 정치적 선언 시행에 동참했다고 발표했다.

■ 딥페이크(Deepfakes)

인공지능(AI) 기술을 활용해 특정 인물의 얼굴, 신체 등을 원하는 영상에 합성한 편집물이다. 딥페이크는 온라인에 공개된 무료 소스코드와 머신러닝 알고리즘으로 손쉽게 제작이 가능하며 진위 여부를 가리기 어려울 만큼 정교하다. 여기에 피해자의 신고가 없으면 단속이 어렵고, 주로 트위터·텀블러 등의 SNS를 통해 제작을 의뢰하고 합성물을 받기 때문에 계정을 폐쇄할 경우 단속을 피할 수 있어 처벌이 어렵다는 문제가 있다.

-박문각 시사상식 2023 10~12-