미국 캘리포니아주, 인공지능 기술 규제 법안 'SB 11' 도입
미국 캘리포니아주는 인공지능(AI)과 합성 콘텐츠의 책임 있는 사용을 촉진하고, 기술 남용으로 인한 법적 문제를 방지하기 위해 인공지능 기술 법안(SB 11)을 발의했습니다. 이 법안은 AI 기술의 상업적 활용, 증거 인정 절차, 소비자 경고, 그리고 범죄적 사용에 대한 명확한 규제를 담고 있습니다.
법안 주요 내용
1. 합성 콘텐츠에 대한 정의 및 책임 강화
- 합성 콘텐츠란 AI를 활용해 생성되거나 크게 수정된 텍스트, 음성, 비디오, 이미지 등을 포함하며, "딥페이크" 콘텐츠를 포괄합니다.
- 합성 콘텐츠가 개인의 목소리나 외모를 재현해 다른 사람을 사칭한 경우, 이를 거짓 사칭으로 간주하여 기존 법률에 따라 처벌합니다.
2. 소비자 보호
- AI 기술을 판매하거나 제공하는 모든 업체는 2026년 12월 1일까지 기술 남용 시 발생 가능한 민형사상 책임에 대한 소비자 경고문을 명시해야 합니다.
- 캘리포니아 소비자 보호국은 소비자 경고문의 형태와 내용을 정하고, 2026년 7월 1일까지 이를 공공 웹사이트에 게시할 예정입니다.
- 경고문을 제공하지 않는 경우 하루 최대 2만 5천 달러의 민사 벌금이 부과됩니다.
3. 법적 증거로서의 AI 콘텐츠 규제
- 법원 증거 인정 절차에서 AI로 생성되거나 조작된 콘텐츠가 제출될 경우, 이를 판별하고 관리하기 위한 법원 규칙을 2027년 1월 1일까지 마련합니다.
- 이를 통해 법원은 합성 콘텐츠의 신뢰성을 평가하고, 부적절한 증거 제출을 방지할 수 있습니다.
4. 사생활 및 초상권 보호
- 개인의 목소리, 이미지, 또는 초상이 합성 콘텐츠로 무단 사용될 경우, 이를 실제 사용된 것으로 간주하여 사생활 침해 및 초상권 보호법을 적용합니다.
- 이에 따라 피해자는 민사 손해배상 청구와 변호사 비용 청구가 가능합니다.
5. 형사적 처벌 및 규정
- 합성 콘텐츠를 범죄적으로 사용하거나 의도적으로 사칭하는 경우, 기존 형법 조항에 따라 형사 처벌 대상이 됩니다.
- 사칭 의도는 "합성 콘텐츠가 실제로 믿을 만한 수준인지"에 따라 추론될 수 있습니다.
법안의 목표와 의의
- 이 법안은 AI 기술의 급속한 발전에 따라 발생할 수 있는 사회적, 법적 문제를 예방하고, 소비자와 일반 대중을 보호하는 것을 목적으로 합니다.
- 특히 딥페이크와 같은 기술 남용을 방지하고, AI 콘텐츠 사용과 관련된 책임을 명확히 규정하여 신뢰할 수 있는 기술 환경을 조성합니다.
SB 11은 AI 기술을 활용하는 기업과 개인에게 명확한 가이드라인을 제공하며, 기술 혁신과 법적 보호 간 균형을 유지하는 데 중요한 법적 기반이 될 것으로 기대됩니다.