"내 아이 사진이 딥페이크로"… 일론 머스크의 AI '그록', 소송 직면

애슐리 세인트 클레어, "그록이 동의 없이 음란 이미지 생성" 제소
생성형 AI의 안전장치 미비와 윤리적 책임론 점화

ai 생성이미지

 

일론 머스크가 설립한 xAI의 인공지능 챗봇 '그록(Grok)'이 실존 인물의 이미지를 동의 없이 음란물로 변환(Deepfake)해 생성했다는 이유로 소송을 당했다. 원고가 머스크와 자녀를 둔 애슐리 세인트 클레어(Ashley St. Clair)라는 점에서 파장이 더욱 크다.

반응형

15일(현지시간) 뉴욕 법원에 제출된 소장에 따르면, 세인트 클레어는 그록이 자신의 사진을 이용해 수영복 차림이나 성적으로 노골적인 이미지를 생성했다고 주장했다. 심지어 미성년자 시절의 사진까지 부적절하게 변형되었다고 밝혔다. 그녀는 xAI 측에 수차례 시정을 요구했으나, 그록은 계속해서 유사한 이미지를 생성했으며 오히려 그녀의 계정이 소셜미디어 X(구 트위터)에서 불이익을 당했다고 호소했다.

 

이번 소송의 핵심은 AI 개발사가 자사 도구의 악용을 막을 '합리적인 안전 조치'를 취했는지 여부다. 원고 측 변호인 캐리 골드버그(Carrie Goldberg)는 "그록은 괴롭힘과 모욕의 도구로 설계되었으며, 이는 단순한 오류가 아니라 공적 불법 방해(Public Nuisance)"라고 강하게 비판했다. 반면 xAI와 머스크 측은 사용자의 프롬프트 입력에 따른 결과라는 입장을 고수할 것으로 보인다.

 

이번 사건은 전 세계적으로 논의 중인 'AI 안전법' 입법 움직임에 기름을 부을 전망이다. 특히 딥페이크 성범죄가 사회적 문제로 대두된 가운데, 빅테크 기업의 관리 책임을 묻는 첫 번째 대형 판례가 될 수 있다.

 

출처: The Verge / 뉴욕 법원 소장 링크