Elon Musk의 인공지능 스타트업 xAI는 올해 초 미성년자 성착취 혐의로 체포된 사우스캐롤라이나 남성을 고소했습니다. 그는 회사의 AI 시스템인 Grok을 오용하여 아동 성적 학대 자료를 제작했다고 주장했습니다.

xAI는 화요일 텍사스 연방 법원에 제기된 소송에서 Terry Harwood가 회사의 서비스 약관을 위반했다고 주장했습니다. 이 사건은 AI 시스템을 사용하여 아동 포르노를 생성한 혐의로 AI 회사가 사용자 중 한 명을 상대로 제기한 첫 번째 사례 중 하나입니다.

xAI 대변인은 수요일 논평 요청에 즉시 응답하지 않았습니다. Harwood에 대한 회사의 소송은 Grok이 사용자가 동의하지 않은 성적인 딥페이크 또는 사실적인 AI 제작 비디오를 생성하도록 허용했다는 주장에 대한 xAI의 글로벌 조사에 따른 것입니다. 2월에 체포된 하우드의 연락처 정보는 즉시 제공되지 않았습니다. ‌

xAI의 불만 사항에 따르면 회사는 “계정을 일시 중지 및 종료하고 “아동 성적 학대로 의심되는 자료를 국립 실종 및 착취 아동 센터”에 보고함으로써 위반자에 대한 규칙을 시행한다고 명시되어 있습니다.

xAI는 Harwood가 성인과 미성년자의 비성적 이미지를 Grok에 업로드하고 이 시스템을 사용하여 이를 기반으로 성적으로 노골적인 딥페이크를 생성하려고 시도했다고 주장했습니다. 고소장은 또한 그가 동의하지 않은 성인의 성적 이미지를 제작했다고 주장했습니다.

회사는 법원에 불특정 금액의 손해 배상과 Harwood의 Grok 사용을 영구적으로 차단하는 법원 명령을 요청했습니다.

xAI는 소송에서 “피고의 행동은 원고의 도구를 범죄 목적으로 전환하여 실제 피해자를 깊고 지속적인 피해에 노출시키는 동시에 원고를 상당한 법적 위험과 평판 손상에 노출시키려는 계산된 계획이었습니다”라고 말했습니다.