집단 소송의 새로운 원고 재판 Elon Musk의 AI 회사인 SpaceXAI는 회사의 이미지 생성 모델이 아동 성적 학대 자료를 만드는 데 사용되었으며 회사가 가해자 혐의에 대한 정보를 당국과 적절하게 공유하지 못했다고 주장합니다.

화요일에 제출된 수정된 고소장에 따르면, 와이오밍과 위스콘신의 두 명의 원고가 올해 초 세 명의 테네시 청소년이 제기한 소송에 합류했습니다. 모든 원고는 Jane Does로 지칭됩니다. 소송은 또한 Stable Diffusion 이미지 생성기 뒤에 있는 회사인 Stability AI를 피고로 포함하도록 확대되었습니다.

소송에 따르면 한 원고의 남자 친구와 다른 원고의 계부 등 가해자들은 회사의 AI 모델을 사용해 원고가 미성년자였을 때 촬영한 사진을 변조해 아동 성적 학대 자료(CSAM)를 만들었다고 주장한다. 5명의 원고는 해당 회사들이 CSAM을 제작하여 성매매 사업을 통해 이익을 얻고, 과실, 잘못된 제품 디자인을 만들고, 대중에게 폐를 끼치고 있다고 비난했습니다.

5명의 원고 측 변호사인 애니카 마틴은 “공공의 폐해란 그것이 단지 고객에게만 문제가 되는 것이 아니라 사회에 해를 끼치는 것임을 의미한다”고 말했다. “우리는 전 세대의 어린이들에게 이러한 피해를 입히지 않도록 이러한 안전 장치를 마련하고 싶습니다.”

원고는 AI 기업에 다음과 같이 요구하고 있다. 착취적이고 악의적인 이미지 생성을 방지하고 금전적 보상을 모색하기 위해 보다 효과적인 보호 장치를 설치합니다.

Jane Doe의 사례 4

SpaceXAI는 다른 인터넷 회사와 마찬가지로 필수입니다. 법에 따라 CSAM을 포함한 의심되는 아동 성적 착취를 비영리 국립실종착취아동센터(NCMEC)에 신고하기 위해 회사가 이를 적절하게 수행하지 못했다고 소송에서 주장합니다.

SpaceXAI는 이전에는 xAI로 알려졌습니다. 이 회사는 올해 초 머스크의 SpaceX와 합병한 후 이번 달에 이름을 변경했습니다.