십대들이 자살이나 자해에 관해 Meta AI와 이야기하면 대화가 부모에게 알림을 보낸다고 Meta는 목요일 블로그 게시물에서 말했습니다.

새로운 정책은 자녀가 Meta AI를 사용하는 방법을 부모에게 알리기 위해 고안된 청소년을 위한 기존 조치를 확장합니다. Instagram의 감독 기능을 사용하는 부모만 알림을 받게 됩니다. 결국 다른 Meta 앱의 자녀 보호 기능을 사용하는 간병인도 알림을 받게 됩니다.

Meta는 “우리는 부모 및 전문가와 협력하여 어떤 AI 대화에서 경고가 필요한지 이해했습니다. 예를 들어 십대 자녀가 명백히 자해에 대해 언급하는 경우는 그 언급이 미묘하더라도 마찬가지입니다.”라고 Meta는 말했습니다.

미국, 영국, 캐나다, 호주의 부모들은 알림을 받게 됩니다. 이 기능은 올해 말까지 전 세계적으로 제공될 예정입니다.

Meta AI 위기 알림은 어떻게 작동하나요?

Meta AI는 이미 위기 핫라인을 인용하고 자살이나 자해를 고려하고 있는 십대들이 신뢰할 수 있는 성인에게 도움을 구하도록 권장하고 있습니다. 이제 부모는 그러한 대화에 대한 알림을 받게 됩니다. 메타는 일단은 조심하겠다고 말했다.

관련 토론은 인공지능에 의해 플래그가 지정되지만 Meta는 경고를 보내기 전에 수동으로 검토합니다. 또한 부모는 자녀와 자해 및 자살에 대해 논의하기 위해 전문가가 개발한 제안을 받습니다.

부모는 제공한 연락처 정보에 따라 앱 알림과 별도의 이메일, SMS 또는 WhatsApp 메시지를 통해 알림을 받게 됩니다.

비영리 아동 옹호 단체인 페어플레이(Fairplay)의 변호사인 브렌단 보파드(Brendan Bouffard)는 성명을 통해 “10대의 AI 채팅이 자해 위험에 처해 있음을 암시하면 감독하는 부모에게 경고할 것이라는 메타의 주장은 올바른 방향으로 나아가는 단계이지만 이번 발표는 회의적이어야 한다”고 말했다.

Bouffard는 Meta의 10대 계정에 대한 Fairplay의 2025년 조사에서 보안 도구가 효과가 없거나 존재하지 않는 것으로 드러났다고 말했습니다. Meta는 보고서가 보안 도구의 작동 방식을 잘못 표현했다고 말했습니다.

지난 2월 Meta는 Instagram에 유사한 자살 및 자해 알림 기능을 출시했습니다.

Nationwide Children’s Hospital의 자살 예방 및 연구 센터의 임상 책임자인 Dr. John Ackerman은 당시 Mashable과의 인터뷰에서 청소년에 대한 보호 확대를 환영한다고 말했습니다. 그러나 그는 알림에 접근할 수 없거나 탐색하기 어렵거나 “구체적인 변화”로 이어지지 않는 경우 이러한 기능은 “립 서비스”에 해당할 수 있다고 지적했습니다.

Ackerman은 Mashable에 자살 및 자해와 관련된 Meta AI 토론에 대한 알림이 가족에게 도움이 될 수 있다고 말했습니다.

“소셜 미디어와 AI를 위한 부모 모니터링 도구는 부모가 신속하게 우려 사항을 감지하고, 지지적인 대화를 시작하고, 자살 징후가 발견될 때 자녀에게 도움을 줄 수 있도록 도와줍니다.”라고 목요일 Meta의 발표 이후 이메일에서 그는 말했습니다.

Ackerman은 부모가 보안 설정 사용에 대한 명확한 지침이 필요하다고 덧붙였습니다. 그는 또한 청소년 안전과 관련된 플랫폼이 사회적 비교, 사이버 괴롭힘, 수면 방해, 과도한 사용 및 반복 검색과 같은 패턴과 같은 위기에 기여할 수 있는 요소를 다루어야 한다고 언급했습니다.

Meta AI를 위한 새로운 제한 콘텐츠 설정

Meta는 또한 목요일에 Meta AI에 대한 제한된 콘텐츠 설정을 추가한다고 발표했습니다. 이 기능은 작년에 Instagram에 출시되었습니다.

이 설정은 Meta의 가장 엄격한 필터를 활성화합니다. 회사에 따르면 Meta AI는 이미 10대들과 성적인 대화나 낭만적인 대화를 나누지 않도록 훈련을 받았고, 예를 들어 알코올 음료에 대한 조리법을 제안하지도 않도록 훈련받았습니다.

제한된 콘텐츠 설정이 활성화되면 메타 모델은 문제가 있는 프롬프트를 식별하는 데 더욱 적극적이 되고 광범위한 쿼리에 대한 응답을 거부합니다. Meta는 이러한 접근 방식이 “부적절할 수 있는 대화의 위험”을 더욱 줄여준다고 말했습니다.

청소년 안전 문제

아동 안전 옹호자들은 Meta의 최근 업데이트된 자녀 보호 기능이 불충분하다고 비판했습니다.

지난 4월 Meta는 부모들에게 Meta AI와 자녀의 대화 개요를 제공했습니다. 이 기능은 학교, 엔터테인먼트, 글쓰기, 건강 및 웰빙과 같은 더 광범위한 주제를 강조합니다. 학부모는 주제를 클릭하여 추가적인 세부 사항을 볼 수 있지만 제한적입니다.

Fairplay 전무이사인 Josh Golin은 이 기능을 사용하려면 보호자가 “처음부터 안전한 제품을 만드는 것”이 ​​아니라 자녀의 온라인 활동을 모니터링해야 한다고 말했습니다.

Meta는 아동 안전 성과에 대해 계속해서 법적 조사를 받고 있습니다. 올해 초 Meta는 어린이 안전 보호 및 자사 제품의 중독성 있는 디자인과 관련된 두 건의 획기적인 소송에서 패소했습니다. 회사는 두 판결 모두에 대해 항소할 것이라고 밝혔지만 어린이에게 해를 끼쳤다고 주장하는 계류 중인 소송 수백 건은 아직 재판에 회부되지 않았습니다.

업데이트됨: 2026년 7월 16일 오전 10시 29분(PDT) 이 스토리는 Meta 및 Fairplay의 추가 정보로 업데이트되었습니다.

자살 충동을 느끼거나 정신 건강 위기를 겪고 있다면 누군가에게 이야기하십시오. 988 자살 및 위기 생명의 전화(988 Suicide & Crisis Lifeline)에 전화하거나 문자를 보내거나 채팅을 할 수 있습니다. 988lifeline.org. 877-565-8860번으로 전화하거나 866-488-7386번으로 Trevor Project에 전화하여 Trans Lifeline에 연락할 수 있습니다. 741-741번으로 위기 문자 라인에 “START”라는 문자를 보내세요. NAMI 헬프라인에 1-800-950-NAMI로 월요일~금요일 오전 10시~오후 10시에 문의하세요. ET 또는 이메일로. (이메일 보호됨). 전화가 마음에 들지 않으면 다음을 사용하는 것이 좋습니다. 988 자살과 위기 생존 채팅. 여기에는 국제 자원 목록.