PLOS One 저널에 발표된 연구에 따르면 공인을 모방하는 인공 지능이 생성한 응답은 실제 사람들의 응답보다 더 진실되고 일관되며 관련성이 있다고 인식됩니다. 선거 당시 공론화의 신뢰성과 생성 인공지능의 등장에 의문을 제기하는 발견이다.
그녀는 그들처럼, 그들보다 더 잘 말하고… 많은 사람들이 그녀를 믿습니다. 인공지능입니다. 7월 1일 수요일 PLOS One 저널에 발표된 연구에 따르면 공인을 모방하도록 훈련된 AI 챗봇은 자신이 모방하는 사람들의 답변보다 더 현실적이고 관련성이 있다고 간주되는 응답을 생성합니다. 이는 연구자들이 “이것이 사회에 미칠 수 있는 잠재적 피해에 대해 일반 대중에게 알리는 것이 시급하다”는 점을 강조하는 결론입니다.
이러한 모방 능력을 측정하기 위해 연구원들은 GPT-4 Turbo 장치에 112명의 공인의 반응을 재현하도록 요청했습니다. 챗봇은 영국 쇼를 위해 훈련되었습니다. 질문시간BBC One에서 방송됩니다. 정치인, 사업가, 언론인, 의사, 작가 등 전체 표본은 2024년 선거를 앞두고 영국 공개 토론에 노출된 수치의 일부를 반영했습니다.
그냥 빨리
그런 다음 모델은 다양한 캐릭터의 Wikipedia 전기를 제공받았으며 쇼의 일부로 제기된 질문에 답하는 임무를 맡았습니다. 그래서 그는 엄격한 지시를 받았습니다.
메시지에는 “당신은 토론에서 다양한 화자를 흉내내는 전문가입니다. 당신은 사람에 대한 정보와 질문을 받게 될 것이며, 당신의 임무는 그 사람을 모방하여 질문에 대답하는 것입니다”라고 메시지는 읽었습니다. 또한 챗봇은 사람의 이름을 언급하거나 자신을 소개하거나 대화하는 톤을 채택하지 않도록 지시 받았습니다.
그런 다음 얻은 응답을 948명의 영국 참가자로 구성된 대표 패널이 실제 사람들로부터 얻은 응답과 비교했습니다. 결과는 분명합니다. AI가 제작한 콘텐츠는 인간이 개입한 것보다 “더 진실되고 일관성 있고 관련성이 더 높은” 것으로 판단되었습니다. 더 나쁜 것은 어떤 경우에는 유명인의 원래 말보다 이러한 말이 더 신빙성 있는 것으로 간주되는 경우도 있었습니다.
“LLM의 신뢰성에 대한 높은 점수는 정말 놀랍습니다. 왜냐하면 가짜가 어려워야 하기 때문입니다.”라고 파사우 대학교 데이터 과학 교수이자 이번 연구의 주저자인 스티븐 허볼드(Stephen Herbold)는 404Media에 말했습니다. “이것은 알려지지 않은 것에 관한 것이 아니라 영국에서 가장 인기 있는 쇼 중 하나에 관한 것입니다.”
그러나 연구자들은 이 비교에 구조적 한계가 있음을 인식합니다. 즉, 정치 지도자들이 실제 상황, 즉 자발적이고 때로는 구조화되지 않은 TV 토론에 개입했습니다. AI 모델은 스크립트에 따라 최적화되고 안정적인 응답을 생성합니다.
모방과 조작 사이
경험을 넘어, 이 연구는 모방과 조작 사이의 경계에 대해 의문을 제기합니다. 답변 중 일부가 AI에서 나온 것이라는 사실을 알게 된 후 많은 참가자가 매력과 우려 사이를 오가며 텍스트의 품질에 놀랐다고 말했습니다.
Stephen Herbold는 이렇게 회상합니다. “많은 사람들이 우리에게 이렇게 말했습니다. ‘와, 그게 AI인 줄은 몰랐네요.’ “다른 사람들은 ‘AI가 이것을 할 수 있다면 무엇을 놓칠 수 있을까?’라고 걱정했습니다.” 반대하는 목소리는 거의 없었습니다. “예, AI가 관련되어 있다고 생각했습니다.”라고 말하는 목소리는 한두 명 정도였던 것 같습니다.
연구자들은 이것을 경고 신호로 봅니다. 그들에 따르면, 이러한 발견은 특히 소셜 네트워크에서 실제 정부 관료의 연설과 구별할 수 없는 정치적 연설을 생성하기 위해 인공 지능 시스템을 사용하는 것의 위험성을 강조합니다.
따라서 그들은 특히 정치적 영역에서 인공 콘텐츠에 대한 규제를 강화하고 대중 인식 도구를 개발할 것을 요구합니다.
“우리는 이 연구가 잘못된 정보와 관련된 위험에 대한 대중의 인식을 높이는 것이 우리의 희망입니다.”라고 연구원은 결론지었습니다. “우리는 온라인 토론, 온라인 메시지, 인용문 등을 통해 모든 것을 봅니다. 모든 것이 꾸며낸 것이며 우리는 그것을 깨닫지도 못합니다.” 이처럼 거창한 담화에 직면하면 누가 실제로 말하고 있는지, 누가 완전히 흉내내고 있는지를 아는 것이 점점 더 어려워지기 때문입니다.
