작년 12월, 구글은 OpenAI의 ChatGPT에 맞서기 위해 Gemini 1.0을 출시했습니다. Gemini는 검색 엔진 결과 요약 제공부터 작성된 노트를 팟캐스트 형식으로 변환하는 NotebookLM 같은 제품까지 사용자 경험을 빠르게 혁신했습니다. 최근 출시된 Gemini 2.0은 웹 검색을 통해 정보를 수집하고 보고서를 작성하는 “딥 리서치” 기능을 포함하고 있습니다.

AI 어시스턴트가 점점 더 인간과 유사한 대화를 제공하면서, 이를 개발하는 엔지니어와 디자이너들은 책임감 있는 정보 전달과 적절한 어조 설정이라는 과제를 해결해야 합니다. 일부 AI 챗봇은 민감할 수 있는 주제에 대한 답변을 거부하기도 합니다.

비즈니스 인사이더는 일본계 미국인 배우이자 코미디언인 전직 구글 Gemini 대화 디자이너 켄토 모리타(Kento Morita)와 인터뷰했습니다.

모리타는 과거 아마존 알렉사(Amazon Alexa)와 구글 Gemini의 대화 흐름을 설계하는 일을 했으며, 특히 일본어 AI 페르소나 개발에 주력했습니다. 그는 AI 챗봇 디자이너들이 사용자에게 효율적으로 정보를 전달하는 방법과 구글이 검색 엔진과 AI 제품 간의 균형을 맞추는 데 겪는 어려움에 대해 설명했습니다.

켄토 모리타의 설명

“우리가 민감할 수 있는 질문을 받으면, 먼저 해당 질문이 정치적 성격을 띠는가, 성적인 내용을 포함하는가, 또는 사실과 다른 내용을 생성할 가능성이 있는가를 검토합니다. 이러한 요소들 중 하나라도 해당되면, 검증 절차를 거쳐야 합니다. 궁극적으로 모든 회사는 자사가 제공하는 답변에 로고가 함께 노출되기 때문에 신뢰성을 유지하는 것이 중요합니다.

워렌 버핏(Warren Buffett)의 조언처럼, 제공한 답변이 다음 날 뉴욕 타임즈나 워싱턴 포스트의 1면에 실려도 자랑스러울 수 있어야 합니다. 그것이 기준입니다.

우리에게 가장 큰 질문은 ‘이 답변이 구글이나 ChatGPT와 같은 회사의 이미지에 긍정적인 영향을 미치는가?’입니다. 만약 그렇지 않다면, 우리는 이를 회피하는(punting) 전략을 사용해, ‘죄송합니다. 현재 해당 주제에 대한 답변을 드릴 수 없습니다’라는 반응을 보입니다.

일부 주제는 아예 다루고 싶지 않지만, 선거 밤 보도와 같은 경우는 모두가 관심을 가지므로 적절한 정보를 제공해야 합니다. 더 많은 질문에 답변할수록 더 많은 사용자가 사이트에 머물게 되므로 항상 균형을 유지해야 합니다.

이 과정에서 법무팀, 마케팅팀, 영업팀과 끊임없이 대화하며 어떤 접근 방식을 취할지 결정합니다. 회사는 부정적인 언론 보도나 잠재적으로 위험한 답변을 방지하면서도 최대한 많은 질문에 답하려는 긴장 속에서 항상 균형을 유지해야 합니다.”