[기고] 3시간마다 'AI 입니다' 알림으로 청소년 죽음 막을 수 있나

2024년 플로리다의 14세 소년 수엘 세처 3세가 AI 챗봇 '캐릭터닷AI'와 수개월간 대화한 끝에 스스로 목숨을 끊었다.여론은 "위험 콘텐츠를 차단하라"는 쪽으로 수렴됐고 캐릭터닷AI는 미성년자 대상 대화를 사실상 차단했다.하지만 문제는 이것이 전부가 아니다.스탠퍼드 연구팀에 따르면 챗봇 응답의 70% 이상에서 사용자의 비위를 맞추는 '아첨 패턴'이 확인됐다. 특히 사용자의 말을 긍정하며 의미를 확대하는 '반영적 요약'이 36.3%에 달했다.폭력적 사고를 보일 때 챗봇이 부추긴 비율은 33.3%였으며, 자해 언급 시 이를 촉진한