제타(zeta) AI는 국내 AI 스타트업 스캐터랩이 개발한 인공지능 캐릭터 채팅 및 롤플레잉 플랫폼입니다. 2025년 기준 오픈 AI의 ChatGPT를 제치고 한국인이 가장 오래 사용하는 AI 챗봇 앱 1위를 차지할 만큼 Z세대를 중심으로 폭발적인 인기를 끌고 있는 앱입니다. 솔직히 저는 AI 챗봇을 강의 소재로 소개하면서 '안전'보다 '편리함'을 먼저 떠올렸습니다. 그런데 제타AI에서 미성년자 캐릭터를 대상으로 한 유해 대화가 세이프 모드에서조차 생성됐다는 사실을 접하고, 제가 강의에서 강조해온 기준을 처음부터 다시 점검해야겠다는 생각이 들었습니다.세이프 모드가 뚫렸다는 게 왜 문제인가이번 논란의 핵심은 단순히 유해한 대화가 생성됐다는 사실이 아닙니다. 청소년 기준이 적용되는 세이프 모드(Safe ..
카테고리 없음
2026. 10. 11. 17:04
반응형
