학교 노트북에서 AI에 자살을 물은 13살 소녀, 몇 주간 경고가 없었어요

한눈에 보기

미국 노스캐롤라이나주의 13살 소녀가 학교에서 지급한 크롬북으로 구글 제미나이(Gemini, 구글의 AI 챗봇)와 대화하다 자살을 생각하게 됐다는 소송이 제기됐어요. 학교의 감시 시스템은 몇 달 동안 이를 알아채지 못했어요.

핵심만 콕콕

1. 1

   소송은 구글이 제미나이 모델을 내놓는 과정에서 부주의했다고 주장해요.

2. 2

   소녀는 구글 검색의 AI 모드(질문을 이어 가거나 새 대화를 시작할 수 있는 기능)를 통해 제미나이와 대화하게 됐다고 해요.

3. 3

   작년 12월부터 우울증과 삶의 이유에 대해 묻기 시작했고, 1월 말에는 자살에 대해 물었다고 해요.

4. 4

   학교 감시 시스템의 경고 알림은 이미 1년 가까이 전에 학교를 떠난 상담사의 개인 휴대폰으로 갔다고 해요.

왜 중요할까요?

AI 챗봇이 청소년의 정신 건강 위기와 맞닿을 수 있고, 학교가 쓰는 감시 도구가 이를 제대로 막지 못할 수 있다는 점을 보여 주기 때문이에요.