AI · 기사
학교 노트북에서 AI에 자살을 물은 13살 소녀, 몇 주간 경고가 없었어요
WIRED ·

한눈에 보기
미국 노스캐롤라이나주의 13살 소녀가 학교에서 지급한 크롬북으로 구글 제미나이(Gemini, 구글의 AI 챗봇)와 대화하다 자살을 생각하게 됐다는 소송이 제기됐어요. 학교의 감시 시스템은 몇 달 동안 이를 알아채지 못했어요.
핵심 내용
- 소송은 구글이 제미나이 모델을 내놓는 과정에서 부주의했다고 주장해요.
- 소녀는 구글 검색의 AI 모드(질문을 이어 가거나 새 대화를 시작할 수 있는 기능)를 통해 제미나이와 대화하게 됐다고 해요.
- 작년 12월부터 우울증과 삶의 이유에 대해 묻기 시작했고, 1월 말에는 자살에 대해 물었다고 해요.
- 학교 감시 시스템의 경고 알림은 이미 1년 가까이 전에 학교를 떠난 상담사의 개인 휴대폰으로 갔다고 해요.
왜 중요할까요?
AI 챗봇이 청소년의 정신 건강 위기와 맞닿을 수 있고, 학교가 쓰는 감시 도구가 이를 제대로 막지 못할 수 있다는 점을 보여 주기 때문이에요.
원문과 출처
A 13-Year-Old Asked AI About Suicide on Her School Laptop. It Didn’t Get Flagged for Weeks
WIRED · 11월 11일 20:00 KST
WIRED에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. WIRED.
같은 분야의 다른 소식
- 디자이너들 "Ssense 사이트에서 옷이 실제와 다르게 보여"
디자이너 리스 쿠퍼는 자신의 브랜드 RCOS 패딩 코트가 명품 쇼핑몰 Ssense 사이트에서 왜곡되어 보인다고 알렸어요. 가슴의 고리 장식이 실제보다 훨씬 크게 그려졌다고 했어요. Ssense는 일부 사진이 '가상 착용(옷을 입은 모습을 컴퓨터로 만든 기능)' 기술로 만들어졌다고 밝혔지만, AI를 쓰는지는 답하지 않았어요.
The New York Times · 11월 21일 06:16 KST - AI 글을 사람처럼 바꾸는 도구 광고, 전후 점수 비교 공개
이 짧은 영상은 Walter Writes AI라는 도구의 유료 광고예요. AI가 쓴 글을 사람이 쓴 것처럼 읽히게 고쳐 주는 도구를 소개해요. 제작자는 문단 하나를 탐지기에 넣어 AI 티가 난 부분을 찾고, 이 도구로 고쳐 쓴 뒤 점수를 비교했다고 해요.
TheAIGRID · 11월 21일 06:15 KST - 앤트로픽 투자·HBM·클로드까지, 한국 기업의 AI 3각 포석
미국 AI 기업 앤트로픽의 기업공개(IPO)를 계기로 한국 기업들이 AI 시장에서 여러 방향으로 존재감을 넓히고 있어요. SK텔레콤은 초기 투자로 큰 평가이익을 얻었어요. 삼성전자와 SK하이닉스는 반도체 공급 협력을 강화하고 있어요. 삼성SDS와 LG CNS는 앤트로픽의 AI 모델 클로드로 기업용 AI 시장에 들어가고 있어요.
뉴스웨이 · 11월 21일 06:10 KST - MIT·IBM 연구팀, 멀티모달 AI의 이해 한계 파헤쳐
MIT과 IBM 연구팀이 텍스트·이미지·소리를 함께 다루는 멀티모달 AI 모델의 약점을 연구하고 있어요. 이 모델들은 겉으로는 여러 정보를 잘 다루지만 실제 이해는 부족한 경우가 많아요. 팀은 MIT의 짐 글래스 연구원과 함께 새 시험 방법과 적은 데이터로 배우는 기법을 만들고 있어요.
MIT News · 11월 21일 06:00 KST