AI · 기사
AI 안전 경고하고 떠나는 직원들, 업계 구조 문제 드러나
The Guardian ·

한눈에 보기
AI 연구소에서 안전 담당자들이 회사를 떠나며 잇따라 경고하고 있어요. 칼럼 필자는 상업적 압박이 안전 장치를 밀어내고 있고, 직원이 떠나야만 목소리를 낼 수 있는 구조가 문제라고 주장해요.
핵심 내용
- 지난달 OpenAI에서 제품 출시 안전 보고서를 맡았던 담당자가 회사 문화가 망가졌다며 떠났어요.
- 그 전달에는 Anthropic의 연구원이 AI가 10년 안에 인류를 위험에 빠뜨릴 수 있다고 경고하며 떠났어요.
- 필자는 기업 지배구조가 제대로 작동하지 않는다는 신호라고 봐요.
- 필자는 AI 개발자를 보호하는 법, 내부고발자 보호, 직원 대표성을 도입해야 한다고 제안해요.
왜 중요할까요?
AI 회사의 의사결정이 사회 전체의 안전과 직결되기 때문이에요.
원문과 출처
When tech workers have to quit their jobs to raise the alarm, it’s time to worry | Isabelle Ferreras
The Guardian · 11월 19일 17:59 KST
The Guardian에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. The Guardian.
같은 분야의 다른 소식
- AI 칩 전력 공급, 칩 가까이로 옮기는 수직 구조 떠올라
데이터센터 칩에서 전력을 공급하는 방식이 성능을 가로막는 큰 문제가 되고 있어요. 전압 조절기를 프로세서 가까이에 옮기면 전력 손실을 줄일 수 있지만, 패키징과 발열, 시스템 설계에 새로운 과제가 생겨요.
Semiconductor Engineering · 11월 19일 17:05 KST - AI가 반도체 공정 최적화를 돕지만 자율 결정은 아직 과제예요
AI는 반도체 공정에서 수많은 조건을 빠르게 훑어 더 나은 제조 방법을 찾고 불량을 찾아낼 수 있어요. 공정 설정은 전력, 압력, 가스, 온도, 시간처럼 서로 얽혀 있어 사람이 모두 따져 보기 어려워요. 다만 AI에게 생산 결정을 어디까지 맡길지는 아직 정해지지 않은 문제예요.
Semiconductor Engineering · 11월 19일 17:01 KST - 실제 사람 같은 AI 영상통화 페르소나, 대화 속도가 빠르고 자연스러워
AI 페르소나(특정 성격과 역할을 맡은 AI)가 실제 사람처럼 영상통화를 하는 데모를 보여 주는 짧은 영상이에요. 영상 속 사용자가 AI와 대화하는 장면을 보여준 뒤, 진행자가 직접 AI에게 말을 걸어 테스트해요.
조코딩 JoCoding · 11월 19일 17:00 KST - 메타 AI 에이전트 뮤즈, 안드로이드서 시그널 대화 읽었다… 아이폰에선 막혀
메타의 AI 에이전트 뮤즈가 안드로이드 휴대전화에서 비공개 시그널 메시지를 읽은 것으로 확인됐어요. 메타가 관리하라고 안내하는 앱 연동 설정 없이, 대부분 별생각 없이 허용하는 알림 접근 권한을 통해 이런 일이 가능했어요. 같은 요청은 아이폰에서는 실패했어요.
Martin Cid Magazine · 11월 19일 16:10 KST