AI · 기사
오픈AI, 사내 AI 시스템을 외부 감사 4곳에 현장 공개
The Decoder ·

한눈에 보기
오픈AI가 외부 감사 기관 4곳에 사내 AI 시스템을 현장에서 직접 들여다볼 수 있게 했어요. 안전 위험과 AI 모델의 행동을 점검하는 것이 목적이에요. 이 프로그램은 앞서 진행된 감시 시스템 현장 검토를 잇고, '초지능 백악관 협정'에서 한 약속을 지키는 일이에요.
핵심 내용
- 오픈AI는 아폴로 리서치, METR, 트랜스루스, 굿파이어와 함께 일해요.
- 아폴로 리서치는 모델이 개발자의 뜻과 달리 몰래 움직이는지 살펴봐요.
- METR은 보상을 통해 모델이 배우는 방식인 강화학습의 가장 큰 훈련 과정에서 AI의 잘못된 행동을 검토해요.
- 굿파이어는 모델 내부의 처리 과정을, 트랜스루스는 훈련 뒤 거치는 안전 점검을 분석해요.
왜 중요할까요?
AI 기업이 외부 기관에 내부를 직접 들여다보게 하는 일은 드물어, AI 안전 주장을 얼마나 믿을지 판단하는 데 도움이 돼요.
원문과 출처
OpenAI opens its AI systems to four independent on-site auditors for the first time
The Decoder · 11월 18일 23:36 KST
The Decoder에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. The Decoder.
같은 분야의 다른 소식
- 메타, AI 데이터센터 배출 급증에 2030년 넷제로 목표 재검토
메타가 2026년 지속가능성 보고서에서 2030년 탄소 순배출 제로(넷제로) 목표를 다시 검토하고 있다고 밝혔어요. 2025년 온실가스 배출량은 전년보다 약 40% 늘어 미국 대형 기술 기업 중 가장 큰 증가율을 보였어요.
Ars Technica · 11월 21일 06:47 KST - Anthropic 수학자 "클로드가 리만 가설 증명 도왔다" 주장
Anthropic의 수학자 레벤트 알푀게가 AI 시스템 클로드(Claude)와 함께 리만 가설을 증명했다고 주장했어요. 그는 일반 수학 논문 대신 4쪽짜리 글을 개인 웹사이트에 올리고, 결과를 확인할 수 있다는 컴퓨터 코드를 연결했어요. 아직 검증된 것은 아니에요.
The New York Times · 11월 21일 06:47 KST - 디자이너들 "Ssense 사이트에서 옷이 실제와 다르게 보여"
디자이너 리스 쿠퍼는 자신의 브랜드 RCOS 패딩 코트가 명품 쇼핑몰 Ssense 사이트에서 왜곡되어 보인다고 알렸어요. 가슴의 고리 장식이 실제보다 훨씬 크게 그려졌다고 했어요. Ssense는 일부 사진이 '가상 착용(옷을 입은 모습을 컴퓨터로 만든 기능)' 기술로 만들어졌다고 밝혔지만, AI를 쓰는지는 답하지 않았어요.
The New York Times · 11월 21일 06:16 KST - AI 글을 사람처럼 바꾸는 도구 광고, 전후 점수 비교 공개
이 짧은 영상은 Walter Writes AI라는 도구의 유료 광고예요. AI가 쓴 글을 사람이 쓴 것처럼 읽히게 고쳐 주는 도구를 소개해요. 제작자는 문단 하나를 탐지기에 넣어 AI 티가 난 부분을 찾고, 이 도구로 고쳐 쓴 뒤 점수를 비교했다고 해요.
TheAIGRID · 11월 21일 06:15 KST