AI · 기사
OpenAI, 상주형 안전성 평가를 맡을 독립 평가기관 4곳과 계약 체결
Unite.AI ·

한눈에 보기
OpenAI는 2026년 11월 16일 Apollo Research, METR, Transluce, Goodfire 네 기관과 회사 안에서 안전성을 평가하는 계약을 맺었다고 발표했어요. 평가기관들은 모델 체크포인트(저장된 학습 중간 버전), 소스 코드, 훈련 데이터, 모니터링 시스템에 접근해 훈련과 내부 사용 과정의 안전장치를 살펴봐요. 내부 테스트가 놓칠 수 있는 실패를 찾는 것이 목적이에요.
핵심 내용
- OpenAI가 Apollo Research, METR, Transluce, Goodfire와 상주형 평가 계약을 맺었어요.
- 평가기관은 모델 체크포인트, 소스 코드, 훈련 데이터, 모니터링 시스템에 접근해요.
- Apollo Research는 모델이 개발자 몰래 행동하는지, 안전장치가 이를 잡아내는지 살펴봐요.
- METR는 OpenAI가 지금까지 가장 큰 강화학습(보상으로 학습하는 방식) 훈련 실행을 중점적으로 봐요.
왜 중요할까요?
외부 평가기관이 내부 깊숙이 접근해 회사가 놓친 안전 문제를 찾을 수 있고, 그 결과가 공개되면 AI 기업의 위험 관리 방식을 대중이 더 잘 알 수 있어요.
원문과 출처
OpenAI, 상주형 안전성 평가를 맡을 독립 평가기관 4곳과 계약 체결
Unite.AI · 11월 17일 04:52 KST
Unite.AI에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Unite.AI.
같은 소식을 전한 곳
같은 분야의 다른 소식
- AWS 마켓플레이스, AI 에이전트가 소프트웨어 직접 구매
AWS가 AI 에이전트(사람을 대신해 일을 처리하는 AI 프로그램)가 상품을 찾는 데서 나아가 직접 살 수 있도록 마켓플레이스를 바꿨어요. 결제는 달러로 이뤄지고 AWS 청구서에 합산돼요.
디지털투데이 · 11월 21일 07:37 KST - 아마존 SageMaker HyperPod, 리전 넘나드는 AI 요청 분배 게이트웨이 공개
아마존 SageMaker HyperPod에 여러 클러스터와 여러 리전을 하나의 주소로 묶어 주는 Global Inference Gateway가 나왔어요. 한 클러스터가 바빠 요청이 밀려도, 다른 클러스터의 놀고 있는 GPU(AI 연산용 그래픽 칩)로 요청을 보낼 수 있어요.
Amazon AWS Machine Learning blog · 11월 21일 07:35 KST - 구글 검색창 옆 검색 버튼 빼고 AI 사이드바 추가
구글이 테스트를 거친 새 데스크톱 검색 첫 화면을 정식으로 내놓았어요. 검색창 옆의 '구글 검색' 버튼이 사라지고, 그 자리에 AI 기능 버튼들이 들어왔어요. 로그인한 사용자는 왼쪽 사이드바에서 최근 AI 모드 대화를 다시 열어볼 수 있어요.
Ars Technica · 11월 21일 06:58 KST - 메타, AI 데이터센터 배출 급증에 2030년 넷제로 목표 재검토
메타가 2026년 지속가능성 보고서에서 2030년 탄소 순배출 제로(넷제로) 목표를 다시 검토하고 있다고 밝혔어요. 2025년 온실가스 배출량은 전년보다 약 40% 늘어 미국 대형 기술 기업 중 가장 큰 증가율을 보였어요.
Ars Technica · 11월 21일 06:47 KST