새 소식으로

AI · 기사

OpenAI, Apollo 안전 연구원 내부 투입해 AI 통제 회피 점검

TechCrunch ·

한눈에 보기

OpenAI will place six Apollo Research 안전 평가자를 회사 안에서 일하게 하는 시범 사업을 시작해요. 목표는 AI 모델이 사람의 통제를 피하려고 자신이나 후속 버전의 안전 장치를 무너뜨리려 하는지 살피는 거예요. 시작 시점은 Apollo가 아직 밝히지 않았어요.

핵심 내용

왜 중요할까요?

AI 회사 내부에서 외부 점검이 이뤄지면 위험한 행동을 사용 전에 찾아낼 수 있어서 중요해요.

원문과 출처

OpenAI will embed Apollo researchers to investigate AI subversion

TechCrunch · 11월 17일 02:02 KST

TechCrunch에서 원문 읽기 ↗

AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. TechCrunch.

같은 소식을 전한 곳

AI