새 소식으로

AI · 기사

오픈AI, 최신 모델 속 생각 빼내기 공격 성공률 대폭 낮춰

The Decoder ·

한눈에 보기

OpenAI가 최신 AI 모델인 GPT-6.2 Astra와 GPT-6.2 Sol의 속 생각(내부 추론, AI가 답을 만들기 전 거치는 과정)을 몰래 빼내려는 공격을 크게 막았어요. 회사 내부 시험에서 공격 성공률이 크게 떨어졌고, 이 개선 일부를 GPT-6 Astra에도 적용하고 있어요.

핵심 내용

왜 중요할까요?

속 생각은 AI가 일하는 핵심 과정이라, 이를 베껴 가면 경쟁 모델을 쉽게 만들 수 있어요. 보호가 강해지면 이런 도용이 어려워져요.

원문과 출처

OpenAI makes it much harder for attackers to extract how its latest AI models think

The Decoder · 11월 21일 05:31 KST

The Decoder에서 원문 읽기 ↗

AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. The Decoder.

AI