구글, 젬나이 4 아르곤 안전하게 공개 시작

한눈에 보기

구글 딥마인드가 새 AI 모델 젬나이 4 아르곤을 여러 분야에 넓게 공개하기 시작했어요. 먼저 믿을 수 있는 사이버 방어 팀에게만 써 보게 했고, 그 기간에 병원 소프트웨어의 중대한 결함을 찾는 등 효과가 확인됐어요. 이 과정에서 악용을 막는 방법도 함께 설명했어요.

핵심만 콕콕

1. 1

   사이버 공격 시나리오 12개를 모두 풀어, 이전 모델의 5개보다 크게 늘었어요.

2. 2

   위험한 요청에 응하지 않는 능력이 이전 모델보다 좋아졌고, 적대적 시험에서 위반이 거의 절반으로 줄었어요.

3. 3

   입력 검사, 내부 신호 점검 등 세 겹의 실시간 보호 장치를 두어 우회 시도를 막으려 했어요.

4. 4

   자세한 안전 보고서는 따로 공개했어요.

왜 중요할까요?

AI가 보안 취약점을 찾는 데 쓰이는 만큼, 같은 능력이 공격에도 악용될 수 있어서 안전장치가 중요해요.