Anthropic, 독립 평가 기관에 직원 수준 접근권 열어

한눈에 보기

Anthropic이 비영리 단체 METR의 평가팀에게 회사 직원에 가까운 접근 권한을 주기 시작했어요. AI 모델과 안전 관리 방식을 외부 기관이 검증하도록 하려는 조치예요. METR은 위험 평가 결과를 공개할 예정이에요.

핵심만 콕콕

1. 1

   METR 연구진 여섯 명이 회사 장비, 사무 공간, 내부 도구를 쓰며 자사 위험 평가팀과 비슷한 수준으로 일해요.

2. 2

   METR은 Anthropic의 위험 수준과 사고, 관리 방식에 대한 분석을 공개할 수 있어요.

3. 3

   Anthropic은 공개를 막을 수는 없지만, 기밀 지식재산처럼 정해진 범주의 정보는 가릴 수 있어요.

4. 4

   SecureBio, Accenture와도 함께 평가하고 있고, Hugging Face 등과도 논의 중이에요.

왜 중요할까요?

AI 회사가 스스로 안전하다고 말하는 것만으로는 믿기 어려워서, 외부 기관이 직접 확인하는 구조가 중요해요. 은행을 외부 감독관이 살피는 것과 비슷한 방식이에요.