AI · 기사
AI 발전 속도, 새 시스템 안전성 검증 능력 앞질러
The Decoder ·

한눈에 보기
AI 연구기관 METR은 현재 공개된 자료만으로는 앞으로 몇 년 안에 AI 연구가 급격히 빨라지는 일을 배제하기 어렵다고 밝혔어요. 사람이 새 AI 시스템의 치명적 위험을 제대로 이해하고 대응하지 못할 수도 있다고 경고했어요.
핵심 내용
- 결과가 바로 확인되는 명확한 코딩·계산 작업에서는 AI 모델이 대부분 숙련된 전문가를 이겼어요.
- 다만 최고 전문가 여러 명의 집단을 아직 넘지는 못했어요.
- 사람이 오래 걸리는 작업에서 모델이 처리할 수 있는 작업 길이는 약 3.6개월마다 두 배가 돼요.
- 이 추세를 단순히 이어 보면 2027년 7월쯤 200시간짜리 가장 긴 작업을 절반 성공률로 해낼 것으로 보여요.
왜 중요할까요?
AI 시험이 발전 속도를 따라가지 못하면 심각한 위험을 제때 알아차리기 어려워요.
원문과 출처
AI is getting better faster than experts can reliably test whether new systems are safe, METR warns
The Decoder · 11월 22일 22:00 KST
The Decoder에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. The Decoder.
같은 분야의 다른 소식
- 케네디 상원의원, 젠슨 황 불륜 의혹 농담 뒤 칩 수출 규제 우회 질문
미국 상원의원 존 케네디가 엔비디아 전 최고경영자 젠슨 황의 보도된 불륜 의혹을 농담조로 언급했어요. 그는 이보다 중요한 문제로, 중국이 미국의 첨단 AI 칩 수출 규제를 어떻게 우회했는지 물었어요.
The Guardian · 11월 23일 04:34 KST - Cartesia의 H-Net, 기존 토큰화를 넘는 새 방식 나와
Cartesia의 H-Net은 AI가 글을 다루는 기존 방식인 토큰화(글을 작은 조각으로 나누는 과정)를 넘어서려는 새로운 방법이에요. 고정된 조각으로 나누는 대신 원시 바이트(컴퓨터가 쓰는 가장 작은 데이터 단위)를 스스로 묶는 법을 배워요. 영상에서는 선택한 시험에서 학습 효율이 최대 10배까지 좋아지고, 처음 보는 데이터도 더 잘 다룬다고 소개해요.
bycloud · 11월 23일 04:03 KST - OpenAI, 안전 이정표 맞춘 공동 AI 개발 한도 제안
OpenAI의 수석 과학자 Jakub Pachocki가 최첨단 AI를 만드는 회사들이 함께 개발 한도를 정하자고 제안했어요. 사전 학습(AI에게 방대한 글을 미리 가르치는 단계) 발전이 2027년쯤 빨라지면 AI 안전 연구가 따라가지 못할 수 있다고 경고했어요. 이 제안은 AI가 실제로 무엇을 할 수 있는지 확인하기 전까지 속도를 조절하자는 취지예요.
Unite.AI · 11월 23일 03:43 KST - 데이터 센터가 빅테크 반발의 중심에 선 이유
언론인 파리스 마크스가 새 책 『하이퍼스케일』에서 데이터 센터와 생성형 AI가 정치적 쟁점이 된 과정을 살펴봤어요. 마크스는 TechCrunch와의 인터뷰에서 데이터 센터 건설이 지속 불가능하다고 말했어요.
TechCrunch · 11월 23일 03:08 KST