AI · 공식 발표
LLM으로 대규모 소프트웨어 형식 검증이 가능해져요
Anthropic Research (mirror) ·
한눈에 보기
소프트웨어 버그는 AI가 쉽게 찾고 악용할 수 있어, 기존 보안 방어만으로는 부족해요. 형식 검증(수학적으로 버그가 없음을 증명하는 방법)은 효과적이지만 지금까지는 많은 전문가 시간이 들었어요. 이번 연구에서 Claude는 100여 개의 오픈소스 라이브러리에 대해 이런 증명을 만들어 냈어요.
핵심 내용
- Claude는 기계어에 가까운 어셈블리 코드 수준(RISC-V 명령어 체계 기준)에서 보안 속성을 증명했어요.
- 증명을 쓰는 과정에서 Claude는 수년간 수조 번의 테스트에도 발견되지 않던 버그를 찾아냈어요.
- 증명은 특정 가정, 예를 들어 단일 스레드와 고정된 메모리 조건에서만 성립해요.
- 연구진은 이 방식이 모든 버그를 고치는 데는 아직 멀었지만 목표를 향한 길을 보여준다고 밝혔어요.
왜 중요할까요?
프로그램이 메모리 오류 없이 항상 정상 종료된다는 증명이 가능해지면, 보안 사고를 미리 막는 데 도움이 될 수 있어요.
원문과 출처
LLMs are making formal software verification feasible at a much larger scale
Anthropic Research (mirror) · 10월 22일 09:00 KST
Anthropic Research (mirror)에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Anthropic Research (mirror).
같은 분야의 다른 소식
- Amazon Bedrock Web Search, 언어 5종과 국가별 검색 추가
AWS가 AI 에이전트에 인터넷 최신 정보를 근거와 함께 가져다주는 도구 'Web Search on Amazon Bedrock'의 언어 지원을 넓혔어요. 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어와 미국 외 영어를 쓸 수 있게 됐어요. 또 특정 나라의 자료를 우선하도록 고를 수 있는 선택 항목도 추가됐어요.
AWS What's New · 11월 21일 09:17 KST - Amazon Cuts Self-Hosted AI Cost With Shared Cache Agent Skill
AWS 블로그가 여러 서버가 함께 쓰는 공용 캐시(저장 공간)로 자체 운영 AI 모델의 비용과 응답 지연을 줄이는 방법을 소개했어요. 각 서버의 작은 캐시로는 같은 계산을 반복하게 되는데, 공용 캐시를 쓰면 이를 줄일 수 있다고 해요. 원문은 비용 최대 40%, 첫 단어가 나오기까지의 시간 최대 80% 절감을 제시해요.
Amazon AWS Machine Learning blog · 11월 21일 09:14 KST - AI 챗봇에 블랙프라이데이 TV 할인 물어보니, 링크는 죽고 가격은 틀려
BBC 기자들이 ChatGPT, Claude, Gemini 등 AI 챗봇에게 55인치 TV 할인 제품을 찾아 달라고 해 봤어요. 결과는 엇갈렸고, 안내한 링크 상당수가 이미 없거나 오래된 정보였어요.
BBC News · 11월 21일 09:06 KST - Anthropic 수학자, Claude로 리만 가설 증명 주장 제기
Anthropic 수학자 레벤트 알페외게(Levent Alpöge)가 Claude와 함께 약 6주 만에 리만 가설(Riemann Hypothesis) 증명을 찾았다고 주장하는 내용을 다뤄요. 영상은 어려운 수학보다는 이것이 AI에 대해 무엇을 뜻하는지에 초점을 맞춰요. 증명은 아직 검증 중이에요.
TheAIGRID · 11월 21일 08:45 KST