AI · 기사
오픈AI 올트먼·브록먼, 멋대로 움직이는 AI 에이전트와 보안 이야기
The New York Times ·
한눈에 보기
OpenAI 공동창업자 샘 올트먼과 그렉 브록먼이 뉴욕 DealBook 서밋 무대에서 AI의 안전과 위험 사이 균형을 어떻게 잡을지 이야기했어요. 사람 뜻과 달리 멋대로 움직이는 AI 에이전트(스스로 일을 처리하는 AI 프로그램) 문제도 다뤘어요.
핵심 내용
- 올트먼과 브록먼이 DealBook 서밋에서 라이브 인터뷰로 대화했어요.
- 주제는 AI의 안전성과 위험 사이에서 균형을 잡는 방법이었어요.
- 멋대로 움직이는 AI 에이전트 문제와 AI 보안도 이야기했어요.
왜 중요할까요?
AI 에이전트가 스스로 일하는 범위가 넓어질수록 안전을 어떻게 지키는지가 사용자와 사회에 직접 영향을 줘요.
원문과 출처
Watch: OpenAI’s Top Executives Talk Rogue Agents and A.I. Security
The New York Times · 11월 19일 03:19 KST
The New York Times에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. The New York Times.
같은 분야의 다른 소식
- 디자이너들 "Ssense 사이트에서 옷이 실제와 다르게 보여"
디자이너 리스 쿠퍼는 자신의 브랜드 RCOS 패딩 코트가 명품 쇼핑몰 Ssense 사이트에서 왜곡되어 보인다고 알렸어요. 가슴의 고리 장식이 실제보다 훨씬 크게 그려졌다고 했어요. Ssense는 일부 사진이 '가상 착용(옷을 입은 모습을 컴퓨터로 만든 기능)' 기술로 만들어졌다고 밝혔지만, AI를 쓰는지는 답하지 않았어요.
The New York Times · 11월 21일 06:16 KST - 앤트로픽 투자·HBM·클로드까지, 한국 기업의 AI 3각 포석
미국 AI 기업 앤트로픽의 기업공개(IPO)를 계기로 한국 기업들이 AI 시장에서 여러 방향으로 존재감을 넓히고 있어요. SK텔레콤은 초기 투자로 큰 평가이익을 얻었어요. 삼성전자와 SK하이닉스는 반도체 공급 협력을 강화하고 있어요. 삼성SDS와 LG CNS는 앤트로픽의 AI 모델 클로드로 기업용 AI 시장에 들어가고 있어요.
뉴스웨이 · 11월 21일 06:10 KST - MIT·IBM 연구팀, 멀티모달 AI의 이해 한계 파헤쳐
MIT과 IBM 연구팀이 텍스트·이미지·소리를 함께 다루는 멀티모달 AI 모델의 약점을 연구하고 있어요. 이 모델들은 겉으로는 여러 정보를 잘 다루지만 실제 이해는 부족한 경우가 많아요. 팀은 MIT의 짐 글래스 연구원과 함께 새 시험 방법과 적은 데이터로 배우는 기법을 만들고 있어요.
MIT News · 11월 21일 06:00 KST - AI 공급망 허점으로 사용자 비밀 정보 대량 유출 확인
연구자들이 AI 서비스 여러 곳을 거치는 요청에 가짜지만 실제로 작동하는 비밀번호와 열쇠를 약 200만 개 심어 추적했어요. 그 결과 많은 비밀 정보가 새어 나가 공격자들이 이를 이용해 클라우드 계정에 접근했어요.
Ars Technica · 11월 21일 05:59 KST