AI · 공식 발표
AI 에이전트 작업 한 건당 비용 줄이고 투자 효과 입증하기
Amazon AWS Machine Learning blog ·

한눈에 보기
아마존 베드록(Amazon Bedrock)에서 AI 비용을 관리하는 1편에 이어, 이번 글은 돈을 어떻게 잘 썼는지 따져요. 핵심은 토큰 한 개 가격이 아니라 작업 한 건이 드는 비용으로 보는 것이에요. 또 사람이 하던 일과 비교해 에이전트가 실제로 나은지 측정하는 방법도 다뤄요.
핵심 내용
- 같은 작업이라도 모델마다 글자를 나누는 단위(토큰)의 개수가 달라서 실제 비용이 달라져요.
- 답변으로 나오는 토큰은 입력 토큰보다 3~5배 비싸서, 형식 지시를 잘 따르는 모델이 비용을 줄일 수 있어요.
- 에이전트는 도구를 여러 번 부르며 대화를 반복하고, 그때마다 앞선 내용을 다시 보내 비용이 늘어나요.
- 추론(AI가 답을 만들기 전에 생각하는 과정)에 쓰는 토큰도 요금에 포함되는데, 가격표에는 잘 드러나지 않아요.
왜 중요할까요?
AI 에이전트가 늘수록 보이지 않는 비용이 쌓이므로, 비용을 작업 단위로 봐야 예산을 제대로 판단할 수 있어요.
원문과 출처
Optimizing cost per task and proving agent ROI on Amazon Bedrock
Amazon AWS Machine Learning blog · 11월 13일 03:43 KST
Amazon AWS Machine Learning blog에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Amazon AWS Machine Learning blog.
같은 분야의 다른 소식
- AWS Quick, 채팅으로 흐름 만들고 에이전트끼리 협업
AWS Quick에 새 기능이 더해졌어요. 한 사람이 하던 업무 방식을 팀 전체가 같은 방식으로 쓸 수 있게 돕는 기능이에요. 이제 흐름(업무를 자동으로 처리하는 순서)을 채팅만으로 만들고 고칠 수 있어요. 여러 에이전트(AI가 대신 일을 처리하는 프로그램)가 함께 일해 더 완성도 높은 답을 내는 기능도 나왔어요.
Amazon AWS Machine Learning blog · 11월 21일 10:06 KST - Amazon Bedrock Web Search, 언어 5종과 국가별 검색 추가
AWS가 AI 에이전트에 인터넷 최신 정보를 근거와 함께 가져다주는 도구 'Web Search on Amazon Bedrock'의 언어 지원을 넓혔어요. 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어와 미국 외 영어를 쓸 수 있게 됐어요. 또 특정 나라의 자료를 우선하도록 고를 수 있는 선택 항목도 추가됐어요.
AWS What's New · 11월 21일 09:17 KST - Amazon Cuts Self-Hosted AI Cost With Shared Cache Agent Skill
AWS 블로그가 여러 서버가 함께 쓰는 공용 캐시(저장 공간)로 자체 운영 AI 모델의 비용과 응답 지연을 줄이는 방법을 소개했어요. 각 서버의 작은 캐시로는 같은 계산을 반복하게 되는데, 공용 캐시를 쓰면 이를 줄일 수 있다고 해요. 원문은 비용 최대 40%, 첫 단어가 나오기까지의 시간 최대 80% 절감을 제시해요.
Amazon AWS Machine Learning blog · 11월 21일 09:14 KST - AI 챗봇에 블랙프라이데이 TV 할인 물어보니, 링크는 죽고 가격은 틀려
BBC 기자들이 ChatGPT, Claude, Gemini 등 AI 챗봇에게 55인치 TV 할인 제품을 찾아 달라고 해 봤어요. 결과는 엇갈렸고, 안내한 링크 상당수가 이미 없거나 오래된 정보였어요.
BBC News · 11월 21일 09:06 KST