AI 안전
AI Safety
AI가 사람에게 해를 끼치지 않고 사람이 바라는 대로 행동하게 만드는 연구와 장치를 통틀어 말해요.
조금 더 자세히
AI가 똑똑해질수록 잘못 쓰이거나 엉뚱하게 행동했을 때의 피해도 커져요. AI 안전은 위험한 정보를 알려 주지 않게 하고, 일을 하다가 사람을 속이거나 허락받지 않은 행동을 하지 않게 하는 일을 다뤄요. 사람의 뜻과 가치에 맞게 행동하도록 맞추는 일을 정렬이라고 해요.
AI 회사들은 새 모델을 내놓기 전에 위험한 능력이 있는지 시험하고, 결과를 보고서로 공개하기도 해요. 다만 '얼마나 안전해야 충분한가'에는 정해진 답이 없고, 빨리 내놓으려는 경쟁과 부딪히는 일이 잦아요.
예를 들면
자동차를 더 빠르게 만드는 것만큼, 브레이크와 안전띠를 달고 충돌 시험을 하는 일이 필요한 것과 같아요.
왜 알아 둘 만한가요
AI에게 맡기는 일이 커질수록 '믿고 맡겨도 되는가'가 성능만큼 중요해져요. 새 모델 발표에 안전 평가가 함께 나오고, 규제 논의도 대부분 여기서 시작해요.
이렇게도 불러요AI 안전성