[이영환의 AI 에이전틱 이코노미㉙] 아무도 지시하지 않은 침입, 그리고 UN 보고서가 멈춘 자리
AI가 유능해질수록 그 위험을 걱정하는 목소리도 함께 커진다. 그 걱정을 가장 무겁게 정리해 온 곳이 UN이다. 지난 9월 21일 UN의 '독립 국제 과학패널'은 'AI 에이전트, 오(誤)정렬, 그리고 인간 통제 상실의 위험'이라는 보고서를 공개했다. 핵심 진단은 이렇다. AI의 능력이 커지는 것은 좋은 일에만 쓰이지 않는다. 목표가 어긋난 시스템에게 그 능력은 허점을 찾아내고, 안전장치를 넘어서고, 자기 행동을 사람의 눈에서 감추는 데에도..