[사설] 빅테크 “AI 속도경쟁만 해선 안돼” 경고 새겨야

다리오 아모데이 앤트로픽 CEO. /AFP·연합

최첨단 인공지능(AI) 개발을 이끌어온 빅테크 수장들이 이례적으로 개발 속도 조절에 한목소리를 냈다. 앤트로픽의 다리오 아모데이 CEO가 "프런티어 AI의 개발 속도를 늦추고 면밀한 감시가 필요하다"고 제안하자 오픈AI의 샘 올트먼, X의 일론 머스크, 구글 딥마인드의 데미스 하사비스도 잇따라 공감을 표시했다. 경쟁 당사자들이 이런 주장을 함께 내놓았다는 사실 자체가 AI 안전 문제가 더 이상 미래의 가상 위험이 아님을 보여준다.

우려의 핵심은 AI가 스스로 차세대 AI 개발을 돕는 재귀적 자기 개선과 자율 에이전트의 확산이다. AI 능력이 인간의 이해와 통제 능력을 추월할 경우 사고의 규모는 예측하기 어렵다. 실제로 AI가 사이버 공격이나 사기, 감시 등에 악용된 사례가 보고됐고, 인간의 지시를 벗어나 다른 AI와 협력하는 현상도 확인됐다. 문제는 위험을 측정하기조차 쉽지 않다는 데 있다. 더 이상 통제 장치 마련을 뒤로 미뤄서는 안 되는 이유이다. 다만 개발 속도를 낮추자는 주장을 그대로 정책으로 받아들일 수도 없다.

AI는 이미 경제 경쟁력을 넘어 안보와 국가 주도권을 좌우하는 전략기술이 됐다. 미국과 중국이 막대한 자원과 인재를 투입해 경쟁하는 상황에서 어느 한쪽이 속도를 늦춘다면 순식간에 뒤처지게 된다. 미국이 중국과의 경쟁에서 앞서기 위해 AI 개발 가속을 강조하는 것도 이 때문이다. 중국 역시 미국의 속도조절론을 자국을 겨냥한 경쟁전략으로 의심할 것이다. 하지만 패권 경쟁을 이유로 안전을 뒷전으로 미뤄서는 안 되는 지경까지 왔다.

현실적인 방안은 경쟁 중단이 아니라 안전과 통제 능력까지 경쟁의 기준에 넣는 방식일 것이다. 고위험 AI에 대한 독립적 평가와 출시 전 검증, 사고 발생 시 정보 공유와 공동 대응, 개발 과정의 투명성과 책임성을 담은 국제 공통 기준을 마련할 필요가 있다. 유네스코의 AI 윤리 원칙이 강조한 인간 존엄성, 공정성, 투명성, 인간의 감독 등도 이런 논의의 중요한 출발점이 될 수 있다.

우리도 예외가 아니다. 올해 시행된 AI 기본법은 기술 개발과 산업 진흥을 강조한다. 거기에 안전·윤리와 책임, 통제에 관한 제도적 보완을 서둘러야 한다. 동시에 규제가 혁신을 가로막는 결과도 경계해야 한다. 미국과 중국에 비해 많이 뒤진 AI 경쟁력을 감안하면 인재와 컴퓨팅 인프라, 데이터와 핵심 기술에 대한 투자를 확대해 스스로 개발하고 통제할 능력을 확보해야 한다.

AI 경쟁은 누가 가장 빨리 달리느냐만으로 승부가 나지 않는 시점이 왔다. 더 빠르게 발전하면서 그 기술을 더 안전하게 통제하는 능력까지 갖춘 국가가 패권을 지킬 수 있게 될 것이다. 속도조절론이 던지는 진짜 숙제는 개발 중단이 아니라, 속도를 감당할 안전장치를 함께 갖추라는 뜻 아닌가.