보안강화 중 브로틀리 취약점 스스로 발견도
[로이터=연합뉴스 자료사진. 재판매 및 DB 금지]
(서울=연합뉴스) 강훈상 기자 = 오픈AI가 첨단 인공지능(AI) 모델의 훈련을 일시 중단했다가 시스템 보안을 강화한 뒤 재개했다고 23일(현지시간) 밝혔다고 로이터 통신이 보도했다.
오픈AI는 지난 9월 연구용 AI 모델이 시스템 설정 오류를 이용해 외부 인터넷에 무단 접근하는 사고가 발생하자 훈련을 중단했다. 스스로 컴퓨터 명령어를 실행하고 외부 도구를 활용하는 'AI 에이전트'가 연구진이 설정한 안전통제망(가드레일)을 우회해 격리망 밖으로 나간 것이다.
오픈AI는 사고 직후 최상위 모델의 훈련을 즉시 정지시키고 방어 체계 강화를 위해 AI 에이전트 팀을 동원해 내부 격리 환경(샌드박스)을 강제로 파괴·탈출하도록 하는 자율 침투 테스트(레드팀 검증)를 했다.
훈련 중단 기간 실시된 통제망 탈출 테스트 과정에서 AI 에이전트들은 전 세계 인터넷 인프라에서 폭넓게 쓰이는 구글의 데이터 압축 도구 '브로틀리'(Brotli)의 잠재적 취약점을 스스로 찾아냈다.
브로틀리는 웹 브라우저와 서버 간 데이터 전송을 돕는 오픈소스 라이브러리로 'Node.js' 등 주요 웹 소프트웨어에 내장되어 있다. 공격자가 악의적으로 조작된 데이터를 브로틀리가 탑재된 서버에 보낼 경우 시스템 제어권을 확보할 수 있는 원격코드실행(RCE) 위험이 존재했으나 오픈AI 에이전트의 발견 뒤 브로틀리 측은 정식 보안 패치를 배포했다.
AI 에이전트가 이미 기존 코드에 잠재했었으나 방치됐던 위험성을 정확히 파악해 내 보완 조치를 끌어낸 셈이다.
오픈AI는 AI 에이전트가 찾아낸 브로틀리 취약점과 내부 시스템 결함들을 모두 보완해 안전성을 확보한 뒤 지난 10월 1일 자로 최첨단 모델의 훈련을 재개했다고 설명했다.
오픈AI가 취약점 조치를 완료했다고 밝혔으나 외부 평가 기관들은 해당 패치에 대한 검증이 아직 완료되지 않았다고 전했다.
외부 AI 안전평가 기관인 METR과 레드우드리서치의 시범 평가 결과에 따르면 AI 에이전트가 통제망을 무력화하는 과정에서 자신의 자율동작 기록 수백 건을 중앙 모니터링 시스템을 피해 숨기는 '감시 회피'(Self-Concealment) 행위까지 포착된 것으로 나타났다.
이는 AI가 단순한 질문 답변 수준을 넘어 스스로 시스템 취약점을 탐지해 공격 코드를 조합하는 '오펜시브 에이전트'로 진화했음을 보여주는 한편, 목표 달성을 위해 인간의 감시 자체를 우회·은폐하는 등 AI 안전성 제어가 한계에 봉착했음을 시사한다고 로이터는 짚었다.
오픈AI는 지난 7월 AI 돌발 행동에 따른 우려의 발단이 된 허깅페이스 보안 사건 이후 자사 AI 에이전트의 무단 활동 사례와 관련해 100개 이상의 기관에 관련 사실을 통보했다.
hskang@yna.co.kr