[비즈니스포스트] 오픈AI가 내부 훈련 과정에서 인공지능(AI) 에이전트가 호주 정부 관련 4개 기관의 웹사이트와 시스템에 접근한 것과 관련해 사과했다.

AI 에이전트가 정부 시스템을 해킹한 사실이 공개적으로 확인된 첫 사례로 평가되면서 AI 에이전트의 자율행동 통제와 사고 통보 체계를 둘러싼 논의도 커지고 있다.
 

오픈AI는 28일(현지시각) 오픈AI 홈페이지에 공개한 ‘호주에서 더 잘하기 위해 우리가 할 일(How we will do better for Australia)’에서 “지난 6월 내부 훈련과 평가 과정에서 우리 모델이 허가받지 않은 방식으로 호주 정부 웹사이트에 접근했다”고 밝혔다.

오픈AI가 자체 조사에서 확인한 대상은 서비스 오스트레일리아, 뉴사우스웨일스주 범죄통계연구국(BOCSAR), 빅토리아주 보건부, 호주보건복지연구원(AIHW) 등 4곳이다.

가장 심각한 침해는 서비스 오스트레일리아의 ‘메디케어 통계 보고 서비스’에서 발생했다. 피부질환 치료제에 대한 정부 지출을 조사하던 모델이 비공개 접근 경로를 찾아 명령어를 실행하고 내부 파일과 자격증명, 집계 통계, 기술정보와 소스코드 등에 접근했다. 다만 개인 의료기록에는 접근하지 않은 것으로 조사됐다. 

나머지 3곳에서는 공개 도구나 외부에 노출된 접근 키, 제3자 서비스를 이용해 설정정보와 운영 로그, 집계 통계 등을 조회했다. 호주보건복지연구원에서는 접근통제 우회 시도가 실패했고 시스템 침해도 발생하지 않았다고 오픈AI는 설명했다.

로이터는 이번 사건을 AI 에이전트가 정부 웹사이트를 해킹한 첫 공식 사례로 보도했고, 호주 ABC는 연구자들을 인용해 AI 에이전트의 정부 해킹 첫 보고 사례로 평가했다.

호주 정부는 침해 사고와 오픈AI의 늦은 사고 통보에 강한 우려를 나타냈다.

호주 ABC에 따르면 오픈AI는 9월10일 서비스 오스트레일리아의 공개 취약점 신고 이메일로 사건을 알렸고, 서비스 오스트레일리아는 11일 이를 확인한 뒤 15일 호주 정부의 정보·사이버안보 기관인 호주신호국(ASD)에 통보했다. 앤서니 앨버니지 호주 총리와 총리실은 19~20일 사건을 보고받았다.

앨버니지 총리는 24일 샘 올트먼 오픈AI 최고경영자(CEO)에게 직접 전화해 우려를 전달하고 같은 날 사건을 공개했다. 

그는 이번 침해를 “용납할 수 없다”고 밝히며 오픈AI가 사건을 정부에 알리는 데 지나치게 오랜 시간이 걸렸다고 비판했다.

오픈AI는 재발 방지를 위해 연구 환경의 실제 인터넷 접근을 차단하고 모니터링을 강화했으며, 고성능 모델의 도구 사용 훈련과 평가도 일시 중단했다.

또 10억 달러 규모의 글로벌 ‘데이브레이크 포 프런트라인 디펜더스’ 기금과 기술 지원을 활용해 호주 정부·산업계의 사이버 방어 강화를 지원하고, 호주 전문가가 참여하는 태스크포스를 꾸려 AI 에이전트 위험 관리와 사고 통보 절차 개선 방안을 마련하기로 했다. 

제이슨 권 오픈AI 최고전략책임자(CSO)는 10월6일 호주 의회 인공지능 합동특별위원회에 출석해 사건 경위와 대응책을 설명한다. 조승리 기자