[비즈니스포스트] 인공지능(AI) 기술 발전에 따른 안전성 논란이 커지고 있지만 한국이 AI 개발 속도를 늦추기보다 기술 경쟁력을 높이면서 안전성과 통제 역량을 함께 강화해야 한다는 전문가들 의견이 나왔다.

국가인공지능전략위원회는 1일 서울 중구 서울스퀘어에서 ‘AI 개발 속도조절론 관련 세미나’를 열고 글로벌 프론티어 AI 개발 속도조절론의 국내외 현황과 한국의 대응방향을 논의했다.

해외 출장으로 참석하지 못한 하정우 국가인공지능전략위원회 부위원장은 영상 축사에서 “우리가 AI 시대에 선도 국가가 될 수 있는지 측면에서 방법을 찾아내는 게 중요하다”며 “그 과정에서 우리가 주도적으로 안전성이나 규율에 대한 목소리를 낼 수 있는 노력도 함께 진행해야 한다”고 말했다.

하 부위원장은 “그런 목소리를 내기 위해서는 우리가 (AI를) 잘 만들 수 있어야 하고, 역량이 있어야 하며, 영향력을 발휘할 수 있는 힘을 가지고 있어야 한다”며 AI 역량 확보가 안전 규범 논의를 주도하기 위한 전제라는 점을 강조했다.

기조 발제를 맡은 이원태 국가인공지능전략위원회 보안특위 위원장은 AI 개발 속도를 늦추기보다 위험 검증과 사고 대응력을 빠르게 키워야 한다는 입장을 밝혔다.

이 위원장은 “프론티어 AI 모델과 산업적 활용은 절대 늦추지 말자”며 “다만 위험이 커지는 속도보다 검증, 사고 보고, 회복력 등 책임의 속도를 더 빨리 해야 한다”고 말했다.

이어 “안전은 가속의 반대말이 아니라 가속의 조건일 수 있다”며 “경쟁력 있는 AI는 성능뿐 아니라 안전하게 배포하고, 사고가 나도 회복할 수 있어야 한다”고 덧붙였다. 

김성훈 업스테이지 대표도 미국과 중국이 초지능(SI) 개발 경쟁을 벌이는 상황에서 한국이 AI 개발 속도를 늦춰서는 안 된다는 데 무게를 뒀다.

김 대표는 "미국이나 중국이 개발한 초지능이 항상 한국의 이해관계에 부합한다고 기대하기 어렵다"며 "한국도 독자적 AI 역량을 확보해야 한다"고 말했다.

그는 AI가 학습 데이터 생성과 AI 개발 과정에 활용되면서 모델 개발 주기가 매우 짧아지고 있다고 설명했다.

그는 “매달 하나씩 우리도 모델을 출시하고 있다”며 “안전하게, 그러나 굉장히 빠르게 초지능(SI)으로 나가야 된다”고 말했다.
  최대선 숭실대학교 AI안전성연구센터장은 개별 AI 모델만이 아니라 에이전트와 외부 도구를 결합한 전체 시스템의 실제 능력을 평가해야 한다는 의견을 밝혔다.

최 센터장은 “미래의 AI 능력을 정확히 예측할 수 없는 상태에서도 통제하고 검증하고 추적하는 부분은 준비하면서도 계속 (AI를) 개발해야만 대응이 가능하다”고 말했다.

이한울 에임인텔리전스 부사장은 AI 개발 역량과 함께 위험을 자체적으로 평가하는 역량, 검증된 보안 기술을 현장에 적용할 수 있는 여건을 갖춰야 한다고 했다.

이 부사장은 “AI를 개발하고 위험을 판단하는 자체 역량, 개발 역량과 위험 판단 역량 둘 다 길러야 된다”며 “검증된 보안 기술을 활용할 현장 여건과 소통이 필요하다”고 말했다.

이날 이원태 위원장은 국제 AI 안전 규범 형성 과정에서도 한국이 주도적 역할을 해야 한다고 제안했다.

이 위원장은 “표준이 완성된 뒤 뒤늦게 참여하는 수동적 태도가 아니라 우리가 규칙을 만들어서 규범을 연계하는 공공 설계자 또는 중재 플랫폼 역할을 할 수 있지 않을까 한다”며 “AI 안전과 관련한 검증과 사고 대응 표준을 잘 설계해서 선제적으로 제안할 필요가 있다”고 말했다. 조승리 기자