유엔 AI행동규범 추진…’통제불능 괴수’ 맞서 IAEA급 기구 구상

유엔이 인공지능(AI)의 인류 위협설 속에 규제를 위한 국제규약과 전문기구 수립을 언급하고 나섰다고 연합뉴스가 13일 보도했다.

AP, 로이터 통신 등에 따르면 안토니우 구테흐스 유엔 사무총장은 12일(현지시간) 기자회견에서 허위 정보와 증오의 확산, AI 발전에 따른 위협이 통제할 수 없는 ‘괴수’가 될 수 있다며 이런 구상을 밝혔다.

구테흐스 총장은 며칠 내에 과학자 고문들을 임명하고 올해 9월에는 AI 자문위원회를 만들어 계획을 구체화해가기로 했다.

이 같은 계획은 챗봇, 이미지 제작기, 음성 복제기 등 급격히 고도화하는 AI 도구 때문에 정보의 진위 판별이 어렵다는 경고 속에 나왔다.

구테흐스 총장은 “정립된 과학적 사실을 저해하는 허위 정보를 대규모로 퍼뜨리는 능력 때문에 인류가 존망의 위협을 받는다”고 진단했다.

현 사태에 대응할 새 유엔 기구의 본보기로는 국제원자력기구(IAEA)가 제시됐다.

구테흐스 총장은 “오늘날 IAEA와 같은 AI 기구를 우리가 보유할 수 있다는 생각에 동의한다”고 말했다.

다만 그는 유엔 기구의 창립 주체는 유엔 사무국이 아닌 회원국들이라며 이행에는 국제사회 합의가 선행돼야 한다는 점을 부연했다.

IAEA는 전문 지식을 토대로 인류 존립에 위협이 될 수 있는 원자력 사용을 규제할 권한을 지닌 유엔 산하 기구다.

오스트리아 빈에 본부를 둔 IAEA는 1957년에 창설돼 원자력 기술의 안전하고 평화로운 사용을 증진한다는 목적으로 운영돼왔다.

특히 IAEA는 190개국이 가맹한 핵확산금지조약(NPT)을 토대로 원자력의 무기화 등 비평화적 사용을 감시하는 권한을 행사한다.

구테흐스 총장은 디지털 플랫폼과 AI 사용을 글로벌 차원에서 규제하기 위해 ‘국제 행동규약’의 제정을 추진한다고 밝혔다.

그는 “디지털 플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약이 내년 미래정상회의를 앞두고 개발되고 있다”고 설명했다.

구테흐스 총장은 행동규약과 관련해 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭을 자제한다는 원칙을 일단 제시했다.

그는 정부에는 허위 정보, 정보 왜곡, 혐오 발언에 대응할 때 적법한 발언을 차단하거나 인터넷이나 매체 자체를 폐쇄하지 말고 언론인과 독립적인 매체를 확실히 보호하라는 원칙을 주문했다.

디지털 플랫폼을 통제하는 기업들에는 허위 정보와 증오 발언 대처방식, 알고리즘, 광고 영업을 투명하게 공개하고 규제 때 언어와 국가에 따라 이중잣대를 적용하지 말아야 한다는 원칙을 제안했다.

구테흐스 총장은 “모든 AI 애플리케이션이 안전하고 책임감 있으며 윤리적으로 사용되도록 보장할 시급하고 즉각적인 대책”이라고 강조했다.

그는 유엔이 AI 기술의 발전에 대처하기 위해 창설될 조직과 운동의 중심이 되려고 노력할 것이라고 의지를 밝혔다.

그러나 그는 국제기구와 정부가 수십 년 동안 과학과 전문지식을 지닌 인력에 투자를 소홀히 한 까닭에 쉬운 과제가 아닐 것이라고 내다보기도 했다.

연합뉴스 2023.06.13