중국 정부, AI로 생성한 반국가적·야한 그림 금지한다

최근 학습형 AI를 통해 각종 일러스트를 그려내는 활동이 전세계에서 유행처럼 번지고 있다. 이를 이용한 게임도 여럿 나올 정도로 AI 그림이 대중적으로 다가온 가운데, 중국 정부가 AI를 활용한 그림이나 영상, 음성 등 콘텐츠 창작 활동에 제동을 걸었다.

12일, 중국 국가인터넷정보원과 공업정보화부, 공안부는 AI를 활용해 만드는 딥페이크나 합성 이미지에 대한 지침을 발표했다. 주요 내용으로는 AI를 사용해 만드는 이미지는 중국 법률과 행정 법규에 의해 금지되는 활동에 사용해서는 안된다는 것이 포함돼 있다. 중국 정부는 게임이나 영화, 만화 등 콘텐츠산업 전반적으로 선정적이거나 미신적이고 반국가적인 표현을 엄격하게 금지하고 있는데, 이를 AI 생성 이미지에도 적용시키겠다는 것이다.

또한, 사람 얼굴이 등장하거나 사실적인 사진이나 영상, 음성 등을 만들 때는 '이 그림은 AI에 의해 생성되었습니다'라고 알리는 마크를 달아야 하며, AI 이미지 생성 서비스 관리자로 하여금 사용자의 신원 정보를 확인하도록 강제한다. 이를 통해 AI로 생성된 콘텐츠가 법률을 위반하거나 정보보안위험으로 분류될 경우 서비스 제공자는 해당 사용자의 계정을 정지해야 한다.

중국 당국은 이러한 조치에 대해 "일부 파렴치한 사람들이 심층 합성 기술을 사용해 불법적이고 유해한 정보를 생산, 복사, 출판 및 유포하여 타인의 명예를 비방하고 비하해 왔기에, 인터넷 정보 서비스의 건전한 발전을 촉진하고 사이버 공간의 양호한 생태계를 유지하기 위함"이라고 밝혔으나, 속사정은 최근 일부 AI 프로그램을 활용해 중국 시진핑 주석을 비판하는 딥페이크 콘텐츠가 널리 퍼지고 있는 것을 막기 위한 조치로 해석된다.

해당 지침은 2023년 1월 10일부터 시행된다.