중앙선관위는 공직선거법 개정으로 딥페이크영상등을 이용한 선거운동이 금지됨에 따라 위법행위 예방·단속 종합대책을 발표하였다.
정교한 기술로 만들어진 딥페이크영상이 선거운동에 활용되는 경우 유권자의 정확한 판단을 방해할 가능성이 크다. 이에 중앙선관위는 딥페이크영상등 관련 법규운용기준을 마련하고, 가용역량을 총동원하여 위법행위에 신속하고 엄정하게 대응할 방침이다.
▣ 딥페이크영상등 이용 선거운동 관련 법규운용기준
누구든지 선거일 전 90일부터(공직선거법 부칙에 따라 1월 29일부터 시행)는 선거운동을 위하여 인공지능 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(이하 ‘딥페이크영상등’)을 제작·편집·유포·상영·게시할 수 없다.
포토샵·그림판과 같이 인공지능 기술 등을 사용하지 않고 사용자가 직접 조작하는 프로그램을 이용하는 것은 제한되지 않으나, 고급·전문가버전 등 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한대상이 될 수 있다.
선거일 전 90일부터 선거일까지 공직선거법 제90조, 제93조 등 공직선거법을 위반하지 않는 범위에서 의정활동 보고, 통상적인 정당활동, 당내경선운동, 투표참여 권유활동에 딥페이크영상등을 이용할 수 있다.
※ 당내경선운동은 공직선거법 제57조의3에 규정된 방법(경선사무소 설치, 경선선거운동용 명함교부, 경선홍보물 발송, 정당의 합동연설회 등 개최)에 한정된다.
다만, 이를 계기로 딥페이크영상등을 이용하여 사실상 선거운동을 하는 경우에는 법에 위반될 수 있다.
▣ 위법행위 예방·단속 대책
인공지능 기술 발전에 따른 초유의 단속환경에 효과적으로 대응하기 위해 가용역량을 총동원한다. 현재의 불완전한 감별기술 수준 등을 감안하여 감별의 신뢰도를 높이고, 효과적 인지 및 신속한 조치를 위한 단속방안을 마련하였다.
이미 중앙선관위는 지난 1월 11일부터 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반 등을 확대 편성·운영하는 등 대응준비를 마쳤다.
기술적 한계를 보완하기 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높인다. 또한, 포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI콘텐츠가 선거운동에 활용되는지 여부를 집중 감시한다.
언론보도, 포털·SNS社와의 업무협조를 통해 유권자와 정당·입후보예정자를 대상으로 운용기준을 적극 안내하고, 악의적·조직적 제작·유포 행위에 대해 엄중 조사·조치한다. 포털 및 AI 플랫폼 관계사 등과 긴밀한 협조를 통해 위법성이 의심되는 AI 콘텐츠는 선제적으로 삭제 조치하고, 삭제요청에 불응하는 경우 과태료 등을 적극 부과할 방침이다. 특히 선거일이 임박한 시기에는 불법 AI 콘텐츠에 대한 조치수준을 최대한으로 높여 대응한다.
또한 AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동게시의 경우 사회 전체 여론을 왜곡하고, 업무방해죄 등에도 해당될 수 있어 데이터분석 등을 통해 의심사례를 발견하면 수사기관에 신속히 통보할 예정이다.
중앙선관위는 기술의 발달로 실제와 구분하기 어려운 가상의 영상을 누구나 쉽게 만들 수 있는 상황이 된 만큼, 유권자들도 선거공보나 후보자토론회 등 공식 선거운동방법과 신뢰성 있는 언론매체 등을 통해 종합적으로 후보자의 자질과 공약을 따져 볼 것을 당부하였다.
