<사진 김상훈 의원실 제공>

국민의힘 김상훈 의원(대구 서구, 당 정책위의장)이 딥페이크 성착취물 피해를 예방하고 AI조작 허위·과장 광고를 근절하기 위한 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」(이하 정보통신망법) 개정안을 발의했다.

 최근 제정된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 ‘인공지능사업자’가 인공지능으로 만든 결과물에 ‘AI생성 표시’를 하도록 의무화했으며, 「공직선거법」에서도 딥페이크 선거 홍보물에 대한 AI생성 표시를 의무화하고, 선거일 전 90일부터 선거 당일까지 사용을 금지하고 있다.

그러나 「정보통신망법」에서는 온라인 상에 ‘정보를 제공하는 자’에게 AI생성 표시를 의무화하거나 불법 유통을 금지하는 내용을 두고 있지 않아 딥페이크 성범죄나 허위 정보의 게시·유포를 규율할 수단이 미비한 상황이다. 

이로 인해 SNS 등에 딥페이크 성착취물 유포 행위뿐 아니라‘물에 풀어서 쓰면 살이 저절로 빠진다’는 입욕제, ‘눈가에 바르면 1분 만에 주름이 개선된다’는 화장품, ‘가발처럼 머리카락이 빽빽해진다’는 탈모약 등 AI조작 영상으로 제품 효과를 허위·과장하는 불법 광고들도 늘어나는 추세다.

방심위에 따르면 지난해 X(엑스·옛 트위터)와 인스타그램, 페이스북, 유튜브, 틱톡 등 5개 SNS에서 적발된 허위 불법 광고는 59,021건으로 집계됐으며, 이 중 식·의약품과 관련한 불법 광고는 7,773건에 달했다.

이뿐 아니라 AI로 생성한 광고물(영상, 이미지, 댓글 등)을 실제 사용 후기인 것처럼 게시하면서, 정작 실사용자들의 후기는 올리지 못하도록 댓글 게재를 막는 등 소비자를 기만하고 있어 대책 마련이 시급하다.

이에 개정안은 온라인 상 정보제공자에게도 AI기술로 생성한 딥페이크 이미지·영상 등의 표시 의무를 부과하고, 해당 표시를 훼손하고 영리 목적으로 제공할 경우 유통을 금지함으로써 AI생성물 불법 이용에 대한 규율을 강화할 수 있게 했다.

김상훈 의원은 “최근 생성형AI 사용량이 폭증함*에 따라 AI조작 생성물 또한 증가할 것으로 예상되는 바 선제적인 대응책 마련이 필요하다”며 “법 개정을 통해 AI조작 성범죄 및 사기 판매 행위를 근절하고, 허위 정보 및 가짜 뉴스의 확산도 방지할 수 있을 것으로 기대한다”고 밝혔다.