상상대로 서울

현재 과학 기술이 발전해 감에 따라 AI를 활용한 광고도 점차 늘어나고 있다. 이에 따라 소비자들은 AI를 활용한 허위·과장광고를 구분하지 못하는 일이 증가하고 있다. 특히 건강에 예민한 노년층 등 취약계층이 가짜 의학 정보에 현혹되는 등 국민 경제와 생명에 큰 피해를 야기하고 있다. 이에 따라, 2026년 1월부터 <AI 기본법>을 시행하며 AI 생성물의 투명성을 확보해야 한다는 가이드라인이 생겼으며 <정보통신망법> 개정을 추진하여 AI 생성물의 표시를 의무화하는 제도가 법제화 단계에 진입하는 등 제재 수단을 확충하고 단속 역량을 강화하려는 모습을 보이고 있다. 그러나 현재 정책들은 피해 심각성과 확산 가능성을 고려하지 않고 모든 신고를 동등하게 처리하여 고위험 광고에 신속한 대응이 불가능해 행정 자원을 효율적으로 배분하지 못하고 있다. 또한 이미 피해가 발생한 후 조치가 이루어져 사후 구제에만 집중하며 소비자의 피해를 사전에 예방하기 위한 부분에서 부족함을 보이고 있다. 이러한 문제점들을 보완하기 위해 위험도 평가를 통한 우선순위 결정과 소비자를 대상으로 하는 사전 경보 제도를 도입하여 피해 예방을 중심으로 전환해야 한다.

2. 개선 방안

AI 광고 위험도 분류 및 신속 경보제는 신고 및 모니터링을 통해 발견된 AI 기반 허위·과장 광고의 위험 수준을 체계적으로 평가하고 위험도가 높은 광고에 행정 역량을 우선 투입하여 피해를 사전 예방하기 위한 정책이다. 

AI 허위· 과장 광고 발견 시 

① 피해 심각성, ② 기만성, ③ 확산성, ④ 피해 회복 가능성을 종합적으로 평가하여 위험도를 ‘관심？주의？경계？긴급’의 4단계로 분류한다.

1. 피해 심각성

-> 광고로 인해 발생할 수 있는 경제적·신체적·생활상 피해의 정도를 평가함.

2. 기만성

-> 소비자가 광고 내용을 오인할 가능성과 허위·과장 정도를 평가함.

3. 확산성

-> 해당 광고가 얼마나 빠르고 넓게 소비자에게 노출될 수 있는지 평가함.

4. 피해 회복 가능성

-> 소비자의 사후 환불 여부에 따라 피해 회복의 용이성을 평가함. 

 위의 4가지 기준을 종합적으로 고려하여 종합 위험도를 선정하고 각 기준별로 “낮음, 보통, 높음”의 3단계로 평가한다. 또한 이 평가 결과에 따라 광고를 “관심, 주의, 경계, 긴급”의 4단계로 분류하여 대응 우선순위를 결정한다. 각 항목의 점수는 다음과 같다.

<평가 방식>

높음:3점

중간:2점

낮음:1점 

<단계별 점수>

관심:4~5점

주의:6~7점

경계:8~10점

긴급:11~12점

 위험도가 높은 광고일수록 조사 및 대응의 우선순위를 높여 한정된 행정 인력을 피해 가능성이 큰 광고에 집중적으로 배분하도록 한다. 이를 통해 모든 신고를 동일한 방식으로 처리하는 대신 피해의 심각성과 확산 가능성을 고려한 효율적인 대응 체계를 마련할 수 있다.

또한 위험도 평가 결과 피해 규모가 크거나 단기간 내 광범위한 확산이 우려되는 고위험 광고에 대해서는 ‘신속경보’를 발령한다. 신속경보는 구청 문자, 홈페이지, SNS 등 기존 행정 전달망을 활용하여 소비자에게 제공하며, 경보에는 문제가 된 광고의 주요 특징, 구분법, 피해 예방을 위한 행동 요령, 피해 발생 시 신고 및 구제 절차 등을 포함한다. 

이와 더불어 정부 기관에 해당 광고들을 신고할 수 있는 카테고리를 추가적으로 제작하고 소비자는 인터넷 매체의 허위·과장광고를 캡쳐하여 이 곳에 신고할 수 있도록 한다. 또한 위의 조건과 맞지 않는 광고를 허위 신고할 경우 신고한 당사자에게 일정 기간 동안 신고를 제한하는 등 페널티를 부여한다. 

(더 자세한 내용은 아래 첨부된 PPT 자료를 참고 부탁드립니다.)

3. 기대 효과