AI 딥페이크 위험성, 국정감사서 '디지털 괴벨스' 경고

국정감사서 AI 가짜뉴스 생산 방지 대책 마련 촉구

 

국회 과학기술정보방송통신위원회가 13일 과기정통부 국정감사에서 인공지능(AI)을 이용한 딥페이크 기술의 위험성을 지적하며 "AI가 제도적 장치 없이 방치되면 '디지털 괴벨스'가 될 수 있다"고 경고했다. 이상휘 국민의힘 의원은 박장범 KBS 사장을 모델로 한 가짜뉴스 영상을 직접 시연하며 AI 부작용 방지 대책 마련을 촉구했다.

반응형

AI 딥페이크 기술의 정치적 위험성 부각

이상휘 의원은 국정감사에서 "AI가 경제와 사회, 문화를 넘어서 이제 정치적 영역까지 들어오고 있다"며 영상 합성형(모달) AI를 통한 가짜뉴스 생산을 방지할 대책을 마련할 것을 주문했다.

 

시연된 가짜뉴스는 박장범 KBS 사장이 KBS 경영난을 막기 위해 수신료 분리 징수를 해도 밀리지 말고 납부해달라는 내용이었다. 이 의원은 "AI가 제도적 장치 없이 방치된다면 '디지털 괴벨스'가 될 수 있다"며 "정책적으로 보완해 주길 바란다"고 말했다.

 

특히 과기정통부가 2026년도 AI 관련 과학기술 혁신 예산으로 5조원 이상을 편성했지만 정작 AI 위험을 통제 및 대응하는 예산은 극히 제한적이라는 점도 비판됐다. 가짜 영상과 조작콘텐츠, 허위정보 확산, 선거 여론 조작 등으로부터 국민을 보호하기 위한 투자가 병행돼야 한다는 것이다.

 

배경훈 과학기술부총리 겸 과기정통부 장관은 "AI 기본법에 AI 안전과 신뢰 관련 부분을 충분히 담기 위해 노력 중"이라며 "AI 안전연구소에서도 딥페이크 방지 기술을 연구하고 있다"고 답했다.

 

하지만 전문가들은 현재의 대응 수준으로는 AI 기술의 급속한 발전 속도를 따라잡기 어렵다고 지적한다. 특히 선거철을 앞두고 AI를 이용한 여론 조작 시도가 증가할 가능성이 높다는 우려가 제기되고 있다.

 

출처: 디지털데일리 - AI 딥페이크 위협 대비