딥페이크·AI 환각 잡는 실시간 검증 봇 등장…포티넷 '통합 포티AI' 공개

소셜미디어 실시간 AI 생성 판별 봇 'RealityChek AI' 전격 출시
글로벌 보안 기업 포티넷, 딥페이크 위협 대응 '포티AI(FortiAI)' 플랫폼 선보여
유럽연합 AI법 시행 맞춰 AI 생성물 워터마크·보안 검증 시장 급성장

https://realchecks.app/ 캡처

 

생성형 인공지능(AI)의 급격한 발전에 따른 딥페이크 가짜뉴스, 이미지 정교화, AI 환각(Hallucination) 공격이 기승을 부리는 가운데, AI 생성 콘텐츠를 실시간으로 판별하고 보안 위협에 자동 대응하는 차세대 AI 보안 솔루션들이 6일 대거 공개됐다.

 

소셜미디어 실시간 판별…'RealityChek AI' 봇 전격 출시

글로벌 데이터 솔루션 기업 하이드어웨이 디지털(Hydaway Digital)은 6일 X(구 트위터) 등 주요 소셜미디어 플랫폼 상에서 유포되는 이미지, 영상, 음성의 AI 생성 여부를 즉시 검증해 주는 실시간 판별 봇 '리얼리티체크 AI(RealityChek AI)' 서비스를 정식 출시했다고 발표했다.

 

리얼리티체크 AI | 한국 스타트업 아이디어 검증

 

사용자가 SNS 게시물에 리얼리티체크 AI 봇을 태그하거나 링크를 입력하면, 봇은 정밀한 시각적 픽셀 파형 분석, 딥페이크 아티팩트(흔적) 탐지, 딥러닝 워터마크 검출 기술을 통해 해당 콘텐츠가 인공지능으로 조작되거나 생성되었는지 여부를 단 2초 만에 확률(%) 수치로 판별해 준다.

 

최근 정치적 이슈나 기업 관련 악의적 딥페이크 영상이 급증함에 따라, 이 같은 실시간 AI 진위 검증 솔루션은 가짜뉴스 확산을 방지하는 파수꾼 역할을 할 것으로 기대된다.

반응형

기업 생성형 AI 위협 막는다…포티넷 '포티AI' 보안 플랫폼 공개

한편, 글로벌 보안 선도 기업 포티넷코리아는 오는 8월 11일 서울에서 열리는 국방·기업 보안 콘퍼런스 'ISEC 2026'에 앞서 6일 기자 간담회를 갖고, 생성형 AI 위협에 대응하는 자사의 지능형 통합 보안 플랫폼 '포티AI(FortiAI)'를 국내 시장에 선보였다.

 

포티AI는 기업 내부 직원들이 ChatGPT나 생성형 AI 도구를 사용하는 과정에서 발생할 수 있는 데이터 유출(DLP) 위험을 차단하고, AI 모델을 겨냥한 적대적 공격(Adversarial Attack)이나 프롬프트 인젝션을 실시간 감지하여 자동 무력화하는 통합 관제 솔루션이다.

 

유럽연합(EU)의 세계 최초 'AI법(AI Act)'이 2026년부터 본격적으로 시행되고 AI 투명성 의무화 조항이 강제됨에 따라, 글로벌 기업들은 AI 생성물 표기(Watermarking) 및 AI 보안 관제 시스템 도입을 서두르고 있다.

 

조원균 포티넷코리아 대표는 "AI가 해커들의 고도화된 사이버 공격 무기로 악용되는 시대에 진입했다"며 "AI로 유발된 보안 위협은 더 정교한 AI 보안 솔루션으로 자동 대응해야만 기업의 핵심 데이터 자산을 지켜낼 수 있다"고 강조했다.

• 출처: Hydaway Digital