“AI 이미지 자동 감지 및 라벨링, 사용자 신뢰 제고”
“AI 이미지 노출 줄이는 ‘see fewer’ 기능도 곧 제공”
Pinterest가 AI로 생성되거나 수정된 이미지에 ‘AI 수정됨’ 라벨을 공식 도입했다. 이번 조치는 AI 콘텐츠의 급증과 그에 따른 신뢰성 논란에 대응하기 위한 것으로, 플랫폼 내 투명성 강화와 사용자 경험 개선에 중점을 두고 있다.
최근 Pinterest는 AI 생성 이미지가 급격히 늘어나면서, 사용자가 진짜와 가짜 이미지를 구분하기 어려워졌다는 지적이 이어졌다. 이에 따라 Pinterest는 AI로 생성되거나 수정된 이미지를 자동으로 감지해 ‘AI 수정됨(AI modified)’ 라벨을 부착하는 시스템을 전면 도입했다.
Pinterest는 이미지의 메타데이터와 자체 개발한 AI 분류기를 활용해, 명확한 표시가 없는 경우에도 AI 생성 이미지를 탐지한다. 이 과정에서 국제 사진 메타데이터 표준인 IPTC를 준수하며, 이미지의 생성 및 편집 이력까지 분석한다.
| 구분 | 기존 Pinterest | 라벨 도입 후 변화 |
| AI 이미지 감지 | 수동(신고 위주) | 자동 감지 및 라벨링 |
| 사용자 선택 | 제한적 | ‘see fewer’로 노출 제어 |
| 오탐지 이의제기 | 불가 | 이의제기 시스템 도입 |
Pinterest 관계자는 “AI 생성 콘텐츠가 플랫폼을 넘쳐나면서, 신뢰와 투명성 확보가 무엇보다 중요해졌다”며 “라벨링 시스템은 AI 이미지의 확산을 관리하고, 사용자가 정보를 올바르게 판단할 수 있도록 돕는다”고 설명했다.
또한, 곧 도입될 ‘see fewer’ 기능을 통해 사용자는 AI 생성 이미지가 많이 노출되는 카테고리(예: 뷰티, 아트 등)에서 해당 콘텐츠를 줄일 수 있다. 이 기능은 핀 우측 하단의 메뉴에서 선택할 수 있으며, 사용자의 선택이 추천 알고리즘에 반영된다.
Pinterest는 오탐지로 인한 불편을 최소화하기 위해, 크리에이터와 사용자가 라벨링에 이의를 제기할 수 있는 별도의 절차도 마련했다. “분류기가 완벽하지 않다는 점을 인지하고 있으며, 이의제기 시스템을 통해 라벨의 정확성을 지속적으로 개선할 것”이라고 밝혔다.
업계 전문가들은 “AI 이미지가 SNS를 장악하는 현상은 전 세계적”이라며 “Pinterest의 조치는 플랫폼 신뢰성 제고와 디지털 윤리 실현에 중요한 이정표가 될 것”이라고 평가했다.
참고링크
'IT' 카테고리의 다른 글
| 마이크로소프트, 일론 머스크의 Grok AI 모델 Azure에 도입 추진 (0) | 2025.05.02 |
|---|---|
| AI2, 소형 AI 모델 ‘Olmo 2 1B’로 구글·메타·알리바바 능가 (0) | 2025.05.02 |
| 딥시크 R2, AI 산업에 ‘두 번째 쇼크’ 예고 (3) | 2025.04.30 |
| AWS, '코딩 에이전트' 벤치마크 SWE-PolyBench 전격 공개 (1) | 2025.04.30 |
| 메타, AI 어시스턴트 앱과 Llama API 플랫폼 출시 (0) | 2025.04.30 |
