AI로 생성된 가짜 영상, AI로 걸러낸다

지난달 한국을 찾은 도널드 트럼프 미국 대통령에게 이재명 대통령이 선물한 천마총 금관 모형이 화제가 되며, 유튜브 등 소셜네트워크서비스(SNS)에서는 트럼프 대통령이 금관을 쓴 사진과 영상이 빠르게 퍼지고 있다. 물론 인공지능(AI)으로 생성된 ‘가짜 영상’이다. 최근 AI로 생성된 가짜 영상이나 저품질 영상, 이른바 ‘AI 슬롭(Slop·찌꺼기)’이 폭발적으로 늘고 있다. 원하지 않는 영상에 노출돼 불편함을 호소하는 SNS 사용자가 많아지는 동시에 SNS를 통해 광고를 하는 기업들도 부적절한 영상 뒤에 광고가 붙는 경우가 발생해 불만이 커지고 있다. 이에 정보통신기술(ICT) 업계에서는 원하지 않는 AI 영상을 걸러주는 안전 기술 개발에 대한 관심이 치솟고 있다. ● AI 영상 뒤에 붙는 광고, 신뢰 절반으로 하락지난해 유튜브가 발표한 ‘AI와 크리에이터: 기술과 창의성의 미래’라는 보고서에 따르면 유튜브 크리에이터의 92%가 생성형 AI 도구를 활용해 영상을 제작하고 있다.