TikTok lanserar verktyg för att verifiera AI-innehåll - blir först i branschen

TikToks arbete med att motverka och identifiera AI-genererat innehåll i appen fortskrider. I samarbete med flera branschledande aktörer tar de nu ytterligare steg för att märka upp och legitimera content, likväl som att skydda användaren från desinformation och skadligt innehåll. I samarbete med Coalition for Content Provenance and Authenticity (C2PA) blir TikTok den första plattformen att implementera verktyget Content Credentials.

AI möjliggör oändliga möjligheter för Tiktoks kreatörer, men kan förvirra eller vilseleda användare om de inte vet att innehållet de tittar på genererats av AI. Att märka upp innehållet bidrar således till att göra kontexten tydlig. Därför har TikTok, i över ett års tid, krävt att alla användare som skapar verklig AIGC med TikToks AI-effekter ska märka sitt innehåll efter våra riktlinjer. För att underlätta detta lanserade appen förra hösten ett eget verktyg, som använts av över 37 miljoner kreatörer sedan dess.

Nu tar TikTok ytterligare steg i att stärka upp sitt försvar mot vilseledande innehåll. TikTok kan nu automatiskt upptäcka AI-genererat innehåll (AIGC) när det laddas upp från vissa andra plattformar. I samarbete med Coalition for Content Provenance and Authenticity (C2PA) blir de den första videodelningsplattformen som implementerar C2PAs teknik för att kunna legitimera innehåll. TikTok lanserar därmed verktyget Content Credentials som fäster "metadata" till innehåll, vilket kan användas för att omedelbart känna igen och märka AIGC.

Denna funktion börjar rullas ut idag och kommer appliceras för alla användare globalt inom de kommande veckorna. För att hjälpa till att driva implementeringen av Content Credentials vidare inom branschen, ansluter TiKTok sig till Content Authenticity Initiative (CAI), lett av Adobe. I och med lanseringen blir TikTok den första videodelningsplattformen som använder Content Credentials i praktiken.

"Givet TikToks omfattande community av kreatörer och användare globalt är vi glada att välkomna dem både till C2PA och CAI i samband med att vi fortsätter förbättra vårt erbjudande kring öppenhet och äkthet på plattformen. I en tid när allt digitalt innehåll kan manipuleras och justeras är det avgörande för äktheten att kunna erbjuda sätt för allmänheten att skilja på vad som är desinformation och inte. Dagens tillkännagivande är ett avgörande steg mot att uppnå det resultatet", säger Dana Rao, General Counsel and Chief Trust Officer vid Adobe.

Även om experter generellt rekommenderar AIGC-märkning som ett sätt att supporta ansvarsfullt innehållsskapande, varnar de också för att etiketter kan orsaka förvirring om tittare inte har kontext om vad de betyder. För att kunna utbilda sitt community har TikTok arbetat med experter, däribland Mediawise, för att utveckla mediekunskapskampanjer. De ska hjälpa användaren att identifiera och tänka kritiskt kring AIGC och desinformation och lanseras i samband med implementeringen av Content Credentials.

I december 2023 lanserade även TikTok och Logically Facts en gemensam kampanj i appen som uppmanade användare att stanna upp, tänka efter och kontrollera att den information de läser, ser eller hör är pålitlig och korrekt. I linje med COPD (EU:s kod för bekämpning av desinformation), som TikTok är en del av, syftade kampanjen till att öka medvetenheten om risken för skadlig desinformation. Som en del av kampanjen rullade Logically Facts ut en serie utbildningsvideor och under bara några få veckor nådde kampanjen över sju miljoner visningar i Sverige.