TikTok lanserer verktøy for å verifisere AI-innhold - blir først i bransjen

TikToks innsats for å motvirke og identifisere AI-generert innhold i appen fortsetter. I samarbeid med flere ledende aktører i bransjen tar de nå ytterligere skritt for å merke og legitimere innhold, samtidig som de beskytter brukerne mot desinformasjon og skadelig innhold. I partnerskap med Coalition for Content Provenance and Authenticity (C2PA) blir TikTok den første plattformen som implementerer verktøyet Content Credentials.

AI gir fantastiske kreative muligheter, men hvis brukerne ikke er klar over at innholdet er generert av AI, kan det forvirre eller være misledende. Derfor er det viktig å merke innholdet tydelig for å gi kontekst. TikTok har derfor i over ett år krevd at alle brukere som lager ekte AIGC med TikToks AI-effekter, skal merke innholdet i samsvar med våre retningslinjer. For å gjøre dette enklere lanserte vi et eget verktøy i fjor høst, som har blitt brukt av over 37 millioner brukere siden da.

Nå tar TikTok ytterligere tiltak for å styrke forsvaret sitt mot misledende innhold. TikTok kan nå automatisk oppdage AI-generert innhold (AIGC) når det lastes opp fra visse andre plattformer. I samarbeid med Coalition for Content Provenance and Authenticity (C2PA) blir de den første videodelingsplattformen som implementerer C2PAs teknologi for å kunne legitimere innhold. TikTok lanserer dermed verktøyet Content Credentials som knytter "metadata" til innholdet, noe som kan brukes til å umiddelbart gjenkjenne og merke AIGC.

Denne funksjonen rulles ut i dag og vil gjelde for alle brukere globalt i løpet av de kommende ukene. For å bidra til å fremme implementeringen av Content Credentials i bransjen, tilslutter TikTok seg Content Authenticity Initiative (CAI), ledet av Adobe. Med lanseringen blir TikTok den første videodelingsplattformen som tar i bruk Content Credentials i praksis.

"Gitt TikToks omfattende samfunn av kratører og brukere globalt, er vi glade for å ønske dem velkommen både til C2PA og CAI, samtidig som vi fortsetter å forbedre vårt engasjement for åpenhet og autentisitet på plattformen. I en tid der alt digitalt innhold kan manipuleres og endres, er det viktig å kunne tilby måter for allmennheten å skille mellom hva som er generert og ikke. Dagens kunngjøring er et avgjørende skritt mot å oppnå dette resultatet", sier Dana Rao, General Counsel og Chief Trust Officer hos Adobe.

Selv om eksperter generelt anbefaler AIGC-merking som en måte å støtte ansvarlig innholdsproduksjon på, advarer de også om at merkelapper kan føre til forvirring hvis seerne ikke har kontekst om hva de betyr. Derfor har TikTok inngått samarbeidet med eksperter som blant annet Mediawise for å utvikle kampanjer om mediekunnskap. Disse kampanjene er ment å hjelpe brukerne med å identifisere og tenke kritisk om AIGC og desinformasjon. De vil bli lansert i sammenheng med implementeringen av Content Credentials.