TikTok gaat een nieuw detectiesysteem testen dat AI-gegenereerde spamaccounts opspoort binnen de meest gevoelige contentcategorieën: politiek, financieel advies en medische informatie. Het platform sluit zich bovendien aan bij de stuurgroep van C2PA, de coalitie die wereldwijd standaarden opstelt voor de herkomst en authenticiteit van digitale content.
Wat houdt de nieuwe detectie in
De test richt zich op accounts die stelselmatig AI-gegenereerde posts plaatsen rond onderwerpen met een directe impact op de gezondheid, financiën of politieke opvattingen van gebruikers. TikTok noemt dit expliciet 'high-risk' categorieën, wat aangeeft dat misleiding hier zwaarder weegt dan bij bijvoorbeeld entertainmentcontent.
Details over de exacte werking van het detectiemodel zijn nog niet vrijgegeven. Wel is duidelijk dat het gaat om een gerichte pilot en niet om een platformbrede uitrol.
Waarom juist politiek, financiën en gezondheid
Deze drie domeinen kennen van oudsher de grootste kans op reële schade wanneer content misleidend blijkt. Foutief medisch advies of gemanipuleerde financiële tips verspreiden zich op TikTok razendsnel, vaak sneller dan een correctie kan volgen.
- Politieke content: risico op desinformatie rond verkiezingen en beleid
- Financieel advies: risico op misleidende beleggings- of cryptotips
- Medische content: risico op schadelijke gezondheidsclaims
Door spamaccounts in deze categorieën als eerste aan te pakken, kiest TikTok voor een risicogebaseerde aanpak in plaats van een generieke moderatieslag over het hele platform.
TikTok en het lidmaatschap van C2PA
Naast de detectietest treedt TikTok toe tot de stuurgroep van C2PA, opgericht door onder meer Adobe en Microsoft en inmiddels gesteund door partijen als de BBC en Google. C2PA ontwikkelt technische standaarden waarmee de herkomst van een foto, video of AI-gegenereerd fragment te herleiden is.
Voor TikTok betekent dit lidmaatschap dat het platform meepraat over hoe herkomstlabels er in de praktijk uit gaan zien, in plaats van enkel bestaande standaarden over te nemen. Dat is relevant, want TikTok kampt al langer met de vraag hoe het AI-content betrouwbaar kan labelen zonder legitieme creators te hinderen.
Wat betekent dit voor merken en contentmakers
Voor adverteerders en contentmakers die zich aan de regels houden, is dit in de kern goed nieuws. Minder spam in dezelfde categorie betekent doorgaans meer zichtbaarheid voor content die wel aan de richtlijnen voldoet.
Bedrijven die actief zijn met financiële of medische content op TikTok doen er goed aan om nu al te controleren of hun eigen posts duidelijk herkenbaar zijn als afkomstig van een geverifieerde, menselijke bron. Wie AI gebruikt voor productie, kan beter vooruitlopen op labeling in plaats van erop te wachten.
Bron: Search Engine Journal