TikTok gaat actief testen met detectietechnologie voor accounts die op grote schaal AI-gegenereerde spam verspreiden in politiek, financieel advies en medische content. Het platform sluit zich bovendien aan bij de stuurgroep van C2PA, de coalitie die wereldwijd standaarden ontwikkelt voor de herkomst van digitale content.
Waarom deze drie categorieën
Politiek, financieel advies en gezondheid staan bekend als de gevoeligste hoeken van het internet. Verkeerde informatie hierover raakt niet alleen de reputatie van een platform, maar kan gebruikers ook concreet schaden, denk aan misleidend beleggingsadvies of onjuiste medische claims.
Door juist hier detectie te testen, erkent TikTok dat generieke spamfilters tekortschieten zodra AI-content overtuigend genoeg oogt om als legitiem advies door te gaan.
De rol van C2PA in dit verhaal
C2PA, voluit de Coalition for Content Provenance and Authenticity, is opgericht door partijen als Adobe, Microsoft, Intel en de BBC en werkt aan technische standaarden waarmee de bewerkingsgeschiedenis van een foto, video of audiofragment traceerbaar wordt.
- Vastleggen wanneer en met welke tools content is gemaakt of bewerkt
- Zichtbaar maken of AI een rol speelde in het productieproces
- Een gedeelde technische taal creëren tussen platforms, camerafabrikanten en mediabedrijven
Met een zetel in de stuurgroep krijgt TikTok direct invloed op hoe die standaarden zich verder ontwikkelen, in plaats van ze later simpelweg te moeten implementeren.
Wat dit betekent voor makers en marketeers
Voor wie legitiem content maakt over beleggen, gezondheid of politiek verandert er in de basis weinig, zolang de content menselijk gecontroleerd en transparant is.
Voor accounts die volledig op geautomatiseerde AI-pijplijnen draaien om snel volume te draaien in deze niches, wordt het speelveld kleiner. Detectie en eventuele labeling van AI-herkomst maken het lastiger om ongemerkt mee te draaien in aanbevelingsalgoritmes.
Bron: Search Engine Journal