TikTok gaat testen met nieuwe detectietechnologie die accounts moet opsporen die AI-gegenereerde spam verspreiden binnen politiek, financieel advies en medische content. Tegelijk sluit het platform zich aan bij de stuurgroep van C2PA, de coalitie die wereldwijd werkt aan standaarden voor de herkomst van digitale content.
Waarom TikTok nu ingrijpt
Het aantal AI-gegenereerde video's en accounts op sociale platforms groeit sneller dan de moderatiecapaciteit kan bijhouden. Nepaccounts die zich voordoen als financieel adviseur of gezondheidsexpert vormen een reëel risico, omdat kijkers investeringsadvies of medische tips vaak zonder verificatie overnemen.
Door detectie specifiek te richten op deze drie categorieën erkent TikTok dat niet alle spam even schadelijk is. Een nepaccount dat kattenvideo's post is vervelend, maar een account dat foutieve medicatie-informatie verspreidt kan gezondheidsschade veroorzaken.
Wat de test concreet inhoudt
Volgens de aankondiging gaat het om een gerichte pilot, geen platformbrede uitrol. TikTok gebruikt daarbij signalen die wijzen op geautomatiseerde contentproductie, gecombineerd met gedragspatronen die typisch zijn voor spamnetwerken.
- Detectie van accounts die op grote schaal AI-gegenereerde video's posten in de drie risicocategorieën
- Analyse van gedragspatronen die wijzen op geautomatiseerde of gecoördineerde accounts
- Signalen worden gecombineerd met bestaand beleid tegen misleidende informatie
De rol van C2PA in dit verhaal
Met de toetreding tot de C2PA-stuurgroep positioneert TikTok zich naast partijen als Adobe, Microsoft en Google, die samen werken aan een technische standaard om de herkomst van content herleidbaar te maken. Dat gebeurt onder meer via digitale metadata die aangeeft of, en hoe, een beeld of video met AI is bewerkt.
Voor TikTok is dit een logische stap. Het platform kreeg de afgelopen jaren herhaaldelijk kritiek van toezichthouders en onderzoekers over de verspreiding van desinformatie, vooral rond verkiezingen en gezondheidsclaims.
Gevolgen voor makers en bedrijven
Voor legitieme makers van content over financiën of gezondheid kan strengere detectie juist gunstig uitpakken. Minder concurrentie van nepaccounts betekent doorgaans meer vertrouwen van kijkers en een betrouwbaarder speelveld voor organisch bereik.
Bedrijven die TikTok inzetten voor advertenties doen er goed aan hun eigen contentbeleid rond AI-gebruik op orde te hebben, aangezien platforms de komende jaren naar verwachting strenger gaan controleren op transparantie over AI-gegenereerd materiaal.
Bron: Search Engine Journal