OpenAI zet duizenden externe beoordelaars in om de kwaliteit van zijn AI-modellen te bewaken, maar een deel van die 'AI-trainers' is inmiddels ontslagen omdat ze zelf AI gebruikten om hun werk te doen. Dat blijkt uit onderzoek van 404 Media, dat de ironie van de situatie feilloos blootlegt: mensen die zijn aangenomen om AI te trainen, grepen naar AI om die training uit te voeren.
Wat 404 Media ontdekte
OpenAI werkt met duizenden contractors die modeloutput beoordelen, herschrijven en bijschaven. Dat systeem lijkt sterk op de kwaliteitsbeoordelaars die Google al jaren gebruikt om zoekresultaten en AI-overzichten te testen.
Uit het onderzoek van 404 Media blijkt dat verschillende van deze contractors zijn ontslagen nadat bleek dat ze AI-tools inzetten om hun eigen beoordelingswerk te versnellen, iets wat expliciet tegen de regels was.
- Duizenden contractors beoordelen dagelijks de output van OpenAI's modellen
- Sommige raters gebruikten zelf AI om antwoorden te genereren of te herschrijven
- Meerdere contractors zijn hierom ontslagen, aldus 404 Media
Het risico van model collapse
Het probleem gaat verder dan een paar regelovertredingen. Wanneer een AI-model wordt getraind op door AI gegenereerde tekst in plaats van authentieke menselijke feedback, kan de kwaliteit van dat model geleidelijk verslechteren.
SEO-specialist Glenn Gabe wees op X op dit risico en trok een directe vergelijking met Google: 'Quality Raters, but quality is relative. 10K raters, sounds similar to Google.' Hij verwees daarbij naar het fenomeen model collapse, waarbij modellen die verder worden getraind op AI-gegenereerde tekst tekenen van kwaliteitsverlies beginnen te vertonen.
Waarom dit relevant is voor wie op AI-content vertrouwt
Bedrijven en marketeers gaan er vaak van uit dat grote AI-platformen hun modellen strak laten controleren door mensen. Dit verhaal laat zien dat die menselijke laag minder waterdicht is dan gedacht.
Voor iedereen die AI inzet voor content, klantenservice of zoekresultaten is dit een signaal om kritisch te blijven kijken naar de herkomst en betrouwbaarheid van AI-output, ook wanneer die output via een 'menselijk gecontroleerd' proces tot stand is gekomen.
Bron: Search Engine Roundtable