Niet het AI-model, maar de context eromheen bepaalt straks het verschil tussen een middelmatig en een uitstekend resultaat. Dat zegt Jeff Dean, jarenlang Chief Scientist bij Google, in een toelichting die Search Engine Journal deze week uitlicht.
Volgens Dean groeien de grote taalmodellen van verschillende aanbieders steeds dichter naar elkaar toe. Het onderscheidende vermogen zit daardoor niet langer in het model zelf, maar in de manier waarop bedrijven en ontwikkelaars dat model voeden met de juiste informatie.
Wat context engineering precies inhoudt
Context engineering gaat over het gestructureerd aanleveren van relevante data aan een AI-systeem, in plaats van te vertrouwen op een los prompt-zinnetje. Denk aan bedrijfsdocumentatie, klantgeschiedenis, productdata of zoekresultaten die het model als achtergrond meekrijgt voordat het een antwoord genereert.
Dean benadrukt dat dit een discipline op zich is geworden binnen AI-ontwikkeling. Waar prompt engineering zich richt op de exacte formulering van een vraag, gaat context engineering over de hele informatiestroom eromheen: welke data wordt opgehaald, hoe wordt die gefilterd en in welke volgorde krijgt het model die te zien.
Waarom het model zelf minder verschil maakt
De kernboodschap van Dean is dat modelkeuze een minder bepalende factor wordt naarmate de topmodellen van grote spelers qua prestaties dichter bij elkaar komen te liggen. Het overstappen naar een net iets krachtiger model levert dan nauwelijks nog winst op.
Wat wel verschil maakt, is of een systeem het model op het juiste moment de juiste informatie voorschotelt. Een sterk model met slechte of onvolledige context presteert volgens Dean vaak slechter dan een eenvoudiger model met goed samengestelde context.
Praktische gevolgen voor bedrijven en marketeers
Voor teams die AI inzetten in zoekoptimalisatie, klantenservice of contentproductie verschuift de aandacht daarmee van modelselectie naar datastructuur en informatiebeheer. Enkele aandachtspunten die uit deze verschuiving volgen:
- Zorg dat interne kennisbanken actueel, doorzoekbaar en goed gestructureerd zijn
- Investeer in retrieval-systemen die de juiste brondata ophalen voordat een AI-model een antwoord genereert
- Beperk irrelevante of tegenstrijdige informatie in de context, want dat verwart het model
- Test niet alleen verschillende modellen, maar ook verschillende manieren van context aanleveren
Deze aanpak sluit aan bij een bredere trend in de AI-sector, waarin bedrijven merken dat de grootste winst niet meer zit in het nieuwste model, maar in de infrastructuur eromheen.
Wat dit betekent voor de toekomst van AI-implementatie
Dean's uitspraken passen bij een verschuiving die al langer gaande is: van een race om het krachtigste model naar een race om de beste toepassing van bestaande modellen. Voor bedrijven die AI serieus willen inzetten, betekent dit dat investeringen in datakwaliteit en systeemarchitectuur minstens zoveel aandacht verdienen als de keuze voor een specifieke AI-aanbieder.
Bron: Search Engine Journal