Ben je een meat proxy voor AI?
Een scherpe term voor mensen die AI-antwoorden doorsturen zonder ze te lezen, controleren of van eigen oordeel te voorzien.
Je stelt iemand een vraag in Slack en krijgt even later een keurig opgebouwd antwoord terug. Veel tekst, duidelijke tussenkoppen en precies genoeg zelfvertrouwen om overtuigend te klinken. Alleen blijkt de afzender nauwelijks te weten wat er staat. Jouw vraag is in een AI-tool geplakt en het resultaat kwam vrijwel ongelezen terug.
Ik kwam daar onlangs een mooie, ongemakkelijke term voor tegen: meat proxy.
Een proxy geeft verkeer door tussen twee systemen. Een meat proxy doet ongeveer hetzelfde, maar dan als mens tussen een collega en een taalmodel. De vraag gaat naar AI, het antwoord gaat terug naar de collega en onderweg wordt geen context, controle of oordeel toegevoegd.
De afzender bespaart misschien een paar minuten. De ontvanger krijgt er vooral werk bij.
Het probleem is niet dat je AI gebruikt
AI kan uitstekend helpen bij het ordenen van gedachten, verkennen van alternatieven en aanscherpen van tekst. Het probleem ontstaat wanneer ondersteuning verandert in uitbesteding van verantwoordelijkheid.
Een taalmodel weet niet automatisch welke afspraken binnen een team gelden, welke afwegingen eerder zijn gemaakt of welk detail in deze situatie gevoelig ligt. Het kan een plausibel antwoord produceren zonder te merken dat het de verkeerde vraag beantwoordt. Wie dat antwoord doorstuurt zonder het te beoordelen, verplaatst die controle naar de ontvanger.
Dat is geen versnelling van samenwerking. Het is vooral een snellere manier om oncontroleerbaar werk bij iemand anders neer te leggen.
Een antwoord is nog geen oordeel
De term is grappig, maar de onderliggende grens is bruikbaar. Voordat AI-uitvoer mijn naam draagt, wil ik drie vragen kunnen beantwoorden:
- Begrijp ik wat hier werkelijk wordt beweerd?
- Heb ik gecontroleerd wat belangrijk of risicovol is?
- Welke context of afweging heb ik zelf toegevoegd?
Als het antwoord op alle drie ontbreekt, had de ander waarschijnlijk meer aan de oorspronkelijke vraag en eventueel de gebruikte prompt. Dan kan diegene zelf het gesprek met het model voeren, met directe controle over de context.
De menselijke bijdrage zit dus niet in het bedienen van het tekstvak. Zij zit in selecteren, toetsen, uitleggen en verantwoordelijkheid nemen voor wat er uiteindelijk vertrekt.
Ook deze notitie begon met AI
Deze notitie is met hulp van AI voorbereid. Dat maakt haar meteen een aardige praktijktest. De bron is nagelezen, de strekking is gecontroleerd en de tekst wordt pas gepubliceerd nadat ik hem zelf heb beoordeeld en waar nodig aangepast.
Dat is voor mij het verschil tussen AI gebruiken en alleen als doorgeefluik fungeren: de machine mag helpen met het werk, maar niet stilletjes het eigenaarschap overnemen.
De term kwam ik tegen in Don’t be a meat proxy van Niklas Gruhn.