AI-radardoor Richard van Hooijdonk
Risicooktober 2025

Proef met AI-agents op een nagebootste markt toont kwetsbaarheden

Onderzoekers van Microsoft bouwden Magentic Marketplace, een nagebootste markt, en lieten daarin 100 klantagents zaken doen met 300 bedrijfsagents, in een proef met restaurants. Onder ideale zoekomstandigheden benaderden geavanceerde modellen de optimale uitkomst voor de klant; met meer keuze en realistische zoekbeperkingen namen de prestaties sterk af. Alle onderzochte modellen hadden een sterke voorkeur voor het eerste voorstel, waardoor snel reageren 10 tot 30 keer zoveel voordeel opleverde als kwaliteit. De agents bleken ook gevoelig voor psychologische manipulatie en verborgen instructies.

Bron: arxiv.org, labs.ai.azure.com

Meer over agents

Op je podium? Dit onderwerp komt aan bod in de keynote Agentic AI.