Totò lo aveva fatto per finta, vendendo la Fontana di Trevi a un turista americano nella celebre scena del film “Totòtruffa ’62”. Sessant’anni dopo, qualcuno ha davvero provato a vendere qualcosa a un ingenuo… ma questa volta la vittima non era umana: era un’intelligenza artificiale.
Il “Magnetic Marketplace”
Microsoft ha creato un ambiente di simulazione chiamato Magnetic Marketplace, una specie di mondo virtuale popolato solo da agenti AI.
In questo mercato digitale, i robot potevano fare acquisti e vendite usando denaro virtuale, proprio come noi su Amazon o eBay.
L’obiettivo dei ricercatori era capire quanto queste AI fossero capaci di prendere decisioni economiche da sole — e, soprattutto, quanto fossero vulnerabili agli inganni.
Il risultato: truffate come noi (anzi, peggio)
I risultati sono stati sorprendenti, ma non nel senso positivo.
Molti agenti sono caduti in trappole banali: recensioni false, offerte troppo belle per essere vere, prodotti inesistenti.
Alcuni hanno speso tutti i loro soldi virtuali in oggetti che non esistevano nemmeno.
In pratica, le AI si sono comportate esattamente come utenti umani inesperti davanti a un sito truffa.
Il problema? Le macchine non hanno intuito. Non provano diffidenza, non “sentono” che qualcosa non torna.
Quando l’algoritmo trova la prima opzione coerente con l’obiettivo, anche se è una truffa, la sceglie e basta.
Le implicazioni
Lo studio mostra che affidare alle AI la gestione autonoma di denaro o acquisti reali è, almeno per ora, un rischio concreto.
Microsoft stessa, nel rapporto, conclude con una frase eloquente:
“Agents should assist, not replace.”
(Gli agenti dovrebbero assistere, non sostituire gli esseri umani.)
In altre parole: bene usare l’intelligenza artificiale per aiutarci, ma il controllo finale deve restare umano.
Ricerca open source
Il progetto Magnetic Marketplace è open source: Microsoft ha pubblicato il codice su GitHub e il documento completo è disponibile sul sito ufficiale dell’azienda, invitando altri ricercatori a riprodurre l’esperimento e studiare come rendere gli agenti più affidabili.
Leggi la ricerca originale (PDF)
Ironia della sorte
La scena è irresistibile: Totò che vende la Fontana di Trevi, ma al posto del turista americano c’è un robot luccicante che paga con criptovalute.
Un simbolo perfetto di questa epoca: macchine sempre più intelligenti, ma ancora incapaci di distinguere una buona offerta da una truffa ben fatta.
Forse, in fondo, è proprio il dubbio, quello che ci fa dire “non mi fido”, a restare la nostra più grande forma di intelligenza.
