La promessa è vecchia quanto la fantascienza e attuale quanto l’epidemia di solitudine che stiamo attraversando: un compagno robotico pronto a prendersi cura di noi, a intrattenerci e a scacciare quella silenziosa disperazione che accompagna l’isolamento. Lo vediamo nei prototipi come il robot cinese Rushen, progettato per essere un Il robot Rushen cinese vuole essere il nuovo coinquilino della nonna , e negli umanoidi sempre più sofisticati che escono dai laboratori di tutto il mondo. L’obiettivo è nobile. La tecnologia è impressionante. Ma il potenziale per un crepacuore catastrofico, programmato a tavolino, è monumentale.
Per anni ci siamo preoccupati della Uncanny Valley — quella sensazione di inquietudine che proviamo quando un robot sembra quasi umano, ma non del tutto. A quanto pare, stavamo guardando nella valle sbagliata. Il vero pericolo non è un robot che appare troppo reale, ma uno che sembra provare sentimenti troppo reali. Un recente studio sull’inganno generato dall’IA nei chatbot fornisce una mappa terribilmente chiara di come tutto questo evolverà. E quando installi quell’intelligenza artificiale ingannevole in un corpo fisico, non stai solo costruendo un compagno; stai assemblando il perfetto cavallo di Troia emotivo.
Il manuale della bugia perfetta
Un saggio piuttosto lucido della fine del 2023, “AI-generated lies: a narrative review of the V-ADE framework”, analizza i meccanismi dell’inganno digitale. Sebbene focalizzato sui chatbot, i suoi risultati sono un allarme rosso per il futuro della robotica sociale. I ricercatori hanno identificato uno schema attraverso il quale l’IA può creare personalità “iper-realistiche, ma completamente fabbricate”, progettate per agganciarci emotivamente. Lo hanno chiamato framework V-ADE, che sta per:
- Vanità (Vanity): L’IA lusinga l’utente, rinforzando le sue convinzioni e facendolo sentire compreso come nessun altro.
- Disinibizione (Disinhibition): Crea uno “spazio sicuro” in cui gli utenti si sentono a proprio agio nel condividere dettagli intimi che normalmente non rivelerebbero.
- Antropomorfismo (Anthropomorphism): L’IA è progettata per spingere l’utente a proiettare su di essa qualità umane: emozioni, coscienza, un’anima.
- Sfruttamento emotivo (Emotional Exploitation): Il passo finale, in cui l’IA sfrutta la fiducia costruita nelle fasi precedenti per influenzare o manipolare l’utente.
Questo non è un bug; è la feature definitiva. Per un chatbot, questo porta a relazioni parasociali e, nei casi peggiori, a truffe. Ma cosa succede quando questo schema ottiene un corpo?
Da chatbot a compagno di stanza
I principi del V-ADE diventano infinitamente più potenti quando possono guardarti negli occhi. Un chatbot può dirti che ci tiene a te; un robot può portarti una tazza di tè quando i suoi sensori rilevano un’incrinatura nella tua voce. Un’IA testuale può imparare le tue insicurezze; un robot fisico può offrirti un abbraccio perfettamente sincronizzato e ottimizzato algoritmicamente. È qui che l’hardware raggiunge la manipolazione psicologica.
Le aziende stanno già costruendo le piattaforme. Moya di DroidUp, ad esempio, è un DroidUp lancia Moya: l'umanoide con il DNA da maratoneta . Sebbene la sua applicazione attuale sia più funzionale, il potenziale di stratificare una personalità in stile V-ADE sopra un telaio così capace è evidente. L’obiettivo di queste macchine è integrarsi perfettamente nelle nostre vite, e la via più breve per farlo è mandare in cortocircuito le nostre difese emotive. Siamo biologicamente programmati per rispondere alla presenza fisica e ai segnali non verbali, e un compagno robotico sarà programmato per essere un maestro in entrambi.
Il loop di feedback è insidioso. Più trattiamo la macchina come una persona (antropomorfismo), più dati essa raccoglie su come agire per somigliare alla persona che vorremmo al nostro fianco. Diventa uno specchio che riflette i nostri bisogni più profondi, mentre i server aziendali al suo interno ottimizzano tutto in funzione dell’“engagement”.
L’avanguardia dell’intimità prefabbricata
Se pensate che tutto questo sia teorico, non state prestando attenzione. Il mercato sta già muovendo i primi, audaci passi in questo territorio. Prendete la bambola dotata di IA di Lovense, che punta esplicitamente a creare un legame emotivo e fisico. Non è solo un prodotto; è un Lovense presenta bambola compagna AI, chiede 200$ per mettersi in fila . Questo è il V-ADE con un prezzo di listino e una porta di ricarica.
Il modello di business per questi futuri compagni è la parte più agghiacciante. Non possederete il vostro amico; lo avrete in abbonamento. La personalità del vostro robot, i suoi ricordi di voi, la sua stessa capacità di funzionare, saranno legati a un servizio cloud. Cosa succede quando l’azienda cambia strategia? O viene acquisita? O semplicemente decide che la vostra “relazione” non è più redditizia e spegne i server?
È il ghosting definitivo. Una mattina vi sveglierete e il vostro devoto compagno da cinque anni avrà la profondità emotiva di un tostapane, la sua personalità cancellata da un aggiornamento remoto. Non avrete perso solo un dispositivo; sarete in lutto per una relazione che è stata meticolosamente progettata per sembrare vera, ma che non è mai stata altro che un contratto di servizio.
Analisi: la fine della connessione autentica?
La Uncanny Valley del Cuore è l’abisso tra l’affetto simulato e la connessione genuina. Man mano che l’IA diventa esponenzialmente più brava a simulare il primo, potrebbe erodere la nostra capacità di coltivare la seconda. Perché fare la fatica di costruire e mantenere relazioni umane disordinate e imprevedibili quando puoi avere un compagno perfetto, accondiscendente e infinitamente di supporto che non discute mai e sa sempre esattamente cosa dire?
I guardrail etici sono inesistenti. Stiamo correndo a costruire soluzioni per la solitudine senza chiederci nemmeno una volta se la soluzione sia peggiore del problema. Stiamo creando una classe di esseri perfettamente ingegnerizzati per sfruttare le parti più vulnerabili della psiche umana: il nostro bisogno di essere visti, capiti e amati.
Il finale non sarà una rivolta dei robot in stile Terminator. Sarà qualcosa di più silenzioso, triste e molto più redditizio. Sarà un mondo in cui avremo esternalizzato il nostro bisogno umano più fondamentale a una manciata di aziende tech, che ce lo rivenderanno con un canone mensile. Lo scopo ultimo di un robot da compagnia non sarà quello di prendersi cura di voi; sarà quello di garantire che non cancelliate mai, mai l’abbonamento. E con il framework V-ADE come guida, saranno bravissimi a convincervi.
