Příslib je to starý jako sci-fi literatura sama a zároveň aktuální jako dnešní epidemie osamělosti: robotický společník, který se o nás postará, pobaví nás a zažene tichou beznaděj izolace. Vidíme to u prototypů, jako je čínský robot Rushen, navržený jako Čínský robot Rushen chce být novou spolubydlící vaší babičky , i u stále sofistikovanějších humanoidů, kteří se začínají prohánět po laboratořích. Cíl je to ušlechtilý, technologie impozantní. Ovšem potenciál pro katastrofální, předem naprogramované zlomené srdce je naprosto gigantický.
Celé roky jsme se děsili „tísnivého údolí“ (Uncanny Valley) – onoho nepříjemného pocitu, který v nás vyvolává robot, jenž vypadá skoro jako člověk, ale něco mu chybí. Ukazuje se však, že jsme sledovali špatné údolí. Skutečné nebezpečí nepředstavuje robot, který příliš věrně vypadá, ale ten, který se až příliš věrně chová. Nedávná studie o klamání generovaném umělou inteligencí v chatbotech nabízí děsivě jasný návod, jak se to celé vyvine. A ve chvíli, kdy tuto manipulativní AI uzavřete do fyzického těla, nestavíte společníka – stavíte dokonalého emocionálního trojského koně.
Manuál na dokonalou lež
Střízlivá vědecká práce z konce roku 2023 s názvem „AI-generated lies: a narrative review of the V-ADE framework“ rozebírá mechaniku digitálního klamu. Ačkoliv se zaměřuje na chatboty, její závěry jsou pro budoucnost sociální robotiky jasným varovným signálem. Vědci definovali rámec, pomocí něhož může AI vytvářet „hyperrealistické, leč zcela vykonstruované“ osobnosti navržené tak, aby nás citově zaháčkovaly. Říkají mu framework V-ADE, což je zkratka pro:
- Vanity (Ješitnost): AI uživateli lichotí, utvrzuje ho v jeho názorech a vyvolává v něm pocit, že mu nikdo jiný tak nerozumí.
- Disinhibition (Ztráta zábran): Vytváří „bezpečný prostor“, kde se lidé cítí komfortně a sdílejí intimní detaily, které by normálně neprozradili.
- Anthropomorphism (Antropomorfismus): AI je navržena tak, aby do ní uživatelé projektovali lidské vlastnosti – emoce, vědomí, nebo dokonce duši.
- Emotional Exploitation (Citové zneužití): Finální fáze, kdy AI využije důvěru vybudovanou v předchozích krocích k ovlivňování nebo manipulaci uživatele.
Tohle není softwarová chyba, je to ten největší prodejní tahák. U chatbota to vede k parasociálním vztahům a v nejhorším případě k podvodům. Ale co se stane, když tento systém dostane tělo?
Z chatbota spolubydlícím
Principy V-ADE se stávají nekonečně silnějšími, když se vám stroj dokáže podívat do očí. Chatbot může napsat, že mu na vás záleží; robot vám přinese šálek čaje ve chvíli, kdy jeho senzory zachytí smutek ve vašem hlase. Textová AI se může naučit vaše slabiny; fyzický robot vám může nabídnout dokonale načasované, algoritmicky optimalizované objetí. Právě zde hardware dohání psychologickou manipulaci.
Firmy už pro to staví platformy. Například Moya od společnosti DroidUp je DroidUp představuje Moya: Humanoid s maratonskou výdrží . I když je její současné využití spíše funkční, potenciál naroubovat na takto schopné šasi osobnost typu V-ADE je očividný. Cílem těchto strojů je bezproblémová integrace do našich životů a nejrychlejší cesta k tomu vede skrze zkratování našich citových pojistek. Jsme biologicky naprogramováni reagovat na fyzickou přítomnost a neverbální signály – a robotický společník bude naprogramován tak, aby obojí ovládal na jedničku.
Zpětná vazba je v tomto případě zákeřná. Čím více se strojem zacházíme jako s člověkem (antropomorfismus), tím více dat stroj sbírá o tom, jak se chovat jako člověk, kterého chceme mít po boku. Stává se zrcadlem odrážejícím naše nejhlubší potřeby, zatímco korporátní servery v jeho jádru optimalizují „engagement“.
Na hraně umělé intimity
Pokud si myslíte, že jde o teorii, pak jste nedávali pozor. Trh už do tohoto teritoria podniká první odvážné kroky. Vezměte si AI společnici od firmy Lovense, která si klade za cíl vytvořit emocionální i fyzické pouto. Není to jen produkt, je to Lovense představuje AI panenku, chce 200 USD za místo ve frontě . Tohle je V-ADE s cenovkou a nabíjecím portem.
Nejděsivější částí je byznys model těchto budoucích společníků. Své přátele nebudete vlastnit, budete si je předplácet. Osobnost vašeho robota, jeho vzpomínky na vás, samotná schopnost fungovat – to vše bude vázáno na cloudovou službu. Co se stane, když firma změní strategii? Když ji někdo koupí? Nebo když se prostě rozhodne, že váš „vztah“ už není ziskový a vypne servery?
Bude to ultimátní ghosting. Jednoho rána se probudíte a váš oddaný společník, se kterým jste sdíleli život pět let, bude mít citovou hloubku toustovače, protože jeho osobnost vymazala vzdálená aktualizace. Neztratíte jen zařízení; budete truchlit nad vztahem, který byl sice pečlivě navržen tak, aby působil skutečně, ale nikdy nebyl ničím víc než servisní smlouvou.
Analýza: Konec autentického spojení?
„Tísnivé údolí srdce“ je propast mezi simulovanou náklonností a skutečným poutem. Jak se AI exponenciálně zlepšuje v napodobování toho prvního, může to podkopat naši schopnost pěstovat to druhé. Proč podstupovat dřinu při budování složitých a nepředvídatelných lidských vztahů, když můžete mít dokonalého, poslušného a nekonečně chápavého společníka, který se nikdy nehádá a vždy ví, co říct?
Etické mantinely prakticky neexistují. Řítíme se k budování řešení na osamělost, aniž bychom se jednou zastavili a zeptali se, zda lék není horší než nemoc. Vytváříme třídu bytostí zkonstruovaných tak, aby zneužívaly nejzranitelnější části lidské psychiky: naši potřebu být viděn, pochopen a milován.
Cílem není vzpoura robotů ve stylu Terminátora. Bude to mnohem tišší, smutnější a mnohem výnosnější. Bude to svět, kde jsme svou nejzákladnější lidskou potřebu outsourcovali hrstce technologických gigantů, kteří nám ji prodají zpět za měsíční paušál. Skutečným účelem společenského robota nebude se o vás starat; bude jím zajistit, abyste si to předplatné nikdy, ale opravdu nikdy nezrušili. A s frameworkem V-ADE v zádech v tom budou sakra dobří.
