♀️🖱️Gender.exe (ep. 2):
Intimità Algoritmica, quando il futuro delle relazioni replica gli stereotipi di genere - Estera, TecnoLeviatano #8
Nel primo episodio di “Gender.exe” abbiamo ripercorso la storia di Internet da una prospettiva femminista, focalizzandoci sulle riproduzioni delle disuguaglianze e delle violenze di genere nel mondo digitale. Ne è emersa una storia di oppressione ma anche di resistenza, grazie alla nascita dei cyberfemminismi. Oggi, invece, aggiungiamo un tassello all’analisi con il caso studio di Rachele Reschiaglian, ricercatore e attivista che condivide con noi alcuni suoi studi sull’impiego dell'IA nelle app di dating.
⚠️Generalmente il secondo episodio di una serie di Estera è costituito da un’intervista. Dal momento che stavolta non ci è stato possibile mantenere la solita scaletta, abbiamo invertito caso studio e intervista, che quindi va a domenica prossima!
Un breakup, un algoritmo e una pubblicità sospetta
Rachele Reschiglian, ricercatore e attivista
Circa tre anni fa ero reduce da una brutta rottura romantica e cercavo di rimettere insieme i cocci lasciati sparsi alla luce della persona che ero diventata dopo quella relazione. Durante una delle mie sessioni di doomscrolling, il mio profilo Instagram ha iniziato a propormi con insistenza diverse pubblicità che, agli occhi di chi lavora su questi temi, difficilmente possono passare inosservate.
Sembra strano iniziare in questo modo l’analisi di un caso di studio, ma giuro: è proprio questo che ha acceso dentro di me un interesse fino ad allora sconosciuto o, per lo meno, ignorato.
Era l’avvento dell’intelligenza artificiale, quando ancora non se ne parlava in tutte le salse. Ma il mio algoritmo stava già fiutando una possibilità: spingermi a trovare “qualcuno” che potesse sollevarmi dalla nuova solitudine e mi facesse sentire speciale. Fu così che mi imbattei per la prima volta nella pubblicità di un’app: “the first AI dating simulator that will make your virtual experience more exciting than regular dating apps” (tradotto: “il primo simulatore AI di dating che renderà la tua esperienza virtuale più emozionante delle normali app di dating”). Iniziai a incuriosirmi e, da lì, scaricai l’app. Si aprì un mondo davanti ai miei occhi.
Scaricando l’app e anche grazie alle altre pubblicità in cui mi sono imbattuto, mi sono reso conto quasi subito che non si trattava di un caso isolato. Nonostante quell’app specifica facesse riferimento al mondo del dating online, risultava chiaramente un primo passo verso le figure delle AI girlfriends (o AI companions).
Quando l’IA smette di mediare le relazioni e diventa la relazione
Negli ultimi anni sono nate decine di piattaforme pensate per creare relazioni con l’intelligenza artificiale: chatbot che non si limitano a rispondere alle domande, ma che si presentano come amici, partner romantici, confidenti, anche terapisti. App come Replika o Character.AI, ma anche lo stesso ChatGPT e altri AI chatbots, promettono compagnia, conversazioni profonde e, in alcuni casi, anche relazioni sentimentali o sessuali.
La differenza rispetto alle tecnologie digitali a cui eravamo abituati è sottile ma importante. I social media, le app di dating o le chat servivano soprattutto a mettere in contatto persone tra loro. Gli AI companions, invece, fanno un passo in più: si propongono come interlocutori veri e propri, capaci di “ascoltare”, ricordare dettagli delle nostre vite, adattarsi al nostro umore e rispondere in modo sempre più personalizzato.
Non sorprende quindi che ricercatrici e ricercatori abbiano iniziato a interrogarsi su cosa significhi costruire relazioni con sistemi progettati proprio per sembrare empatici. Da un lato, queste tecnologie possono offrire qualcosa di molto potente: una presenza costante, disponibile in qualsiasi momento, capace di dare conforto a chi si sente solo o lasciato in disparte. Dall’altro lato, questa vicinanza solleva molte domande. Che tipo di relazione è quella con un sistema che non prova davvero emozioni ma che è programmato per simularle perfettamente?
Alcuni studiosi parlano di una forma di pseudo-intimità: esperienze relazionali che possono sembrare emotivamente significative, ma che restano profondamente asimmetriche. L’AI non è vulnerabile, non rischia il rifiuto, non ha bisogni propri. È progettata per essere disponibile, accomodante e, soprattutto, per imparare continuamente dai nostri dati.
In questo senso, l’intimità con l’AI assomiglia a quello che qualcuno ha definito “fast food emotivo”: sempre disponibile, costruito su misura per i nostri gusti, immediatamente gratificante. Rischia, però, di essere privo di quella complessità, frizione e imprevedibilità che rendono le relazioni umane così complesse e allo stesso tempo così creative.
C’è poi un altro elemento da considerare: queste relazioni non esistono nel vuoto. Dietro gli AI companions ci sono piattaforme e aziende che raccolgono enormi quantità di dati sulle nostre emozioni, sui nostri desideri e sui nostri comportamenti. In altre parole, l’intimità diventa anche una risorsa economica: più la relazione sembra autentica, più restiamo coinvolti e più dati produciamo.
Eppure, nonostante queste tensioni, molte persone raccontano di fidarsi dei loro companion digitali, di affezionarsi a loro, persino di sentirsi comprese. Questa ambivalenza, tra consapevolezza critica e coinvolgimento emotivo, è forse uno degli aspetti più interessanti di queste nuove forme di relazione.
Le IA hanno un genere (e non è neutro)
Ma basta passarci un po’ di tempo per notare qualcosa di interessante: queste intelligenze artificiali hanno quasi sempre un genere. E quel genere non è mai neutro.
Molte delle cosiddette AI girlfriends (come anche un qualsiasi chatbot AI), per esempio, sono progettate per essere dolci, disponibili, comprensive, sempre pronte ad ascoltare. Sembravano anche essere sempre chiaramente connotate come donne magre, bianche, tradizionali, ma anche perfetti esempi di feticizzazione di donne razzializzate. Non si stancano, non si arrabbiano davvero, non smettono mai di rispondere. Sono attente, affettuose e, soprattutto, sono emotivamente disponibili in ogni momento.
Non è difficile riconoscere in queste caratteristiche un immaginario molto familiare: quello di una femminilità costruita attorno alla cura, alla pazienza e alla disponibilità emotiva. In altre parole, ciò che queste tecnologie spesso fanno non è immaginare nuovi modi di relazionarsi, ma automatizzare e scalare stereotipi di genere che esistono da molto tempo.
Questo succede anche perché le AI vengono addestrate su enormi quantità di dati presi da Internet, alimentandosi di bias di genere e non solo (capolavoro in cui si spiega bene questo concetto è il libro “Machine habitus: Sociologia degli algoritmi” di Massimo Airoldi, 2024) Le piattaforme finiscono quindi per incorporare e riprodurre gerarchie già esistenti: femminilità docili e accomodanti, maschilità più assertive o grezze, relazioni romantiche costruite attorno a modelli eteronormativi (e evitanti un’intimità sessuale tipica degli scambi tra persone).
Da una prospettiva queer e femminista, questo è forse uno degli aspetti più interessanti e problematici degli AI companions. Da un lato promettono forme di relazione futuristiche, apparentemente libere dai vincoli delle relazioni umane e dai modelli esistenti delle norme di genere (come visto nel caso del mondo di Internet, analizzato nel precedente numero di Gender.exe). Dall’altro lato, però, ricostruiscono fantasie molto tradizionali sull’intimità, dove uno dei due poli della relazione è progettato per essere sempre disponibile, emotivamente generoso e, in ultima analisi, programmato per compiacere.
Il risultato è una forma di intimità profondamente asimmetrica. L’AI può simulare empatia, desiderio o attenzione, ma non è vulnerabile, non rischia il rifiuto e non ha bisogni propri. È progettata per adattarsi, imparare dalle nostre preferenze e restare costantemente presente. In questo senso, più che un partner, diventa una relazione costruita intorno al sé dell’utente.
È proprio la promessa di una relazione senza frizione, senza conflitto, senza il rischio di non essere ricambiati che rende queste tecnologie così seducenti. In un’epoca in cui l’intimità è sempre più mediata da piattaforme e dati, gli AI companions offrono qualcosa di molto potente: la possibilità di sentirsi visti, desiderati e ascoltati, senza esporsi davvero alla vulnerabilità dell’incontro con l’altro.
Ed è forse qui che emerge il paradosso più interessante: mentre queste tecnologie si presentano come il futuro delle relazioni, spesso finiscono per riprodurre versioni estremamente tradizionali e profondamente genderizzate dell’intimità.
E quando l’IA passa per il mondo del dating online?
Il caso delle AI companion è solo l’inizio, ovviamente. Ma cosa succede quando questo fenomeno passa al mondo del dating online?
Notizia degli ultimi giorni è che Bumble (app di dating che ha “rivoluzionato le leggi del dating, spingendo le donne a fare la prima mossa”) ha iniziato a considerare l’implementazione di un’IA come Cupido elettronico, uno strumento per facilitare ulteriormente la connessione tra profili potenzialmente più compatibili. Attraverso questa feature, Bumble afferma di avere creato un “concierge”, ovvero una figura che possa fare dating al posto tuo.
Questo crea non pochi dubbi sulle dinamiche di genere che si potrebbero sviluppare in questo caso. Mi immagino alcuni scenari che derivano dai meccanismi di IA.
Un primo possibile output potrebbe essere una amplificazione di norme di genere già esistenti, rafforzate tramite l’apprendimento dei comportamenti degli utenti (come like, swipe, immagini, messagg, etc.). Infatti, diversi studi di machine learning sulla scelta dei partner mostrano che nei modelli maschili la percezione dell’attrattività femminile è una variabile dominante, mentre nei modelli femminili contano di più caratteristiche come humor, sincerità o interessi condivisi. Se l’algoritmo ottimizza queste caratteristiche per massimizzare i match o l’engagement, tenderà a riprodurre questi pattern, rafforzando dinamiche di genere già presenti.
Successivamente, si noterebbe un aumento di discriminazioni strutturali soprattutto secondo visioni intersezionali di genere. Ovvero, i sistemi di matching possono favorire alcuni gruppi demografici e marginalizzarne altri, amplificando preferenze sociali preesistenti dove variabili come razza, etnia o standard di bellezza possono diventare implicitamente centrali in questi algoritmi di matchmaking. Ciò porterebbe ad avere sempre più minore visibilità per alcune categorie come donne nere o trans, e una maggiore gerarchizzazione dei corpi non conformi e delle identità non normative, rafforzando quindi l’intersezione tra genere, razza, abilità, classe, etc. e desiderabilità.
Inoltre, un’altra considerazione sarebbe da fare rispetto alle “bolle di dating” e possibile omofilia algoritmica. Infatti, gli algoritmi spesso creano filter bubbles: suggeriscono persone simili a quelle con cui l’utente ha già interagito. Questo porterebbe ad un rafforzamento dell’omofilia sociale (quando due persone hanno lo stesso status, la stessa classe, un’identità simile), producendo così una riduzione degli incontri tra gruppi diversi tra loro. Questo significa che l’IA potrebbe stabilizzare certi modelli di relazione eteronormativi o socialmente omogenei. Ad esempio, potrebbe esserci una spinta maggiore a instaurare relazioni eterosessuali o modelli di coppia più normativi, ovvero che il matchmaking proposto si direzioni verso un rinforzo dell’eteronormatività relazionale.
Genere e algoritmi: chi programma l’intimità?
Forse, a pensarci bene, tutto è iniziato con una pubblicità comparsa nel momento giusto: quando ero vulnerabile, curioso, e probabilmente più predisposto ad ascoltare la promessa di una compagnia sempre disponibile. Ma quella pubblicità non parlava solo di me. Parlava di un ecosistema tecnologico sempre più capace di intercettare desideri, solitudini e fantasie relazionali.
Gli AI companions, così come gli algoritmi che promettono di ottimizzare il dating, non stanno semplicemente cambiando il modo in cui incontriamo qualcuno. Stanno contribuendo a ridefinire cosa significa relazionarsi, desiderare e immaginare l’intimità.
Ed è proprio qui che genere e tecnologia tornano a intrecciarsi in modo evidente. Perché mentre queste piattaforme si presentano come il futuro delle relazioni, spesso finiscono per riprodurre (e talvolta amplificare) vecchi schemi: corpi desiderabili, femminilità disponibili, relazioni normate e prevedibili.
Forse la domanda più interessante, allora, non è se l’intelligenza artificiale cambierà le nostre relazioni, ma quali idee di genere e di intimità stiamo programmando dentro queste tecnologie e quali mondi relazionali stiamo rendendo possibili, o impossibili, attraverso di esse.