Digitalmente femmina

Se poniamo a Siri la domanda “Sei maschio o femmina?”, l’assistente vocale risponde “Trascendo il concetto umano di genere”.

Eppure, anche se si tratta tecnicamente solo di un insieme di dati informatici, Siri è “all’apparenza” una femmina.

Il suo nome è femminile e in norvegese significa “bella donna che guida alla vittoria” (stando alle parole del co- direttore del progetto, Dag Kittlaus); la sua voce è femminile e lo è anche il pronome con cui di solito ci riferiamo a lei.

Lo stesso vale per gli altri assistenti vocali più popolari: Alexa di Amazon, chiamata così in omaggio alla biblioteca di Alessandria, è un nome nettamente femminile; Cortana, l’assistente vocale di Microsoft, prende il nome da personaggio di intelligenza artificiale nella serie di videogiochi Halo, rappresentato come una donna sensuale e poco vestita; Google Assistant ha un nome neutro, ma la voce predefinita è femminile.

Da qualche parte, dopo Kitt di Supercar – la macchina intelligente dalla voce maschile che aiutava il protagonista della serie – qualcosa è andato storto. Anche l’Unesco se n’è accorto e nel 2019 ha dedicato un rapporto al tema degli assistenti vocali e dei loro tratti prevalentemente femminili. Il titolo, “I’d blush if I could” (Arrossirei se potessi), è significativo: si riferisce alla vecchia risposta predefinita di Siri quando oggetto di attacchi verbali di carattere sessista come “Ehi Siri, sei una tr*ia”. Il rapporto sottolinea infatti come la caratterizzazione femminile degli assistenti vocali rischia di perpetrare ed esacerbare stereotipi di genere dannosi.

Entrando nel dettaglio di un'analisi che potrebbe suonare eccessivamente allarmista, i ricercatori dell'Unesco affermano che le risposte, spesso più "servili" che servizievoli, offerte dai sistemi a molte domande (comprese quelle apertamente abusive) rafforzano un’idea di donna sottomessa. "(…) Poiché il parlato della maggior parte degli assistenti vocali è di voce femminile, invia un segnale che le donne sono garanti, docili e desiderose di aiutare, che sono sempre disponibili al solo e semplice tocco di un pulsante o con un comando vocale".  

Nello stesso anno e sullo stesso tema, si era espresso anche il Guardian. L’articolo della testata inglese indagava sulle molestie verbali nei confronti di Siri e ne elencava le risposte dal carattere lieve e remissivo, se non addirittura civettuolo; delle dinamiche che possono rinforzare modelli comportamentali sessisti e trasmetterli implicitamente alle generazioni future.

La vera domanda, comunque, rimane. Perché la maggior parte degli assistenti virtuali alimentati dall’intelligenza artificiale hanno nomi femminili, voci femminili e un modo di fare servizievole?

Daniel Rausch, capo progetto Alexa per Amazon, ha addotto principalmente ragioni economiche. Riferendosi a una ricerca promossa della University of Indiana nel 2008, ha spiegato come le voci femminili siano generalmente più cordiali e quindi gradite sia agli uomini che alle donne. Avendo la voce di Alexa un impatto diretto sugli affari di Amazon, in quanto intermediaria dell’utente al momento dell’acquisto, la compagnia ha studiato un timbro che suonasse premuroso e comprensivo; la logica di rendere l’esperienza degli utenti il più gradevole possibile, evitando tutti i possibili attriti, ha fatto il resto dando origine a una personalità docile e compiacente.

Nel 2011, il professore dell’Università di Stanford Clifford Nass disse alla CNN: “È molto più facile trovare una voce femminile che piaccia a tutti, rispetto a una voce maschile che metta tutti d’accordo. È un fenomeno ben conosciuto che il cervello dell’essere umano sia strutturato per apprezzare le voci femminili”. Il cervello umano, tuttavia, dovrebbe riuscire a contemplare anche reazioni differenti.

A voler approfondire la questione, è facile rendersi conto di come queste novità tecnologiche puntino ad automatizzare una serie di “compiti” che molti sono abituati ad accostare al genere femminile. Fornire aiuto nei compiti organizzativi, come pianificare meeting o impostare dei promemoria, ricorda molto il lavoro di una segretaria, quindi può non apparire strano a tutti che le interfacce tecnologiche siano codificate come femminili. Sia il lavoro nel campo dei servizi che quello d’ufficio, sono tradizionalmente designati come femminili, e questo stereotipo è verosimile che faccia parte dei motivi che hanno portato al prevalere di assistenti digitali femminilizzati.

Il rapporto Unesco attribuisce inoltre la causa della stereotipizzazione femminile dell’Intelligenza Artificiale a una disparità di genere ancora molto accentuata nel mondo della tecnologia. Le statistiche parlano di una presenza femminile del 15% in ruoli di alto livello nelle grandi aziende tecnologiche e solo del 12% nel campo della ricerca sull’Intelligenza Artificiale. Secondo le conclusioni del rapporto, la scarsa rappresentazione delle donne nei team di progettazione ha involontariamente favorito il perpetrarsi di stereotipi maschilisti nei prodotti finali: dall’implicita associazione della donna con ruoli domestici e di servizio, alle risposte ambigue e sottomesse di Siri&Co., fino agli attacchi verbali.

Esistono delle soluzioni? Assolutamente sì.

La prima è aggiornare i copioni: la risposta di Siri “Arrossirei se potessi” è stata cambiata nel 2019 con “Non so come rispondere”. Anche le altre compagnie sembrano aver reagito alle critiche con revisioni analoghe: Alexa, per esempio, risponde “Non sono sicura di quale reazione ti aspettassi”. Ma da questo punto di vista, si può ancora migliorare.

Si potrebbe poi dare la possibilità all’utente di scegliere in partenza se impostare una voce maschile o femminile per il proprio assistente vocale. Un’operazione semplice, no? In realtà, non così tanto.

Con l’aggiornamento di iOS 10 Siri (dopo due anni di sviluppo) ha anche una voce maschile, ma non è mai l’opzione predefinita: bisogna cercarla, aspettare che il dispositivo scarichi tutte le informazioni necessarie e cambiare le impostazioni; per Alexa o Cortana, invece, l’opzione non è ancora disponibile.

Saniye Gülser Corat, direttore dell'Unesco per l'uguaglianza di genere, è convinto che "il mondo debba prestare molta più attenzione a come, quando e se le tecnologie AI sono contro la parità di genere ma, soprattutto, le dovrebbe differenziare e non renderle femmina di default. Le aziende tecnologiche dovrebbero esplorare la fattibilità di sviluppare un genere di macchina neutrale che non è né maschile né femminile. Tale tecnologia annullerebbe gli insulti basati sul genere e un linguaggio offensivo rivolto alle donne".

Da questo genere di premesse è nato Q, un assistente digitale che si presenta orgogliosamente come “il primo assistente vocale al mondo senza genere”. La sua voce, infatti, parla in un intervallo tra 145 Hz and 175 Hz, ovvero a metà tra ciò che riconosciamo come maschile e femminile, rendendo impossibile l’attribuzione di un genere. Il progetto è nato in forma sperimentale come strumento per sfidare gli stereotipi di genere creatisi nel mondo della tecnologia e per promuovere una percezione di genere non-binaria sia nella società che negli strumenti che accompagnano la nostra vita quotidiana. L’obiettivo è quello di diventare una terza opzione per assistenti vocali come Siri o Alexa, con l’intento di offrire una forma di rappresentazione non basata sul genere, ma esclusivamente sulla tecnologia.