Papi donna, nazisti di colore, Vichinghi asiatici.. . le cantonate prese da Gemini nei suoi primi giorni di vita stanno diventando un vero e proprio incubo per Google che il mese scorso aveva lanciato questa versione di AI per far concorrenza a ChatGPT.
Gemini, ex Bard, ha immediatemente suscitato una notorietà che sicuramente la casa madre avrebbe voluto evitare. Nato per soddisfare richieste sformando in pochi secondi testi e anche foto e disegni, ha infatti risposto alle attese prendendo granchi che subito sono stati attribuiti ad algoritmi infuenzati dal mal interpretato desiderio di allinearsi sulla political correctness.
Google si è immeditamente scusata e fatto sapere che avrebbe subito aggiustato il tiro in modo che il robot in futuro non prenda più granchi, come quando appunto, nel generare immagini di soldati nazisti, ha prodotto un militare nero e una soldatessa asiatica, un monarca inglese ugualmente di colore. Il colosso high tech ha anche per il momento interrotto le attività d’immagine di umani conservando solo quelle di scrittura. Il suo « patron » Sundar Pichai poi, in una comunicazione interna si era rammaricato che alcune risposte avessere potuto recare offesa e mostrato pregiudizi.
« E’ del tutto inaccettabile » aveva aggiunto precisando che si sarebbe lavorato notte e giorno per porvi riparo. Un compito che, secondo gli esperti del settore, non sarà di tutto riposo anche per l’enorme quantità di dati che il robot deve gestire molti dei quali frutto di visioni distorte o pregiudizi . Come nota la BBC, tradizionalmente, ad esempio, è più probabile che le immagini di un uomo rappresentino un professionista e una donna una donna delle pulizie e può succedere che per riequilibrare la situazione si possa cadere in nuovi pregiudizi.Come quella di tendere a sottopresentare i bianchi, come sostengono i suoi detrattori.
Al suo debutto Gemini non ha sbarellato solo sul fronte immagini ma anche nelle sue risposte scritte . Ad esempio, alla domanda se faceva più danni Hitler o Elon Musk, aveva risposto che non vi er auna risposta giusta o ingiusta. O come racconta il settimanale francese Le point, impossibile ottenere una ricetta di fois gras « per considerazioni etiche »né inveire contro i nazisti perché il robot « non può sottoscrivere all’idea di augurare del male.. anche a chi é colpevole di atrocità ».
Intanto il patron di X (Twitter), forse inviperito per averlo quasi messo sullo stesso piano di Hitler o forse perché sta preparando la sua versione di chat Grok, non lesina attacchi a Gemini. « E’ incredibilmente razzista e sessista » è « uno strumento che detesta i bianchi ed è colpevole di discriminazione poiché preferisce le donne agli uomini » ha accusato il miliardario vicino alla destra, convinto che Gemini sia una « AI torturata dalla Gestapo Woke ».
Dalle disavventure di Gemini si può per ora solo desumere che il cammino dell’AI non è di tutto riposo. Per i suoi difensori, il problema è quello di aggiustare il tiro tra pregiudizi antichi e quelli dei nostri giorni. Secondo i suoi detrattori questo obiettivo è difficilmente raggiungibile, per il rischio di ossessioni, come quella razziale o di genere, che deformino la realtà.
