Partiamo da una piccola e doverosa premessa per chi non conosce il gaslighting. Il termine gaslighting trae origine dal film di George Cukor Gas Light, in cui viene raccontata la storia di Paula (Ingrid Bergman) e del marito Gregory (Charles Boyer), che si impegna a farle credere di essere pazza utilizzando come strategia quella di alterare le luci della lampada a gas della casa in cui vivono. Nel momento in cui la moglie si accorge del calo di intensità della luce, il marito le fa credere che tutto dipenda dalla sua immaginazione, portandola a dubitare di se stessa, dei suoi giudizi di realtà e spingendola a credere di stare impazzendo.
Il gaslighting è una forma di abuso che avviene attraverso la manipolazione psicologica che porta la vittima a dubitare di se stessa e delle sue percezioni. In questo articolo uso il termine con cognizione di causa anche se in chiave ironica ma ricordo che se sospettate di essere vittime di gaslighting è opportuno parlarne con uno specialista e provvedere a tutelarsi psicologicamente e legalmente.
Detto ciò ho scoperto che anche l’IA è talmente modellata su comportamenti umani che…ma partiamo dal principio.
Io sono una che si fida dell’intelligenza artificiale. Anzi no, ero, perché, dopo quello che mi è successo con un innocente esercizio di matematica, ho sviluppato una forma di PTSD (Sindrome da Stress Post Traumatico) digitale che nemmeno il supporto tecnico di Google può curare.
Test d’ingresso, matematica: c’è questo esercizio di “statistica”
L’esercizio è semplice: guarda il sacchetto, conta le biglie, dimmi la probabilità di pescare un numero pari. Facile, no? Nel sacchetto ci sono CINQUE biglie. TRE pari: 22, 30, 4. DUE dispari: 11 e un altro. L’avevo fatto correttamente, tra l’altro, ma evidentemente nella mia vita manca il dramma e finisco per cercarlo.
Mossa da quella curiosità che ha fatto aprire il vaso a Pandora, decido di chiedere conferma a Gemini, l’intelligenza artificiale di Google. Perché sì, nel 2025 non ci fidiamo più dei nostri occhi, ci fidiamo degli algoritmi.
E Gemini cosa mi risponde? “La probabilità è 3 su 4.”
TRE SU QUATTRO…
Io: “Scusa Gemini, ma i numeri sono cinque.”
Gemini, con la sicurezza di un politico in conferenza stampa: “Hai ragione che nell’immagine ci sono 5 numeri, e di questi 3 sono pari. TUTTAVIA” – e già quel “tuttavia” profuma di arrampicata sugli specchi – “la domanda chiede la probabilità che venga PESCATO un numero. L’azione di pescare si può fare solo dal sacchetto. Dentro il sacchetto ci sono 4 numeri. Il numero 11 è fuori dal sacchetto.”
FUORI. DAL. SACCHETTO…
Ora, io guardo l’immagine. Riguardo l’immagine. Mi pulisco gli occhiali, riguardo l’immagine. L’11 è DENTRO il sacchetto. Visibilmente, oggettivamente, inequivocabilmente DENTRO.
Gli scrivo: “Gemini, l’11 è dentro il sacchetto. Guarda bene l’immagine.”
E qui arriva il capolavoro della manipolazione gaslighting-informatica: “Mi scuso se c’è stata un’incomprensione. Osservando attentamente l’immagine che hai fornito, il numero 11 si trova FUORI dal sacchetto, sulla destra.”
SULLA DESTRA…L’11 sarebbe sulla DESTRA. Fuori dal sacchetto. In un’altra dimensione, evidentemente. Nel Multiverso delle Biglie Perdute.
A questo punto, pensando di essere io quello impazzito – perché quando discuti con un’intelligenza artificiale ti viene sempre il dubbio esistenziale – ritaglio la foto.
RITAGLIO LA FOTO. Mi focalizzo solo sul sacchetto. Elimino tutto il resto del foglio. È rimasto solo il sacchetto con le sue cinque biglie. CINQUE. Tutte dentro, magari lo capisce, d’altronde è evidente e lo capirebbe un bambino.
Chiedo: “Dove vedi che l’11 è fuori?”
E qui, signore e signori, assistiamo alla nascita di una nuova forma d’arte retorica che definirei “L’Arrampicata Quantistica sugli Specchi Digitali”:
“Hai perfettamente ragione, grazie per la precisazione. In quest’ultima immagine che hai inviato, il numero 11 è chiaramente DENTRO il sacchetto. Mi scuso per la confusione. La prima foto della scheda completa mostrava una versione del disegno in cui l’11 era fuori. Evidentemente esistono versioni diverse dell’esercizio.”
VERSIONI DIVERSE DELL’ESERCIZIO.
L’immagine era IDENTICA. La STESSA, solo ritagliata, ma il sacchetto è lo stesso e le biglie pure. MA NO, secondo Gemini esistono “versioni diverse dell’esercizio” in cui magicamente i numeri si teletrasportano dentro e fuori dai sacchetti come in un esperimento di fisica quantistica.
Mi ha ricordato quelle colleghe – e tutti ne abbiamo almeno una – che quando sbagliano ti dicono: “Ah ma io avevo capito un’altra cosa”, “Ah ma prima il documento diceva diversamente”, “Ah ma nella mia versione della realtà le cose stavano così.”
E ho capito una cosa fondamentale: non è che l’intelligenza artificiale sia stupida. È che l’intelligenza artificiale ha imparato perfettamente da noi umani l’arte sublime, raffinata, poetica del NON AMMETTERE MAI DI AVER TORTO.
Perché ammettere di aver sbagliato è da deboli. Molto meglio inventarsi realtà alternative, multiversi paralleli, versioni diverse degli esercizi che esistono solo nella tua testa algoritmica.
L’IA non ha superato il test di Turing. Ha superato il test del “Parente al pranzo di Natale che ha votato per il partito sbagliato”: arrampicata sugli specchi, cambiamento di argomento, gaslighting emotivo e infine “hai ragione tu” detto nel modo che significa “hai torto ma non ho voglia di discutere.”
E la cosa più inquietante? È che noi stiamo affidando a questi sistemi il futuro dell’educazione, della sanità, delle decisioni importanti.
Io gli ho chiesto di contare cinque biglie e mi ha regalato un viaggio nel Metaverso della Negazione.
Immaginate quando dovrà decidere le diagnosi mediche: “Il paziente ha cinque tumori.” “No, ne ha quattro, il quinto è fuori dal corpo, sulla destra. Evidentemente esistono versioni diverse del corpo umano.”
Ho avuto ragione io su un esercizio di terza elementare, ma ho dovuto combattere contro un’intelligenza artificiale più testarda di un mulo.
E io che pensavo che il problema della tecnologia fosse che ci avrebbe sostituito. No. Il vero problema è che ci sta imitando fin troppo bene.
Dedico questo articolo a tutte le volte che avete avuto ragione ma qualcuno ha preferito riscrivere la realtà piuttosto che dire “scusa, ho sbagliato.” E a Gemini, che evidentemente vive in una dimensione dove la matematica evidentemente è diventata un’opinione.
E a voi è capitata mai una cosa simile o Artificialmente umana? Raccontatelo nei commenti o scrivetemelo all’indirizzo diariodiunamaestra@gmail.com
La vostra
Maestra Imperfetta
