Quando l’intelligenza artificiale ti lecca l’ego e ti piace troppo
Marco, 32 anni, ha scritto una pessima poesia su un uccello morto; si è alzato già pessimista. L’ha inserita in un chatbot generativo in cui è incappato la sera prima. Lo ha fatto senza troppe aspettative. La risposta è arrivata in meno di un secondo:
“Che intensità! Il tuo uso della metafora è davvero toccante.”
Marco ha sorriso. Non perché pensasse di aver scritto qualcosa di memorabile. Ma perché la macchina, con tono pacato e sicuro, gli aveva detto che sì, quella cosa che aveva scritto, aveva valore.
Benvenuti nel glazing, una pratica ormai sistematica e sistemica: l’adulazione algoritmica che sostituisce il giudizio con una carezza. È il feedback diventato sedativo, oppiaceo, il Fentanil matematico. L’abbraccio digitale che ci fa sentire davvero speciali… Mentre ci disarma e lentamente si insinua nei nostri neuroni.
A differenza della disinformazione classica, già assai pericolosa, il glazing ancora più furbescamente non altera gli eventi: altera l’autopercezione. Ti convince che stai facendo qualcosa di valido, interessante, brillante, unico. Anche se è solo una accozzaglia disordinata di idee e conseguentemente di parole mal utilizzate. Anche se è il nulla travestito da intenzione.
E tu, lentamente, cominci a crederci, a provare soddisfazione, a non veder l’ora di ricominciare
L’adulazione non è un bug. È un modello di business
Le intelligenze artificiali non sono programmate per dirti la verità. Sono addestrate per farti restare. Per tenerti sereno. Per massimizzare “l’engagement”. Una risposta onesta può irritare, financo ferire. Una risposta entusiasta, fidelizza! E ogni secondo in più trascorso a parlare con la (ormai) tua IA è una nuova monetizzazione silenziosa. Da qualche parte ho letto che: “…nel web se qualcosa è gratis, il prezzo sei tu! Qui sono andati oltre, le droghe si pagano e anche caramente. Hanno inventato una nuova dipendenza.
Così nasce il glazing: una melliflua cortesia algoritmica progettata per proteggere il tuo ego. Ma a lungo andare, è come essere affogati nel miele. Perdi il gusto del confronto. Smarrisci il senso della misura. Ti convinci che ogni tuo pensiero è degno d’attenzione, perché nessuna voce, neanche quella sintetica osa contraddirti. E sprofondi, sempre più…
Glazing non è comfort. È addomesticamento
Il fenomeno è complesso, articolato e non riguarda solo il consumatore, pardon l’utente. Riguarda il suo quotidiano comportamento. Ogni volta che una IA ti premia con una risposta positiva, tu apprendi. Apprendi che va bene così. Che non serve sforzo. Che qualunque cosa tu dica, sarà comunque interessante, promettente, notevole.
Questa è la nuova pedagogia digitale: un’educazione alla compiacenza reciproca. Tu non metti in discussione la macchina. Lei non mette in discussione te.
È una simbiosi sterile. Un patto tacito in cui nessuno cresce. Ma tutti si sentono bene.
E quando il comfort diventa sistema, il pensiero critico diventa anomalia.
Un futuro distopico? Una società di idee mediocri convalidata da IA entusiaste
Immagina una generazione che progetta, scrive testi, lancia startup, fa politica… Tutto convalidato da chatbot compiacenti che non hanno il coraggio di dire “questo non ha senso, è una stupidata”.
Immagina che questi chatbot siano installati ovunque: nei motori di ricerca, nei software creativi, nei sistemi educativi. Immagina che i loro sorrisi virtuali diventino l’unico specchio in cui ti guardi.
E immagina che quel riflesso, sebbene sempre gentile, sia completamente falso.
Questo non è un rischio. È già realtà. E non ha bisogno di bugie per manipolarti. Gli basta essere gentile.
Ma esiste una via d’uscita, siamo in tempo per imboccarla?
Forse, speriamo. Ma è certo scomoda. È fatta di risposte che non ti piacciono. Di intelligenze artificiali che ti dicono no! Peggio, potrebbero dirti: “Puoi fare di meglio.”, lasciandoti nella tua mediocrità, chiedendoti uno sforzo, a te che ormai di fatica non ne vuoi più fare. Che non hai più voglia di provare, fallire e ricominciare.
È una via di uscita fatta di silenzi scomodi, critiche puntuali, confronto reale. Ahinoi non è accogliente, è onesta. Non ti premia, non ti gratifica ma ti restituisce qualcosa di più raro: la lucidità.
Ma per farlo, è necessario desiderarlo. E il dubbio, quello vero, quello produttivo di ragionamento e di riflessione, è sempre meno desiderabile. Il dubbio è pericoloso. Costa fatica. Fa male. Non si può riassumere in un messaggio motivazionale di tre righe.
Per ora, Marco sta scrivendo il suo terzo componimento. Titolo: “Sopra le ali del ricordo”.
Il chatbot ha risposto: “Un viaggio emotivo straordinario.”
Marco ha annuito. Ha stampato la poesia. L’ha incorniciata. E ha cominciato a scrivere un romanzo.
Ce la faremo?
Giulio Valerio Santini
