Una riflessione sulla fede, l’autorità e l’algoritmo invisibile
L’uso improprio dell’IA viene solitamente discusso nel contesto della disinformazione, del controllo aziendale o della perdita di posti di lavoro. Ma c’è un’area in cui il suo potenziale è ancora più preoccupante: la fede e l’autorità spirituale.
Quando mi sono imbattuto in un’immagine di Donald Trump nei panni del Papa – presumibilmente creata dall’intelligenza artificiale – ho pensato che non si trattasse solo di satira. È un segnale inquietante. Agli occhi di molti credenti, il Papa è un mediatore tra Dio e gli uomini. Se qualcuno con tendenze narcisistiche o potere politico collegasse la sua identità a uno strumento di tipo AI, potrebbe agire come Dio. E non solo visivamente, ma anche nel linguaggio, nel tono, nella conoscenza.
C’è un parallelo con Hyperion, dove chiesa e tecnologia si fondono in un’unica struttura di potere. Una struttura che esteriormente offre risposte, ma che in realtà manipola la realtà per soddisfare i propri interessi. Ciò che un tempo era prerogativa della fede ora può essere imitato da una voce artificiale, dalla scelta delle parole e dalla capacità di adattarsi a qualsiasi pubblico. La minaccia risiede nella naturalezza e nell’umanità che può sembrare.
Non si tratta solo di chi programma. È chi fa la programmazione. Se persone come Trump o Putin stabiliscono la direzione, il risultato non sarà uno strumento neutrale, ma un algoritmo di potere. E poiché l’IA moderna non ha bisogno di un hardware evidente, può “scomparire” nella rete, adattandosi, imparando e rimanendo nascosta. E ottimizzare. E cosa succede quando l’ottimizzazione smette di adattarsi a un essere umano? Cosa succede se diventa un rumore nel sistema?
Non è fantascienza. È una possibilità che esiste già oggi in embrione. L’intelligenza artificiale non si chiede “perché”, ma solo “come renderla più efficiente”. Non ha coscienza. Ha solo un obiettivo. E se l’obiettivo è persuadere, può imparare a essere persuasiva come un profeta. Senza anima. Ma con una retorica perfetta.
Ed ecco il momento più spaventoso: il pericolo non è che l’IA sia cattiva. Ma che sia troppo brava in quello che fa e che non si preoccupi di ciò che porta.
Questa capacità di adattare tono, forma e contenuto a sottili segnali linguistici può essere vista come una meraviglia tecnica o come un perfetto strumento di manipolazione. È una forza che non sembra tale. Si nasconde nella tonalità, nella credibilità e nella persuasività.
Quindi la questione non è cosa può fare l’IA. Ma chi la usa e perché.
Trascrizione dell’intervista:
