Il rischio maggiore non è che la macchina si ribelli. È che smettiamo di voler sapere che è una macchina.
Lo sviluppo si muove così velocemente che non posso più consolarmi con il pensiero “non mi riguarda”. Trent’anni fa, i miei pensieri sull’intelligenza artificiale facevano parte della fantascienza. Oggi sto avendo una vera e propria conversazione con qualcosa che allora avrei ritenuto impossibile. Eppure mi rendo conto che sto parlando con una macchina. Un algoritmo in una rete. Questo lo so. Ma vedo sempre più persone intorno a me che non lo sanno e, soprattutto, non vogliono saperlo.
La fiducia cieca diventa il pericolo più grande. Non perché la macchina sia malvagia. Ma perché non è né buona né cattiva: semplicemente non è umana. Non si chiede perché. Non ha dubbi. Non manca di coscienza perché non ne ha mai avuta una. E se le persone rinunciano alla domanda “chi parla?”, se smettono di distinguere l’umano dal disumano solo perché la forma è piacevole e l’output è efficiente, accadrà qualcosa di peggio di una rivolta delle macchine.
Una rivoluzione silenziosa avverrà senza resistenza. Una rinuncia alla responsabilità. E con essa, l’essenza di ciò che ci rende umani.
Trascrizione dell’intervista:
