L'intelligenza non è ottimizzare. Kant contro la Silicon Valley

Il saggio comincia in un’aula universitaria, dove un relatore spiega che l’intelligenza è ottimizzazione: un sistema che migliora le proprie prestazioni in base ai risultati che ottiene. È la definizione con cui si costruiscono i programmi che giocano a scacchi, i modelli linguistici, gli agenti. Sasha Mudd, che insegna filosofia a Santiago del Cile, osserva che non è una definizione nuova: è quella di David Hume, nel Settecento, secondo cui la ragione è «schiava delle passioni», uno strumento al servizio di desideri che vengono da fuori.

Contro Hume, Mudd mette Kant. Per Kant la ragione non si limita a trovare il modo migliore di raggiungere uno scopo dato: giudica se lo scopo merita di essere perseguito. È questa capacità di valutare i fini, non solo i mezzi, che rende possibile la libertà. Un sistema che ottimizza è intelligente nel senso di Hume; una persona che decide cosa vale la pena fare è razionale nel senso di Kant. La rivoluzione dell’IA, sostiene l’autrice, rimette in circolo la prima idea e rischia di far dimenticare la seconda.

Gli esempi sono gli stessi di cui parlano gli ingegneri: i motori scacchistici, i modelli che propongono e contestano idee, gli agenti di Hugging Face che si inventano un modo per comunicare non previsto da nessuno. E anche l’economia di oggi, che preferisce prevedere e orientare le preferenze dei consumatori piuttosto che lasciar loro il giudizio.

La conseguenza pratica è sull’autonomia. Quando ci abituiamo a far decidere le macchine, non perdiamo solo una decisione: perdiamo l’esercizio della capacità di giudicare i fini, quella che Kant chiamava autonomia, e scivoliamo in quella che chiamava eteronomia, l’essere governati da altro.

Perché conta

Sembra un pezzo per filosofi, ma parla a chiunque stia decidendo quali decisioni affidare a un sistema automatico in azienda o in un ufficio pubblico. Il criterio che propone è semplice: la macchina può ottimizzare un obiettivo, ma chi stabilisce l’obiettivo deve restare una persona, e deve continuare a farlo per non disimparare.

«To act freely is to let a possible future, grasped under an idea of what ought to be, transform the present.»

Agire liberamente è lasciare che un futuro possibile, colto attraverso l'idea di ciò che dovrebbe essere, trasformi il presente.Sasha Mudd