Andrej Karpathy da Dwarkesh Patel: perché l'intelligenza artificiale generale è ancora lontana

Andrej Karpathy ha guidato lo sviluppo dell’intelligenza artificiale per la guida autonoma di Tesla, è stato tra i fondatori di OpenAI e oggi si dedica soprattutto a spiegare come funzionano i modelli di IA attraverso corsi e video seguiti da milioni di persone. Quando parla dei tempi di sviluppo di questa tecnologia lo fa quindi da chi ha costruito sistemi che dovevano funzionare nel mondo reale, non solo in laboratorio. Questa intervista, registrata un anno fa con Dwarkesh Patel, conduttore di un podcast noto per la preparazione delle sue domande, è diventata un riferimento per chi cerca un’opinione tecnica e non commerciale su quanto manchi a un’intelligenza artificiale generale, cioè capace di svolgere qualunque compito intellettuale umano. La sintesi che segue è ricavata dai capitoli del video.

Il primo tema è l’immagine che dà il titolo all’intervista: secondo Karpathy i modelli linguistici non sono paragonabili ad animali, costruiti pezzo per pezzo dall’evoluzione, ma assomigliano piuttosto a «fantasmi» evocati dall’enorme quantità di testi scritti dagli esseri umani. Questo spiega sia le loro capacità sorprendenti sia le loro mancanze, come l’assenza di una memoria che si arricchisca con l’esperienza.

Il secondo tema è l’apprendimento per rinforzo, il metodo con cui i modelli vengono addestrati a ragionare premiando le risposte corrette: Karpathy lo considera un metodo molto imperfetto, pur riconoscendo che le alternative oggi disponibili funzionano ancora peggio.

Il terzo tema è l’economia. La sua previsione è che l’IA non produrrà un salto improvviso, ma si inserirà nel ritmo di crescita di circa il 2 per cento l’anno che l’economia dei paesi avanzati ha mantenuto attraverso tutte le rivoluzioni tecnologiche precedenti. Il quarto tema è il paragone con le auto a guida autonoma, considerate «quasi pronte» già nel 2015 e arrivate sulle strade solo dieci anni dopo: secondo Karpathy gli agenti software seguiranno una curva simile, con dimostrazioni impressionanti e un lungo lavoro per renderli affidabili. L’intervista si chiude con l’istruzione, il progetto a cui si dedica oggi, e con l’idea che una delle applicazioni più importanti dell’IA sarà insegnare meglio alle persone.

Perché conta

L’intervista è un utile correttivo rispetto agli annunci con cui molti fornitori presentano gli «agenti autonomi» alle imprese. Chi deve decidere un investimento trova qui la domanda da porre al venditore: la dimostrazione funziona, ma quanto spesso il sistema riesce nei casi che non sono stati mostrati? La previsione di una crescita del 2 per cento offre inoltre un punto di riferimento per valutare sia le stime più pessimiste sia quelle più entusiaste.