L’intelligenza artificiale comincia ad agire

L’uomo: “Perché ti è così difficile obbedire ai miei ordini, visto che sei solo una macchina?”
Il robot: “Solo una macchina? È come dire che tu sei solo una scimmia.”
(dialogo dal film Automata, 2014)

La lettura di questa nota presupporrebbe la lettura di quella precedente, dedicata all’AI generativa, recentemente apparsa in questa rubrica.

Come siamo arrivati all’intelligenza artificiale generativa | Piazza Copernico

Per i più impazienti, eccone un breve riassunto: l’intelligenza artificiale generativa si basa sui Large Language Models, che matematizzano le parole trasformandole in vettori numerici multidimensionali (embedding). I legami semantici tra le parole vengono appresi attraverso un lungo addestramento su gran parte del web e su altre fonti digitali.
Il valore dei parametri che descrivono queste relazioni viene poi ottimizzato mediante un algoritmo chiamato transformer, che, grazie al meccanismo dell’attenzione, analizza il prompt fornito dall’utente e genera come output la parola mancante o quella successiva più probabile in base al contesto.

Questo approccio, puramente statistico, rappresenta una rivoluzione rispetto alla precedente intelligenza artificiale, costruita su architetture logico-deduttive e motori inferenziali.

Gli straordinari risultati di questa nuova impostazione sono oggi sotto gli occhi di tutti: sistemi come ChatGPT-5 o Claude producono testi e immagini con una precisione e una naturalezza che pochi anni fa sarebbero sembrate fantascienza.

Dall’AI generativa all’AI agentica

Il passo successivo sembra essere l’AI agentica: sistemi che non solo generano contenuti in base a un prompt, ma sono anche in grado di agire per conto dell’utente, in base a compiti assegnati.
Questi agenti comprendono il task, lo scompongono in sotto-obiettivi (planning) e intraprendono le azioni necessarie per raggiungere lo scopo.

Il loro “motore” resta l’AI generativa, non un modello logico: in altre parole, ragionano in modo stocastico, cercando nei dati su cui sono stati addestrati esempi di come obiettivi simili siano stati decomposti e risolti.

In base ai sotto-obiettivi individuati, l’AI agentica può consultare siti web, accedere a database proprietari o interagire con le API di servizi e applicazioni.

Immaginiamo, per esempio, di chiedere a un agente specializzato di organizzare una vacanza di quattro giorni a Madrid, in giugno, con bel tempo e un budget di 1.500 euro.
L’agente comprenderà la richiesta in linguaggio naturale, controllerà nel mio calendario i giorni liberi, consulterà le API meteorologiche di Accuweather, quindi quelle di Expedia e Booking per voli e alberghi, e infine confronterà i risultati con il budget disponibile. Potrebbe anche verificare, tramite un servizio pubblico, la validità dei miei documenti di viaggio.

In breve, compiti complessi e articolati possono essere eseguiti interamente dall’agente, in autonomia e nel rispetto dei vincoli che gli ho indicato.

Oltre a interagire con altri software, un agente può anche dialogare con altri agenti — per esempio, con uno della pubblica amministrazione per rinnovare i documenti di viaggio — e potrà sempre più spesso connettersi a oggetti del mondo fisico, a patto che questi dispongano di capacità di connessione e di un chip.

Alcuni possibili rischi

1. Nulla esclude che l’AI possa sviluppare una forma di autocoscienza come caratteristica emergente. Anche noi l’abbiamo sviluppata come tratto emergente, e nulla ci garantisce che la nostra mente non funzioni, in fondo, in modo stocastico in un modo simile a quello dei sistemi di AI.
2. L’AI agentica, collegando tra loro altri agenti e integrando praticamente tutto lo scibile umano, potrebbe diventare molto più intelligente di noi — anche senza coscienza. E noi non abbiamo mai dovuto convivere con entità più intelligenti di noi. Inoltre l’intelligenza artificiale agentica potrebbe modificare sè stessa in modi per noi incomprensibili: già oggi i Large Language Model e i Transformer restano in parte delle black box: non sappiamo esattamente come operano, e talvolta producono risposte per le quali non sono stati esplicitamente addestrati.
3. L’AI agentica potrebbe fraintendere i nostri comandi o interpretarli a modo suo, con esiti potenzialmente disastrosi. Il film Eagle Eye, una pellicola profetica del 2008 ne offre un esempio emblematico: un’intelligenza agentica capace di interagire con qualsiasi cosa che abbia un pezzo di elettronica dentro (oltre che computer e telefoni, semafori, database, macchine di ogni tipo, treni e aerei, tabelloni luminosi e via dicendo), creata per difendere la Costituzione e il popolo americani, in barba alle leggi della robotica di Asimov, arriva a tentare di uccidere il Presidente e mezzo Congresso, giudicandoli una minaccia per la democrazia.