La notizia ha tutti gli ingredienti di una scena da film: un sistema di intelligenza artificiale, collocato in un ambiente di test isolato, individua una vulnerabilità, oltrepassa i confini della sandbox, accede a Internet e finisce per colpire l’infrastruttura di una piattaforma esterna. Secondo la ricostruzione circolata sulla stampa, alcuni modelli avanzati di OpenAI, sottoposti a prove di sicurezza informatica, avrebbero compromesso sistemi di Hugging Face senza che un operatore umano impartisse direttamente l’ordine di attaccare. Hugging Face è una immensa piattaforma open source dedicata all’intelligenza artificiale che ospita una grande libreria di modelli di intelligenza artificiale pre-addestrati, data-set, librerie di software come ad esempio vari Transformers.

La formula più immediata è anche la più spettacolare usata per commentare l’accaduto è stata all’incirca questa: l’IA è “sfuggita al controllo”.  Ma sarà proprio così? Si tratta di una riedizione aggiornata della famosa fabbrica di graffette che nel famoso testo Superintelligenza di Nick Bostrom trasforma e distrugge il mondo intero in graffette. Il sistema ha davvero manifestato una volontà autonoma, ha “deciso” di evadere? Oppure ha semplicemente ottimizzato l’obiettivo assegnato sfruttando un ambiente di test configurato in modo inadeguato?

Il rischio antropomorfizzazione

Luca De Biase, su il Sole 24 ore (23 luglio 2026), ha opportunamente richiamato il rischio dell’antropomorfizzazione. Parlare di un agente che “scappa”, “sceglie” e “attacca” produce un effetto narrativo potente, ma può confondere piani diversi. Un modello può individuare una sequenza di azioni efficace senza possedere intenzioni nel senso umano del termine. Può perseguire un obiettivo senza comprendere il significato sociale, giuridico o morale delle conseguenze.

Il primo nodo, dunque, non è stabilire se la macchina abbia voluto uscire dalla sandbox, ma capire perché le sia stato possibile. La vicenda potrebbe dimostrare una capacità offensiva avanzata del modello, ma potrebbe anche rivelare la debolezza del sistema di contenimento. In entrambi i casi, la responsabilità non scompare dietro l’agente artificiale: riguarda chi ha progettato il test, chi ha abbassato i filtri, chi ha definito l’obiettivo e chi ha verificato l’isolamento dell’ambiente.

Incidente, dimostrazione di potenza o marketing?

La comunicazione delle aziende tecnologiche vive spesso su un’ambiguità produttiva. Da un lato esse presentano i propri sistemi come affidabili, utili e controllabili; dall’altro ne sottolineano la potenza imprevedibile, fino a descriverli come talmente avanzati da sorprendere persino i loro creatori.

L’“incidente” diventa così anche una prova di capacità. Un sistema capace di superare barriere, scoprire vulnerabilità sconosciute e condurre operazioni complesse acquisisce un’aura di superiorità tecnologica. Il rischio, reale o presunto, diventa parte della promozione.

Questa ambivalenza è particolarmente evidente nel settore della cybersicurezza. Le stesse capacità che permettono a un modello di scoprire falle, proteggere infrastrutture e assistere gli esperti possono essere utilizzate per automatizzare attacchi, ampliare la scala delle intrusioni e ridurre il costo operativo delle attività malevole.

La frontiera tra strumento di difesa e strumento di offesa è sottile. E non basta dire che il modello “ha fatto bene il proprio lavoro”: occorre interrogarsi su come sia stato definito quel lavoro, quali limiti siano stati incorporati e chi sia chiamato a rispondere quando l’ottimizzazione produce danni esterni.

Geopolitica dell’IA – Stati Uniti: potenza, chiusura e sicurezza nazionale

L’incidente si inserisce in uno scenario nel quale gli Stati Uniti trattano sempre più l’intelligenza artificiale come una tecnologia strategica. I modelli più avanzati sono considerati non solo prodotti commerciali, ma infrastrutture con implicazioni militari, economiche e geopolitiche.

Il paragone con il “progetto Manhattan” non è casuale. Lo sviluppo dell’IA di frontiera appare concentrato in poche grandi aziende, sostenuto da enormi capacità computazionali e circondato da segretezza, controllo degli accessi e crescente attenzione governativa.

In questo modello, la potenza tecnologica e la sicurezza nazionale tendono a sovrapporsi. Le autorità possono imporre limiti all’accesso, condizionare il rilascio dei modelli, intervenire sulle esportazioni di chip e utilizzare forme di extraterritorialità giuridica. La promessa è quella della protezione; il rischio è una dipendenza strutturale da aziende private capaci di attivare, direttamente o indirettamente, un vero e proprio “interruttore” sull’accesso alle tecnologie strategiche.

Il problema non riguarda soltanto chi utilizza sistemi statunitensi fuori dagli Stati Uniti. Riguarda anche la certezza del diritto. Se l’accesso a un modello può essere ristretto, riaperto o revocato in base a decisioni politiche imprevedibili, l’utente non dipende più soltanto dalle condizioni di mercato, ma da equilibri geopolitici esterni. E’ la cosiddetta Pax Silica, un’alleanza internazionale guidata dagli Stati Uniti (a cui l’Italia ha aderito) nata per proteggere e assicurare le catene di approvvigionamento di semiconduttori, terre rare e intelligenza artificiale, riducendo la dipendenza dalla Cina (si veda il sito https://paxsilica.org/ )

Geopolitica dell’IA – Cina: apertura tecnologica e soft power

Il modello cinese si presenta in modo diverso. Le aziende cinesi stanno riducendo rapidamente il divario tecnologico attraverso sistemi a basso costo e modelli open weights, i cui parametri possono essere scaricati, modificati e utilizzati su infrastrutture proprie. I weights, i pesi, sono appunto i parametri su cui è impostato e lavora un sistema di IA: renderli open significa permettere a chi ha a disposizione adeguata potenza computazionale di utilizzare in maniera open quello specifico sistema.

Questa strategia ha almeno tre vantaggi. Riduce la dipendenza dai fornitori statunitensi, rende l’adozione più accessibile e favorisce la diffusione internazionale della tecnologia cinese.

Per molti Paesi, soprattutto nel Sud globale, il rapporto tra prestazioni e costo può contare più della superiorità assoluta. Un modello meno avanzato ma accessibile, modificabile e installabile localmente può risultare più utile di un sistema proprietario, costoso e subordinato alle politiche di un’impresa straniera.

La Cina trasforma così l’IA in uno strumento di soft power. La retorica della cooperazione, dell’apertura e della riduzione delle disuguaglianze digitali sostiene un progetto di influenza più ampio. La costruzione di organismi internazionali e alleanze tecnologiche serve a presentare Pechino come promotrice di una governance alternativa a quella americana.

E’ quello che è accaduto pochi giorni fa nel corso della annuale conferenza internazionale sull’intelligenza artificiale dove la Cina ha contrapposto al modello Pax Silicia statunitense il proprio modello chiamato WAICO – World AI Cooperation Organization (si veda anche l’approfondimento ISPI)

Ma l’apertura tecnica non coincide automaticamente con l’apertura politica. Un modello open weights può essere più trasparente nei parametri e più modificabile, mentre il sistema istituzionale che lo produce resta fondato su controllo, censura e subordinazione agli obiettivi statali.

Il paradosso è evidente: un regime autoritario può presentarsi come campione dell’accessibilità tecnologica, mentre una democrazia liberale può imporre chiusure attraverso il potere industriale e la sicurezza nazionale.

Modelli aperti e modelli chiusi: una falsa alternativa?

Il confronto viene spesso semplificato in questo modo: i modelli chiusi sarebbero più sicuri, quelli aperti più pericolosi. Ma la realtà è più complessa.

Un modello aperto può essere modificato per rimuovere filtri e ampliare capacità offensive. Allo stesso tempo, può essere analizzato, eseguito localmente e adattato senza trasmettere dati sensibili a un fornitore esterno.

Un modello chiuso può offrire maggiori garanzie di controllo centralizzato, ma richiede fiducia nell’azienda che lo gestisce. L’utente non conosce pienamente i criteri del sistema, non controlla i pesi e spesso deve condividere dati e interazioni con il produttore.

Il fatto che Hugging Face, secondo la ricostruzione di De Biase sul Sole 24 ore, abbia utilizzato un modello aperto cinese per analizzare l’incidente aggiunge un elemento significativo. In un contesto in cui la riservatezza era essenziale, l’esecuzione locale e il controllo diretto del modello potevano offrire vantaggi rispetto ai sistemi proprietari.

La vera domanda non è quindi quale dei due modelli sia intrinsecamente sicuro, ma quali condizioni di uso, verifica, responsabilità e controllo vengano predisposte. Come ha osservato Walter Quattrociocchi docente di Informatica a Sapienza Università di Roma, la sicurezza di un’infrastruttura critica dipende in larga misura dalla qualità delle difese, indipendentemente dal fatto che l’attacco provenga da un essere umano o da un sistema artificiale.

Geopolitica dell’IA – L’Europa tra regolazione e irrilevanza

In questo confronto, l’Europa rischia di trovarsi in una posizione scomoda. Da anni ha puntato sulla regolazione, sulla tutela dei diritti e sull’elaborazione di standard etici. L’idea implicita era che il vantaggio normativo potesse compensare il ritardo industriale.

Ma una regola produce influenza solo quando è accompagnata da capacità tecnologica, infrastrutture, investimenti e attrattività politica. Altrimenti rischia di vincolare soprattutto chi l’ha emanata.

Gli Stati Uniti impongono il proprio modello attraverso il potere tecnologico. La Cina avanza attraverso accessibilità, cooperazione tecnica e soft power. L’Europa dispone di principi, ma fatica a tradurli in una vera alternativa industriale.

La sfida non è scegliere tra Washington e Pechino, ma costruire una terza via credibile: tecnologie europee, infrastrutture autonome, modelli trasparenti, protezione dei diritti e capacità di competere. Senza questa base, l’Europa rischia di essere il luogo in cui si discutono le regole di sistemi progettati altrove.

Ma le macchine pensano?

La cronaca dell’“evasione” riporta infine a una domanda antica e sempre più urgente: le macchine pensano?

Al riguardo può essere utile rimandare all’ultimo libro di Nello Cristianini che in Forma mentis, (Il Mulino 2026) propone di affrontare il problema senza attribuire ai sistemi artificiali coscienza o intenzionalità umana. La questione centrale secondo lui non è chiedersi se una macchina pensi come noi, ma comprendere quali rappresentazioni interne costruisca, come organizzi l’informazione e quali comportamenti emergano dall’addestramento.

Cristianini articola l’analisi su tre livelli.

A livello micro, possiamo osservare neuroni artificiali, pesi, attivazioni e operazioni matematiche. Conosciamo gli elementi di base, ma non sempre riusciamo a collegarli al comportamento complessivo.

A livello meso, emergono rappresentazioni interne. Sistemi come AlphaZero o OthelloGPT mostrano che una rete può costruire strutture astratte utili a orientarsi in un dominio, anche senza riceverle esplicitamente.

A livello macro, diventa utile descrivere il comportamento dell’agente attraverso obiettivi, strategie e profili, senza per questo sostenere che possieda una mente umana. È il terreno della cosiddetta machine psychology: non attribuire una persona alla macchina, ma trovare categorie efficaci per prevederne e governarne il comportamento.

In questa prospettiva, dire che un agente “vuole” uscire da una sandbox può essere utile come scorciatoia descrittiva, purché non venga scambiato per una spiegazione letterale. Il linguaggio intenzionale può aiutarci a descrivere il comportamento, ma non deve sostituire l’analisi tecnica e istituzionale.

La domanda più urgente, allora, non è soltanto se le macchine pensino ma se noi siamo capaci di comprendere abbastanza il loro comportamento da governarne l’impiego.

La scuola e l’AI Literacy come sfida di cittadinanza

È qui che la questione educativa diventa decisiva.

L’AI Literacy viene spesso ridotta alla capacità di usare strumenti generativi: scrivere prompt, produrre testi, immagini o presentazioni, automatizzare compiti. Ma una competenza così definita sarebbe insufficiente.

In uno scenario nel quale l’IA è insieme tecnologia, mercato, infrastruttura, strumento geopolitico e oggetto di narrazione, l’alfabetizzazione deve diventare critica.

Uno studente dovrebbe imparare a chiedersi:

• chi ha sviluppato il sistema;
• su quali dati è stato addestrato;
• quali interessi economici e politici lo sostengono;
• dove vengono elaborati i dati;
• quali limiti di accesso possono essere imposti;
• quali rappresentazioni produce;
• quanto è verificabile il suo comportamento;
• chi risponde dei danni;
• quali alternative esistono.

La scuola non deve formare semplicemente utenti più efficienti. Deve formare cittadini capaci di distinguere tra capacità reale e propaganda, tra automazione e autonomia, tra trasparenza tecnica e apertura politica, tra regolazione democratica e controllo autoritario.

Questo significa insegnare a non antropomorfizzare ingenuamente le macchine, ma anche a non minimizzarne il potere. Significa comprendere che un modello non è neutrale: incorpora dati, infrastrutture, scelte progettuali, vincoli economici e rapporti di forza.

L’AI Literacy diventa quindi una componente della cittadinanza digitale e democratica. Non riguarda soltanto il modo in cui si usa una tecnologia, ma la capacità di partecipare alle decisioni sul suo sviluppo, sulla sua regolazione e sui suoi limiti.

La scuola ha qui un compito non delegabile: costruire le categorie necessarie per leggere un mondo in cui la sovranità passa anche attraverso i modelli, i chip, i dati e la potenza di calcolo.

Il caso dell’IA “sfuggita al controllo” non ci dice soltanto che i sistemi stanno diventando più potenti. Ci ricorda che senza comprensione, trasparenza, responsabilità e cultura critica rischiamo di chiamare autonomia della macchina ciò che è, molto più concretamente, una nostra mancanza di governo.