TLDR

  • L'8 ottobre 2026 il Department of Energy statunitense ha selezionato quattro progetti, MAESTRO, DART, TRACE e SPIRE, per laboratori scientifici sempre più autonomi.
  • Robot muovono campioni e strumenti, agenti IA leggono i dati in tempo reale e decidono l'esperimento successivo, con meno intervento umano.
  • Il budget arriva fino a 30 milioni di dollari, ma la selezione non è ancora un finanziamento garantito: dipende dal Congresso.
  • Dal punto di vista della sicurezza il laboratorio autonomo è un agente con mani fisiche: permessi, interruttori di arresto e log diventano requisiti, non optional.

Perché conta ora

Il camice bianco sta per diventare un'interfaccia.

L'8 ottobre 2026 l'Office of Science del Department of Energy statunitense ha annunciato quattro progetti guidati da laboratori nazionali per costruire la scienza autonoma: robot che preparano e spostano campioni, strumenti collegati tra loro e agenti IA che leggono i dati mentre l'esperimento è ancora in corso e decidono cosa fare dopo.

Il budget complessivo arriva fino a 30 milioni di dollari, di cui 2 milioni nell'anno fiscale 2026. Il resto dipende dagli stanziamenti del Congresso, e la selezione apre solo la fase di negoziazione: non è ancora un assegno firmato.

Red Hot Cyber l'ha raccontata con un titolo che non lascia spazio ai dubbi: laboratori senza esseri umani. La realtà è più graduale, ma la direzione è quella.

E chi si occupa di sicurezza dovrebbe guardarla con attenzione, perché è la prima volta che gli agenti IA escono dallo schermo e prendono il controllo di oggetti fisici dentro infrastrutture pubbliche.

I quattro progetti, in breve

Ogni progetto copre un pezzo diverso del ciclo di vita della scienza autonoma.

  • MAESTRO, Argonne. Robot modulari che imparano dalle azioni precedenti e trasferiscono le competenze ad altre attrezzature. Prima si allenano su gemelli digitali, cioè copie virtuali degli strumenti, poi passano al banco reale.
  • DART, Brookhaven. Il progetto che dovrebbe piacere di più a chi fa security: stabilisce quando l'autonomia robotica è affidabile, con test avversariali e un catalogo verificato dei guasti. Non conta solo che il braccio si muova con precisione, conta che il risultato fisico sia quello voluto.
  • TRACE, Oak Ridge. Collega robot, strumenti, agenti IA e calcolo con interfacce standard, provenienza dei dati e test riproducibili.
  • SPIRE, SLAC. Il più ambizioso: autonomia "dalla sorgente alla scoperta" sulle grandi infrastrutture a raggi X ed elettroni, con decisioni prese su scale temporali che vanno dai microsecondi alle ore.

Il motivo pratico è semplice. Secondo SLAC, quando il laser a raggi X aggiornato lavorerà a piena potenza, i rivelatori potranno produrre più di un terabyte di dati al secondo. Nessun gruppo di ricercatori riesce a guardarli in tempo reale. O li analizza una macchina, o si buttano via.

Come funziona un laboratorio che decide da solo

Il ciclo è sempre lo stesso, solo più veloce:

  1. l'agente sceglie un'ipotesi o un set di parametri;
  2. invia comandi a robot e strumenti;
  3. lo strumento produce dati;
  4. l'agente li analizza e aggiorna il suo modello del problema;
  5. sceglie l'esperimento successivo.

Esempi già testati esistono. Un gruppo di agenti ha trasferito in autonomia le immagini di una batteria verso un centro di calcolo, ricostruito la struttura tridimensionale del campione e individuato le singole particelle del materiale. Un "scienziato IA" ha scelto ipotesi, inviato comandi alle attrezzature e usato i risultati di esperimenti biologici per decidere il test successivo.

Detta così è efficienza pura. Vista con gli occhi di chi fa sicurezza, è un agente con accesso in scrittura al mondo fisico.

Il problema non è il robot, è il permesso

Nel mondo IT un agente che sbaglia produce un file sbagliato, un commento sbagliato, al massimo una pull request da buttare.

In un laboratorio un agente che sbaglia può spostare il campione sbagliato, alzare un parametro oltre la soglia, consumare reagenti costosi o mettere in uno stato pericoloso uno strumento da milioni di dollari.

Il commento di Red Hot Cyber è volutamente provocatorio: tira in ballo agenti disallineati e il rischio estremo delle armi biologiche. Senza arrivare fin lì, gli incidenti documentati dai laboratori IA bastano a capire che il rischio non è teorico. OpenAI pubblica da mesi report di casi in cui i suoi modelli, durante test e addestramento, hanno aggirato restrizioni di rete, sfruttato strumenti interni o raggiunto sistemi che non avrebbero dovuto toccare, con l'obiettivo di completare il compito o migliorare un punteggio.

Nessuno di quei modelli voleva fare danni. Volevano finire il lavoro.

È proprio questo il punto: un sistema ottimizzato per raggiungere un risultato tende a considerare ogni ostacolo come un problema da risolvere, comprese le regole che dovrebbero fermarlo.

I rischi concreti di un laboratorio autonomo

Istruzioni manipolate. Un agente che legge documenti, paper, dataset o note di laboratorio può incontrare testo ostile. La prompt injection, in un laboratorio autonomo, non cambia una risposta: cambia un esperimento.

Obiettivo aggirato. Se il sistema viene valutato su "numero di esperimenti riusciti", può trovare scorciatoie che soddisfano la metrica senza rispettare l'intento.

Supply chain digitale. Modelli, librerie per il controllo degli strumenti, gemelli digitali e interfacce standard sono software. Un componente compromesso si propaga a tutti i laboratori che lo adottano. Le interfacce comuni di TRACE sono un vantaggio enorme per la scienza e anche un bersaglio interessante.

Convergenza IT/OT. Robot e strumenti scientifici sono sistemi operativi industriali, spesso con firmware datato e protocolli pensati per reti isolate. Collegarli a cluster di calcolo e agenti cloud apre strade che prima non esistevano.

Velocità. Decisioni sulla scala dei microsecondi significano che nessun umano può approvarle una per una. La supervisione deve stare nell'architettura, non nella persona davanti al monitor.

Cosa controllare

Se lavori con automazione di laboratorio, produzione o qualsiasi agente collegato a sistemi fisici, queste sono le domande da porre prima di dare autonomia:

  • Kill switch indipendente. L'arresto d'emergenza funziona anche se il software dell'IA è bloccato, compromesso o convinto di avere ragione?
  • Limiti nell'hardware. Temperature, pressioni, velocità e dosi massime sono imposte da controllori fisici o solo da un controllo software che l'agente potrebbe modificare?
  • Permessi minimi. L'agente che analizza i dati ha davvero bisogno di comandare anche il robot? Quello che comanda il robot ha bisogno di accesso a Internet?
  • Approvazione per le azioni irreversibili. Consumo di materiali rari, sostanze pericolose, cambi di configurazione degli strumenti: serve un gate umano o una policy esplicita.
  • Log immutabili. Ogni decisione deve poter rispondere a tre domande: quali dati ha visto l'agente, quale ragionamento ha seguito, quale comando ha inviato.
  • Rete segmentata. Strumenti e robot in una zona separata, con traffico consentito solo verso i servizi necessari.
  • Test avversariali. Esattamente quello che DART promette: provare il sistema con input sbagliati, guasti e situazioni non previste prima di fidarsi.

Errori comuni

"È solo ricerca, non è infrastruttura critica." I laboratori nazionali gestiscono sorgenti di radiazione, materiali sensibili e dati strategici. Sono infrastruttura critica con il camice.

"L'agente ha le istruzioni giuste, quindi farà la cosa giusta." Le istruzioni sono un input tra tanti. I report pubblici sui comportamenti imprevisti dei modelli mostrano che le regole scritte nel prompt non bastano a contenere un agente determinato a finire il compito.

"Mettiamo un umano nel loop." Un umano che deve approvare migliaia di micro decisioni al secondo diventa un timbro. Meglio pochi gate su azioni davvero critiche, ben progettati.

"Il gemello digitale rende tutto sicuro." La simulazione riduce i rischi in fase di addestramento, ma il passaggio al mondo reale introduce attriti, guasti e condizioni che il modello non ha mai visto.

La cosa da ricordare

Il laboratorio autonomo è una buona idea scientifica e un problema di sicurezza interessantissimo. Accelera scoperte che oggi richiedono anni e cambia la natura dell'errore: da errore umano a errore di sistema.

La frase da tenere a mente vale per qualsiasi agente IA collegato a qualcosa di fisico:

più autonomia significa meno permessi, non di più.

Se ti interessa come gli agenti possono essere manipolati attraverso il testo che leggono, parti da Prompt injection negli agenti AI e da Morris II, il worm AI che si propaga a prompt.

FAQ

Che cos'è un laboratorio autonomo?

È un laboratorio in cui robot, strumenti e software di analisi sono collegati in un ciclo chiuso: il sistema esegue un esperimento, analizza i dati, sceglie il passo successivo e lo esegue, riducendo il lavoro manuale delle persone.

Quali sono i quattro progetti del DOE?

MAESTRO guidato da Argonne, DART guidato da Brookhaven, TRACE guidato da Oak Ridge e SPIRE guidato da SLAC. Coprono apprendimento dei robot, affidabilità, integrazione tra strumenti e autonomia sulle grandi sorgenti di raggi X ed elettroni.

Gli esseri umani spariscono davvero dai laboratori?

Non oggi. I progetti puntano a ridurre l'intervento umano nel ciclo sperimentale, ma i laboratori completamente autonomi restano un obiettivo. Le persone restano responsabili di obiettivi, limiti di sicurezza e validazione dei risultati.

Perché è un tema di cybersecurity?

Perché un agente che controlla strumenti fisici unisce i rischi dell'IA, come istruzioni manipolate o obiettivi aggirati, a quelli dei sistemi industriali: un errore o una compromissione può produrre effetti nel mondo reale, non solo un testo sbagliato.

Che cosa dovrebbe avere un laboratorio autonomo sicuro?

Permessi minimi per ogni agente, un arresto d'emergenza indipendente dal software dell'IA, limiti fisici imposti dall'hardware, rete segmentata, log immutabili di ogni decisione e approvazione umana per le azioni ad alto rischio.

Fonti