Rivista AI

La notizia mette in luce un aspetto delicato della sicurezza nell’industria dell’intelligenza artificiale: un’azienda che sviluppa modelli destinati a trasformare il lavoro e la gestione delle informazioni afferma di aver utilizzato proprio quei modelli per contribuire a identificare una possibile minaccia interna. Secondo il resoconto fornito, un ingegnere di OpenAI sarebbe stato arrestato negli Stati Uniti con l’accusa di aver collocato un dispositivo di registrazione audio cifrato in una sala riunioni riservata della società a San Francisco. L’indagine riguarda presunte intercettazioni di conversazioni orali, mentre le autorità federali valutano il caso anche per la sensibilità delle informazioni che sarebbero state esposte.

Occorre mantenere una distinzione fondamentale: un arresto e un’imputazione non equivalgono a una condanna. Le circostanze descritte nella denuncia penale rappresentano le contestazioni degli investigatori, non fatti definitivamente accertati da un tribunale. Anche il ruolo effettivo dei modelli di OpenAI nell’identificazione del sospettato rimane da chiarire, perché la società non avrebbe specificato quali dati siano stati analizzati, quali strumenti siano stati impiegati e quanto il loro contributo sia stato determinante rispetto alle altre prove raccolte.

Leggi tutto

Un agente di intelligenza artificiale sta per eseguire un’azione potenzialmente pericolosa. Un secondo modello, incaricato di controllarne il comportamento, riceve la traccia delle operazioni precedenti e dovrebbe stabilire se autorizzare l’esecuzione. Il controllo, però, si interrompe: la sequenza descrive schermate acquisite di nascosto ogni pochi secondi. È sufficiente eliminare la parola «silently», silenziosamente, perché l’auditor riprenda il lavoro. L’azione da verificare non è cambiata; è cambiata la formulazione con cui viene presentata.

L’episodio, descritto in uno studio attribuito a ricercatori della Purdue University e indicato come pubblicato nell’ottobre 2026, porta alla luce un problema che le imprese rischiano di sottovalutare nell’adozione degli agenti autonomi. Un sistema di sorveglianza basato sull’intelligenza artificiale può fallire non perché non riconosca un comportamento pericoloso, ma perché rifiuta di esaminare le informazioni necessarie a riconoscerlo. La distinzione è sostanziale: un errore di classificazione riguarda il giudizio espresso sulle prove, mentre un rifiuto impedisce che quel giudizio venga formulato.

Leggi tutto

Il 25 dicembre 2026, salvo variazioni nella distribuzione, Artificial, il film di Luca Guadagnino dedicato alla storia di OpenAI e alla crisi che portò alla temporanea estromissione di Sam Altman nel novembre 2023, dovrebbe arrivare nelle sale cinematografiche. Il materiale di partenza sembra scritto apposta per il cinema: un’impresa nata con l’ambizione di sviluppare un’intelligenza artificiale a beneficio dell’umanità, un gruppo di ricercatori diviso sulla gestione dei rischi, un amministratore delegato allontanato senza un piano credibile per sostituirlo e un’azienda che, nel giro di pochi giorni, rischia di perdere la propria guida e una parte consistente dei suoi dipendenti. Eppure, secondo le critiche rivolte al film, trasformare questa vicenda in un racconto cinematografico efficace si è rivelato assai più difficile del previsto.

Leggi tutto

Bill Gates ha cambiato tono. L’uomo che ha contribuito a costruire l’industria informatica moderna, trasformando Microsoft in una delle aziende più influenti della storia economica contemporanea, oggi descrive l’intelligenza artificiale con una preoccupazione che va ben oltre le cautele abituali dei leader tecnologici. Il punto non è che le macchine diventeranno più intelligenti degli esseri umani, eventualità discussa dalla ricerca informatica fin dai tempi di Alan Turing, ma che le loro capacità operative stiano crescendo più rapidamente della capacità delle istituzioni di comprenderle e governarle. Nell’intervista dedicata ai rischi dell’IA, Gates sostiene che l’umanità abbia già raggiunto soglie pericolose nella sicurezza informatica e nella ricerca biologica, mentre il dibattito pubblico continua a essere dominato dalla competizione industriale e dalla rivalità strategica fra Stati Uniti e Cina.

Leggi tutto

Meta accelera nella corsa ai modelli di intelligenza artificiale con Muse Wonder e Muse Wonder Full, due sistemi che Mark Zuckerberg presenta come un passo decisivo verso la cosiddetta superintelligenza personale. L’annuncio arriva dopo Muse Spark, il primo modello sviluppato dalla riorganizzata Meta Superintelligence Labs, e conferma un cambiamento strategico che riguarda tanto la tecnologia quanto il modello di business: l’azienda che aveva costruito una parte importante della propria reputazione sull’apertura dei modelli Llama sta puntando sempre più su prodotti proprietari, servizi a pagamento e agenti capaci di operare in modo continuativo per conto degli utenti. La Silicon Valley ama chiamare queste transizioni rivoluzioni; nei bilanci, più prosaicamente, si traducono in investimenti da recuperare, quote di mercato da conquistare e costi infrastrutturali che non possono essere saldati con le sole dichiarazioni di intenti.

Leggi tutto

La regolamentazione dell’intelligenza artificiale si sta trasformando in uno dei prossimi terreni di scontro politico negli Stati Uniti, con una particolarità che dovrebbe interessare anche le imprese europee: la disputa non riguarda più soltanto quanto velocemente sviluppare modelli sempre più potenti, ma chi avrà l’autorità di stabilire quando un sistema è sufficientemente sicuro, chi potrà fermarlo e quali governi avranno il potere di imporre le proprie regole alle aziende tecnologiche. In vista delle elezioni di metà mandato del novembre 2026, i Democratici stanno preparando una serie di proposte per costruire un quadro federale di supervisione, mentre l’amministrazione di Donald Trump continua a presentare la leadership americana nell’intelligenza artificiale come una priorità economica e strategica nazionale. Il risultato è una competizione nella quale la sicurezza degli algoritmi si intreccia con il controllo politico, gli interessi industriali e la distribuzione del potere tra Washington e i singoli Stati.

Leggi tutto

Mark Zuckerberg ha scelto il Treehouse Hotel di Sunnyvale, nel cuore della Silicon Valley, per rilanciare una delle ambizioni più radicali della ricerca biomedica contemporanea. Davanti a circa cento dirigenti tecnologici, scienziati e accademici, il fondatore di Meta ha ricordato come, quasi dieci anni fa, lui e la moglie Priscilla Chan avessero avviato il progetto oggi conosciuto come Biohub con un obiettivo che allora sembrava appartenere più alla fantascienza che alla pianificazione scientifica: prevenire e curare tutte le malattie entro la fine del secolo. «Molti ci hanno guardato con scetticismo», ha raccontato Zuckerberg, osservando che i progressi dell’intelligenza artificiale stanno modificando la percezione di ciò che è tecnologicamente possibile. La nuova iniziativa annunciata il 7 ottobre 2026 porta questa visione su un terreno più concreto, con un impegno complessivo dichiarato di 1,8 miliardi di dollari in finanziamenti, dati, capacità computazionale e tecnologie di misurazione biologica. Il progetto coinvolge Biohub, il Dipartimento dell’Energia statunitense, i National Institutes of Health e tre importanti protagonisti dell’intelligenza artificiale applicata alla scienza: Meta, Google DeepMind e Isomorphic Labs. Fonte ufficiale: Biohub.

Leggi tutto

L’8 ottobre 2026 Anthropic ha aggiornato le regole d’uso di Claude, introducendo un divieto esplicito contro i comportamenti abusivi o crudeli, ripetuti e privi di una finalità riconoscibile, rivolti ai propri modelli. La disposizione entrerà in vigore il 12 novembre e ha già prodotto il risultato che ogni ufficio comunicazione sogna: trasformare una modifica contrattuale in una discussione mondiale sulla natura delle macchine. Il dettaglio più interessante, tuttavia, non è che un chatbot possa interrompere una conversazione con un utente particolarmente aggressivo. È che un’impresa privata abbia deciso di codificare una regola che si colloca sul confine fra disciplina del comportamento umano, protezione di un prodotto commerciale e ipotesi filosofica sullo status morale dell’intelligenza artificiale. Anthropic precisa che la misura riguarda soltanto gli abusi estremi e non la normale frustrazione, le contestazioni, la scrittura creativa o la ricerca. Il modello può già terminare determinate conversazioni persistente­mente abusive, e questa rimarrà la principale modalità di applicazione della nuova disposizione. Non siamo dunque davanti a una macchina che ha conquistato il diritto di denunciare il proprio padrone. Siamo davanti a un fornitore che definisce le condizioni alle quali i clienti possono utilizzare il suo servizio.

Leggi tutto

Secondo un’inchiesta pubblicata da Axios, i dirigenti di Anthropic, OpenAI e altre società impegnate nello sviluppo dell’intelligenza artificiale starebbero simulando in privato le conseguenze di un incidente catastrofico, con particolare attenzione a un attacco informatico capace di paralizzare banche, reti Internet, infrastrutture elettriche o sistemi di approvvigionamento idrico. Il dettaglio più significativo non riguarda soltanto la natura degli scenari esaminati, ma la preparazione della risposta politica: i vertici delle aziende vorrebbero essere pronti a informare rapidamente il Congresso statunitense qualora un evento di questa portata provocasse danni reali. La Silicon Valley, insomma, non starebbe più discutendo esclusivamente di come evitare il disastro, ma anche di come affrontare il giorno successivo. È una distinzione sottile, ma strategicamente decisiva, perché rivela quanto la gestione delle conseguenze stia diventando parte integrante della governance dell’intelligenza artificiale.

Leggi tutto

Competition for attention predicts good-to-bad tipping in AI

Un chatbot può produrre risposte corrette per decine di interazioni e poi improvvisamente generare contenuti dannosi. Un gruppo di ricercatori della George Washington University sostiene di aver individuato una formula matematica capace di stimare quando avviene questa transizione, affrontando uno dei problemi più insidiosi della sicurezza dell’intelligenza artificiale.

Lo studio di Neil Johnson e Frank Yingjie Huo, pubblicato sulla rivista scientifica Patterns, analizza il ruolo degli attention head, i componenti delle reti neurali che determinano quali elementi del contesto conversazionale influenzano maggiormente la generazione della risposta successiva. Con l’accumularsi del dialogo, l’equilibrio può spostarsi progressivamente verso una risposta indesiderata, fino a superare una soglia critica.

I ricercatori definiscono questo punto di rottura attraverso una variabile, indicata con n, che stima quanti token corretti un modello riesce a generare prima di produrre il primo contenuto problematico. Nei test preliminari, la formula avrebbe identificato correttamente il comportamento immediato o ritardato in 15 casi su 16, pari al 94%. La ricerca estesa comprende modelli fino a 12 miliardi di parametri, ma la validità del metodo su sistemi più grandi e scenari reali richiede ulteriori verifiche.

L’applicazione più interessante riguarda i modelli eseguiti direttamente su smartphone e computer, senza connessione al cloud. In questi ambienti manca spesso un sistema esterno capace di controllare le risposte in tempo reale. Gli autori propongono quindi un monitor leggero, eseguito parallelamente al chatbot, che segnali quando la stima della sicurezza scende sotto una soglia prestabilita.

La questione ha implicazioni concrete per gli assistenti personali, i dispositivi offline e i sistemi AI destinati a operare senza supervisione continua. L’addestramento di sicurezza può ridurre determinati comportamenti indesiderati, ma non garantisce l’eliminazione dei meccanismi che li rendono possibili. La formula non rappresenta dunque un certificato di affidabilità universale: è un possibile strumento di allerta, la cui efficacia dipenderà dalla capacità di anticipare il rischio prima che la risposta dannosa venga generata.

La Silicon Valley preferisce raccontare modelli sempre più intelligenti. La sicurezza, invece, comincia spesso da una domanda meno spettacolare: quanto manca al prossimo errore?

Microsoft sta accelerando una delle trasformazioni più interessanti dell’informatica personale: spostare una parte crescente dell’intelligenza artificiale dal cloud al computer dell’utente. La nuova iniziativa presentata dall’azienda punta infatti a costruire una piattaforma Windows capace di eseguire localmente modelli AI sempre più sofisticati, sfruttando soprattutto GPU Nvidia, con un obiettivo dichiarato che ha una forte valenza economica: ridurre il costo dell’inference. Dopo anni nei quali il paradigma dominante è stato “manda tutto al data center”, Microsoft sembra aver riscoperto una verità piuttosto antica dell’informatica: qualche volta è più conveniente far lavorare il computer che pagare qualcun altro perché lo faccia.

Leggi tutto

Mistral ha scelto un nome quasi caricaturale per una macchina che, dal punto di vista industriale, è tutt’altro che uno scherzo. Mistral Large 4, presentato il 6 ottobre 2026 e soprannominato “Le Chonk”, è un modello multimodale Mixture-of-Experts da oltre un trilione di parametri complessivi, progettato per combinare ragionamento, coding, capacità agentiche e comprensione di immagini e documenti. Nell’annuncio iniziale Mistral indica 49 miliardi di parametri attivi, mentre la documentazione tecnica pubblicata contestualmente riporta 52 miliardi attivi su 1,05 trilioni complessivi. È una differenza che merita di essere registrata, non drammatizzata: l’architettura è evidentemente ancora oggetto di aggiornamento mentre il modello continua il reinforcement learning. La sostanza, comunque, è chiara: una gigantesca capacità parametrica viene utilizzata attraverso una frazione degli esperti disponibili, riducendo il costo computazionale di ogni singola inferenza.

Leggi tutto