AI, Sam Altman media fra Anthropic e il Pentagono

Il ceo di OpenAI, Sam Altman, è intervenuto nella disputa tra Anthropic e il Pentagono sull'uso dell'AI sul campo di battaglia, comunicando nella serata di giovedì 26 al suo staff che l'azienda stava lavorando a un accordo che avrebbe potuto contribuire a risolvere la situazione di stallo.

In una nota al personale, Altman ha affermato che l'azienda stava collaborando con il Dipartimento della Guerra per verificare se i suoi modelli potessero essere utilizzati in contesti classificati, mantenendo gli stessi limiti di sicurezza che hanno portato la sua rivale Anthropic a una situazione di stallo con il governo. Altman ha affermato di sperare che OpenAI possa trovare una soluzione che possa funzionare per il resto del settore.

Secondo una fonte vicina alla questione, non è stato firmato alcun accordo e i colloqui potrebbero fallire. «Vedremo se esiste un accordo con il Dipartimento di Guerra che consenta l'impiego dei nostri modelli in ambienti classificati e che sia in linea con i nostri principi», ha scritto Altman in una nota allo staff visionata dal Wall Street Journal. «Chiederemo che il contratto copra qualsiasi utilizzo, ad eccezione di quelli illegali o inadatti alle implementazioni cloud, come la sorveglianza interna e le armi offensive autonome».

Altman ha affermato di sperare di contribuire a mediare una pace tra i due schieramenti ed evitare pericolosi precedenti per il settore. «Vorremmo cercare di contribuire a disinnescare la situazione», ha scritto.

Altman: ci impegniamo a sostenere la democrazia

Altman ha espresso il suo sostegno di principio alla posizione di Anthropic, pur riconoscendo le preoccupazioni del governo riguardo al fatto che un'azienda privata abbia il controllo su importanti questioni di sicurezza nazionale.

«Crediamo da tempo che l'AI non debba essere utilizzata per la sorveglianza di massa o per armi letali autonome, e che gli esseri umani debbano rimanere coinvolti nelle decisioni automatizzate ad alto rischio. Queste sono le nostre principali linee guida», ha scritto. «Riteniamo che questa disputa non riguardi come verrà utilizzata l'AI ma il controllo. Crediamo che un'azienda privata statunitense non possa essere più potente del governo statunitense democraticamente eletto, sebbene le aziende possano avere un grande contributo e influenza. La democrazia è caotica, ma ci impegniamo a sostenerla».

OpenAI ritiene di poter far rispettare concretamente i suoi limiti aggiungendo misure di sicurezza tecniche, come il confinamento dei modelli nel cloud anziché nei cosiddetti ambienti edge, il che creerebbe ulteriori barriere a utilizzi come le armi autonome. Spera inoltre di garantire che i ricercatori possano ottenere autorizzazioni di sicurezza in modo da poter contribuire a informare il governo sui limiti e i rischi della tecnologia, ha affermato la fonte.

«Inoltre, creeremo misure di sicurezza tecniche e dispiegheremo personale (Fde) per collaborare con il governo per garantire il corretto funzionamento delle cose, e offriremo servizi simili ad altre nazioni alleate», ha scritto Altman. «Se avremo successo, forse questa potrebbe essere una strada che potrebbe funzionare anche per altri laboratori di intelligenza artificiale».

No alla sorveglianza interna di massa

Giovedì sera, il ceo di Anthropic, Dario Amodei, ha annunciato che l'azienda aveva respinto le richieste del Dipartimento della Difesa di rendere la sua tecnologia disponibile per «tutti gli usi legittimi», insistendo sul fatto che sarebbe in grado di vietarne l'uso per la sorveglianza interna di massa e per le armi autonome.

In un post su X, Emil Michael, sottosegretario alla Guerra per la ricerca e l'ingegneria, ha affermato che la sorveglianza di massa è già illegale ai sensi del Quarto Emendamento e che il dipartimento «non permetterà a nessuna grande azienda tecnologica di decidere sulle libertà civili degli americani». News Corp, proprietaria del Wall Street Journal, ha una partnership di licenza per i contenuti con OpenAI.