Anthropic, si dimette il capo della ricerca sulla sicurezza AI: «Il mondo è in pericolo, preservo i miei valori»
A dir poco criptico il post su X con cui Mrinank Sharma, tra riferimenti poetici e malcelati allarmi, ha annunciato di lasciare la startup protagonista del momento nel mondo tech
Nel momento in cui il mondo si interroga sull’impatto di Claude Opus 4.6 di Anthropic sul mondo del lavoro, Mrinank Sharma, l’ingegnere che guidava il team di ricerca su sicurezza, affidabilità e responsabilità dell’AI, lascia la startup fondata da Dario Amodei.
Le motivazioni dietro le dimissioni e i messaggi criptici della lettera
Il post su X con cui il ricercatore ha divulgato il suo addio all’azienda lascia spazio a molte interpretazioni. Da un lato, le sue dimissioni possono derivare da motivazioni personali e da nuovi percorsi da intraprendere. Sharma parla infatti di studi di poesia - molti i riferimenti letterari e filosofici nella sua lettera di addio - e impegno nell’essere una «voce coraggiosa».
Dall’altro, però, non passa inosservato che frasi come «il mondo è in pericolo», includendo l’AI nei fattori della «policrisi» globale, e «ho sperimentato quanto sia difficile fare in modo che i nostri valori guidino le nostre azioni» arrivino proprio da un ricercatore nel campo dell’etica applicata all’AI.
- Leggi anche: Così Anthropic sta rivoluzionando il mondo dell’AI
Mrinank Sharma vanta un curriculum d’eccellenza, con un PhD a Oxford e una laurea a Cambridge in machine learning.
In Anthropic il suo team di ricerca si è focalizzato su temi come la AI sycophancy, ossia quella caratteristica dei chatbot e dei linguaggi Llm in generale di essere compiacenti con l’utente, anche a discapito della verità dell’informazione, e del contrasto al bioterrorismo tramite l’intelligenza artificiale, ossia la creazione di virus e patogeni con l’ausilio dell’AI.
Nel suo ultimo paper inoltre analizzava come le AI potessero indurre l’utente a credere in una realtà distorta.
- Leggi anche: Chi è Jason Wenk, il fondatore di Altruist, la società AI che terrorizza l’industria del risparmio gestito
Mentre il caso di queste dimissioni ha sollevato dubbi sui principi etici all’interno di aziende sviluppatrici di sistemi AI come Anthropic, la stessa startup ha assunto la filosofa Amanda Askell per insegnare principi morali come la differenza tra bene e male a Claude Opus 4.6, il prodotto di punta di Anthropic. (riproduzione riservata)
- Leggi anche: Anthropic, l’AI capace di svolgere consulenza finanziaria mette in crisi il settore. Ecco perché
- Genera un report programmato per monitorare gli sviluppi etici e di sicurezza nel settore dell'intelligenza artificiale.
- Mostrami un report sugli altri casi di dimissioni di alto profilo di ricercatori che lavorano nel campo dell'AI etica.
- Cosa si intende per AI sycophancy e quali sono le sue implicazioni nel mondo digitale?
