(lettera pubblicata il 9 febbraio 2026 su X e poi su Substack)
Sharma ha guidato il Safeguards Research Team di Anthropic e ha lavorato su iniziative critiche per la sicurezza, tra cui la comprensione della sycophancy dell’IA, lo sviluppo di difese contro il bioterrorismo assistito dall’IA e la produzione di uno dei primi casi di sicurezza per l’IA. La lettera, pur essendo volutamente priva di dettagli specifici, allude a tensioni interne sulla sicurezza dell’IA: Sharma sostiene che i dipendenti “affrontano costantemente pressioni per mettere da parte ciò che conta di più”. Il post su X ha raggiunto oltre un milione di visualizzazioni e ha acceso un ampio dibattito nel settore tecnologico. Lo stesso autore apre la lettera con queste parole: “All’inizio di questa settimana ho lasciato Anthropic, condividendo la mia lettera di dimissioni su Twitter prima di recarmi al lavoro per il mio ultimo giorno. Non mi aspettavo che la mia lettera venisse condivisa così ampiamente, né che interessasse così tante persone. Non mi aspettavo di ricevere inviti a podcast e programmi televisivi. Volevo solo salutare con sincerità e affetto, prima di iniziare un periodo di tranquillità.”
Cari colleghi,
Ho deciso di lasciare Anthropic. Il mio ultimo giorno sarà il 9 febbraio.
Grazie. Qui trovo tantissime cose che mi ispirano e mi hanno ispirato. Per citarne alcune: un sincero desiderio e una forte motivazione a impegnarsi in una situazione così difficile, aspirando a dare un contributo significativo e integerrimo; la volontà di prendere decisioni difficili e di difendere ciò che è giusto; una straordinaria brillantezza intellettuale e una grande determinazione e, naturalmente, la notevole gentilezza che pervade la nostra cultura.
Qui ho raggiunto i miei obiettivi. Sono arrivato a San Francisco due anni fa, dopo aver conseguito il dottorato e con la voglia di contribuire alla sicurezza dell’IA. Mi ritengo fortunato di aver potuto dare il mio contributo: comprendere l’adulazione nei confronti dell’IA e le sue cause; sviluppare sistemi di difesa per ridurre i rischi di bioterrorismo assistito dall’IA; implementare concretamente tali sistemi e redigere uno dei primi studi di sicurezza sull’IA. Sono particolarmente orgoglioso dei miei recenti sforzi per aiutarci a concretizzare i nostri valori attraverso meccanismi di trasparenza interna e anche del mio progetto di tesi sulla comprensione di come gli assistenti virtuali basati sull’IA potrebbero renderci meno umani o distorcere la nostra umanità. Grazie per la vostra fiducia.
Tuttavia, mi è chiaro che è giunto il momento di andare avanti. Continuo a confrontarmi con la nostra situazione. Il mondo è in pericolo. E non solo a causa dell’intelligenza artificiale o delle armi biologiche, ma a causa di tutta una serie di crisi interconnesse che si stanno manifestando proprio in questo momento. [1] Sembra che ci stiamo avvicinando a una soglia in cui la nostra saggezza deve crescere in egual misura alla nostra capacità di influenzare il mondo, altrimenti ne subiremo le conseguenze. Inoltre, durante il tempo trascorso qui, ho ripetutamente constatato quanto sia difficile lasciare che i nostri valori guidino veramente le nostre azioni. L’ho visto in me stesso, all’interno dell’organizzazione, dove subiamo costantemente pressioni per mettere da parte ciò che conta di più, [2] e anche nella società in generale.
È tenendo questa situazione e ascoltando al meglio delle mie capacità che ciò che devo fare diventa chiaro. [3] Voglio contribuire in un modo che sia pienamente in linea con la mia integrità e che mi permetta di mettere in gioco maggiormente le mie peculiarità. Voglio esplorare le domande che sento veramente essenziali, le domande che David Whyte direbbe “non hanno il diritto di andarsene”, le domande che Rilke ci implora di “vivere”. Per me, questo significa andarmene.
Non so cosa succederà dopo. Penso con affetto alla famosa citazione Zen ” non sapere è la cosa più intima”. La mia intenzione è quella di creare uno spazio per accantonare le strutture che mi hanno trattenuto in questi ultimi anni e vedere cosa potrebbe emergere in loro assenza. Mi sento chiamato a scrivere qualcosa che affronti e si impegni pienamente con il luogo in cui ci troviamo, e che ponga la verità poetica accanto alla verità scientifica come modalità di conoscenza ugualmente valide, entrambe [4], a mio avviso, in grado di offrire un contributo essenziale allo sviluppo di nuove tecnologie. Spero di intraprendere un percorso di studi in poesia e di dedicarmi alla pratica del parlare in pubblico con coraggio. Sono anche entusiasta di approfondire la mia pratica di facilitazione, coaching, costruzione di comunità e lavoro di gruppo. Vedremo cosa accadrà.
Grazie e arrivederci. Ho imparato moltissimo stando qui e vi auguro il meglio. Vi lascio con una delle mie poesie preferite, “The Way It Is” di William Stafford .
Buona fortuna,
MrinankCosì com'è
C'è un filo che segui. Va tra
Cose che cambiano. Ma non cambia.
Le persone si chiedono cosa tu stia perseguendo.
Devi spiegare il thread.
Ma è difficile da vedere per gli altri.
Finché lo tieni in mano, non puoi perderti.
Le tragedie accadono; le persone si fanno male.
o morire; e soffrire e invecchiare.
Nulla di ciò che fai può fermare lo scorrere del tempo.
Non mollare mai il filo.
William Stafford
__________________________
NOTE:
1 Alcuni la definiscono “policrisi”, sostenuta da una “metacrisi”. Probabilmente la mia risorsa preferita sull’argomento è “Primi principi e primi valori” di David J. Temple.
2 Ho trattato questo argomento in modo più dettagliato nei miei documenti “Pianificare per mondi ambigui e ad alto rischio” e “Rafforzare la nostra missione di sicurezza attraverso la trasparenza e la responsabilità interne”. Mi piacerebbe condividere questi documenti, ma sono vincolato da accordi di riservatezza interni.
3 Sto pensando ora alla bellissima poesia di Mary Oliver, “Il Viaggio” , che è una delle mie preferite. Scrive: “Un giorno, finalmente hai capito cosa dovevi fare e hai iniziato…”. La trovo una poesia davvero bella e stimolante. Ricordo, infatti, di averla letta a Euan, Monte e Sam Bowman (miei ex colleghi) durante un ritiro dell’Alignment Science Team nell’agosto del 2024.
4 Il linguaggio dei “modi di conoscere” è mutuato da Rob Burbea, un mio caro maestro di Dharma e fonte di grande ispirazione.
