Nel 2021 Dario e Daniela Amodei hanno lasciato OpenAI. Non condividevano la direzione dell’azienda, in particolare sulla sicurezza e sul ritmo di rilascio. Hanno portato con sé undici colleghi.
Hanno raccolto 124 milioni di dollari in un round seed e hanno chiamato l’azienda Anthropic. La missione dichiarata: ricerca sulla sicurezza dell’IA. Procedere lentamente. Sviluppare con cura. Pubblicare i propri metodi. Non correre dietro alle capacità.
Il risultato inatteso: hanno creato la migliore IA per il coding al mondo.
Nel benchmark SWE-bench Verified (un dataset di issue GitHub reali e irrisolte provenienti dai principali repository open source), Claude 3.5 Sonnet ha risolto il 49% delle issue. GPT-4o ne ha risolte il 38%. Il divario non era marginale.
Cursor, l’editor di codice con IA diventato lo strumento per sviluppatori a più rapida crescita del 2024, usa Claude Sonnet come modello predefinito. Quando milioni di sviluppatori chiedono ogni giorno all’IA di scrivere codice di produzione, parlano soprattutto con il modello di Anthropic.
Perché un laboratorio “focalizzato sulla sicurezza” crea la migliore IA per il coding?
La risposta è meno sorprendente di quanto sembri. La scommessa di ricerca centrale di Anthropic era la Constitutional AI: addestrare i modelli a ragionare con attenzione sulle istruzioni, verificare i propri output rispetto a un insieme di principi e rifiutare le richieste che li violano.
Un modello che ragiona con attenzione sulle istruzioni scrive codice migliore. Un modello addestrato a verificare i propri output individua i propri bug. Le stesse proprietà che rendono Claude sicuro lo rendono anche accurato.
Alla fine, “IA sicura” e “IA capace” non erano affatto opposte.
Anthropic ha raccolto oltre 7,3 miliardi di dollari da Google (2 miliardi), Amazon (4 miliardi) e Spark Capital. Oggi l’azienda è valutata 61 miliardi di dollari, il che la rende la terza società privata di maggior valore negli Stati Uniti dopo SpaceX e Stripe.
Dario aveva ragione su entrambi i fronti. Si può sviluppare con cura e vincere sulle prestazioni. I due obiettivi si rafforzano a vicenda.
Chi sosteneva che sicurezza e capacità fossero un compromesso aveva torto. E ora sono loro a dover rincorrere.