En 2021, Dario et Daniela Amodei ont quitté OpenAI. Ils n'étaient pas d'accord avec l'orientation de l'entreprise — notamment en ce qui concerne la sécurité et le rythme de déploiement. Ils ont emmené onze collègues avec eux.
Ils ont levé 124 millions de dollars en financement d'amorçage et ont donné un nom à l'entreprise Anthropic. La mission affichée : la recherche sur la sécurité de l'IA. Construisez lentement. Construisez avec soin. Publiez vos méthodes. Ne vous précipitez pas vers les capacités.
Le résultat inattendu : ils ont créé la meilleure IA de programmation au monde.
Sur le SWE-bench Verified benchmark — un ensemble de données composé de tickets GitHub réels et non résolus, issus de grands dépôts open source — Claude 3.5 Sonnet a résolu 49 % des problèmes. GPT-4o a résolu 38 % des problèmes. L'écart n'était pas marginal.
Cursor, l'éditeur de code assisté par IA qui est devenu l'outil de développement ayant connu la croissance la plus rapide en 2024, utilise Claude Sonnet par défaut comme modèle principal. Chaque jour, lorsque des millions de développeurs demandent à l’IA d’écrire du code de production, c’est principalement au modèle d’Anthropic qu’ils s’adressent.
Pourquoi un laboratoire « axé sur la sécurité » crée-t-il la meilleure IA de codage ?
La réponse est moins surprenante qu'il n'y paraît. Le pari central de la recherche d’Anthropic était Constitutional AI — entraîner des modèles à raisonner avec soin sur les instructions, à comparer leurs propres résultats à un ensemble de principes et à refuser les demandes qui les enfreignent.
Un modèle qui analyse attentivement les instructions écrit un meilleur code. Un modèle entraîné à vérifier ses propres résultats détecte ses propres bugs. Les mêmes qualités qui rendent Claude sûr le rendent également précis.
Il s’est avéré qu’« IA sûre » et « IA performante » n’étaient finalement pas des notions contradictoires.
Anthropic a levé plus de 7,3 milliards de dollars — auprès de Google (2 milliards $), d'Amazon (4 milliards $) et de Spark Capital. L'entreprise est désormais évaluée à 61 milliards de dollars, ce qui en fait la troisième entreprise privée la plus valorisée aux États-Unis, derrière SpaceX et Stripe.
Dario avait raison sur les deux points. Vous pouvez développer avec soin et gagner sur le plan des performances. Les deux objectifs se renforcent mutuellement.
Ceux qui affirmaient qu'il fallait choisir entre la sécurité et les capacités avaient tort. Et maintenant, ils sont en train de rattraper leur retard.