2021 verließen Dario und Daniela Amodei OpenAI. Sie waren mit der Ausrichtung des Unternehmens nicht einverstanden — insbesondere bei Sicherheit und dem Tempo der Veröffentlichungen. Elf Kollegen gingen mit ihnen.
Sie sammelten 124 Millionen Dollar an Seed-Finanzierung ein und nannten das Unternehmen Anthropic. Die erklärte Mission: Forschung zur KI-Sicherheit. Langsam bauen. Sorgfältig bauen. Methoden veröffentlichen. Nicht auf Fähigkeiten hetzen.
Das unerwartete Ergebnis: Sie bauten die beste Coding-KI der Welt.
Beim Benchmark SWE-bench Verified — einem Datensatz echter, ungelöster GitHub-Issues aus großen Open-Source-Repositories — löste Claude 3.5 Sonnet 49 % der Issues. GPT-4o löste 38 %. Der Abstand war nicht marginal.
Cursor, der KI-Code-Editor, der 2024 zum am schnellsten wachsenden Dev-Tool wurde, nutzt standardmäßig Claude Sonnet als primäres Modell. Wenn Millionen Entwickler täglich eine KI bitten, Produktionscode zu schreiben, sprechen sie größtenteils mit Anthropics Modell.
Warum baut ein „sicherheitsfokussiertes“ Labor die beste Coding-KI?
Die Antwort ist weniger überraschend, als sie klingt. Anthropics zentrale Forschungswette war Constitutional AI — Modelle darauf zu trainieren, Anweisungen sorgfältig zu durchdenken, ihre eigenen Ausgaben gegen ein Set von Prinzipien zu prüfen und Anfragen abzulehnen, die diese verletzen.
Ein Modell, das Anweisungen sorgfältig durchdenkt, schreibt besseren Code. Ein Modell, das trainiert ist, seine eigenen Ausgaben zu prüfen, findet seine eigenen Fehler. Dieselben Eigenschaften, die Claude sicher machen, machen es auch präzise.
Es stellte sich heraus, dass „sichere KI“ und „leistungsfähige KI“ letztlich keine Gegensätze waren.
Anthropic hat über 7,3 Milliarden Dollar eingesammelt — von Google (2 Mrd. $), Amazon (4 Mrd. $) und Spark Capital. Das Unternehmen wird inzwischen mit 61 Milliarden Dollar bewertet und ist damit das drittwertvollste privat gehaltene Unternehmen der USA, hinter SpaceX und Stripe.
Dario hatte bei beidem recht. Man kann sorgfältig bauen und trotzdem bei der Leistung gewinnen. Die beiden Ziele verstärken sich gegenseitig.
Diejenigen, die sagten, Sicherheit und Leistungsfähigkeit seien ein Kompromiss, lagen falsch. Und jetzt holen sie auf.