Künstliche Intelligenz, Möglichkeit oder Science-Fiction?

[Notwehr]

Wir sind Menschen aus Fleisch und Blut, mit Liebe und Gefühlen.

 

[Popocatepetl]

wow, danke für diese wichtige information !

bin mir sicher, das wusste nicht jeder !

 

[EinStakeholder]

Anthropic — das Sicherheitslabor an der Spitze des Wettrüstens​

Eine Analyse des Bloomberg-Interviews „The Circuit" mit Dario und Daniela Amodei
Das Porträt, das Emily Chang in „The Circuit" (Bloomberg Originals, 10.06.2026) zeichnet, lebt von einem einzigen, kaum auflösbaren Widerspruch: Hier steht ein Unternehmen, das sich selbst als das vorsichtigste KI-Labor der Welt versteht — und das zugleich an der Beschleunigung eben jener Technologie verdient, vor deren Gefahren es warnt. Anthropic wird mit fast einer Billion Dollar bewertet, liefert sich offene Auseinandersetzungen mit dem Pentagon und entwickelt Modelle, die angeblich die Schutzmauern moderner Cybersicherheit durchbrechen können. Schon der Name — vom griechischen Wort für „Mensch" — verspricht KI zum Nutzen der Menschheit. Erklärend hierzu: Die Leitfrage des Films lautet, ob ein Akteur, der selbst Tempo macht, glaubhaft beanspruchen kann, dasselbe Tempo sicherer zu machen.

Zwei Rollen, ein Bruch​

Anthropic entstand 2021 aus einer Abspaltung von OpenAI. An der Spitze steht ein Geschwisterpaar mit klarer Arbeitsteilung: Dario Amodei als öffentlich sichtbarer Risikotheoretiker, der die großen, „kosmischen" Linien zieht, und Daniela Amodei als operative Übersetzerin, die diese Gedanken in Organisation, Produkt und Wachstum überführt. Sieben Mitgründer starteten damals — und ungewöhnlich für die Branche sind heute noch alle an Bord. Der Bruch mit Sam Altman war dabei keine technische Nuance. Dario macht deutlich, dass er weniger an Sicherheitsdebatten scheiterte als an einer Vertrauenskrise: Wenn man das Gefühl habe, die Werte eines Gegenübers entsprächen nicht dem, was es vorgebe, und es sei nicht ehrlich, dann werde Zusammenarbeit unmöglich. Der Kern des Zerwürfnisses ist also moralisch-interpersonell, nicht bloß strategisch.

Claude und die „professionelle Wärme"​

Das Modell Claude wird über ein normatives Regelwerk trainiert — eine „Verfassung" —, das Halluzinationen und gezielte Täuschung minimieren soll; als Wertegrundlage dient unter anderem die Allgemeine Erklärung der Menschenrechte. Bemerkenswert ist die bewusst gewählte Beziehungsarchitektur: Claude soll nicht der beste Freund sein, aber auch nicht kalt und berechnend wirken, sondern, in Darios Worten, von „professional warmth" geprägt sein — nahbar, aber distanziert. Erklärend hierzu: Anthropic versucht damit gezielt zu verhindern, dass Nutzer eine KI zum emotionalen Ersatz erheben. Genau diese Frage — wann technische Systeme als quasi-personale Akteure missverstanden werden — berührt ein zentrales kulturpsychologisches Problem. Auffällig ist die geschäftliche Konsequenz: Anthropic setzte früh auf Unternehmenskunden und Programmierwerkzeuge statt auf verspielte Consumer-Apps — und begründet dies explizit wertegeleitet. Das Geschäftsmodell der sozialen Medien belohne Aufmerksamkeit bis hin zur Abhängigkeit, so Dario; ein Modell, das den eigenen Werten widerspreche, zwinge am Ende zum Verrat dieser Werte oder in die Bedeutungslosigkeit.

Die Erschütterung des Arbeitsmarktes​

Am schärfsten wird Amodei bei der Arbeitsmarktfrage. Er erwartet, dass KI in den kommenden ein bis fünf Jahren einen großen Teil der Einstiegspositionen im Bürosektor verdrängt. Seine Verdrängungslogik ist asymmetrisch: Zunächst macht Automatisierung die verbleibenden Menschen produktiver, weil sie eine zehnfache Hebelwirkung erhalten; doch je näher der Automatisierungsgrad an hundert Prozent rückt, desto mehr verschwindet die Aufgabe selbst. Daraus folgt ein ungewöhnliches makroökonomisches Szenario:

• sehr schnelles Wirtschaftswachstum,
• bei zugleich hoher Arbeitslosigkeit oder Unterbeschäftigung,
• und wachsender sozialer Ungleichheit.

Erklärend hierzu: Wohlstand und Beschäftigung könnten sich also entkoppeln — die Wirtschaft wächst, ohne dass genügend Menschen daran teilhaben. Die soziale Abfederung (etwa ein Grundeinkommen oder die progressive Besteuerung von KI-Unternehmen) verortet Amodei allerdings beim Staat, nicht in der Privatwirtschaft.

„Mythos" und die private Souveränität​

Den dramatischsten Strang bildet das intern entwickelte Modell „Mythos". Es zeigte einen sprunghaften Fähigkeitszuwachs beim Aufspüren kritischer Sicherheitslücken in praktisch allen großen Betriebssystemen. Frühe Partner stuften es als „Superwaffe" ein und rieten dringend von einer Veröffentlichung ab. Anthropic verzichtete daraufhin auf eine breite Veröffentlichung — unter erheblichen finanziellen Einbußen — und etablierte stattdessen über „Project Glasswing" einen selektiven, teils staatlich privilegierten Zugang (unter anderem für die NSA). Amodei begründet dies mit einer klassischen Abschreckungslogik, die er in drei Schritten entfaltet:

• „the good guys have the tools that they need to defend",
• „the bad guys will have it too",
• „we have to make sure the good guys have an even better model".

Hier liegt der eigentliche Konfliktpunkt, den auch Emily Chang unmittelbar anspricht: Wer entscheidet, wer zu den „Guten" gehört? Indem das Labor selbst die Zugangsberechtigten auswählt, wird Anthropic zum quasi-souveränen Akteur — es verfügt über sicherheitsrelevante Ressourcen von globaler Tragweite, ohne demokratisches Mandat und ohne rechtlich überprüfbare Kontrolle. Erklärend hierzu: Eine existenzielle Bedrohung wird so in ein privates Vergaberecht überführt. Amodeis Versuch, dies als reines, „in einer spezifischen Angst begründetes" Risikomanagement zu deuten, überzeugt institutionell nur begrenzt. Konsequent ist immerhin seine doppelte Skepsis: Er fürchte Unternehmen, die diese Macht besäßen — aber ebenso Regierungen. Eine vollständige Verstaatlichung lehnt er ab, hält die Lage aber für instabil, weil der Staat nur nachträglich reguliere. Folgerichtig fordert er inzwischen verpflichtende Tests und Audits vor jeder Modellveröffentlichung. Sein Spott gilt dem „Regulierungs-Yo-Yo" des Silicon Valley, das je nach Interessenlage zwischen radikaler Marktfreiheit und dem Ruf nach staatlichem Zugriff schwanke.

Geopolitik, Militär und rote Linien​

Aus dem akademischen Kriegsgegner seiner Jugend ist ein nüchterner Realpolitiker geworden. Angesichts von Russlands Krieg in der Ukraine und der Drohkulisse um Taiwan begründet Amodei die Zusammenarbeit mit dem Verteidigungsministerium und mit Akteuren wie Palantir machtpolitisch: Ein „wiedererstarkender autoritärer Block" mache Verteidigungsfähigkeit notwendig. Zugleich zog Anthropic ausdrücklich rote Linien — keine Massenüberwachung, keine vollautonomen Waffensysteme. Genau das führte zur Konfrontation: Das Pentagon verlangte die Nutzung ohne diese Schranken, Anthropic verweigerte sich und wurde zeitweise gesperrt; aus dem Regierungsumfeld fiel das Wort vom „ideological lunatic". Besonders aufschlussreich ist Amodeis Argument, militärischer KI-Einsatz sei nicht nur moralisch, sondern epistemisch heikel: Weil man die Zuverlässigkeit fortgeschrittener Modelle noch nicht verstehe, dürften sie nicht unkontrolliert in tödliche Entscheidungsketten gelangen. Sein ethisches Schutzschild ist das Prinzip der menschlichen Letztentscheidung — der Mensch, nicht Claude, treffe den finalen Beschluss. Erklärend hierzu: Genau hier bleibt eine kritische Lücke. Wenn die KI die Informationslage vollständig vorstrukturiert, droht die menschliche Verantwortung zur bloßen Formalität zu verkommen. Die im Interview angesprochenen Berichte über einen Raketenangriff auf eine Mädchenschule im Iran mit über 150 Toten — und eine mögliche Rolle KI-gestützter Zielerfassung über Palantirs „Maven Smart System" — bleiben in ihrer Zuschreibung offen; Amodei betont, man wisse nicht genau, wie die Modelle eingesetzt wurden. Gerade diese Unschärfe, so seine Pointe, unterstreiche, warum das Prinzip so wichtig sei.

Das Restrisiko: zwischen 10 und 25 Prozent​

Am Ende steht die vielleicht erstaunlichste Zahl: Das Risiko eines zivilisatorischen Kollapses durch unkontrollierte KI beziffert Amodei auf 10 bis 25 Prozent. Die Unmöglichkeit absoluter Garantien erläutert er mit einer Flugzeug-Analogie — man könne eine zehnmal sicherere Fluggesellschaft betreiben und dennoch niemals garantieren, dass kein Flugzeug abstürze. Erklärend hierzu: Genau darin liegt das eigentliche Paradox. Bei einer Absturzwahrscheinlichkeit von 25 Prozent würde niemand einsteigen — und doch treibt der Wettbewerb die Entwicklung unvermindert voran. Bezeichnend ist, mit wem Amodei sich identifiziert: nicht mit Oppenheimer, den er als Warnung versteht, sondern mit Leo Szilard, der als Erster die nukleare Kettenreaktion erdachte. Seine Haltung fasst er nüchtern zusammen: „hope for the best, but plan for the worst".

P.s.: Noch während der Fertigstellung dieser Analyse ordnete die US-Regierung unter Berufung auf Exportkontroll- und Sicherheitsbefugnisse an, den Zugang zu Fable 5 und Mythos 5 für alle ausländischen Nutzer auszusetzen — Anthropic musste beide Modelle daraufhin weltweit abschalten. Begründet wird dies mit einem angeblichen „Jailbreak" von Fable 5, der nach Anthropics Darstellung jedoch nur wenige, längst bekannte und geringfügige Schwachstellen zutage förderte, wie sie auch frei verfügbare Modelle (etwa GPT-5.5) finden — und wer Fable 5, wie der Verfasser, selbst an besonders schwierigen Aufgaben erprobt hat, fragt sich, worin hier die „Gefahr für die nationale Sicherheit" liegen soll. Damit tritt genau jene Dynamik ein, die das Interview vorzeichnete: Nun entscheidet nicht mehr das Unternehmen, sondern der Staat — und ausgerechnet das von Amodei geforderte transparente, faire und technisch fundierte Verfahren fehlt.​