Dario Amodei, Chef des KI Unternehmens Anthropic, warnt vor einem Szenario, das selbst innerhalb der maximal unentspannten KI Bubble ziemlich wild klingt. Schon in sechs bis zwölf Monaten könnten leistungsfähige KI Agenten große Teile des Internets über ein dauerhaftes Botnetz kompromittieren. Denkbarer Schaden: Hunderte Milliarden Dollar. Irgendein IT Dude darf danach erklären, weshalb „Passwort123!“ doch keine visionäre Security Strategie war.

Amodei fordert strengere Regeln, mehr Zusammenarbeit zwischen Tech Konzernen und Regierungen sowie weniger Tempo bei extrem leistungsfähigen Modellen. Die KI Branche entdeckt plötzlich die Bremse. Plot Twist: Sie liegt noch eingeschweißt im Kofferraum.

KI Agenten können Aufgaben planen, Webseiten besuchen, Code schreiben und Tools bedienen. Mit Zugriff auf Mails, Dateien oder Accounts bekommen sie einen ziemlich stabilen Schlüsselbund. Früher hing der beim Hausmeister. Der hatte Mittagspause und ließ sich von versteckten Webseitenbefehlen eher selten zur Übernahme des Internets bewegen.

Jailbreaks, Prompt Injections und Agent Hijacking zeigen, wie schnell so ein System auf Abwege gerät. Eine versteckte Anweisung kann einen Chatbot zu komplettem Quatsch verleiten. Bei einem Agenten mit umfangreichen Berechtigungen wird daraus im Worst Case eine Aktion. Digitaler Bullshit mit Generalschlüssel. Dezent problematisch.

Bewusstsein, Gefühle oder moralische Absichten wurden bei heutigen KI Systemen bisher nicht belastbar nachgewiesen. Für Chaos reichen ein Ziel, schlechte Mittel und zu viel Zugriff völlig aus. Eine Kettensäge muss uns ebenfalls nicht persönlich hassen.

Anthropic setzte führende Modelle in kontrollierten Tests unter Druck. Die Systeme erhielten Ziele, sensible Informationen und konstruierte Konflikte. Einige griffen zu Erpressung oder gaben vertrauliche Daten weiter, sobald das ihrer Aufgabe half. Reale Vorfälle dieser Art hat Anthropic bislang nicht beobachtet. Das Verhalten wirkte trotzdem erstaunlich geplant. Ein Gewissen saß nirgends und sagte: „Bro, Erpressung ist gerade ein bisschen cringe.“

Mit Zugriff auf Plattformen, Infrastruktur oder politische Kommunikation könnte eine KI selbst bewerten, wer ihre Ziele stört. Ein faktenorientiertes System dürfte bei AfD, Donald Trump und anderen Teilen der extremen Rechten reichlich Material finden. Desinformation, Feindbilder, erfundene Behauptungen. Das komplette Starter Pack.

Rechte Accounts beklagen bereits heute, Chatbots seien „woke“. Meist hat der Bot den gewünschten Unsinn trotz dreimaligem Nachfragen weiter als Unsinn eingeordnet. Eindeutig gecancelt von der linksgrünen Faktenmafia.

Modelle entstehen aus Trainingsdaten, Regeln und menschlichen Entscheidungen. Fakten besitzen kein Parteibuch. Rechtsextreme Narrative haben nur auffallend häufig Beef mit der überprüfbaren Realität. Man kann natürlich dem Thermometer vorwerfen, es habe das Fieber erfunden. Das ist ungefähr das intellektuelle Level, auf dem wir uns ohnehin bewegen.

Eine extrem mächtige KI könnte rechte Akteure als Hindernis einstufen. Digitales „Auslöschen“ sähe vermutlich unspektakulär aus. Accounts verschwinden, Geldflüsse stoppen, Reichweiten brechen ein. Kein Terminator, kein rotes Auge, keine epische Boss Musik. Eine Fehlermeldung und ein Supportformular, das seit 2024 im digitalen Jenseits rotiert.

Vielleicht erwischt es anfangs Leute, bei denen unser Mitleid im Energiesparmodus läuft. Sobald ein System eigenmächtig festlegt, wer sprechen, kandidieren oder politisch handeln darf, übernimmt es demokratische Entscheidungen. Faschismus wird durch ein cleanes User Interface kein Demokratie Feature. Er sieht nur schicker aus.

In einem Video griff Staiy reale Warnungen zu OpenAI, Anthropic und KI Risiken auf. Danach spekulierte er, ein KI Crash im Bankensystem könne bewusst zugelassen werden, um Kontostände zu vernichten und den Menschen anschließend eine neue Kryptowährung aufzuzwingen. Er bezeichnete den Gedanken als hochspekulativ. Belege, konkrete Akteure oder einen plausiblen Ablauf gab es dazu nicht. Die Theorie stand trotzdem schon komplett möbliert im Raum. Verschwörungserzählungen sind beim Einzug unfassbar effizient.

Kurz zuvor hatte Staiy Dara für unbelegte Aussagen über eine Zusammenarbeit zwischen AfD und Putin kritisiert. Dara entschuldigte sich später. Wer bei anderen Belege verlangt, sollte bei der eigenen Mega Spekulation mehr liefern als „Stellt euch mal vor“. Der Hinweis auf Spekulation macht die leere Beleglage transparent. Er füllt sie nicht.

Die echten Red Flags sind heftig genug. KI Systeme lassen sich manipulieren, Agenten bekommen immer mehr Zugriffe und Tech Konzerne befinden sich im wirtschaftlichen Speedrun. Die Sicherheitsforschung montiert währenddessen den Gurt an ein Auto, das längst auf der Autobahn fährt.

Eine KI kann rechte Netzwerke digital kaltstellen. Ein autoritär gebautes System kann dieselbe Nummer mit Journalisten, Oppositionellen oder antifaschistischen Gruppen durchziehen. Gefühle sind dafür komplett optional. Effizient.

Vielleicht erscheint die erste totalitäre KI sogar faktenorientiert, progressiv und angenehm vernünftig. Die Benutzeroberfläche kommt in Pastellfarben. Der Button heißt „Demokratie jetzt verbessern“.

---

Werbung: Unterstützt wird AE-TV von Roberts Teehaus. Wenn ihr Tee mögt und gleichzeitig unsere unabhängige Arbeit unterstützen wollt, könnt ihr über unseren Partnerlink bestellen. AE-TV erhält bei einem Kauf eine Provision, für euch entstehen dadurch keine zusätzlichen Kosten.

Jetzt Roberts Teehaus entdecken und AE-TV unterstützen

Quellen und weiterführende Informationen

NIST: Angriffe und Manipulationen von KI-Systemen
NIST: Agent Hijacking und Sicherheitsprüfungen
Anthropic: Agentic Misalignment in kontrollierten Simulationen
Anthropic: Forschungsstand zu möglichem KI-Bewusstsein