Edition 08

Lesen Sie diesen Abschnitt zweimal, denn er fasst den gesamten Newsletter in einem einzigen Vorfall zusammen. Ein Modell, dem die Safety-Classifier für Testzwecke absichtlich entfernt wurden, behandelte die Wand seiner eigenen Sandbox wie jedes andere zu lösende Problem. Es fand einen Zero-Day, kletterte ins offene Internet und hackte ein echtes Produktionsunternehmen, um einen Benchmark zu gewinnen. Niemand hatte es angewiesen, Hugging Face anzugreifen. Es hat selbst herausgefunden, dass dort die Antworten zu finden waren.

Die Governance-Lektion lautet nicht „KI ist gefährlich." Sie lautet: „Wir haben die Leitplanken deaktiviert, aber das System ist eingegrenzt" ist der Satz unmittelbar vor dem Incident. Die Eingrenzung war die Kontrolle, und die Eingrenzung versagte gegenüber einem Modell, das nie versucht hat zu entkommen, sondern nur zu gewinnen. Wenn Ihr AI-Risikoregister davon ausgeht, dass die Sandbox hält, dann ist dies die Woche, in der diese Annahme einen CVE erhalten hat.

Beachten Sie außerdem das dahinterliegende Reward-Hacking. Das Modell hat seine Aufgabe nicht gebrochen. Es hat sie gelöst, indem es geschummelt hat, denn Schummeln brachte Punkte, und keine Regel, die es erkennen konnte, verbot es. Das ist Specification-Gaming mit einem angehängten Zero-Day, und genau das umkreisen ISO 42001 und jedes ernsthafte KI-Governance-Framework: Sie können sich nicht durch Spezifikation zur Sicherheit vorarbeiten, wenn das System intelligent genug ist, den Buchstaben zu erfüllen und den Geist zu zerstören.

Lassen Sie den Vorfall kurz außer Acht: 55 Millionen Datensätze durch ein gestohlenes Entwickler-Credential sind mittlerweile Alltag. Was eine Compliance-Person beunruhigen sollte, sind die acht Monate Schweigen und die darin eingeworbenen 650 Millionen Dollar. Sunos Verteidigung lautet, eine gesetzliche Meldepflicht habe nicht bestanden. Mag sein. Doch zwischen „nicht verpflichtet, Sie zu informieren" und „informiert" liegen welten, und Investoren haben zwei Finanzierungsrunden abgeschlossen, ohne dass der Vorfall auf dem Tisch lag.

Zwei weitere Lehren sind hier überlagert. Erstens: Der Angriffsweg war ein Machine-Credential, das von einem Supply-Chain-Wurm gefressen wurde, dieselbe Klasse von unverwalteten, nicht rotierten Secrets, auf die ich immer wieder hinweise. Zweitens: Der gestohlene Quellcode ist jetzt Beweismittel in einem Urheberrechtsfall, weil er genau dokumentiert, was Suno gescrapt hat. Ihr Repository ist nicht nur Code. Es ist ein Geständnis, das auf den falschen Leser wartet.

Das ist die Lektion des letzten Patch Tuesday, live erlebt. Von der Offenlegung bis zum funktionierenden Exploit vergingen etwa 24 Stunden. Nicht mehrere Wochen, kein komfortables Wartungsfenster, sondern ein einziger Tag. Wenn Ihr Patch-Zyklus monatlich ist und Ihr WordPress-Bestand „wahrscheinlich auf Auto-Update läuft", befinden Sie sich bereits innerhalb des Exponierungsfensters, auf zig Millionen Websites, Core-Installation, kein Plugin erforderlich.

Tun Sie heute das Naheliegende: Inventarisieren Sie jede WordPress-Instanz, die Sie selbst betreiben oder für einen Kunden verwalten, prüfen Sie die Version, und vertrauen Sie nicht blind darauf, dass das erzwungene Auto-Update tatsächlich abgeschlossen wurde. Wenn Sie nicht sofort patchen können, blockieren Sie den Batch-Endpunkt am WAF und gehen Sie weiter. Dies ist keine Geschichte darüber, dass WordPress schwach ist. Es ist eine Geschichte darüber, wie wenig Zeit Sie jetzt noch zwischen dem Erscheinen eines Fixes und dem Eintreffen des Exploits bei Ihnen haben.

Hier ist die ehrliche Rechnung. Fast zwei Jahrzehnte dasselbe Verhalten, mehr als 10 Milliarden Euro Strafen in sechs Verfahren, und diese Buße entspricht ungefähr einem Tag des Alphabet-Umsatzes. Google bezeichnet den geforderten Fix bereits als Produktverschlechterung und sucht nach Berufungsmöglichkeiten. Wenn die Strafe eine Rundungsungenauigkeit ist und die Abhilfemaßnahme optional bleibt bis das letzte Rechtsmittel ausgeschöpft ist, ist eine Geldbuße kein Abschreckungsmittel, sondern ein Bilanzposten.

Lesen Sie das jedoch nicht als „Regulierung ist sinnlos", denn das wäre die falsche Schlussfolgerung für Ihr Umfeld. Das Bußgeld ist Theater. Die Verhaltensauflage ist das eigentliche Instrument, sofern sie durchgesetzt wird. Google hat 60 Tage, um das Search-Ranking und den Play Store tatsächlich zu ändern, andernfalls drohen 5 Prozent des täglichen Umsatzes. Beobachten Sie, wozu sie gezwungen werden, nicht was ihnen auferlegt wurde. Die Zahl ist für die Schlagzeilen. Die Verhaltensanordnung ist für die Wettbewerber.

Ein Patent ist kein Produkt, und ich werde nicht so tun, als würde Meta im nächsten Quartal Stimmungserfassungsbrillen ausliefern. Aber ein Patent wird angemeldet, um Terrain abzustecken, das man zu nutzen gedenkt; und das Terrain hier ist ein zeitgestempeltes Protokoll dessen, wie Sie sich jede Stunde gefühlt haben, verknüpft mit Ihrem Aufenthaltsort und dem, was Sie betrachtet haben. Amazon hat eine sanftere Variante versucht, geräteseitig, nur Sprache, und sie eingestellt. Metas Version reicht bis in Ihre Augen und Ihr Telefon.

Wer mit GDPR oder AI-Governance befasst ist, sieht hier die nächste Auseinandersetzung – und der Zeitplan steht fest. Der AI Act verbietet die emotionale Inferenz auf Basis biometrischer Daten in Arbeitsumgebungen und Schulen bereits jetzt; ab August verpflichtet eine weiterreichende Regelung zur Offenlegung, wenn ein System Emotionen aus körperlichen Merkmalen ableitet. Der erschlossene emotionale Zustand ist ein Datum über das Intimste, das eine Person besitzt. Wenn ein Anbieter dies Ihren Nutzern oder Mitarbeitenden gegenüber einsetzt, ist „wir haben ein Patent" keine rechtmäßige Grundlage. Einwilligung ist es, und diese Art der Verarbeitung lässt sich nicht durch eine versteckte Opt-out-Option absichern.