Edition 14

Den Chatbot als vertraulichen Gesprächspartner zu behandeln ist genau die Falle. Streicht man die Intimität weg, bleibt eine nüchterne Wahrheit: ChatGPT ist ein Cloud-Dienst eines Unternehmens, das Eingaben protokolliert, aufbewahrt und auf gerichtliche oder interne Anweisung herausgibt. Er steht einer E-Mail näher als einem Tagebuch, und E-Mails sind seit Jahrzehnten auffindbar. Der Fehler liegt nicht im Einsatz von KI, sondern im Vergessen, was sie ist.

Für Ihre Organisation ist das keine Randnotiz zum Datenschutz, sondern ein Aktenführungsproblem, das Sie bereits besitzen. Jede der 1.200 inoffiziellen KI-Anwendungen, die ich vor einigen Wochen erwähnte, ist heute ein Repository aufforderungspflichtiger Geschäftsunterlagen, potenziell legal-hold-pflichtig und möglicherweise vollständig außerhalb Ihrer Aufbewahrungs- und Klassifizierungsregeln. Könnten Sie auf Anfrage eines Regulators oder einer klagenden Partei alles reproduzieren oder sichern, was Ihre Mitarbeitenden in KI-Tools eingegeben haben? Behandeln Sie KI-Gespräche als das, was sie rechtlich sind: Unternehmensunterlagen in einer fremden Cloud, und steuern Sie sie entsprechend.

Die Geschichte, die diese Woche alle erzählt haben, lautet: „Große KI wird reguliert" – was stimmt, aber wenig erhellend ist. Der entscheidende Punkt liegt in der Kategorie. ChatGPT als Suchmaschine einzustufen ist das Geräusch einer Regulierung, die ein jahrzehntealtes Regelwerk über etwas stülpt, für das es nicht geschrieben wurde. Es wird nicht das letzte Mal sein, denn die Alternative, ein maßgeschneidertes Regime für jede neue KI-Art, bewegt sich weit langsamer als die Technologie. Rechnen Sie mit mehr solchem unbeholfenen Nachbessern, und rechnen Sie damit, dass die Grenzbereiche vor Gericht ausgefochten werden.

Es geht beim Inhalt nicht um die Sicherheit der Systeme, die ohnehin besser ist als die fast jeder anderen Organisation. Es geht um die Wirkung des Produkts auf die Menschen, die es nutzen. Ein generatives Modell muss nun formell bewerten und mindern, wie es illegale Inhalte verbreitet, Minderjährige schädigt, Wahlen verzerrt und die psychische Gesundheit untergräbt; unabhängige Prüfer und Forscher erhalten in Kürze Zugang, um die Ergebnisse zu kontrollieren. Das ist eine neue Art von Anforderung: nicht „Ist Ihr System sicher?", sondern „Was tut Ihr System der Öffentlichkeit an?". Es ist das erste Mal, dass eine Regulierungsbehörde eine generative KI für ihre gesellschaftlichen Auswirkungen verantwortlich macht und nicht für ihre Verfügbarkeit. Wie ChatGPT bis Januar darauf antwortet, ist die eigentliche Geschichte, auch wenn die Verpflichtung selbst die meisten Organisationen nie erreichen wird.

Das ist eine wirklich neue Kategorie für Ihr Bedrohungsmodell, und sie verdient eine eigene. Zwei Jahre lang war die KI-Angriffsfläche der Prompt, das Element vor dem Modell. Gedächtnis verschiebt das Ziel dahinter, in persistenten Zustand, und das wandelt das Risiko von einem kurzfristigen Trick in ein dauerhaftes Implantat. Es ist dieselbe Erkenntnis wie beim Passkey-Persistenzangriff, den ich letzten Monat behandelt habe: Der gefährliche Zug ist nicht der, der mit der Sitzung endet, sondern der, der still bleibt.

Wenn Sie Agenten mit Gedächtnis einsetzen, und nach den Zahlen der letzten Woche tun Sie das wahrscheinlich, ob Sie es entschieden haben oder nicht, ändern sich die Fragen. Was kann in den Speicher des Agenten schreiben, und handelt es sich dabei um nicht vertrauenswürdige Eingaben wie E-Mails oder Webseiten? Können Sie prüfen, bereinigen und zurücksetzen, was er gespeichert hat? OWASP hat das bereits als Top-Ten-Agentic-Risiko mit benannten Abwehrmaßnahmen kodifiziert, es ist also nicht spekulativ. Und ja, die Tools, die vergifteten Speicher erkennen, sind selbst KI, das ist der Kreislauf, in dem wir jetzt leben: KI zur Verteidigung gegen KI, dauerhaft. Das ist kein zu lösender Widerspruch, es ist schlicht die Aufgabe.

Schauen Sie auf das, was tatsächlich versagt hat, denn es ist die Kernthese dieses Newsletters in einer einzigen Sanktion. Kein MFA. Kein VPN. Keine Zugriffssegmentierung. Kein Monitoring. Kein Zero-Day, kein Nationalstaat, nur die banalen Kontrollen, die schlicht nie eingerichtet wurden, und 727.000 Menschen haben dafür bezahlt. Jedes Framework der Welt hätte diese Lücken gemeldet. Das Problem war nie das Wissen, was zu tun ist. Es war das Tun.

Nun der Teil, der jeden beunruhigen sollte, dem es um die tatsächliche Risikokonzentration geht. Das Privatkrankenhaus erhielt eine halbe Million Euro Strafe und eine öffentliche Beschämung. Ein französisches öffentliches Krankenhaus, das mindestens ebenso sensible Daten hält, sieht sich gesetzlich keiner solchen Geldbuße gegenüber, und der französische Staat hat NIS2 für seine eigenen Stellen noch nicht einmal umgesetzt. Die Stellen mit dem geringsten Durchsetzungsdruck halten also oft die sensibelsten Bürgerdaten, nicht aus freiem Willen, sondern zwangsweise. Diese Umkehrung ist die Brücke zum letzten Punkt, und sie ist kein rein französisches Problem.

Ich halte das kurz, denn das Argument steht im Beitrag, aber hier ist der Kern, und er gilt überall, wo Sie wählen. Cybersicherheit hat keine wirkliche ideologische Trennlinie. Niemand kandidiert für schwächere Verschlüsselung oder langsameres Patching. Wenn sie also zum Wahlkampfmarker wird, kann ein Kandidat nur ein Rebranding hinzufügen: eine neue Behörde, einen neu gezogenen Geltungsbereich, ein neu angekündigtes Budget, und jedes Rebranding kostet zwölf bis achtzehn Monate Neuorientierung gegen Fristen, die sich nicht verschieben. KI ist anders, dort gibt es echte Differenzen, die eine Debatte wert sind. Defensive Cybersicherheit nicht.

Was der öffentliche Sektor braucht, ist keine Doktrin pro Wahl, sondern Umsetzung über Wahlperioden hinweg: mehrjährige Finanzierungen, die den jährlichen Haushaltsstreit überstehen, Meilensteine, die öffentlich ans Parlament berichtet werden statt in einem Ausschuss zu versanden, und idealerweise ein parteiübergreifendes Bekenntnis zu wenigen datierten Fristen, die niemand wieder aufmacht. Ich habe in der Wallonie erlebt, was ohne diese Unterstützung passiert: gute Audits, die als archivierte PDFs enden. Das vollständige Argument mit den Zahlen ist verlinkt. Wenn Sie irgendwo in der Nähe von Regierungsstrukturen arbeiten, ist das der Beitrag, den ich diese Woche am meisten in Ihren Händen wissen möchte.