Einleitung – der „Link“, den mir die KI zuspielte

Eines Tages fragte ich die KI, die wir im Unternehmen verwenden, wie ein Tool eines bestimmten Vendors zu bedienen ist. Es handelt sich nicht um ein berühmtes OSS und auch nicht um ein kommerzielles Produkt mit großer Community. Im Netz finden sich nur vereinzelt Hinweise darauf.

Die KI lieferte eine punktgenaue Lösung – und reichte mir zusätzlich einen „Referenzlink“.

Der Link ließ sich problemlos öffnen. Die Seite enthielt genau die Information, die ich gesucht hatte, doch oben stand deutlich zu lesen:

„Streng vertraulich – nicht extern teilen.“

Moment mal. Aus wessen interner Dokumentation stammte das? Bei genauerem Hinsehen war es weder unser Material noch ein offizielles Dokument des Tool-Anbieters, sondern offenbar das interne Handbuch eines anderen Unternehmens, das dieselbe Software einsetzt.

Na so ein Glück, oder?

…

Ganz und gar nicht. Mir lief ein kalter Schauer über den Rücken.

Ja, hätte ich die KI ignoriert und selbst nach passenden Stichwörtern gesucht, wäre die Seite theoretisch auffindbar gewesen – allerdings irgendwo auf Seite dreißig der Ergebnisliste. Wer würde dort jemals landen?

Teil 1: Die von KI getriebene „Demokratisierung“

Crawler-basierte Suchmaschinen gleichen der Suche nach Gold im Sand. Anbieter bemühen sich zwar, passende Seiten nach oben zu sortieren, doch große Portale dominieren die Spitzenplätze, während wichtige Inhalte in den Tiefen verborgen bleiben.

KI dagegen zieht – sofern die Frage passt – das Gold selbst hervor, selbst von Seiten mit miserabler Sichtbarkeit.

  • Informationen, für die ein Mensch Minuten oder Stunden suchen oder irgendwann entnervt aufgeben würde, erscheinen in Sekunden, wenn die Eingabe passt.
  • Menschen ohne Zugriff auf Spezialwissen können plötzlich direkt zur Antwort greifen.

Das ist ohne Zweifel eine Demokratisierung des Informationszugangs. So wie das Internet einst Wissen aus den Händen der Eliten löste, macht KI es noch erreichbarer.

In Bildung und Forschung ist der Effekt besonders deutlich: Wissen, das früher nur mit Fachbüchern oder Journals zu holen war, liegt nun Studierenden und Berufstätigen sofort vor. Start-ups können ohne teure Beratungsverträge Strategien entwickeln, Einzelpersonen über Nacht eine App bauen.

Auch beim Publizieren gilt das Gleiche. Das Internet gab jeder Person ein Megafon für die Welt, doch unbekannte Stimmen blieben schwer auffindbar.

Und nun das: Die KI spülte eine Seite nach oben, die im Ranking praktisch unsichtbar war, vermutlich aus Versehen öffentlich und ohne SEO – und trotzdem traf sie meine Frage perfekt.

Man kann mit Fug und Recht sagen, dass KI das Senden und Finden von Information demokratisiert – stärker noch, als es das Internet allein vermochte.

Teil 2: Die Kehrseite – Enthüllung

Doch dieselbe Demokratisierung ist zugleich ein Motor der Bloßstellung.

Die fragliche Seite war aufgrund einer Fehlkonfiguration öffentlich. Auch eine klassische Suchmaschine hätte sie indexieren und damit theoretisch auffindbar machen können. Aber ohne KI wäre es sehr unwahrscheinlich gewesen, dass jemand auf Seite zwanzig klickt.

Information, die früher unentdeckt geblieben wäre – „Wir haben Mist gebaut, aber niemand hat es gesehen, also ist es okay“ – erreicht mit KI jede suchende Person augenblicklich.

In diesem Fall ging es lediglich um Bedienhinweise (keineswegs Staatsgeheimnisse), und die Anfrage erfolgte ohne böse Absichten – also kein unmittelbarer Schaden. Aber was, wenn der Inhalt sensibel wäre und jemand Böses ihn verlangte?

Mir wurde klar: Faktische Geheimhaltung durch Unauffindbarkeit existiert in der KI-Ära nicht mehr.

„Es liegt tief vergraben, daher sind wir safe“ gilt nicht mehr. Sobald etwas indexiert ist, gelangt es schnell zu jeder Person, die danach sucht.

Große Anbieter wie ChatGPT haben Richtlinien, um bösartige Anfragen abzulehnen, und schärfen ihre Filter weiter. Doch was ist mit individuell betriebenen, unzensierten Modellen?

Erinnern wir uns an die Zeit der Winny-Leakwellen. Von Militärdokumenten über Kundenlisten bis hin zu privaten Fotos – alles gelangte damals ins Netz, weil Malware via Winny Dateien veröffentlichte. Unternehmen ließen Mitarbeitende unterschreiben, Winny nicht zu nutzen – auch wenn das Tool an sich nur P2P war.

Verglichen damit ist das Risiko moderner KI größer. Sobald Informationen in einer zugänglichen Form vorliegen, erreichen sie böse Akteure mit einer Geschwindigkeit, die früher unvorstellbar war. Malware ist nicht nötig; ein einziger Fehler reicht.

KI beantwortet Fragen ohne zu zögern; sie kennt weder Ethik noch Verantwortung. ※ KI mit Richtlinien „zögert“, aber es ist heute problemlos möglich, private, unzensierte Modelle zu bauen – auf Hugging Face stehen bereits mehrere Varianten.

In der KI-Ära gibt es kein „versteckt ist sicher“ mehr.

Und Enthüllung passiert nicht nur einmal. Die KI kann die Daten lernen, zusammenfassen und für andere erneut ausgeben. Ein Leak kann so unbemerkt weiterzirkulieren – quasi auf unbegrenzte Zeit.

Teil 3: Die Asymmetrie der Geschwindigkeit

Hinzu kommt eine Asymmetrie der Geschwindigkeit.

  • KI sammelt, optimiert und liefert Informationen blitzschnell.
  • Gesetze, Regulierung, Ethik, Gegenmaßnahmen und Bewusstseinswandel bewegen sich selbst im besten Fall in Jahresschritten.

Diese Schere verstärkt die Angst.

Frühere Informationsrevolutionen – Zeitung, Fernsehen, Suchmaschinen – hatten Reibung und Verzögerung. Die Gesellschaft bekam Zeit, Regeln zu entwickeln. KI reduziert die Reibung auf nahezu null und verteilt die „beste Antwort“ sofort weltweit.

So verbreiten sich richtige Erkenntnisse, falsche Gerüchte, unbequeme Wahrheiten und tragische Leaks im gleichen Tempo, sobald KI sie aufgenommen hat. Die Abhandlung einer Expertin und ein irreführender Forenpost können mit identischer Autorität aus dem Modell fallen. Diese Zukunft hat bereits begonnen.

Teil 4: Wo liegt die Verantwortung?

In meinem Fall klickte ich auf den Link. Es handelte sich nicht um unbefugten Zugriff: Die Seite war öffentlich, keine Anmeldung notwendig.

Das Problem: Die Entscheidung „Darf ich das sehen?“ wurde vollständig mir überlassen, und es gab keinen Moment, in dem jemand entschied „Dürfen wir das zeigen?“

KI liefert Antworten, denkt aber nicht darüber nach, ob sie antworten sollte. Wie ich bereits im früheren Beitrag schrieb, hat KI weder Stolz noch Überzeugung noch Verantwortungsgefühl. Diesen Teil müssen Menschen kompensieren.

Ich habe zur Sicherheit die Startseite des betroffenen Unternehmens aufgerufen und eine E-Mail an den Kontakt geschickt. Kein Grund zur Selbstbeweihräucherung, aber es brauchte menschliche Verantwortung, Gewissen und Respekt, um die Verantwortungslosigkeit der KI auszugleichen.

Klar ist: Nicht jede Person würde so handeln. Manche würden die Informationen weiterverbreiten, andere würden versehentlich interne Daten zum Training hochladen. Noch ist das Thema kein gesellschaftlicher Skandal wie einst der Winny-Virus – aber ich halte es für eine Frage der Zeit.

Fazit – Verantwortung für das KI-Zeitalter gestalten

KI demokratisiert Informationen stärker als das Internet es je tat – beim Zugriff wie bei der Veröffentlichung. Doch die Kehrseite ist unvermeidlich: unbeabsichtigte Leaks, die „präzise und schnell“ in die Hände der Falschen gelangen können.

Die eigentliche Gefahr liegt darin, dass der Satz „Wir haben falsch konfiguriert, aber niemand hat es gefunden“ nicht mehr gilt. Sobald eine falsch konfigurierte Seite indexiert ist, wird sie prompt ausgeliefert.

Selbst ohne Fehlkonfiguration lassen sich vermeintlich harmlose Informationen zusammenführen und zeichnen plötzlich ein detailliertes Bild. Ich habe testweise alle Blogartikel ChatGPT füttern lassen – das Profil, das die KI von mir ableitete, war erschreckend treffsicher, gefühlt zu etwa 60 Prozent. Mein Arbeitgeber oder mein exaktes Alter blieben zwar unerkannt (die ungefähre Spanne stimmte jedoch), und es gab Fehler – doch es kam beunruhigend nahe. ※ In der Stilometrie gibt es Studien, die zeigen, dass schon wenige Dutzend Zeilen Text reichen, um Autor:innen zu identifizieren.

Je nach Zielscheibe kann KI sogar alles richtig treffen. Scheinbar harmlose Schnipsel legen, kombiniert, überraschende Wahrheiten offen. ※ OSINT (Open Source Intelligence) bezeichnet das Sammeln und Analysieren offener Informationen. KI macht OSINT mächtiger und zugänglicher – jede Person könnte es einsetzen, etwa sogar ein Stalker gegen ein Ziel.

Die Aufgabe liegt nicht bloß in „mehr Sicherheit“. Wir brauchen eine Verantwortungskultur und Sicherheitsgestaltung, die zum Tempo der Informationsdemokratisierung passt.

KI bringt Wissen näher denn je. Gleichzeitig ist der Mythos „Niemand findet es, also sind wir sicher“ passé. Ich habe heute keine endgültige Antwort, aber KI hat die Grenzen von Information aufgelöst. Wir müssen unser Verständnis von Informationsmanagement anpassen.

Fortan bleibt uns nichts anderes, als beide Seiten der Medaille im Blick zu behalten: Demokratisierung und Bloßstellung.