In den letzten Jahren ist KI unbemerkt zu einem festen Bestandteil unseres Alltags geworden.
Am Morgen im Büro: Wir nutzen KI, um die Besprechungsnotizen vom Vortag zu strukturieren.
Am Nachmittag beim Schreiben von E-Mails: Wir lassen KI unsere Texte überarbeiten, damit sie professioneller klingen.
Vor Feierabend: Wir geben der KI ein schwieriges Problem, in der Hoffnung, neue Inspiration zu bekommen.
Wir nutzen KI, um:
✍️ E-Mails zu schreiben und Lebensläufe zu optimieren
📊 Besprechungsprotokolle zu strukturieren und Präsentationen zu erstellen
🧠 Informationen zu recherchieren und Ideen für Konzepte zu entwickeln
👨💻 Beim Programmieren zu helfen und Bugs zu beheben
All das geschieht ganz natürlich und reibungslos—
so reibungslos, dass wir kaum noch über eine wichtige Frage nachdenken:
„Habe ich gerade sensible Daten an eine KI weitergegeben?“
Meistens streben wir nach Effizienz:
Geht es schneller?
Kostet es weniger Denkarbeit?
Bekomme ich eine Antwort, die „gut genug aussieht“?
Deshalb denken viele anfangs:
„Das ist doch nur ein Tool. Ich lade ja keinen Virus herunter, also wird schon nichts passieren.“
Schließlich sind wir nicht in Hackerforen unterwegs
und laden auch keine dubiose Software herunter.
Wir fügen lediglich Text ein und stellen eine Frage.
Doch der eigentliche Kern des Problems ist folgender—
die Risiken von KI entstehen oft nicht durch das, was man bewusst tut,
sondern durch das, was man unbewusst tut.
Denn sobald man KI nutzt, passieren im Hintergrund bereits mehrere Dinge:
- Man gibt Daten in ein System ein, das man nicht vollständig kontrolliert
- Man erlaubt einem externen System, auf eigene Inhalte, Texte oder Ideen zuzugreifen
- Man beginnt, sich auf KI-generierte Ergebnisse zu verlassen und lässt diese die eigene Entscheidung beeinflussen
Und all diese Handlungen sind im Kern eng mit Informationssicherheit verbunden.
Die eigentliche Frage ist also nicht:
„Kann man KI nutzen?“
Sondern:
👉 „Nutzen wir KI in einer Zeit, in der sie allgegenwärtig ist, wirklich sicher genug?“
Schauen wir uns daher an,
welche oft übersehenen Sicherheitsrisiken KI mit sich bringt – und wie wir sie vermeiden können.
🧩 1. Was bedeutet „Informationssicherheit bei KI“?
Wenn wir an Cybersicherheit denken, kommen uns meist folgende Dinge in den Sinn:
Hacker 🧑💻
Ransomware 💥
Gehackte Accounts 🔓
Doch die Informationssicherheit im Kontext von KI ist deutlich umfassender.
🧠 Vereinfacht gesagt geht es um drei Dinge
Wenn Sie KI nutzen, sollten Sie sich immer diese drei Fragen stellen:
Eingabe: Welche Daten gebe ich ein? (Privatsphäre und Vertraulichkeit)
Verarbeitung: Werden diese Daten gespeichert, analysiert oder sogar für das Training zukünftiger KI-Modelle verwendet? (Eigentum und Kontrolle)
Ausgabe: Kann ich den Antworten der KI vollständig vertrauen? (Richtigkeit und Zuverlässigkeit)
Wenn nur einer dieser Schritte fehlerhaft ist, kann daraus ein Sicherheitsrisiko für Unternehmen oder Einzelpersonen entstehen.
🍽️ 2. Warum hat die Nutzung von KI mit Informationssicherheit zu tun?
🧑🍳 Ein einfaches Alltagsbeispiel
Stellen Sie sich vor, Sie geben ein internes Unternehmensdokument einer fremden, aber sehr intelligenten Person und bitten sie, die wichtigsten Punkte zusammenzufassen.
Sie würden sich vermutlich fragen:
🤔 Behält diese Person die Daten heimlich?
🤔 Gibt sie die Informationen an andere weiter?
🤔 Ist die Zusammenfassung überhaupt korrekt?
Genau so verhält es sich mit KI:
Sie ist sehr leistungsfähig, aber Sie wissen nicht immer, wie Ihre Daten im Hintergrund verarbeitet werden.
⚠️ 3. Die 5 häufigsten KI-Sicherheitsrisiken
❌ 1. „Vertrauliche Daten“ direkt in KI eingeben
Typische Szenarien:
Unveröffentlichte Verträge zur Überarbeitung in KI einfügen
Kundenlisten zur Analyse hochladen
Interne Planungsdokumente von kostenlosen KI-Tools zusammenfassen lassen
📌 Das zentrale Risiko:
Sobald diese Daten übermittelt werden, gelangen sie in ein Cloud-System und können möglicherweise für das Training zukünftiger Modelle verwendet werden.
Das taiwanische Tech-Medium TechOrange weist darauf hin, dass unklare Grenzen bei der Datennutzung eines der am häufigsten übersehenen Risiken bei der Einführung von KI in Unternehmen sind.
🔗 „Warum Unternehmen bei der Einführung von KI ihre Sicherheitsstrategie neu denken müssen – 5 häufig übersehene Risikoszenarien“
https://techorange.com/2025/04/16/ai-security-highlight/
👻 2. „Shadow AI“: Sie nutzen es – aber Ihr Unternehmen weiß nichts davon
Shadow AI bezeichnet:
Die Nutzung von nicht autorisierten oder unbekannten KI-Tools durch Mitarbeitende für geschäftliche Zwecke – ohne Wissen des Unternehmens oder ohne Freigabe durch die IT-Abteilung.
Zum Beispiel:
- Kostenlose KI zur Überarbeitung von Angeboten verwenden
- Interne Daten in Übersetzungs-KI einfügen
- Unbekannte generative KI-Tools privat für die Arbeit nutzen
📌 Warum ist das gefährlich?
- IT- und Sicherheitsteams haben keinerlei Einblick
- Datenflüsse können nicht kontrolliert werden
- Vorfälle sind schwer nachzuvollziehen
Laut einem offiziellen Bericht von Palo Alto Networks ist „Shadow AI“ zu einem der neuesten und am schnellsten wachsenden Sicherheitsrisiken für Unternehmen geworden.
🔗 Palo Alto Networks „Generative AI Security Report 2025“
https://www.informationsecurity.com.tw/article/article_detail.aspx?aid=11996
(Zusammengefasst von iThome Taiwan)
🌀 3. KI ist sehr gut darin, „überzeugend falsch zu sein“ (AI-Halluzination)
KI „versteht“ Inhalte nicht wirklich, sondern generiert sie auf Basis von Wahrscheinlichkeiten. Daher kann es passieren, dass sie:
- sehr professionell klingt, aber tatsächlich falsch ist
- nicht existierende Gesetze, Daten oder Studien erfindet
- Antworten liefert, die plausibel wirken, aber nicht korrekt sind
Dieses Phänomen nennt man:
AI-Halluzination (Hallucination)
📌 Zentrales Risiko:
Wenn falsche Informationen ungeprüft für Entscheidungen verwendet werden, kann dies rechtliche Konsequenzen oder Reputationsschäden verursachen.
Die US-Behörde NIST (National Institute of Standards and Technology) weist in ihrem AI-Risikoframework ausdrücklich darauf hin:
„Übermäßiges Vertrauen in KI-Ausgaben ist selbst ein Risiko.“
🔗 NIST – Artificial Intelligence Risk Management Framework (AI RMF)
https://www.nist.gov/itl/ai-risk-management-framework
🎭 4. KI macht Betrug und Falschinformationen „täuschend echt“
KI hat Betrugsversuche deutlich professioneller gemacht.
Angreifer nutzen Deepfake-Technologie, um Stimmen oder Videos von Führungskräften zu fälschen oder nahezu perfekte Social-Engineering-E-Mails zu erstellen.
Sie haben vielleicht schon von solchen Fällen gehört:
- Gefälschte Stimmen von Vorgesetzten, die zu Überweisungen auffordern
- Manipulierte Video-Meetings mit Führungskräften
- Hochgradig personalisierte Phishing-Mails ohne erkennbare Fehler
📌 Zentrales Risiko:
Wenn Betrug „zu echt“ wirkt, versagt unsere menschliche Intuition als Warnsystem.
Hinter vielen dieser Angriffe steckt KI-gestützte Deepfake-Technologie.
CIO Taiwan weist darauf hin, dass generative KI zunehmend eingesetzt wird, um Social Engineering und Betrug noch gezielter und effektiver zu machen.
🔗 „Die doppelte Klinge der Cybersicherheit: Drei Risiken und Chancen generativer KI“ | CIO Taiwan
https://www.cio.com.tw/102645/
🔗 5. Auch KI-Tools, Plugins und Modelle selbst bergen Risiken
Viele Nutzer installieren KI-Plugins oder Chrome-Erweiterungen – doch deren Sicherheitsniveau ist sehr unterschiedlich.
Die von Ihnen verwendeten KI-Tools sind oft verbunden mit:
- Drittanbieterdiensten
- Externen Datenquellen
- Plugins und APIs
📌 Zentrales Risiko:
Unsichere Erweiterungen können als Hintertür für Datenlecks dienen.
Die internationale Non-Profit-Organisation OWASP hat in einem offiziellen Projekt die häufigsten Risiken zusammengefasst:
Die Top 10 Risiken für Anwendungen mit großen Sprachmodellen (z. B. Prompt Injection, Datenlecks, übermäßiges Vertrauen in Ausgaben).
🔗 OWASP – Top 10 for Large Language Model Applications
https://owasp.org/www-project-top-10-for-large-language-model-applications/
✅ 4. Wie können normale Nutzer KI sicher verwenden?
Die gute Nachricht:
👉 Sie müssen kein Ingenieur sein, um 80 % der Risiken zu vermeiden.
Wichtig ist die richtige Denkweise:
🛡️ 8 praktische Grundprinzipien für den Alltag
- Daten anonymisieren: Entfernen Sie Namen, Firmendaten und Beträge, bevor Sie Inhalte eingeben
- KI als Assistenz sehen: Nicht als endgültige Entscheidungsinstanz – Ergebnisse müssen geprüft werden
- Unternehmenslösungen nutzen: Bevorzugen Sie offizielle, kostenpflichtige KI-Tools mit besseren Datenschutzrichtlinien
- Fakten überprüfen: Prüfen Sie Daten, Quellen und rechtliche Angaben immer doppelt
- Auf Auffälligkeiten achten: Bei ungewöhnlich realistischen Anfragen (z. B. Überweisungen) immer einen zweiten Kommunikationsweg nutzen
- Richtlinien einhalten: Befolgen Sie die KI-Nutzungsregeln Ihres Unternehmens
- Berechtigungen prüfen: Überprüfen Sie die Vertrauenswürdigkeit von Plugins und vermeiden Sie übermäßige Zugriffsrechte
- Letzter Selbstcheck: Fragen Sie sich vor dem Absenden:
„Könnte ich damit leben, wenn dieser Inhalt morgen auf der Titelseite steht?“
🌱 5. Fazit: Sicherheit ist eine Kernkompetenz im KI-Zeitalter
KI ist wie ein extrem scharfes zweischneidiges Schwert 🔪:
Richtig eingesetzt, steigert sie die Effizienz enorm
Falsch eingesetzt, birgt sie erhebliche Risiken
Informationssicherheit ist längst nicht mehr nur Aufgabe der IT-Abteilung, sondern eine grundlegende Kompetenz für jeden KI-Nutzer.
In einer Zeit, in der alle nach mehr Produktivität durch KI streben, gilt:
Nur wer KI sicher einsetzt, kann sie langfristig als starken Partner nutzen.
Informationssicherheit ist nicht nur die Verantwortung von Ingenieuren, sondern eine grundlegende Fähigkeit jedes Nutzers.
Im Zeitalter der KI gilt:
KI nutzen zu können ist wichtig –
aber sie sicher zu nutzen, ist noch wichtiger.
