Sicherheitsprobleme beim KI-Einsatz in Unternehmen

Wo liegen Ihres Erachtens die größten Sicherheitsprobleme beim Einsatz von KI in Unternehmen?

Dr. Jörg Schneider: Im Grunde sind es die gleichen Herausforderungen wie wir sie in der Informationssicherheit seit Jahren kennen. Die öffentlichkeitswirksam von KI-Bots ausgenutzten Schwachstellen sind meist nicht grundsätzlich neu. Neu ist aber, dass bestimmte Angriffsarten einfacher werden und das sich durch einige KI-Tools die Angriffsoberfläche unerwartet vervielfacht. Die Lage ist vor allem sehr dynamisch, daher müssen einmal getroffene Einschätzungen und Entscheidungen immer wieder hinterfragt und um neue Tools ergänzt werden.

Wie viel (Eigen-)Verantwortung liegt bei den Mitarbeitenden?

Dr. Jörg Schneider: Informationssicherheit kann immer nur gelingen, wenn man alle einbindet. Die Mitarbeit aller kann man nicht durch technische Maßnahmen ersetzen. Bei KI-Tools gilt das genauso. Erschwerend kommt hinzu, dass man mit den meisten KI-Tools in natürlicher Sprache frei kommuniziert – hier kommen technische Filter, um zum Beispiel versehentlich hochgeladene Interna zu erkennen, prinzipbedingt nicht mit. 

Alle Nutzerinnen und Nutzern müssen also selbst darauf achten, dass KI-Systeme nur im vorher abgesteckten Rahmen genutzt werden. Dafür brauchen sie aber diesen Rahmen, in einer klaren Form mit ausreichend Spielraum für den schnell laufenden technischen Fortschritt.

Welche Unternehmensdirektiven könnten das Problem begrenzen?

Dr. Jörg Schneider: Als erstes muss man für sich überlegen, wo die individuellen roten Linien beim Einsatz von KI gezogen werden sollen. Dafür helfen die klassischen Ansätze aus der Risikobewertung, und man kann sich an den klassischen Kriterien Vertraulichkeit, Integrität und Verfügbarkeit entlang arbeiten.

Daraus folgen dann die nächsten Schritte von Schulungen über die Beschaffung von passenderen KI-Tools ggf. bis hin zu technischen Beschränkungen.

Braucht heute jedes Unternehmen eigene KI-Richtlinien?

Dr. Jörg Schneider: Auf jeden Fall. Vielleicht braucht nicht jeder unbedingt ein detailliertes Dokument mit zig Unterkapiteln, aber eine Richtschnur für den Einsatz. Wer sagt "Wir setzen aber keine KI-Tools ein" lügt sich meist selbst an, denn viele Geräte und Programme kommen inzwischen mit KI-Funktionen. Selbst bei einer einfachen Internetsuche kommt man um KI-generierten Antworten nicht mehr herum.

Ein pauschales unbegründetes Verbot ist auch nicht die Lösung. KI-Tools werden dann weiter eingesetzt – unabsichtlich oder im Geheimen. Die Risiken sind also weiter da, aber bleiben im Dunkeln. 

Daher sollte es eine mindestens eine kurze pragmatische Überlegung und Handreichung für alle geben, ergänzt um explizit zugelassene Tools.

Woran können sich die Unternehmen dabei orientieren? Wer hilft dabei?

Dr. Jörg Schneider: Da der Trend noch relativ neu ist, müssen sich die Unternehmen meist sehr individuell an das Thema herantasten. Es gibt zu viele Parameter vom eigenen Schutzbedarf über die bisherige Toollandschaft bis hin zur Altersverteilung. Daher hilft es nichts, einfach Blaupausen zu übernehmen. Leider stehen gerade viele Unternehmen vor der gleichen Herausforderung, daher ist die Nachfrage gerade groß und das Angebot wird unüberschaubar. Mein Tipp für den Bereich Informationssicherheit ist, explizit auf Erfahrung in der Security zu bestehen – denn wie gesagt: Vieles ist nicht grundsätzlich neu und kann durch erprobte Herangehensweisen aus der Security adressiert werden.