Shadow AI kontrollieren, ohne Innovation zu blockieren

Shadow AI ist ein Signal

Wenn Mitarbeitende nicht freigegebene KI-Dienste nutzen, zeigt das vor allem eines: Es gibt einen Bedarf, den die Organisation noch nicht abdeckt. Ein reines Verbot beseitigt diesen Bedarf nicht. Es verschiebt die Nutzung auf private Geräte, wo die Organisation keinerlei Kontrolle mehr hat.

Die Risiken sachlich einordnen

• Vertrauliche Daten gelangen zu Anbietern ohne Vertrag und ohne geprüfte Datenverarbeitung
• Eingaben können je nach Dienst und Einstellung zum Training verwendet werden
• Ergebnisse werden ohne Prüfung in Dokumente und Entscheide übernommen
• Personendaten werden ohne Rechtsgrundlage oder Information bearbeitet
• Die Organisation weiss nicht, welche Werkzeuge tatsächlich im Einsatz sind

Ein Vorgehen in vier Schritten

Erstens Transparenz schaffen: Technische Auswertungen und eine offene Umfrage zeigen, welche Dienste genutzt werden und wofür. Zweitens sichere Alternativen bereitstellen: Ein freigegebenes Werkzeug mit Unternehmensvertrag deckt die häufigsten Bedürfnisse ab. Drittens klare Regeln formulieren: Eine KI-Nutzungsrichtlinie legt fest, welche Werkzeuge mit welchen Daten erlaubt sind. Viertens verhältnismässig kontrollieren: Technische Sperren gelten für die risikoreichsten Dienste und Datenarten.

Technische Möglichkeiten

In Microsoft Umgebungen stehen dafür Microsoft Defender for Cloud Apps zur Erkennung und Sperrung von Cloud-Diensten sowie Microsoft Purview mit Endpunkt-DLP und Auswertungen zur KI-Nutzung zur Verfügung. Microsoft 365 Copilot Chat mit Unternehmensdatenschutz ist für viele Organisationen eine naheliegende Alternative zu öffentlichen Chatbots. Welche Funktionen genutzt werden können, hängt von den Lizenzen ab.

Shadow AI mit Microsoft Purview erkennen

Microsoft Purview bietet mit Data Security Posture Management für KI, früher als AI Hub bezeichnet, eine zentrale Sicht auf die Nutzung generativer KI. Die Lösung zeigt Interaktionen mit Microsoft Copilot und, je nach Konfiguration, mit Diensten von Drittanbietern. Dafür werden unter anderem Endpunkt-DLP und eine Browsererweiterung benötigt. Die Namen und Funktionen haben sich mehrfach geändert und sollten vor der Planung in der aktuellen Dokumentation geprüft werden.

• Warnungen, wenn sensible Informationen in KI-Websites eingefügt werden
• Blockierung des Uploads klassifizierter Dokumente an nicht freigegebene Dienste
• Unterscheidung nach Benutzergruppen und Risiko
• Auswertung der meistgenutzten Dienste als Grundlage für Freigabeentscheide

Die Überwachung von KI-Nutzung erfasst Verhaltensdaten von Mitarbeitenden. Nach Schweizer Recht sind dabei insbesondere das DSG und der Schutz der Persönlichkeit am Arbeitsplatz zu beachten. Transparente Information der Mitarbeitenden und eine auf den Zweck beschränkte Auswertung sind Voraussetzungen.

Einen Weg für neue Werkzeuge öffnen

Ein einfacher Antrags- und Prüfprozess für neue KI-Werkzeuge zeigt, dass Innovation erwünscht ist. Die Prüfung sollte schnell sein und sich auf Vertrag, Datenverarbeitung, Sicherheit und Nutzen konzentrieren. So wird Shadow AI in kontrollierte Nutzung überführt.

Einordnung durch techtask

techtask hilft Organisationen, Shadow AI sichtbar zu machen, sichere Alternativen einzuführen und Richtlinien mit technischen Kontrollen in Microsoft 365 zu verbinden.