Einige Anwendungen künstlicher Intelligenz in Unternehmen in Deutschland sind offensichtlich – beispielsweise nutzen Entwickler GitHub Copilot zur Codegenerierung. Viele andere KI-Anwendungen sind jedoch deutlich schwerer zu erkennen. Möglicherweise ist Ihnen nicht bewusst, dass KI bereits in der Software integriert ist, die Sie für die Personalbeschaffung einsetzen. Auch Software zur Betrugserkennung kann im Hintergrund auf Machine-Learning-Modelle basieren.
Das Problem: Eine wirksame KI-Governance ist nur möglich, wenn Sie wissen, wo und wie KI in Ihrem Unternehmen eingesetzt wird.
Was gilt eigentlich als KI?
In den meisten Unternehmen gibt es keine einheitliche Definition von künstlicher Intelligenz. Dadurch wird ein System, das Machine Learning nutzt, intern möglicherweise lediglich als „Analytics“ bezeichnet. Ein Softwareanbieter spricht vielleicht von „Automatisierung“, obwohl im Hintergrund ein KI-Modell Entscheidungen trifft.
Hinzu kommt KI, die sich vollständig der Governance entzieht – und dabei geht es um weit mehr als Mitarbeitende, die privat ChatGPT nutzen. Ihr Unternehmen verwendet möglicherweise bereits genehmigte Software, die scheinbar regelbasiert arbeitet, tatsächlich aber KI einsetzt. Ein herkömmliches Softwareinventar macht diesen Unterschied oft nicht sichtbar.
So erhalten Sie einen vollständigen Überblick über Ihre KI-Nutzung
Unternehmen, die künstliche Intelligenz in Deutschland einführen, sollten zunächst feststellen, wo KI bereits eingesetzt wird, bevor sie geeignete Governance-Maßnahmen definieren.
1. Identifizieren Sie versteckte KI
Beschränken Sie sich nicht auf Produkte, die ausdrücklich als KI-Lösung vermarktet werden. Prüfen Sie, ob die bereits eingesetzte Software Machine-Learning- oder KI-Funktionen enthält. Überprüfen Sie außerdem die Dokumentation Ihrer Softwareanbieter auf nachträglich integrierte KI-Funktionen.
2. Erstellen Sie ein KI-Inventar
Dokumentieren Sie:
- alle Systeme, die KI verwenden,
- ihren Einsatzzweck,
- die Geschäftsprozesse, die von ihnen abhängen.
Berücksichtigen Sie sowohl Lösungen externer Anbieter als auch intern entwickelte Systeme.
3. Ordnen Sie Ihre KI-Systeme nach Risikostufen
Die genaue Einteilung hängt von Ihrem Unternehmen ab. Als Orientierung können Sie die Systeme nach den Folgen eines Fehlers oder einer falschen Entscheidung kategorisieren.
Hohes Risiko
KI-Systeme, die automatisch Entscheidungen mit erheblichen Auswirkungen treffen, beispielsweise wenn sie:
- sensible Unternehmens- oder Kundendaten verarbeiten,
- Finanzentscheidungen treffen,
- Einstellungsprozesse beeinflussen,
- Sicherheitseinstellungen ändern oder Sicherheitsmaßnahmen ausführen.
Mittleres Risiko
Hierzu zählt KI, die intern zur Zusammenfassung von Besprechungen oder zur Analyse nicht vertraulicher Betriebsdaten eingesetzt wird. Ebenso gehören KI-gestützte Programmierwerkzeuge dazu, deren Code vor dem Einsatz von Entwicklern geprüft wird.
Geringes Risiko
KI für Brainstorming, Ideensammlung oder einfache Internetrecherchen.
4. Legen Sie Kontrollen entsprechend der Risikostufe fest
Für KI mit hohem Risiko sollte vor jeder folgenreichen Aktion eine Prüfung und Freigabe durch einen Menschen erfolgen.
Für KI mit mittlerem Risiko sollten Maßnahmen zur Verhinderung von Datenverlust (Data Loss Prevention) eingerichtet und die Qualität der Ergebnisse regelmäßig überprüft werden.
Für KI mit geringem Risiko empfiehlt sich die Einführung klarer Richtlinien zur zulässigen Nutzung.
Wir unterstützen Sie
Wenn Ihr Unternehmen künstliche Intelligenz in Deutschland einführt, unterstützt CA Sie dabei, bestehende KI-Anwendungen zu identifizieren und die damit verbundenen Risiken zu bewerten. Sprechen Sie mit unserem Team.
