Governance statt Schatten-KI

Generative Künstliche Intelligenz (GenKI) eröffnet enorme Potenziale – das belegen mittlerweile eine gross Anzahl von Studien und es vergeht kein Tag, an dem in der Presse nicht darüber geschrieben wird. Gleichzeitig stellt sie Organisationen und Führungskräfte aber zugleich vor ein komplexes Spannungsfeld:

Mitarbeitende bringen fast täglich neue Ideen für den Einsatz von KI-Anwendungen und möchten diese nutzen, wie sie es bereits privat tun.

Führungskräfte möchten den strategischen Anschluss an diese Schlüsseltechnologie nicht verpassen. Sie bekommen Angebote von Firmen, die auf den ersten Blick sehr attraktiv erscheinen und sind oft überfordert, um eine kritische Beurteilung zu machen.

IT-Organisationen sind oft noch nicht bereit für den sicheren Betrieb und die Integration von KI-Anwendungen.

Die Herausforderung: für Entscheider liegt nun vor allem darin, eine ausgewogene Balance im „magischen Dreieck“ aus Innovation, Risiken und Kosten zu finden.

Der Einsatz generativer KI bringt häufig eine Reihe von Risiken mit sich, die nicht immer allen bewusst sind und selten aktiv gemanagt werden:

• Schatten-KI: Ungeregelte Nutzung durch Mitarbeitende führt zu Kontrollverlust und Sicherheitsrisiken
• Unkontrollierte Kosten: Fehlende Regeln für Lizenzen, Tokennutzung und Cloud-Verträge können Budgets sprengen
• Compliance- und Datenschutzrisiken:  Unklare oder fehlende Richtlinien, um die Weitergabe sensibler Daten an externe Anbieter zu verhindern
• Strategische Abhängigkeiten: Der unkoordinierte Einsatz vieler Tools schafft schwer kontrollierbare Abhängigkeiten

Um generative KI erfolgreich einzuführen, braucht es einen Ansatz, der das Sammeln von Erfahrungen ermöglicht, Flexibilität bewahrt und Unabhängigkeit sichert – und zwar bei minimalen Investitionen.

Der pragmatisches Ansatz einer «KI-Plattform» kombiniert drei Schichten:

• Benutzeroberfläche:  Eine zentrale Plattform als einheitlicher Zugangspunkt und Servicekatalog für alle KI-Anwendungsfälle. Sie abstrahiert technische Komplexität und bietet standardisierte Services über das Intranet.
• Steuerungsschicht vermittelt zwischen Anwendungsfällen und technischer Umsetzung. Sie ermöglicht Steuerung, Überwachung und sichert die Grundlagen für einen sicheren, kosteneffizienten Einsatz.
• Technische Umsetzung (Backend): Flexible Architektur für die Umsetzung der KI-Services – von Cloud-Lösungen („KI as a Service“) über gehostete Modelle bis hin zu On-Premise-Optionen.
   

• Strategische Steuerung: Neue Technologien zentral evaluieren und schrittweise integrieren
• Beschaffungsoptimierung: Anforderungen bündeln, Lizenzen effizient verwalten, bessere Vertragskonditionen erzielen
• Kostenkontrolle: Transparenz über KI-Kosten, präzise Budgetplanung und ROI-Analysen
• Risikomanagement: Automatisierte Compliance-Checks und systematische Bewertung aller Use Cases
   

Die Realisierung einer KI-Plattform auf Basis der aufgezeigten Architektur hilft Organisationen, erste Erfahrungen mit generativer KI zu sammeln. Sie bietet einen zentralen, einfachen Zugang für Mitarbeitende. Ausserdem vereinfacht er die Administration, hilft Kostenoptimierung und reduziert das Risiko von Schatten-KI.
 

Eine solche KI-Plattform hat auch ihre Grenzen:
 

• Keine Ersatz für KI-Strategie
  Die KI-Plattform ersetzt keine übergeordnete KI-Strategie und Governance-Strukturen. Governance-Strukturen und Prozess-Transformation müssen separat definiert werden.
   
• Wahl passender Anwendungsfälle 
  Vorab ist eine Potenzialanalyse nötig, um eine solche KI-Plattform sinnvoll einzusetzen. Die Beschränkung auf einzelne Anwendungsfälle muss zur Organisation passen. Insbesondere wenn der KI-Einsatz auf vertrauliche oder geheime Daten erfolgen soll, ist die vorgeschlagene Architektur notwendig. Falls jedoch der Einsatz von integrierten Lösungen wie CoPilot oder KI-Agenten möglich ist, d.h. die Datenschutzanforderungen und die rechtlichen Richtlinien dies zulassen, ist der Einsatz einer solchen KI-Plattform wenig sinnvoll. Deshalb sollte vorher eine Potentialanalyse durchgeführt werden, für welche Anwendungsfälle bzw. welche Benutzerkreise dieser Ansatz relevant sind.
   
• Kein Ersatz für Change Management
  Auch wenn die KI-Plattform den Einstieg in die Anwendung von KI-Technologien erleichtert, braucht es zusätzlich Change-Management-Massnahmen. Nebst Kurse für den wertsteigernden Einsatz von KI für alle Mitarbeitenden sind auch KI-Kurse für Führungskräfte relevant, um die strategischen und organisatorischen Herausforderungen des KI-Einsatzes sowie deren Chancen zu verstehen, die Grundlagen für das Fällen von Entscheiden zu diesem Themengebiet zu haben. 

Nadine Tschichold leitet unsere Beratungspraxis für den öffentlichen Sektor. Sie engagiert sich für die Förderung von Innovation und digitaler Transformation im öffentlichen Sektor in der Schweiz und deckt dabei Bund, die Kantone und die Gemeinden ab. Bevor sie zu ELCA kam, leitete Nadine Tschichold den Aufbau des Projektmanagements bei der MeteoSchweiz, wo sie zahlreiche Projekte leitete und begleitete, darunter auch organisationsübergreifende Projekte in Zusammenarbeit mit verschiedenen Bundesämtern.  Nadine Tschichold begann ihre berufliche Laufbahn in einer grossen Beratungsfirma, nachdem sie an der ETH Zürich ihren Master in Informatik und ihr Doktorat in Neuronalen Netzen und KI abgeschlossen hatte.

Nicolas Zahn ist Senior Manager in unserem Büro in Zürich. Nicolas hält einen Master of Arts in International Affairs des Graduate Institute Geneva. Er befasste sich während eines Fellowship Programms intensiv mit der digitalen Verwaltung und schloss hierfür Arbeitsaufenthalte bei der OECD, in Singapur, Estland und einem deutschen Think-Tank ab. Bei ELCA liegt sein Schwerpunkte in der Beratung für die Digitale Transformation inkl. KI mit der Abdeckung verschiedener Aspekte, beginnend von der Erarbeitung einer entspr. Strategie, strategische Ausrichtung von Business und IT, bis zur Leitung Umsetzung der erarbeitet

Sources

1: https://www.bitkom.org/sites/main/files/2024-10/241016-bitkom-charts-ki.pdf; https://www.zhaw.ch/storage/psychologie/upload/iap/studie/8._IAP_Studie_-_Generative_KI_bei_der_Arbeit.pdf 
2:  https://www.mediachange.ch/media//pdf/publications/AI_ResultsReport_de_final_V2_.pdf 
3: https://www.zhaw.ch/storage/psychologie/upload/iap/studie/8._IAP_Studie_-_Generative_KI_bei_der_Arbeit.pdf