Gouvernance et IA : trouver l'équilibre entre innovation et contrôle

De plus, de nombreux employés sont confrontés à une charge de travail toujours plus importante – des demandes de renseignements aux tâches administratives – alors que les ressources diminuent. Étant donné que l'utilisation habile de l'IA générative promet d'en faire plus avec moins, son utilisation est souvent encouragée par les employés, que leur employeur en soit informé ou non_¹. Rien qu'en Suisse, une bonne moitié des internautes ont déjà utilisé des outils d'IA_².

Cependant, cela augmente également les risques pour l'organisation. L'utilisation incontrôlée d'outils d'IA peut entraîner des violations importantes de la conformité et des problèmes de protection des données, et souvent des coûts incalculables. De nombreuses entreprises suisses fournissent à leurs employés peu ou pas de directives claires et pratiquement aucun soutien dans ce domaine_³. 

Ce défi est encore exacerbé par le développement extrêmement dynamique du paysage de l'IA. De nouveaux modèles, services et fournisseurs apparaissent à un rythme qui dépasse les processus traditionnels de gouvernance informatique. Dans le même temps, cela exerce une pression encore plus forte sur les budgets informatiques, alors que les possibilités d'investissement restent limitées.

Pour les dirigeants, cela signifie qu'ils ont besoin de solutions qui libèrent la force d'innovation de leur organisation tout en rendant les risques et les coûts associés maîtrisables. La clé réside dans une gouvernance IA bien pensée, qui allie flexibilité et contrôle.

Si la clé pour relever ces défis réside bien sûr dans une stratégie globale en matière d'IA, de nombreuses organisations sont confrontées dans la pratique à la pression de mettre à la disposition de leurs employés une IA générative le plus rapidement possible, même si les questions générales n'ont pas encore pu être identifiées ou clarifiées. 

Nous présentons ci-dessous une approche qui permet précisément cela et ouvre ainsi la voie à une utilisation durable, stratégique et productive de l'IA.

Sur la base de notre collaboration avec des entreprises du secteur privé et des organismes publics, nous avons développé une approche de gouvernance structurée qui traite systématiquement ces risques sans être trop restrictive. Au cœur de cette approche se trouve un centre d'IA qui sert d'instrument de contrôle stratégique pour l'ensemble du portefeuille d'IA.

La première étape cruciale pour les organisations consiste à décider comment et où elles souhaitent utiliser l'IA générative et la mettre à la disposition de leurs employés. Une analyse potentielle permet d'identifier les cas d'utilisation les plus importants et présentant la plus grande valeur ajoutée dans la vie quotidienne. La deuxième étape consiste à mettre en œuvre ces cas d'utilisation de manière ouverte et neutre sur le plan technologique.

Le cœur technique du hub IA est une plateforme centrale basée sur l'intranet qui sert de point d'accès unique et de catalogue de services pour tous les cas d'utilisation de l'IA générative au sein de l'organisation. Une telle plateforme masque la complexité technique et présente aux utilisateurs des services simples et standardisés. L'idée ici est de couvrir les cas d'utilisation les plus importants pour les employés, c'est pourquoi une analyse potentielle est également indiquée ici afin de garantir la couverture des cas d'utilisation pertinents et utiles pour les employés. La question de savoir si des applications et services d'IA supplémentaires, par exemple spécifiques à un sujet, sont utilisés peut être délibérément laissée en suspens.

Exemple : un employé sélectionne la fonction « Résumé » dans le catalogue. Que cette fonction soit mise en œuvre via une licence ChatGPT, un modèle LLaMA hébergé ou une solution auto-exploitée n'a aucune importance pour l'employé ; elle est régulée en arrière-plan par un middleware approprié. Cette abstraction crée à la fois une convivialité et une flexibilité stratégique pour la gestion informatique, qui peut utiliser diverses implémentations techniques en arrière-plan.

Le hub assure des fonctions de contrôle centralisées qui vont bien au-delà du simple accès aux services. Le filtrage et la classification automatiques des documents empêchent le téléchargement de données sensibles et garantissent le respect des exigences de conformité au niveau technique. Parallèlement, les informations sensibles sont automatiquement anonymisées avant d'être transmises aux services d'IA, ce qui minimise systématiquement les risques liés à la protection des données. Un autre aspect important est l'amélioration significative de l'efficacité de la formation, car les employés n'ont pas à apprendre des instructions complexes, mais peuvent utiliser des flux de travail prédéfinis et optimisés. Cela réduit à la fois les temps de formation et la susceptibilité aux erreurs lors de l'utilisation de l'IA.

L'architecture technique permet la mise en œuvre progressive de divers services d'IA, créant ainsi une diversité stratégique d'options pour la gestion d'entreprise. Le middleware sert d'intermédiaire entre les cas d'utilisation dans le hub et la mise en œuvre technique effective de l'IA générative. Les solutions basées sur le cloud offrent la possibilité d'une intégration rapide des services commerciaux et permettent un démarrage immédiat de la production avec des technologies éprouvées. Les modèles hébergés, connus sous le nom d'offres « model-as-a-service », élargissent le spectre avec des offres cloud spécialisées qui peuvent être optimisées pour des cas d'utilisation spécifiques tout en offrant un meilleur contrôle sur le traitement des données et la conformité. Les solutions sur site, en revanche, représentent la variante maximale, dans laquelle des modèles propriétaires sont utilisés pour un contrôle maximal des données et des exigences de conformité.

Cette flexibilité architecturale permet de moduler progressivement les investissements dans l'IA tout en poursuivant différentes stratégies d'approvisionnement. En fonction de l'évolution des besoins d'utilisation et des budgets disponibles, les décisions d'investissement peuvent être prises de manière ciblée sans rendre obsolètes les investissements précédents.

Mécanismes de gouvernance pour la gestion

Le cadre met en œuvre plusieurs niveaux de gouvernance qui sont directement pertinents pour la gestion d'entreprise :

• Gestion stratégique : le concept de hub permet d'évaluer de manière centralisée les nouvelles technologies d'IA et de les intégrer progressivement sans perturber les processus existants.
• Gestion des risques : évaluation et catégorisation systématiques de tous les cas d'utilisation en termes de protection des données, de conformité et de risques stratégiques. Les contrôles de conformité automatisés réduisent considérablement le risque de responsabilité.
• Optimisation des achats : l'enregistrement centralisé de toutes les exigences permet de regrouper stratégiquement les licences et les services et de négocier des conditions contractuelles optimales.
• Contrôle des coûts et planification budgétaire : la transparence totale des coûts liés à l'IA permet une planification budgétaire précise et des analyses du retour sur investissement. Les centres de coûts peuvent être attribués à des services individuels et des limites d'utilisation peuvent être définies.

L'approche décrite ici permet aux organisations disposant d'un large éventail d'implémentations techniques d'acquérir une première expérience de l'utilisation productive de l'IA générative et offre aux employés un point de contact central. Elle peut également simplifier l'administration et réduire le risque d'IA fantôme.

Cependant, outre ces avantages, cette approche présente également des limites importantes qui doivent être soulignées :

1. Elle ne supprime pas la nécessité d'une stratégie globale en matière d'IA et les questions fondamentales de gouvernance qui y sont liées. Les considérations fondamentales concernant l'utilisation de l'IA dans l'entreprise et la possibilité de transformation des processus ne font pas partie de l'approche et doivent être traitées séparément.
2. La restriction à des cas d'utilisation individuels doit être adaptée à l'organisation. Si des solutions complètes telles que CoPilot ou des agents IA déjà profondément intégrés dans les applications et les systèmes sont déjà utilisées, l'approche hub n'est pas très efficace. Afin d'obtenir l'adhésion nécessaire des utilisateurs, une analyse préliminaire du potentiel doit également être effectuée afin de déterminer les cas d'utilisation pertinents.
3. L'approche s'adresse principalement aux organisations qui en sont encore aux premiers stades de leur transformation IA. Même si le hub IA facilite la mise en route, son introduction doit absolument s'accompagner de mesures appropriées de gestion du changement.

Le modèle du hub IA montre qu'une gouvernance efficace de l'IA ne doit pas nécessairement entraver l'innovation, mais peut au contraire la favoriser de manière ciblée. Pour les cadres dirigeants, ce cadre offre la possibilité d'exploiter le pouvoir transformateur de l'IA sans perdre le contrôle des coûts, des risques et des dépendances stratégiques.

Son principal avantage réside dans la combinaison d'un contrôle centralisé et d'une flexibilité opérationnelle : tandis que les processus de gouvernance minimisent les risques et rendent les coûts transparents, l'architecture backend flexible permet une adaptation rapide aux nouvelles technologies et aux évolutions du marché.

Les organisations qui investissent aujourd'hui dans une gouvernance de l'IA bien pensée se créent un avantage concurrentiel durable. Elles peuvent mettre en œuvre les innovations en matière d'IA plus rapidement et de manière plus sûre que leurs concurrents qui sont encore confrontés à des environnements d'IA non réglementés. Dans un monde où l'IA devient de plus en plus un facteur de différenciation, une gouvernance professionnelle de l'IA n'est pas un simple atout, mais une nécessité stratégique.

Si vous souhaitez en savoir plus, découvrir la gouvernance de l'IA pour votre organisation en général ou la pertinence de cette solution en particulier, veuillez contacter nos experts chez ELCA Advisory. Nous nous réjouissons de vous entendre.

Nadine Tschichold dirige notre entité de conseil dédié au secteur public et nos équipes de Professional Services. Elle s'engage à stimuler l'innovation et la transformation digitale au sein du secteur public en Suisse, qui inclue le gouvernement fédéral, les cantons et les municipalités. Avant de rejoindre ELCA, Nadine a dirigé la mise en place du bureau de gestion de projet chez MétéoSuisse, où elle a guidé et géré de nombreux programmes, y compris des projets inter-organisationnels en collaboration avec divers offices fédéraux. Nadine a commencé sa carrière professionnelle dans une grande société de conseil après avoir obtenu un Master en informatique et un Doctorat en (Artificial Intelligence and Robotics) à l'ETH Zürich.

Nicolas Zahn est Senior Manager dans nos bureaux de Zürich. Nicolas est titulaire d'un Master of Arts en affaires internationales de l'IHEID de Genève. Il s'intéresse de près à la transformation numérique dans le secteur public et a effectué des séjours professionnels à l'OCDE, à Singapour, en Estonie et au sein d'un think tank Allemand. Chez ELCA, il se concentre sur le conseil en matière de transformation numérique, y compris l'IA, couvrant divers aspects, allant de l'élaboration de stratégies, à la gestion et la mise en œuvre de ces stratégies et concepts.

Sources

1: https://www.bitkom.org/sites/main/files/2024-10/241016-bitkom-charts-ki.pdf; https://www.zhaw.ch/storage/psychologie/upload/iap/studie/8._IAP_Studie_-_Generative_KI_bei_der_Arbeit.pdf 
2:  https://www.mediachange.ch/media//pdf/publications/AI_ResultsReport_de_final_V2_.pdf 
3: https://www.zhaw.ch/storage/psychologie/upload/iap/studie/8._IAP_Studie_-_Generative_KI_bei_der_Arbeit.pdf