Les agents IA hors des systèmes approuvés ou non déclarés ne sont pas contrôlés par 81 % des DSI

Agents IA non déclarés hors des systèmes approuvés et du contrôle des DSI
Une enquête indique que 81 % des DSI ne contrôlent pas ces agents IA non déclarés / crédit : Mediavenir Business
RéagirSuivre

Certains agents IA accomplissent des tâches sans validation informatique. Selon une enquête, 81 % des DSI ne contrôlent pas les agents d’IA non déclarés ou déployés hors des systèmes approuvés.

Ce constat cache un paradoxe : 90 % des responsables interrogés déclarent pourtant avoir une visibilité complète sur les agents actifs. Derrière cette certitude, la supervision informatique laisse encore leurs coûts mal documentés, leurs performances peu lisibles et leurs décisions difficiles à retracer. Qui répondra des actions impossibles à attribuer ?

Voir les agents ne suffit pas à les contrôler

Dataiku et The Harris Poll ont interrogé 685 DSI dans le monde sur les agents IA déployés dans leur entreprise. Parmi eux, 90 % disent suivre tous les agents actifs, y compris ceux créés hors de la direction informatique ; 67 % estiment qu’au moins 51 agents fonctionnent déjà en production chez eux. Ce suivi offre une visibilité sur les déploiements, sans garantir que la DSI puisse intervenir : 81 % ne contrôlent pas les agents créés hors des systèmes approuvés ou non déclarés. Sans prise sur ces agents, le pilotage opérationnel reste limité.

La surveillance permet de savoir si un agent tourne.

Florian Douetteau, cofondateur et directeur général de Dataiku

Des lacunes dans le suivi des coûts et des performances

Compter les agents actifs ne révèle ni leur utilité ni leur coût. Le suivi des performances opérationnelles et la mesure des résultats métier restent fragmentés ; la visibilité sur les coûts varie selon les usages. L’enquête chiffre ces écarts :

  • 72 % des DSI ne mesurent pas systématiquement les performances et les résultats métier de tous leurs agents ; seuls 28 % le font.
  • Seuls 21 % disposent d’un suivi des coûts quasi en temps réel, ventilé par activité, équipe ou usage.
  • 76 % jugent insuffisante leur capacité à évaluer le retour métier de la plupart de leurs projets d’IA.

Le flou ne s’arrête pas aux indicateurs. Pour la gestion du cycle de vie, 83 % des DSI n’ont aucun cadre standardisé applicable à leurs agents. Les retraits se poursuivent malgré tout : 47 % déclarent avoir désactivé plus de 20 agents depuis le début de l’année. Par ailleurs, 60 % ne disposent d’aucune gouvernance centrale couvrant l’ensemble de leurs outils et environnements informatiques.

Les DSI misent sur une autonomie encadrée des métiers

Les équipes métiers veulent pouvoir concevoir leurs outils sans attendre chaque validation informatique. Pour 91 % des DSI, l’autonomie des équipes métiers doit s’exercer dans un environnement encadré, régi par des règles communes. Cette approche laisse place aux initiatives locales, tout en permettant à la direction informatique de suivre les applications et les agents créés hors de son périmètre.

Les créations avancent pourtant plus vite que les contrôles. Selon 84 % des répondants, le rythme de création des agents et applications par les collaborateurs dépasse les capacités de gouvernance de l’informatique. Sans vue transversale sur ces outils, les DSI peinent à suivre leurs usages et les décisions prises par les agents, même lorsque leur développement s’effectue dans un cadre autorisé.

Diversifier les modèles pour limiter les risques d’indisponibilité

L’enquête demande aux DSI comment ils réagiraient à la suspension des modèles Fable/Mythos 5 d’Anthropic. Le recours à plusieurs modèles répond aux risques de dépendance technologique, tandis que des solutions open source pourraient offrir une possibilité de repli. Les réponses font apparaître trois pistes :

  • 75 % prévoient d’élargir le nombre de modèles utilisés.
  • 74 % envisagent davantage de modèles ouverts face à une suspension ou une indisponibilité.
  • 80 % ont réalisé ou prévoient une évaluation des risques ou un audit de leurs dépendances à l’IA.

En France, 76 % des DSI envisagent le recours à l’open source et 76 % ont effectué, ou prévoient, un audit de dépendance. Ils sont aussi 76 % à regretter au moins un choix majeur d’éditeur ou de plateforme d’IA fait au cours des 18 derniers mois. Ces bilans permettent d’identifier les solutions de repli si un modèle devient indisponible.

Que risquent les DSI si les résultats ne suivent pas ?

Pour les DSI, l’IA engage désormais leur avenir professionnel. Parmi eux, 88 % anticipent des risques pour les carrières ; 87 % disent que leur direction générale lie leur maintien en poste aux performances obtenues. Chez 97 %, la pression des conseils d’administration pour démontrer un retour sur investissement augmente.

Les échéances diffèrent. Si les objectifs de performance ne sont pas atteints d’ici fin 2026, 72 % des DSI redoutent un gel ou une baisse du budget IA. Faute de résultats mesurables pour l’entreprise d’ici fin 2027, 76 % craignent pour leur poste. Dans une autre édition de l’étude Dataiku, 80 % des PDG interrogés expriment la même crainte si les résultats attendus ne se concrétisent pas.

En France, l’auditabilité à l’épreuve des exigences réglementaires

En France, seuls 27 % des DSI sont absolument certains de pouvoir retracer dès le lendemain la décision d’un agent IA. Le doute porte sur la piste d’audit complète, mais pas seulement : 97 % ont défendu une décision de l’IA sans pouvoir l’expliquer pleinement au cours des 12 derniers mois. Leur expérience met à l’épreuve l’explicabilité des décisions automatisées au quotidien.

Les exigences anticipées accentuent l’écart. En France, 72 % des DSI prévoient sous 12 mois des obligations réglementaires strictes d’audit ou d’explication, contre 52 % en Allemagne et 88 % au Royaume-Uni. Selon une autre édition de l’étude Dataiku, 61 % des directeurs généraux français disent avoir retardé des projets d’IA face à l’incertitude réglementaire.

Laisser un commentaire