Agents d’IA : entre confiance et vigilance

Jusqu’à présent, les avantages apportés par les agents d’intelligence artificielle sont nombreux : 66 % des personnes interrogées dans le cadre d’une enquête récente rapportent une augmentation de la productivité, 57 % indiquent qu’ils réalisent des économies et 55 % affirment que les agents d’IA ont accéléré leur prise de décision.

Les éléments qui influent sur la trajectoire de l’innovation et l’émergence de nouvelles sources de revenus sont souvent négligés, avec seulement 35 % et 29 % des répondants les mentionnant comme des facteurs clés. L’étude réalisée par PwC auprès d’un panel de 300 cadres supérieurs met en lumière les avantages fondamentaux ainsi que l’abondance des fonds alloués aux agents. La grande majorité d’entre eux, soit 88 %, ont indiqué que leur équipe ou leur département prévoit d’augmenter les budgets alloués à l’IA au cours des 12 prochains mois afin de développer et de déployer l’IA agentique. Par ailleurs, il est à noter que plus d’une personne sur quatre (26 %) augmente ces budgets de plus de 50 %. Il est également intéressant de constater que 79 % des entreprises ayant adopté l’IA affirment que leurs employés utilisent déjà cette technologie dans leur activité quotidienne.

Cependant, la majorité des entreprises (68 %) indiquent que moins de la moitié de leurs employés interagissent avec des agents dans le cadre de leurs activités quotidiennes. « Peu d’entreprises connectent les agents à travers les flux de travail et les fonctions, alors que c’est là que réside la valeur réelle », affirment les chercheurs de PwC.

Quels seront les facteurs clés de succès pour que l’IA agentique, au-delà des promesses de productivité et de réduction des coûts, qui sont la marque de fabrique de toutes les technologies précédentes, soit un outil efficace ? Les experts et les dirigeants du secteur commercial reconnaissent l’importance de se concentrer sur des éléments tels que la confiance, la préparation des employés, les données et la culture d’entreprise. « L’essor rapide de l’IA et des modèles agentiques démocratisera la technologie comme jamais auparavant », prévoit Elise Houlik, responsable de la protection de la vie privée chez Intuit. Ils sont déjà largement appliqués dans « une myriade de disciplines, y compris la création de campagnes de marketing, l’examen des contrats et la conformité réglementaire. »

Cependant, de nombreuses organisations pourraient ne pas être prêtes à adopter ces avantages à grande échelle. « L’état de préparation des entreprises et de leurs équipes technologiques à l’intégration de solutions d’IA aussi avancées varie considérablement », a déclaré Kwamie Dunbar, professeur associé de finance à l’Institut polytechnique de Worcester. « Cette disparité souligne la reconnaissance des avantages potentiels de l’IA, tempérée par une approche délibérée de sa mise en œuvre. »

« De nombreuses organisations ne sont pas entièrement préparées à l’intégration de ces technologies avancées », a convenu Leonard Kim, chef de produit chez Hyland. Les mises en œuvre de l’IA agentique doivent inclure « l’amélioration des compétences des équipes pour combler le fossé des connaissances en matière d’IA », a déclaré M. Kim. En outre, « l’IA doit être considérée comme un outil permettant d’améliorer les capacités humaines plutôt que de les remplacer ».

L’intégration de l’IA agentique dans les flux de travail existants « exige des changements substantiels dans les processus et la culture organisationnels », a déclaré M. Dunbar. En outre, un « manque de préparation des données » a été identifié. Les systèmes d’IA requièrent des données cohérentes, claires et bien structurées pour fonctionner de manière optimale.

L’IA agentique, qui facilite les applications autonomes et optimise leur valeur ajoutée, requiert un renforcement de « l’alignement interfonctionnel entre les équipes technologiques, commerciales et de conformité », a déclaré Prashant Kelker, directeur de la stratégie chez ISG.

La confiance dans les agents autonomes d’IA représente un autre défi, comme le révèle l’enquête de PwC. Selon une récente étude, 39 % des cadres expriment des réserves quant à la délégation de tâches à des collaborateurs, tandis que 35 % s’inquiètent de la gestion de la surveillance et de la responsabilité humaine.

Pour renforcer la confiance dans la libération d’agents autonomes sur des flux de travail critiques, les entreprises à la pointe de l’IA agentique doivent relever un défi majeur : trouver le juste équilibre entre autonomie et contrôle par l’utilisateur, a déclaré Ashok Srivastava, directeur des données chez Intuit. Pour répondre aux attentes de nos clients, nous devons intégrer une transparence adaptative, des garanties éthiques et un apprentissage contextuel. Ainsi, nous pourrons les aider à prendre les bonnes décisions.

À cette fin, M. Kelker préconise la mise en œuvre de « mécanismes de sécurité » au sein des systèmes d’agents. « Dans le cadre de notre démarche d’amélioration continue, nous nous concentrons sur la conception de systèmes d’annulation pour reprendre le contrôle en cas de comportement indésirable de l’agent. » Cela inclut la création « d’environnements de simulation, ainsi que de simulateurs sur mesure pour tester le comportement des agents dans des conditions contrôlées ».

Cette démarche s’inscrit dans une vision stratégique où la confiance est gérée par une collaboration fluide entre l’homme et l’intelligence artificielle, visant à optimiser l’efficacité tout en préservant l’autorité de l’utilisateur, comme l’a souligné M. Srivastava. La capacité des systèmes d’IA agentique à planifier, raisonner et exécuter des tâches de manière autonome ne sera pas pertinente sans confiance. « La capacité à atteindre cet équilibre délicat s’avère déterminante pour la réussite durable des entreprises fondées sur l’IA », a-t-il affirmé.

Une contribution de Joe McKendrick pour Forbes US – traduit par Lisa Deleforterie

À lire également : L’IA transforme le monde du travail à une vitesse que les entreprises peinent à suivre