Faut-il interdire l'IA générative au bureau ?

L’IA générative, telle que ChatGPT d’OpenAI, a le potentiel de révolutionner la productivité et l’efficacité sur le lieu de travail. Certaines entreprises, comme IBM et Spotify, ont intégré des outils d’IA générative dans leurs flux de travail.

Mais d’autres font preuve de prudence, du moins dans un premier temps, en raison de cas de désinformation et d’atteintes à la protection des données.

Un cas notable concerne un avocat qui a utilisé ChatGPT pour des citations juridiques dans une affaire contre la compagnie aérienne colombienne Avianca. La plateforme d’IA a cité six affaires qui n’existaient pas, ce qui a soulevé des questions quant à la fiabilité et à l’exactitude de ces systèmes.

Dans une démarche qui a suscité un débat dans les secteurs de la technologie et de la finance, de grandes entreprises, dont Apple, Samsung et Verizon, et de grandes banques américaines, telles que Bank of America, Citicorp et JPMorgan Chase, ont interdit l’utilisation de l’IA générative sur le lieu de travail.

Cette décision s’inscrit dans un contexte de préoccupations croissantes concernant la protection de la vie privée, la précision et les implications juridiques potentielles. Mais l’interdiction de l’IA générative pourrait-elle entraîner un désavantage concurrentiel pour les entreprises ?

John Treadway, fondateur d’AI Technology Partners, explique les principales préoccupations des entreprises à l’égard de l’IA générative.

« La principale préoccupation de la plupart des clients est d’exposer les données des clients ou d’autres données confidentielles ou exclusives », explique John Treadway.

Il a également souligné les inquiétudes concernant le respect des protocoles de protection des données, la violation potentielle de la propriété intellectuelle et le risque de biais intégrés dans les modèles d’IA.

Malgré ces préoccupations, M. Treadway ne préconise pas une interdiction pure et simple de l’IA générative.

« Il y a tellement de valeur à gagner en termes de productivité qu’une interdiction totale pourrait vous faire perdre du terrain par rapport à vos concurrents », a-t-il déclaré.

Il suggère plutôt aux entreprises d’élaborer des principes et des lignes directrices en matière d’IA générative et de mettre en place des contrôles pour atténuer les risques.

Drew Romero, expert en cybersécurité chez Tkxel Corporation, a fait part de la décision de son entreprise d’interdire l’IA générative.

« Notre décision repose sur plusieurs facteurs. Tout d’abord, nous avons donné la priorité à la protection des données sensibles et de la propriété intellectuelle. L’IA générative a le potentiel de générer du contenu susceptible d’enfreindre les lois sur les droits d’auteur ou de divulguer des informations confidentielles par inadvertance », a expliqué M. Romero.

L’interdiction a touché tous les employés de Tkxel, en particulier ceux qui occupent des fonctions créatives telles que la génération de contenu et la conception. Toutefois, M. Romero estime que les avantages liés à la sécurité des données et aux pratiques éthiques l’emportent sur les inconvénients causés par l’interdiction.

Si la décision d’interdire l’IA générative a suscité des réactions mitigées, M. Treadway et M. Romero s’accordent à dire que cette technologie a le potentiel d’avoir un impact significatif sur les entreprises.

« L’IA générative a le potentiel d’avoir un impact sur presque toutes les fonctions de chaque entreprise, avec une amélioration de la productivité, de meilleurs résultats pour les clients et les employés, et de nouveaux modes d’interaction que nous n’avons même pas encore commencé à comprendre », a déclaré M. Treadway.

Alors que le débat se poursuit, l’avenir de l’IA générative sur le lieu de travail reste incertain. Alors que certaines entreprises pourraient suivre le mouvement et mettre en place des interdictions, d’autres pourraient choisir d’adopter la technologie, en se concentrant sur l’atténuation des risques et l’optimisation des avantages.

Comme le conclut M. Romero, « la possibilité de ramener l’IA générative au bureau n’est pas totalement exclue. Cependant, tout réexamen dépendrait des progrès de la technologie, des mesures de sécurité renforcées et de l’élaboration de lignes directrices éthiques qui répondent de manière adéquate aux préoccupations entourant l’IA générative ».

Article traduit de Forbes US – Auteur : Johan Moreno