Qui doit contrôler l’IA pour garantir une gouvernance globale, éthique et responsable ?

Un article écrit par Fernando DE AGUEDA, Vice President at Scalian, Head of Iberian Region

Réguler l’IA sans l’étouffer

Sur le plan géopolitique, l’intelligence artificielle est aujourd’hui fragmentée en trois blocs distincts, aux intérêts et aux approches diamétralement opposées. Nous avons les États-Unis qui abritent les géants de la tech (Meta, Open AI, Amazon, Google et Microsoft), et dominent l’innovation avec une logique de marché forte. La Chine, où l’intelligence artificielle est étroitement régulée par le gouvernement au risque d’une surveillance et d’un contrôle social. Enfin, l’Union Européenne, où l’innovation est nettement plus faible mais qui se distingue par un engagement éthique plus affirmé.

Cette division nous porte préjudice car elle entraîne une inégalité technologique brutale. Comment parvenir à une collaboration mondiale efficace pour réguler l’IA alors que nous sommes profondément divisés sur des questions aussi fondamentales ? Sans coopération, le développement d’une IA éthique au service de l’intérêt général est totalement impossible.

Nous devons avoir des règles à l’échelle mondiale, c’est indispensable. Si chaque pays établit ses propres règles, ce sera le chaos ! Certaines entreprises pourraient opérer sans aucunes restrictions tandis que d’autres seraient limitées.

Réglementation ne veut pas dire ralentissement de l’innovation, bien au contraire. Elle la renforce et permet de garantir la sécurité et la légitimité des pratiques aux yeux du grand public. Réglementer, c’est encourager une adoption plus large de l’IA.

Vers une gouvernance responsable

Au-delà de la problématique de sa régulation, se pose celle de sa gouvernance : qui doit contrôler l’intelligence artificielle ?

Les États devraient-ils disposer de leur propre IA en tant que ressource pour les citoyens ? Cela dépend du gouvernement. En théorie, l’idée d’une IA publique et gouvernementale capable d’améliorer l’efficacité de l’État en automatisant les processus administratifs, en optimisant les ressources et en facilitant l’accès aux services publics est alléchante. Cependant, dans la pratique, si le gouvernement manque de transparence et de fiabilité, quelles garanties avons-nous qu’il n’exploite pas l’IA à des fins de manipulation politique et de surveillance de masse ? 

Feriez-vous confiance à une IA gérée par votre gouvernement ? Pour être bénéfique, ce type d’IA devrait absolument respecter ces trois principes essentiels :

• Une transparence totale de son fonctionnement interne et externe
• Répondre à des normes éthiques strictes
• Garantir que les citoyens gardent un contrôle sur ses actions et ses décisions.

Toutefois, dans un climat aussi polarisé que le nôtre et où la méfiance à l’égard des institutions est grandissante, l’IA gouvernementale ressemble plus à une utopie qu’à une réalité viable.

Dans un tel contexte, se pose la question des interactions entre les États et les entreprises technologiques. Il nous faut impérativement une approche réfléchie et collaborative. D’un côté, laisser agir les entreprises sans supervision, c’est le risque de voir des intérêts privés influencer les intérêts publics. De l’autre, une mainmise de l’État pourrait mener à une instrumentalisation de l’IA comme outil de surveillance ou de manipulation des citoyens. L’idéal serait un modèle de collaboration règlementé où les entreprises pourraient partager des informations clés sans sacrifier l’innovation. Un partenariat gagnant-gagnant.

La question de savoir qui contrôle l’IA est fondamentale. Car selon la réponse, l’outil est au mieux un vecteur de progrès formidable ou au pire un instrument de contrôle redoutable. Nous sommes aujourd’hui à un tournant : Quel chemin souhaitons-nous suivre ?

À lire également : L’Europe doit bâtir un modèle de données IA qui lui ressemble