Image créée par Intelligence artificielle.
L’intelligence artificielle s’impose désormais dans tous les pans de la société, des écoles aux hôpitaux, des réseaux sociaux aux systèmes d’armes. Face à cette accélération, le Secrétaire général de l’ONU, António Guterres, estime que le monde ne peut plus se contenter d’une réglementation fragmentée. À l’ouverture du premier Dialogue mondial sur la gouvernance de l’IA, lundi à Genève, il a appelé les États à bâtir une architecture internationale capable d’encadrer une technologie dont les effets dépassent désormais les frontières nationales.
«Les machines peuvent éclairer les décisions, mais les êtres humains doivent décider… et en répondre», a déclaré le chef des Nations Unies, plaidant pour une gouvernance mondiale «digne de la confiance de tous».
Le message a trouvé un écho immédiat auprès de l’envoyé spécial des Nations Unies pour les technologies numériques et émergentes, Amandeep Singh Gill. «L’intelligence artificielle est trop importante pour être façonnée par une poignée d’acteurs», a-t-il affirmé, appelant à un dialogue mondial «inclusif et fondé sur des données probantes».
Un pacte mondial pour protéger les enfants
L’annonce la plus marquante de cette première journée concerne toutefois les plus jeunes. António Guterres a proposé l’adoption d’un engagement mondial pour la sécurité des enfants face à l’intelligence artificielle, qui pourrait devenir l’un des premiers piliers d’un futur cadre international sur l’IA.
Le texte défendu par le Secrétaire général prévoit notamment d’interdire la mise à disposition d’outils d’intelligence artificielle accessibles aux mineurs tant qu’ils n’ont pas fait l’objet d’une évaluation indépendante de leur sécurité. Il appelle également à une politique de tolérance zéro envers les contenus pédocriminels générés par l’IA et demande que les systèmes conversationnels orientent systématiquement les enfants vers une assistance humaine lorsqu’ils détectent des signes de détresse ou de souffrance psychologique.
«Aucun enfant ne devrait servir de cobaye pour une intelligence artificielle non réglementée», a insisté António Guterres. Pour illustrer son propos, il a établi un parallèle avec les normes de sécurité appliquées aux médicaments ou aux jouets. «Nous n’autorisons pas un médicament à être administré à un enfant tant que sa sécurité n’a pas été démontrée. Nous testons chaque jouet. Pourtant, l’IA est déjà entrée dans la vie de nos enfants – dans leur apprentissage, leurs amitiés, leurs interrogations les plus intimes – avant même que quiconque ne se demande quels effets elle pourrait avoir sur eux.»
La présidente de l’Assemblée générale des Nations Unies, Annalena Baerbock, a elle aussi alerté sur les risques déjà visibles. Citant des études récentes, elle a rappelé que 99 % des hypertrucages (deepfakes) diffusés sur Internet sont de nature sexuelle et que 96 % ciblent des femmes ou des filles, illustrant les nouvelles formes de violence rendues possibles par les outils génératifs.
Une technologie qui progresse plus vite que les règles
Au-delà de la protection de l’enfance, les dirigeants onusiens ont insisté sur le décalage grandissant entre la rapidité des avancées technologiques et la capacité des États à les encadrer. En moins de trois ans, l’IA générative a bouleversé les économies, les administrations et la vie quotidienne de centaines de millions de personnes. Mais cette diffusion accélérée s’accompagne de risques croissants: désinformation à grande échelle, cyberattaques, surveillance automatisée, discriminations algorithmiques ou encore perte de contrôle sur les systèmes les plus avancés.
Pour Yoshua Bengio, coprésident du groupe scientifique indépendant mandaté par l’Assemblée générale de l’ONU, les capacités des modèles continueront de progresser à un rythme soutenu. «Des tests extrêmement préoccupants ont montré que les modèles d’IA les plus avancés sont capables de tromper les êtres humains et de comprendre qu’ils sont en train d’être évalués», a-t-il expliqué.
Selon lui, ces évolutions pourraient profondément modifier les rapports de force internationaux. «Cela ressemble à de la science-fiction, mais c’est une possibilité bien réelle. Cela pourrait transformer le monde d’une manière que nous ne comprenons pas encore.»
Les conclusions du premier rapport du groupe scientifique, publié la semaine précédente, vont dans le même sens: les experts estiment que l’évolution de l’IA dépasse désormais la compréhension scientifique de ses risques ainsi que la capacité des gouvernements à adapter leurs cadres réglementaires.
Éviter une fracture mondiale de l’intelligence artificielle
Le Secrétaire général a également insisté sur la nécessité d’empêcher l’émergence d’une nouvelle fracture technologique entre pays développés et pays en développement. «Nous ne pouvons pas laisser la fracture numérique se transformer en fracture de l’intelligence artificielle, puis cette fracture devenir un fossé en matière de développement, de sécurité et de souveraineté», a-t-il averti.
Plus d’une vingtaine d’États soutiennent désormais une initiative des Nations Unies destinée à créer un réseau mondial de coopération afin d’aider les pays les moins avancés à développer leurs capacités dans le domaine de l’IA.
Le défi environnemental
L’ONU souhaite également que les entreprises du secteur rendent compte de l’impact environnemental de leurs systèmes. António Guterres a demandé que les grandes sociétés publient systématiquement les émissions de carbone, la consommation d’eau et l’occupation des sols liées à leurs modèles d’IA, tout en appelant à ce que les centres de données fonctionnent exclusivement avec des énergies renouvelables d’ici 2030.
Selon lui, les infrastructures de l’intelligence artificielle pourraient, à cette échéance, consommer davantage d’électricité que tous les pays du monde à l’exception de cinq et utiliser suffisamment d’eau pour couvrir pendant une année entière les besoins de l’ensemble de la population d’Afrique subsaharienne.
Vers un droit international de l’IA
Le Dialogue mondial organisé les 6 et 7 juillet à Genève marque une nouvelle étape dans les efforts des Nations Unies pour construire une gouvernance mondiale de l’intelligence artificielle. Après la création d’un groupe scientifique indépendant en 2023 puis l’adoption, en 2024, du Pacte pour l’avenir et du Pacte numérique mondial, cette rencontre ouvre un nouveau cycle de négociations réunissant gouvernements, entreprises technologiques, chercheurs et organisations de la société civile. Un second dialogue est déjà programmé en mai 2027 à New York.
Pour les Nations Unies, l’objectif est désormais clair: faire entrer progressivement l’intelligence artificielle dans le champ du droit international, avant que les évolutions technologiques ne rendent toute régulation impossible.
