L’ONU appelle à une "action urgente" pour encadrer l’intelligence artificielle face aux "risques sans précédent" posés par les systèmes les plus avancés

L’ONU appelle les États et les entreprises technologiques à se mobiliser « de toute urgence » face aux risques « sans précédent » que pourrait provoquer le développement accéléré de l’intelligence artificielle.

Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, estime que la course actuelle vers des systèmes toujours plus puissants fait peser une menace sur l’ensemble des droits fondamentaux.

Le droit à la vie, à la santé, à l’alimentation, à la vie privée ou encore à la sécurité pourrait être affecté si les technologies les plus avancées échappaient aux mécanismes de contrôle. L’une des principales inquiétudes concerne l’essor de l’IA dite « agentique », capable d’accomplir des tâches complexes et de prendre certaines décisions avec une autonomie croissante.

Selon l’ONU, des défaillances de ces systèmes pourraient aller jusqu’à paralyser des services essentiels, perturber les communications et déstabiliser des infrastructures critiques.

Des populations entières pourraient alors se retrouver temporairement privées d’eau, de chauffage ou encore de services financiers. Volker Türk redoute également des conséquences majeures pour les démocraties, notamment en raison des capacités de manipulation, de désinformation et d’influence permises par ces technologies.

Le Haut-Commissaire alerte parallèlement sur leur utilisation dans les conflits, estimant que l’IA accélère déjà le rythme des guerres et contribue à abaisser certaines barrières protégeant contre l’emploi d’armes particulièrement dangereuses.

Cette mise en garde intervient alors que des personnalités majeures du secteur technologique expriment elles-mêmes leurs inquiétudes face à la rapidité des progrès.

Le patron d’Anthropic, Dario Amodei, a ainsi appelé à ralentir le développement des modèles les plus avancés, tandis que Sam Altman et Elon Musk ont également publiquement évoqué les risques associés à une perte de contrôle.

Pour Volker Türk, laisser une poignée d’entreprises déterminer seules le niveau de risque acceptable pour l’ensemble de la société n’est plus tenable. L’ONU réclame donc des règles internationales, des contrôles indépendants et des « lignes rouges » communes aux pays qui développent ou participent aux chaînes d’approvisionnement de ces technologies.

Le Haut-Commissaire estime qu’aucun État ne peut réglementer seul une technologie dont les modèles, les infrastructures et les conséquences dépassent largement les frontières nationales. Il refuse également que les citoyens soient contraints de sacrifier leurs droits fondamentaux au nom des bénéfices économiques et technologiques promis par l’intelligence artificielle.

Pour l’ONU, l’urgence consiste désormais à construire une gouvernance mondiale de l’IA fondée sur le droit international avant que les capacités des systèmes ne progressent encore davantage que les dispositifs destinés à les contrôler.