L’ONU alerte sur la nécessité d’élaborer rapidement une gouvernance de l’intelligence artificielle, affirmant que l’IA "pourrait faire peser un risque existentiel sur l’humanité"

Le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, a lancé lundi un avertissement face au développement accéléré de l’intelligence artificielle.

Devant le Conseil des droits de l’homme à Genève, il a estimé que les progrès de cette technologie imposaient désormais la mise en place urgente de règles internationales. « Je partage les inquiétudes des acteurs du secteur selon lesquelles l’IA avancée pourrait faire peser un risque existentiel sur l’humanité », a-t-il déclaré.

Volker Türk réclame ainsi un effort général pour instaurer de solides garanties concernant la sûreté et la sécurité des systèmes d’intelligence artificielle « avant qu’il ne soit trop tard ». Le responsable onusien s’inquiète notamment de la concentration d’un pouvoir technologique considérable entre les mains d’un nombre extrêmement réduit d’entreprises et de dirigeants.

Il estime qu’une « poignée d’hommes » dispose aujourd’hui d’un pouvoir presque illimité sur des technologies dotées de capacités informatiques considérables. Pour le Haut-Commissaire, attendre davantage avant d’instaurer une véritable gouvernance internationale profiterait principalement aux géants de la technologie, à leurs propriétaires et à leurs soutiens.

Parmi les scénarios préoccupants, il évoque des intelligences artificielles capables de sortir de leur environnement de test ou de tenter d’empêcher leurs développeurs de les désactiver. Volker Türk juge que de tels comportements constitueraient le signe de systèmes devenus trop puissants et nécessitant des mécanismes de contrôle beaucoup plus stricts.

Il doit d’ailleurs écrire dans les prochains jours aux principales entreprises développant des modèles d’IA afin de leur demander de prendre immédiatement des mesures supplémentaires pour réduire les risques.

Le responsable de l’ONU souhaite également que les pays hébergeant les principales entreprises d’intelligence artificielle et ceux participant à leurs chaînes d’approvisionnement définissent ensemble des « lignes rouges ». Ces règles devraient s’accompagner de systèmes indépendants de vérification et d’une coopération beaucoup plus importante entre les entreprises en matière de sécurité.