OpenAI, Anthropic et Google DeepMind travaillent ensemble à la création d’un nouvel organe chargé de superviser les risques liés au développement de l’intelligence artificielle et ses dérives

OpenAI, Anthropic et Google DeepMind travaillent ensemble à la création d’un nouvel organe chargé de superviser les risques liés au développement de l’intelligence artificielle, dans un contexte marqué par des appels croissants à mieux encadrer cette technologie.

Cette initiative vise notamment à renforcer la surveillance des éventuelles dérives associées aux systèmes d’IA les plus avancés. Les modalités précises de fonctionnement et les pouvoirs dont disposerait cette future structure restent toutefois à définir.

L’idée aurait initialement été proposée par Demis Hassabis, dirigeant de Google DeepMind, avant son passage à la présidence de l’entreprise au début du mois d’août. Celui-ci avait suggéré la mise en place d’une organisation commune permettant aux principaux acteurs du secteur de mieux encadrer leurs activités.

Le modèle envisagé s’inspirerait notamment de la Financial Industry Regulatory Authority (FINRA), l’organisme américain d’autorégulation chargé de superviser une partie de l’industrie financière. Cette approche permettrait ainsi au secteur de l’intelligence artificielle de se doter de mécanismes communs de contrôle face à des technologies dont les capacités progressent rapidement.