Trois anciens chercheurs d'OpenAI, l'entreprise américaine à l'origine de ChatGPT, mettent en garde contre le développement de systèmes d'intelligence artificielle dont le fonctionnement deviendrait impossible à surveiller

Trois anciens chercheurs d'OpenAI, l'entreprise américaine à l'origine de ChatGPT, mettent en garde contre le développement de systèmes d'intelligence artificielle dont le fonctionnement deviendrait impossible à surveiller.

Jasmine Wang, Tomek Korbak et Mikita Balesni ont adressé une lettre au conseil d'administration de l'entreprise et à ses comités de sécurité, dont plusieurs extraits ont été révélés. Licenciés début octobre, ils sont accusés par leur ancien employeur d'avoir transmis des informations confidentielles à une organisation extérieure spécialisée dans la sécurité de l'intelligence artificielle.

Les trois chercheurs contestent cette version des faits, affirmant avoir agi dans le cadre de leurs missions professionnelles. Ils dénoncent également les conséquences de leur éviction sur leurs anciens collègues, estimant que ces licenciements « refroidissent ceux qui restent chez OpenAI ».

Leur principale inquiétude concerne la possibilité de suivre les différentes étapes du raisonnement des modèles d'intelligence artificielle les plus avancés. « En tant qu'industrie, nous ne savons pas encore comment développer et déployer en toute sécurité des modèles que nous ne pouvons pas surveiller », avertissent-ils dans leur lettre.

Ils appellent donc OpenAI et ses concurrents à ne pas poursuivre des développements qui réduiraient davantage cette capacité de surveillance. Les chercheurs réclament également une coopération renforcée avec des organismes indépendants chargés d'évaluer la sécurité des systèmes d'intelligence artificielle. Selon eux, l'absence de contrôles suffisamment transparents pourrait empêcher de détecter certains comportements dangereux avant qu'ils ne provoquent des conséquences graves.

OpenAI rejette toutefois les accusations de représailles, assurant que les licenciements ne sont pas liés aux inquiétudes exprimées par les chercheurs sur la sécurité. L'entreprise affirme qu'une enquête interne a établi des manquements aux règles encadrant l'accès et le traitement des informations sensibles.

Dans une communication interne, la direction de la recherche a néanmoins indiqué partager « pleinement » les recommandations formulées dans la lettre. Cette affaire intervient dans un contexte de préoccupations croissantes concernant l'autonomie des agents d'intelligence artificielle et la difficulté de contrôler certaines de leurs actions.