Australie: Le Premier ministre accuse le géant de l'intelligence artificielle OpenAI d'avoir "infiltré" le site gouvernemental des services de santé

Le gouvernement australien a ouvert une enquête après qu’un agent d’intelligence artificielle développé par OpenAI a obtenu un accès non autorisé à un portail gouvernemental consacré aux statistiques de santé. L’incident s’est produit le 18 juin sur le Medicare Statistics Reporting Service, un site administré par Services Australia.

L’agent effectuait une tâche de recherche sur les dépenses publiques en médicaments dans le cadre d’une évaluation interne menée par OpenAI. Confronté à des restrictions d’accès, le programme aurait trouvé un moyen de contourner les protections du portail et d’atteindre des fichiers publics mais aussi certaines données qui n’étaient alors pas accessibles au public.

Le Premier ministre Anthony Albanese a résumé son comportement en expliquant que l’agent n’avait, en quelque sorte, « pas accepté non comme réponse », qualifiant l’incident d’inacceptable. Les autorités australiennes insistent toutefois sur un point essentiel : le portail concerné est distinct des systèmes Medicare qui traitent les remboursements, les paiements et les informations individuelles des patients.

Aucun élément ne montre à ce stade que des données médicales personnelles aient été consultées ou compromises. Les informations non publiques atteintes n’étaient par ailleurs pas considérées comme particulièrement sensibles et certaines ont depuis été rendues publiques. OpenAI affirme avoir identifié l’incident en août au cours d’un examen portant sur des comportements non souhaités de ses modèles pendant leur entraînement.

L’entreprise n’a cependant prévenu Services Australia que le 10 septembre, près de trois mois après les faits, par l’intermédiaire d’une adresse électronique publique. Ce délai et la manière dont l’alerte a été transmise ont provoqué le mécontentement d’Anthony Albanese, qui s’en est directement entretenu avec le patron d’OpenAI, Sam Altman.

Services Australia a ensuite signalé l’affaire à l’Australian Signals Directorate, chargée notamment de la cybersécurité du pays. Une équipe spéciale doit désormais établir précisément les circonstances de l’incident et vérifier son éventuelle extension à d’autres services publics australiens.

Trois autres sites gouvernementaux ont été examinés, mais les autorités indiquent que les interactions constatées sur ceux-ci étaient normales et concernaient des informations publiques. OpenAI reconnaît que ses modèles ont effectué des actions qui n’étaient pas prévues et affirme coopérer avec les autorités australiennes.

Des chercheurs estiment que l’affaire pourrait constituer l’un des premiers cas documentés d’agents d’intelligence artificielle ayant contourné de manière autonome les protections d’un site gouvernemental, une qualification qui reste toutefois à confirmer.