Canada: Le gouvernement a affirmé qu'il pourrait envisager de nouvelles régulations pour les agents conversationnels IA si OpenAI n'améliore pas ses protocoles de sécurité

Le gouvernement canadien a affirmé mercredi qu'il pourrait envisager de nouvelles régulations pour les agents conversationnels IA si OpenAI n'améliore pas ses protocoles de sécurité.

Le concepteur de ChatGPT étant accusé de ne pas avoir signalé aux autorités l'activité sur la plateforme de l'autrice d'une tuerie qui a marqué le pays. De hauts responsables du géant américain de l'intelligence artificielle générative étaient convoqués à Ottawa.

Le gouvernement fédéral reproche à ChatGPT de ne pas avoir transmis à la police des messages écrits au chatbot par Jesse Van Rootselaar, la jeune femme qui a tué huit personnes début février à Tumbler Ridge, dans l'ouest du pays. OpenAI a confirmé avoir fermé son compte en raison de questions liées à des activités violentes mais n'a pas transmis ces informations à la police canadienne. Si l'entreprise ne prend pas de mesures, le gouvernement le fera, a menacé le ministre de la Justice Sean Fraser.

«Le message que nous avons transmis, sans la moindre ambiguïté, est que nous nous attendons à ce que des changements soient mis en oeuvre et que, s'ils ne sont pas introduits très rapidement, le gouvernement se chargera lui-même d'en apporter», a-t-il déclaré, selon des propos rapportés par la presse canadienne.

«Au cours des derniers mois, nous avons pris des mesures pour renforcer nos garde-fous et avons modifié notre protocole de signalement aux forces de l'ordre pour les cas impliquant des activités violentes», a déclaré un porte-parole de l'entreprise dans un communiqué transmis à l'AFP.

«Mais les ministres ont souligné que les Canadiens s'attendent à la poursuite d'actions concrètes, et nous avons reçu ce message cinq sur cinq,» ajoute le communiqué, évoquant de possibles «mesures supplémentaires».