31/07 10:46

Twitter va récompenser les utilisateurs et chercheurs découvrant d'éventuels partis-pris, sexistes ou racistes par exemple, dans les algorithmes fonctionnant sur sa plateforme

Le réseau social Twitter a annoncé qu'il accorderait des récompenses aux utilisateurs et chercheurs découvrant d'éventuels partis-pris, sexistes ou racistes par exemple, dans les algorithmes fonctionnant sur sa plateforme.

Il s'agit, selon l'entreprise, de la première compétition sur le sujet, avec des prix allant jusqu'à 3.500 dollars.

L'idée est calquée sur les concours proposés par certains sites webs pour déceler des failles de sécurité, expliquent Rumman Chowdhury et Jutta Williams, deux responsables de l'entreprise, dans un message.

"Il est difficile de trouver des préjugés dans les modèles d'apprentissage automatique, et parfois, les entreprises découvrent qu'elles ont involontairement porté atteinte à l'éthique seulement après leur déploiement", expliquent ces responsables. "Nous voulons que cela change".

Dans le modèle développé pour déceler les failles de sécurité, les chercheurs tout comme les hackers ont aidé les responsables de la sécurité informatique "à établir des bonnes pratiques pour identifier et gérer les vulnérabilités afin de protéger le public", expliquent Rumman Chowdhury et Jutta Williams.

"Nous voulons développer une communauté similaire" pour déceler les partis-pris des algorithmes.

Twitter avait présenté en avril ses travaux en cours pour rendre plus éthiques les algorithmes qui sont à l'oeuvre dans les coulisses de la plateforme, une façon de répondre aux critiques sur les dangers liés à ces technologies.

Le réseau social avait quelques semaines plus tard renoncé à un algorithme recadrant les photos, ayant découvert qu'il était notamment légèrement biaisé en faveur des personnes blanches.

Ça peut vous interesser

Ailleurs sur le web

Vos réactions