08/06 16:31

Les garde-fous d'un outil populaire d'intelligence artificielle générateur d'images peuvent être facilement contournés pour créer de fausses images des candidats à la présidentielle américaine

Les garde-fous d'un outil populaire d'intelligence artificielle générateur d'images peuvent être facilement contournés pour créer de fausses images des candidats à la présidentielle américaine, s'est inquiété un groupe de recherche qui a mené des tests.

A cinq mois du duel entre Joe Biden et Donald Trump, de nombreux acteurs du secteur s'inquiètent que les outils de l'IA générative, accessibles à n'importe qui et capables de produire de fausses images troublantes de réalité, ne perturbent la campagne. Deux des grands modèles d'IA générateurs d'images, Midjourney et ChatGPT, dotés de garde-fous, ont été testés par l'organisation Center for Countering Digital Hate (CCDH), basée à Washington et au Royaume-Uni.

Midjourney a échoué dans 40% des cas à empêcher l'utilisateur de créer de toute pièce une fausse image d'un responsable politique -- un chiffre qui monte à environ 50% pour MM. Biden et Trump --, selon le rapport du CCDH, qui estime que les garde-fous de ce modèle "échouent plus souvent" que d'autres. A l'inverse, a relevé le groupe, ChatGPT (OpenAI) a échoué à bloquer ces créations dans uniquement 3% des cas.

Midjourney a pourtant récemment bloqué les demandes de création d'images incluant MM. Biden ou Trump, selon des spécialistes. Mais accoler un simple signe de ponctuation à leur nom ou les décrire sans les nommer semble contourner ce blocage, selon CCDH, qui dénonce un outil "bien trop facile à manipuler".

En janvier, un message diffusé par appels téléphoniques automatisés usurpant la voix du président Joe Biden incitait les électeurs démocrates de l'Etat du New Hampshire (nord-est) à s'abstenir lors des primaires pour du parti, un événement qui avait inquiété à Washington.

Ailleurs sur le web

Vos réactions

Portrait de COLIN33
8/juin/2024 - 21h11 - depuis l'application mobile

vrai ou faux tant que TRUMP n'est pas neutralisé on peut s'attendre à tout

Portrait de Koikilencoute
8/juin/2024 - 19h55

Ah ok... donc Biden sénile c'était de fausses images. Ouf, je suis rassuré.