Lorsqu’on évoque les progrès de l’intelligence artificielle, on pense souvent à ses innombrables bénéfices pour l’humanité. Mais comme toute innovation de rupture, elle recèle aussi son lot de dérives potentiellement inquiétantes. C’est ce que vient illustrer un phénomène préoccupant dévoilé par des chercheurs : l’exploitation abusive des générateurs d’images par certains spammeurs sur Facebook.
Le mode opératoire sournois des spammeurs exploitant l’IA générative
Derrière des airs anodins, leur mode opératoire déploie une redoutable ingéniosité. Tout commence par la création d’images surréalistes au moyen d’outils comme DALL-E ou Midjourney. Rien d’illégal jusque-là. Mais c’est la suite qui dénote un profond sens de la manipulation. En injectant ces visuels non étiquetés sur des pages Facebook, ils profitent de notre incapacité à distinguer le vrai du faux pour tromper les utilisateurs.
Une fois l’appât virtuel déployé, les manœuvres d’escrocs ou de diffuseurs de contenus douteux peuvent débuter. Certains réorientent vers des fermes à clics hors plateforme, d’autres arnaquent à la vente de produits inexistants, etc.
Quand l’algorithme du fil d’actualité devient complice involontaire
Si ces agissements interrogent, c’est aussi le rôle joué par Facebook lui-même qui laisse songeur. En effet, l’algorithme régissant les fils d’actualité semble encourager, bien malgré lui, la propagation de ces contenus indésirables. En privilégiant les interactions, il expose de plus en plus fréquemment aux utilisateurs des images générées par l’IA, même issues de pages qu’ils ne suivent pas.
Un engrenage pervers où, à mesure que ces visuels suscitent l’engagement et l’incompréhension des internautes de bonne foi, ils sont mécaniquement mis en avant par le système. Une faille de taille dans les processus de modération que les spammeurs exploitent à la perfection, au détriment de la confiance et de la transparence en ligne.
Reconquérir la transparence sur les réseaux pour déjouer les pièges de la désinformation
Au final, seule une réaction forte et concertée permettra de déjouer ces pièges de la désinformation induite par les avancées de l’IA générative. Des efforts d’étiquetage drastiques et un devoir de transparence sans failles.
Lire plus d’articles sur DigiTechnologie :
– Un ver IA attaque ChatGPT et Gemini, cliquez-ici
– Bilan sur le salon Viva Technology 2024, cliquez-ici
– Remettre l’humain au centre avec avec Kantree, cliquez-ici
– Google doit supprimer des données d’utilisateurs, cliquez-ici