Les photos Deepfake approchent rapidement du point où beaucoup ne peuvent pas faire la différence entre elles et les images réelles. C’est une leçon que le générateur d’images AI Midjourney a apprise à ses dépens lorsque certains ont utilisé sa plateforme pour créer plusieurs images récentes, dont plusieurs faux de l’arrestation de l’ancien président américain Donald Trump. Après que les images soient devenues virales, beaucoup pensaient qu’elles étaient réelles, déclenchant des conversations et des controverses basées sur des informations complètement fabriquées.
Selon Le Washington Post et rapporté par Le bordces deepfakes sont devenus si répandus qu’ils ont incité Midjourney à interrompre les essais gratuits le 28 mars. Cependant, lorsque TechRadar a contacté le PDG et fondateur de Midjourney, David Holz, pour obtenir des éclaircissements, il a insisté sur le fait qu’il y avait une autre raison à l’arrêt : « Les utilisateurs s’inscrivant pour plusieurs comptes d’essai gratuits réduisait le service pour les utilisateurs payants, c’est pourquoi nous avons temporairement interrompu les essais gratuits.
Cela est en corrélation avec une déclaration précédente que Holz a faite à The Verge concernant les essais gratuits, selon laquelle cela était dû à « une demande extraordinaire et à un abus d’essai ». Auparavant, l’essai gratuit de Midjourney permettait 25 images gratuites par mois avant que les utilisateurs ne paient au moins 10 $ par mois d’abonnement.
Interrogé sur la création de ces deepfakes controversés créés via Midjourney, Holz a déclaré à TechRadar : « Je pense que nous essayons toujours de déterminer quelles sont les bonnes politiques de modération. Nous prenons les commentaires des experts et de la communauté et essayons d’être vraiment réfléchis. Nous avons déjà de nouveaux systèmes à venir qui devraient être livrés bientôt. »
Maintenant, cependant, il semble que Midjourney sera garder les essais gratuits désactivés, du moins dans l’immédiat. « Nous avons essayé de réactiver les essais avec de nouvelles sécurités contre les abus, mais elles ne semblaient pas suffisantes, nous les réactivons donc pour maintenir le service pour tous les autres », nous a dit Holz.
Il a ajouté que les essais gratuits reviendront éventuellement, mais la société réfléchit toujours à la manière de procéder. « Nous essayons toujours de comprendre comment ramener les essais gratuits, nous avons essayé d’exiger un e-mail actif mais cela ne suffisait pas, nous sommes donc de retour à la planche à dessin. »
Qu’est-ce que Midjourney ?
Midjourney n’est qu’un des nombreux générateurs d’images d’IA, avec d’autres comme Dall-E, Jasper Art, Starry AI, Stable Diffusion et bien d’autres. Ces sites existent pour créer de nouvelles images entièrement fabriquées qui sont formées sur des images et des données en ligne existantes. Les images peuvent être des images photoréalistes et fantaisistes d’animaux, des images surréalistes, du pixel art, etc. À l’origine, ce qui distinguait Midjourney des autres générateurs était la qualité plus proche de la peinture de ses images par rapport aux autres. Du moins jusqu’à la sortie de la version 5 le 15 mars.
Au départ, les images créées par Midjourney étaient facilement repérables grâce à des signes communs comme des mains bancales (trop de doigts). Mais une fois la version 5 de son logiciel lancée, les images sont devenues de qualité largement supérieure, ce qui signifie que les gens pouvaient créer des images avec des mains plus réalistes, ainsi qu’un meilleur éclairage et un meilleur tissu. Essentiellement, vous pouvez créer des tonnes de deepfakes de célébrités et d’autres personnalités publiques grâce à la combinaison d’une meilleure technologie et du grand nombre d’images réelles disponibles pour la formation Midjourney.
Les deepfakes, ou photos créées à l’aide de la technologie de l’IA dans le but de diffuser de fausses informations avec de fausses images, sont devenus un problème croissant. Au-delà des deepfakes d’arrestation de Donald Trump, d’autres créés avec Midjourney mettaient en vedette le pape François portant un manteau de duvet blanc gonflé, le président français Emmanuel Macron traversant les manifestations en cours à Paris et le PDG de Twitter, Elon Musk, tenant la main de la représentante américaine Alexandria Ocasio-Cortez.
Ce n’est pas la première fois que les créations générées par l’IA sont au centre de la controverse, car des leaders technologiques et des experts en IA ont récemment publié une lettre ouverte appelant à la arrêt de la formation des chatbots IA comme ChatGPT.
L’avenir des sites d’images générés par l’IA comme Midjourney est incertain. Bien que la technologie ait un grand potentiel pour aider les humains, elle peut et a déjà été utilisée de manière plus destructrice. Seul le temps nous dira si les garanties, des législateurs aux entreprises elles-mêmes, peuvent gérer la sécurité et le bien public, tout en permettant à l’IA de prospérer et de se développer.