MidJourney met fin à l'accès gratuit de son générateur d'images IA suite à l'explosion de deep fakes

Adieu aux deep fakes gratuits : la célèbre plateforme de génération d'images à partir de texte suspend ses services pour lutter contre les deep fakes

Midjourney, la société à l'origine de la célèbre plateforme de génération d'images à partir de texte, a annoncé la suspension de l'accès gratuit à son service en raison de l'augmentation des deep fakes créés grâce à sa technologie. La décision a été prise suite à une demande exceptionnelle et à des abus de la version d'essai gratuite.

Les deep fakes : amusement ou menace ?

Un deep fake est une image, vidéo ou enregistrement audio qui semble réaliste, mais qui a été créé ou modifié par une IA pour montrer des personnes réelles faisant ou disant des choses qu'elles n'ont jamais faites. Si les deep fakes peuvent être utilisés pour s'amuser ou se divertir, ils peuvent également propager de fausses informations, influencer les opinions ou nuire à la réputation des personnes concernées.

Des exemples récents de deep fakes

Plus tôt cette semaine, des photos du pape François portant une veste blanche très tendance et un collier serti de diamants ont fait le tour du web. La semaine dernière, alors que les médias rapportaient que l'ancien président américain Donald Trump était sur le point d'être arrêté à New York, des photos sont devenues virales montrant l'ex-président poursuivi par la police. Dans les deux cas, les images semblaient encore plus crédibles que celles créées par des experts en retouche d'image.

Les plateformes d'IA face aux deep fakes

De nombreux sites de génération d'images par IA, dont Midjourney et Playground AI, ont déjà mis en place des restrictions sur les contenus à caractère sexuel. Cependant, la question de l'utilisation acceptable des deep fakes reste un sujet de débat, car ces plateformes produisent des photographies qui ne sont pas réelles.

L'impact de la suspension de l'accès gratuit

Les abonnements Midjourney varient de 10 à 60 dollars par mois, en fonction de la puissance de traitement et des fonctionnalités requises par l'utilisateur, y compris la possibilité d'exécuter des travaux simultanés. La plateforme propose également des plans d'abonnement annuels. Il n'est pas encore clair comment la fermeture de l'offre gratuite résoudra le problème, car les conditions d'utilisation de Midjourney interdisent déjà les images offensantes de célébrités ou de personnalités publiques.