Midjourney peut-il faire NSFW?

La génération d’œuvres d’art IA a fait parler de lui grâce à des modèles comme DALL-E, Stable Diffusion et Midjourney . Bien que ces outils puissent être amusants à utiliser, l’une des principales préoccupations des utilisateurs est de savoir comment ils pourraient également être utilisés pour créer du contenu nuisible ou NSFW. Pour l’inconnu, le contenu NSFW fait généralement référence à du matériel contenant du contenu sexuel ou graphique qui peut ne pas convenir à certains publics ou environnements de travail.

Dans cet article, nous allons explorer si oui ou non l’un de ces outils – Midjourney peut être utilisé pour créer et partager du contenu NSFW, et quelles sont les politiques de la plate-forme concernant ce type de contenu.

Midjourney autorise-t-il le contenu NSFW ?

Les directives de la communauté de Midjourney avertissent que les créations effectuées sur la plate-forme doivent être appropriées au PG-13 pour garantir que son outil est accessible à un groupe d’utilisateurs plus large. Ces directives avertissent spécifiquement les utilisateurs :

Ces restrictions ne s’appliquent pas seulement aux propres serveurs de Midjourney, mais également aux serveurs privés qui utilisent le Midjourney Bot. Vous ne pouvez pas créer de telles images en mode privé ou lorsque vous communiquez via un message direct avec le bot AI.

Comment Midjourney bloque-t-il le contenu NSFW ?

Pour empêcher les utilisateurs de créer du contenu NSFW, Midjourney interdit l’utilisation de certains langages et comportements sur sa plateforme en interdisant les mots et expressions qui pourraient être utilisés pour créer des images nuisibles ou offensantes. Le langage interdit peut parfois inclure certains mots qui peuvent ne pas être populaires auprès de tout le monde, mais qui peuvent autrement être utilisés pour générer des images qui, dans un sens plus large, peuvent être considérées comme inappropriées, offensantes ou nuisibles.

Par exemple, Midjourney empêche les entrées de texte contenant l’emoji pêche qui n’est pas offensant en soi, mais peut être utilisé avec d’autres mots clés susceptibles de générer du contenu NSFW. Cette mesure a été prise car le Midjourney Bot peut ne pas comprendre certaines langues de la même manière qu’un humain.

Lorsque vous saisissez un mot ou une phrase interdit(e) par Midjourney, vous verrez un avertissement « Invite interdite » sur Discord avec un message indiquant quel mot ou phrase est interdit(e) d’être utilisé(e) avec Midjourney. Si quelqu’un contourne cette invite ou enfreint les directives de la communauté, il recevra un avertissement du modérateur de sa communauté. Pour les violations répétées, Midjourney mettrait en place un délai d’attente temporaire pour accéder à son chatbot ou les empêcherait définitivement d’utiliser son service.

Pouvez-vous créer du contenu NSFW sur Midjourney ?

Bien que Midjourney ait mis en place des restrictions pour empêcher l’affichage du contenu NSFW, certaines invites peuvent générer involontairement des images non PG-13. Cela peut se produire lorsque les invites de saisie contiennent des mots qui n’ont pas encore été interdits mais qui peuvent être interprétés par l’IA pour créer des images qui peuvent ne pas être appropriées.

Étant donné que l’apprentissage automatique n’est pas aussi simple que les humains et manque de connaissances sur le monde réel, les gens peuvent trouver de nombreuses façons différentes de générer du contenu NSFW en utilisant différents mots-clés. Si vous pensez qu’une image que vous avez créée n’est pas appropriée pour être hébergée sur Midjourney, vous pouvez toujours la contrôler vous-même en la signalant vous-même. Cela peut être fait en utilisant la réaction emoji ❌ sur une image générée ou en cliquant avec le bouton droit sur le contenu et en allant dans Apps > Cancel/Report Job .

Lorsque vous signalez une création à Midjourney, elle sera envoyée au modérateur de la communauté pour examen. Cela aidera Midjourney à ajouter certains mots de votre invite à sa liste de mots interdits et à empêcher les autres de profiter de son bot AI pour générer du contenu NSFW. Si Midjourney découvre que vous utilisez à plusieurs reprises des invites qui enfreignent ses directives, vous pouvez vous voir accorder un délai d’attente avant d’utiliser le bot ou être complètement empêché d’utiliser le service.

C’est tout ce que vous devez savoir pour savoir si Midjourney peut créer du contenu NSFW.