Midjourney pode fazer NSFW?

A geração de arte de IA tem sido o assunto da cidade graças a modelos como DALL-E, Stable Diffusion e Midjourney . Embora essas ferramentas possam ser divertidas de usar, uma grande preocupação das pessoas é como elas também podem ser usadas para criar conteúdo nocivo ou NSFW. Para o desconhecido, o conteúdo NSFW geralmente se refere a material que contém conteúdo sexual ou gráfico que pode não ser adequado para determinados públicos ou ambientes de trabalho.

Nesta postagem, exploraremos se uma dessas ferramentas – Midjourney pode ou não ser usada para criar e compartilhar conteúdo NSFW e quais são as políticas da plataforma em relação a esse tipo de conteúdo.

O Midjourney permite conteúdo NSFW?

As diretrizes da comunidade do Midjourney advertem que as criações feitas na plataforma devem ser apropriadas para PG-13 para garantir que sua ferramenta seja acessível a um grupo mais amplo de usuários. Essas diretrizes advertem especificamente os usuários:

Essas restrições não se aplicam apenas aos próprios servidores do Midjourney, mas também aos servidores privados que usam o Midjourney Bot. Você não pode criar essas imagens usando o modo privado ou ao se comunicar por meio de uma mensagem direta com o bot AI.

Como o Midjourney bloqueia o conteúdo NSFW?

Para impedir que os usuários criem conteúdo NSFW, a Midjourney proíbe o uso de determinados idiomas e comportamentos em sua plataforma, proibindo palavras e frases que possam ser usadas para criar imagens nocivas ou ofensivas. Às vezes, a linguagem proibida pode incluir certas palavras que podem não ser populares entre todos, mas podem ser usadas para gerar imagens que, em um sentido mais amplo, podem ser consideradas inadequadas, ofensivas ou prejudiciais.

Por exemplo, Midjourney impede entradas de texto que contenham o emoji de pêssego, que em si não é ofensivo, mas pode ser usado junto com outras palavras-chave que podem gerar conteúdo NSFW. Essa medida foi tomada porque o Midjourney Bot pode não entender certos idiomas da mesma forma que um humano entenderia.

Ao inserir uma palavra ou frase banida pelo Midjourney, você verá um aviso de “Prompt banido” no Discord com uma mensagem destacando qual palavra ou frase foi proibida de ser usada no Midjourney. Se alguém contornar esse aviso ou violar as diretrizes da comunidade, receberá um aviso do moderador da comunidade. Para violações repetidas, a Midjourney implementaria um tempo limite temporário para acessar seu chatbot ou bloqueá-los permanentemente de usar seu serviço.

Você pode criar conteúdo NSFW no Midjourney?

Embora o Midjourney tenha restrições para impedir a exibição de conteúdo NSFW, alguns prompts podem gerar imagens não PG-13 involuntariamente. Isso pode acontecer quando os prompts de entrada contêm palavras que ainda não foram banidas, mas podem ser interpretadas pela IA para criar imagens que podem não ser apropriadas.

Como o aprendizado de máquina não é tão simples quanto os humanos e carece de conhecimento do mundo real, as pessoas podem encontrar muitas maneiras diferentes de gerar conteúdo NSFW usando palavras-chave diferentes. Se você acha que uma imagem que você criou é inadequada para ser hospedada no Midjourney, você sempre pode autopoliciá-la denunciando você mesmo. Isso pode ser feito usando a reação de emoji ❌ em uma imagem gerada ou clicando com o botão direito do mouse no conteúdo e acessando Aplicativos > Cancelar/Relatar trabalho .

Quando você relatar uma criação ao Midjourney, ela será enviada ao moderador da comunidade para revisão. Isso ajudará o Midjourney a adicionar certas palavras do seu prompt à lista de palavras proibidas e impedir que outras pessoas aproveitem seu bot AI para gerar conteúdo NSFW. Caso o Midjourney descubra que você está usando repetidamente prompts que violam suas diretrizes, você pode receber um tempo limite para usar o bot ou ser totalmente impedido de usar o serviço.

É tudo o que você precisa saber sobre se o Midjourney pode criar conteúdo NSFW.