¿Puede Midjourney hacer NSFW?

La generación de obras de arte de IA ha sido la comidilla de la ciudad gracias a modelos como DALL-E, Stable Diffusion y Midjourney . Si bien puede ser divertido jugar con estas herramientas, una de las principales preocupaciones de las personas es cómo también podrían usarse para crear contenido dañino o NSFW. Para los desconocidos, el contenido NSFW generalmente se refiere a material que contiene contenido sexual o gráfico que puede no ser adecuado para ciertas audiencias o entornos de trabajo.

En esta publicación, exploraremos si una de estas herramientas, Midjourney, se puede usar para crear y compartir contenido NSFW, y cuáles son las políticas de la plataforma con respecto a este tipo de contenido.

¿Midjourney permite contenido NSFW?

Las pautas de la comunidad de Midjourney advierten que las creaciones realizadas en la plataforma deben ser apropiadas para menores de 13 años para garantizar que su herramienta sea accesible para un grupo más amplio de usuarios. Estas pautas advierten específicamente a los usuarios:

Estas restricciones no solo se aplican a los propios servidores de Midjourney, sino también a los servidores privados que usan Midjourney Bot. No puede crear tales imágenes usando el modo privado o cuando se comunica a través de un mensaje directo con el bot de IA.

¿Cómo bloquea Midjourney el contenido NSFW?

Para evitar que los usuarios creen contenido NSFW, Midjourney prohíbe el uso de cierto lenguaje y comportamientos en su plataforma al prohibir palabras y frases que podrían usarse para crear imágenes dañinas u ofensivas. El lenguaje prohibido a veces puede incluir ciertas palabras que pueden no ser populares entre todos, pero que pueden usarse para generar imágenes que, en un sentido más amplio, pueden considerarse inapropiadas, ofensivas o dañinas.

Por ejemplo, Midjourney evita las entradas de texto que contienen el emoji de melocotón, que en sí mismo no es ofensivo, pero se puede usar junto con otras palabras clave que pueden generar contenido NSFW. Esta medida se ha tomado porque es posible que Midjourney Bot no entienda ciertos idiomas de la misma manera que lo haría un humano.

Cuando ingresa una palabra o frase prohibida por Midjourney, verá una advertencia de «Aviso prohibido» en Discord con un mensaje que destaca qué palabra o frase está prohibida para usarse con Midjourney. Si alguien elude este aviso o viola las pautas de la comunidad, recibirá una advertencia del moderador de su comunidad. Para violaciones repetidas, Midjourney implementaría un tiempo de espera temporal para acceder a su chatbot o bloquearía permanentemente el uso de su servicio.

¿Puedes hacer contenido NSFW en Midjourney?

Aunque Midjourney tiene restricciones para evitar mostrar contenido NSFW, algunas indicaciones pueden generar involuntariamente imágenes que no son PG-13. Esto podría suceder cuando las indicaciones de entrada contienen palabras que aún no han sido prohibidas pero que la IA puede interpretar para crear imágenes que pueden no ser apropiadas.

Dado que el aprendizaje automático no es tan sencillo como los humanos y carece de conocimiento del mundo real, las personas pueden encontrar muchas formas diferentes de generar contenido NSFW utilizando diferentes palabras clave. Si cree que una imagen que creó es inapropiada para alojarla en Midjourney, siempre puede autocontrolarla informándola usted mismo. Esto se puede hacer usando la reacción emoji ❌ en una imagen generada o haciendo clic derecho en el contenido y yendo a Aplicaciones > Cancelar/Reportar trabajo .

Cuando informe una creación a Midjourney, se enviará al moderador de la comunidad para su revisión. Esto ayudará a Midjourney a agregar ciertas palabras de su aviso a su lista de palabras prohibidas y evitará que otros aprovechen su bot de IA para generar contenido NSFW. En caso de que Midjourney descubra que está utilizando mensajes que violan sus pautas repetidamente, es posible que se le dé un tiempo de espera para usar el bot o que se le bloquee el uso del servicio por completo.

Eso es todo lo que necesita saber sobre si Midjourney puede crear contenido NSFW.