Kann Midjourney NSFW machen?

Dank Modellen wie DALL-E, Stable Diffusion und Midjourney ist die Generierung von KI-Kunstwerken in aller Munde . Es kann zwar Spaß machen, mit diesen Tools zu spielen, aber eine große Sorge für die Menschen ist, wie sie auch zur Erstellung schädlicher oder NSFW-Inhalte verwendet werden könnten. Für Unbekannte beziehen sich NSFW-Inhalte normalerweise auf Material mit sexuellen oder grafischen Inhalten, die möglicherweise nicht für bestimmte Zielgruppen oder Arbeitsumgebungen geeignet sind.

In diesem Beitrag untersuchen wir, ob eines dieser Tools – Midjourney – zum Erstellen und Teilen von NSFW-Inhalten verwendet werden kann und welche Richtlinien die Plattform in Bezug auf diese Art von Inhalten hat.

Erlaubt Midjourney NSFW-Inhalte?

Die Community- Richtlinien von Midjourney warnen davor, dass auf der Plattform erstellte Kreationen PG-13-geeignet sein müssen, um sicherzustellen, dass das Tool einer breiteren Gruppe von Benutzern zugänglich ist. Diese Richtlinien warnen Benutzer ausdrücklich:

Diese Einschränkungen gelten nicht nur für die eigenen Server von Midjourney, sondern auch für private Server, die den Midjourney Bot verwenden. Sie können solche Bilder nicht im Privatmodus oder bei der Kommunikation über eine Direktnachricht mit dem KI-Bot erstellen.

Wie blockiert Midjourney NSFW-Inhalte?

Um zu verhindern, dass Benutzer NSFW-Inhalte erstellen, verbietet Midjourney die Verwendung bestimmter Sprache und Verhaltensweisen auf seiner Plattform, indem Wörter und Sätze verboten werden, die zur Erstellung schädlicher oder anstößiger Bilder verwendet werden könnten. Die verbotene Sprache kann manchmal bestimmte Wörter enthalten, die möglicherweise nicht bei allen beliebt sind, aber ansonsten verwendet werden können, um Bilder zu erzeugen, die im weiteren Sinne als unangemessen, anstößig oder schädlich angesehen werden können.

Zum Beispiel verhindert Midjourney Texteingaben, die das Pfirsich-Emoji enthalten, das selbst nicht anstößig ist, aber zusammen mit anderen Schlüsselwörtern verwendet werden kann, die NSFW-Inhalte generieren können. Diese Maßnahme wurde ergriffen, weil der Midjourney-Bot bestimmte Sprachen möglicherweise nicht so versteht, wie es ein Mensch tun würde.

Wenn Sie ein Wort oder einen Satz eingeben, der von Midjourney gesperrt ist, wird auf Discord eine Warnung „Gebotene Eingabeaufforderung“ mit einer Meldung angezeigt, die hervorhebt, welches Wort oder welcher Satz für die Verwendung mit Midjourney gesperrt ist. Wenn jemand diese Aufforderung umgeht oder gegen die Community-Richtlinien verstößt, erhält er eine Warnung vom Moderator seiner Community. Bei wiederholten Verstößen würde Midjourney eine vorübergehende Auszeit für den Zugriff auf seinen Chatbot einführen oder ihn dauerhaft von der Nutzung seines Dienstes ausschließen.

Können Sie auf Midjourney NSFW-Inhalte erstellen?

Obwohl Midjourney Einschränkungen hat, um die Anzeige von NSFW-Inhalten zu verhindern, können einige Eingabeaufforderungen unbeabsichtigt Nicht-PG-13-Bilder erzeugen. Dies könnte passieren, wenn die Eingabeaufforderungen Wörter enthalten, die noch nicht gesperrt wurden, aber von der KI interpretiert werden können, um Bilder zu erstellen, die möglicherweise nicht angemessen sind.

Da maschinelles Lernen nicht so einfach ist wie Menschen und es an Wissen aus der realen Welt mangelt, finden Menschen möglicherweise viele verschiedene Möglichkeiten, NSFW-Inhalte mit verschiedenen Schlüsselwörtern zu generieren. Wenn Sie der Meinung sind, dass ein von Ihnen erstelltes Bild nicht geeignet ist, auf Midjourney gehostet zu werden, können Sie es jederzeit selbst überwachen, indem Sie es selbst melden. Verwenden Sie dazu die ❌ Emoji-Reaktion auf einem generierten Bild oder klicken Sie mit der rechten Maustaste auf den Inhalt und gehen Sie zu Apps > Job abbrechen/melden .

Wenn Sie Midjourney eine Kreation melden, wird sie zur Überprüfung an den Community-Moderator gesendet. Dies hilft Midjourney, bestimmte Wörter aus Ihrer Eingabeaufforderung zu seiner Liste mit verbotenen Wörtern hinzuzufügen und andere daran zu hindern, seinen KI-Bot zum Generieren von NSFW-Inhalten zu nutzen. Falls Midjourney feststellt, dass Sie wiederholt Eingabeaufforderungen verwenden, die gegen seine Richtlinien verstoßen, kann es sein, dass Ihnen die Nutzung des Bots verwehrt oder die Nutzung des Dienstes insgesamt gesperrt wird.

Das ist alles, was Sie darüber wissen müssen, ob Midjourney NSFW-Inhalte erstellen kann.