Kan Midjourney NSFW maken?

Het genereren van AI-kunstwerken is het gesprek van de dag geweest dankzij modellen als DALL-E, Stable Diffusion en Midjourney . Hoewel deze tools leuk kunnen zijn om mee te spelen, is een grote zorg voor mensen hoe ze ook kunnen worden gebruikt om schadelijke of NSFW-inhoud te maken. Voor het onbekende verwijst NSFW-inhoud meestal naar materiaal dat seksuele of grafische inhoud bevat die mogelijk niet geschikt is voor bepaalde doelgroepen of werkomgevingen.

In dit bericht zullen we onderzoeken of een van deze tools – Midjourney – kan worden gebruikt om NSFW-inhoud te maken en te delen, en wat het beleid van het platform is met betrekking tot dit soort inhoud.

Staat Midjourney NSFW-content toe?

De communityrichtlijnen van Midjourney waarschuwen dat creaties die op het platform zijn gemaakt, geschikt zijn voor PG-13 om ervoor te zorgen dat de tool toegankelijk is voor een bredere groep gebruikers. Deze richtlijnen waarschuwen gebruikers specifiek:

Deze beperkingen gelden niet alleen voor de eigen servers van Midjourney, maar ook voor private servers die gebruik maken van de Midjourney Bot. U kunt dergelijke afbeeldingen niet maken met de privémodus of wanneer u communiceert via een direct bericht met de AI-bot.

Hoe blokkeert Midjourney NSFW-inhoud?

Om te voorkomen dat gebruikers NSFW-inhoud maken, verbiedt Midjourney het gebruik van bepaalde taal en gedragingen op zijn platform door woorden en zinnen te verbieden die kunnen worden gebruikt om schadelijke of aanstootgevende afbeeldingen te maken. De verboden taal kan soms bepaalde woorden bevatten die misschien niet bij iedereen populair zijn, maar anders kunnen worden gebruikt om afbeeldingen te genereren die in bredere zin als ongepast, aanstootgevend of schadelijk kunnen worden beschouwd.

Midjourney voorkomt bijvoorbeeld tekstinvoer die de perzik-emoji bevat, die zelf niet aanstootgevend is, maar kan worden gebruikt naast andere zoekwoorden die inhoud kunnen genereren die NSFW is. Deze maatregel is genomen omdat de Midjourney Bot bepaalde talen mogelijk niet begrijpt zoals een mens dat zou doen.

Wanneer je een woord of zin invoert die door Midjourney is verbannen, zie je een waarschuwing “Banned prompt” op Discord met een bericht waarin wordt aangegeven welk woord of welke zin niet mag worden gebruikt met Midjourney. Als iemand deze prompt omzeilt of de richtlijnen van de community overtreedt, krijgt hij een waarschuwing van de moderator van zijn community. Voor herhaalde overtredingen implementeerde Midjourney een tijdelijke time-out voor toegang tot zijn chatbot of blokkeerde ze permanent voor het gebruik van zijn service.

Kun je NSFW-content maken op Midjourney?

Hoewel Midjourney beperkingen heeft om te voorkomen dat NSFW-inhoud wordt weergegeven, kunnen sommige prompts onbedoeld niet-PG-13-afbeeldingen genereren. Dit kan gebeuren wanneer de invoerprompts woorden bevatten die nog niet zijn verbannen, maar door de AI kunnen worden geïnterpreteerd om afbeeldingen te maken die mogelijk niet geschikt zijn.

Omdat machinaal leren niet zo eenvoudig is als mensen en geen echte kennis heeft, kunnen mensen veel verschillende manieren vinden om NSFW-inhoud te genereren met verschillende zoekwoorden. Als je denkt dat een door jou gemaakte afbeelding ongepast is om op Midjourney te worden gehost, kun je dit altijd zelf controleren door dit zelf te melden. Dit kan worden gedaan door de ❌emoji-reactie op een gegenereerde afbeelding te gebruiken of door met de rechtermuisknop op de inhoud te klikken en naar Apps > Taak annuleren/rapporteren te gaan .

Wanneer je een creatie meldt bij Midjourney, wordt deze ter beoordeling naar de communitymoderator gestuurd. Dit helpt Midjourney om bepaalde woorden uit uw prompt toe te voegen aan de lijst met verboden woorden en voorkomt dat anderen misbruik maken van de AI-bot om NSFW-inhoud te genereren. Als Midjourney erachter komt dat u herhaaldelijk prompts gebruikt die in strijd zijn met de richtlijnen, krijgt u mogelijk een time-out voor het gebruik van de bot of wordt u geblokkeerd voor het gebruik van de service.

Dat is alles wat u moet weten over de vraag of Midjourney NSFW-inhoud kan maken.