Midjourney può creare NSFW?

La generazione di opere d’arte AI ha fatto parlare di sé grazie a modelli come DALL-E, Stable Diffusion e Midjourney . Sebbene questi strumenti possano essere divertenti con cui giocare, una delle principali preoccupazioni per le persone è come potrebbero essere utilizzati anche per creare contenuti dannosi o NSFW. Per l’ignoto, il contenuto NSFW si riferisce in genere a materiale che contiene contenuti sessuali o grafici che potrebbero non essere adatti a determinati segmenti di pubblico o ambienti di lavoro.

In questo post, esploreremo se uno di questi strumenti – Midjourney può essere utilizzato o meno per creare e condividere contenuti NSFW e quali sono le politiche della piattaforma riguardo a questo tipo di contenuto.

Midjourney consente contenuti NSFW?

Le linee guida della community di Midjourney avvertono che le creazioni realizzate sulla piattaforma devono essere PG-13 appropriate per garantire che il suo strumento sia accessibile a un gruppo più ampio di utenti. Queste linee guida avvertono specificamente gli utenti:

Queste restrizioni non si applicano solo ai server di Midjourney, ma anche ai server privati ​​che utilizzano il Midjourney Bot. Non è possibile creare tali immagini utilizzando la modalità privata o durante la comunicazione tramite un messaggio diretto con il bot AI.

In che modo Midjourney blocca i contenuti NSFW?

Per impedire agli utenti di creare contenuti NSFW, Midjourney proibisce l’uso di determinati linguaggi e comportamenti sulla sua piattaforma vietando parole e frasi che potrebbero essere utilizzate per creare immagini dannose o offensive. Il linguaggio proibito a volte può includere alcune parole che potrebbero non essere popolari tra tutti, ma che possono essere utilizzate per generare immagini che in un senso più ampio possono essere considerate inappropriate, offensive o dannose.

Ad esempio, Midjourney impedisce gli input di testo che contengono l’emoji pesca che di per sé non è offensivo ma può essere utilizzato insieme ad altre parole chiave che potrebbero generare contenuti NSFW. Questa misura è stata presa perché il Midjourney Bot potrebbe non comprendere alcune lingue nello stesso modo in cui lo farebbe un essere umano.

Quando inserisci una parola o una frase che è stata bandita da Midjourney, vedrai un avviso “Banned prompt” su Discord con un messaggio che evidenzia quale parola o frase è vietata dall’uso con Midjourney. Se qualcuno elude questo messaggio o viola le linee guida della community, riceverà un avviso dal moderatore della community. Per ripetute violazioni, Midjourney implementerebbe un timeout temporaneo dall’accesso al suo chatbot o li impedirebbe permanentemente di utilizzare il suo servizio.

Puoi creare contenuti NSFW su Midjourney?

Sebbene Midjourney abbia delle restrizioni per impedire la visualizzazione di contenuti NSFW, alcuni prompt potrebbero generare involontariamente immagini non PG-13. Ciò potrebbe accadere quando i prompt di input contengono parole che non sono state ancora vietate ma possono essere interpretate dall’intelligenza artificiale per creare immagini che potrebbero non essere appropriate.

Poiché l’apprendimento automatico non è così semplice come gli esseri umani e manca di conoscenza del mondo reale, le persone possono trovare molti modi diversi per generare contenuti NSFW utilizzando parole chiave diverse. Se ritieni che un’immagine che hai creato sia inappropriata per essere ospitata su Midjourney, puoi sempre controllarla autonomamente segnalandola tu stesso. Questo può essere fatto utilizzando la ❌ reazione emoji su un’immagine generata o facendo clic con il pulsante destro del mouse sul contenuto e andando su App > Annulla/Segnala lavoro .

Quando segnali una creazione a Midjourney, questa verrà inviata al moderatore della community per la revisione. Ciò aiuterà Midjourney ad aggiungere determinate parole dal tuo prompt al suo elenco di parole vietate e impedirà ad altri di sfruttare il suo bot AI per generare contenuti NSFW. Nel caso in cui Midjourney scopra che stai utilizzando ripetutamente prompt che violano le sue linee guida, potresti ricevere un timeout dall’utilizzo del bot o essere bloccato dall’utilizzo del servizio.

Questo è tutto ciò che devi sapere se Midjourney può creare contenuti NSFW.