Czy Midjourney może stworzyć NSFW?

O generowaniu grafiki AI mówiło się w mieście dzięki modelom takim jak DALL-E, Stable Diffusion i Midjourney . Chociaż korzystanie z tych narzędzi może być zabawne, jedną z głównych obaw ludzi jest to, w jaki sposób można je również wykorzystać do tworzenia treści szkodliwych lub NSFW. Dla nieznanego, treści NSFW zazwyczaj odnoszą się do materiałów zawierających treści seksualne lub graficzne, które mogą być nieodpowiednie dla niektórych odbiorców lub środowisk pracy.

W tym poście zbadamy, czy jedno z tych narzędzi – Midjourney może być używane do tworzenia i udostępniania treści NSFW oraz jakie są zasady platformy dotyczące tego typu treści.

Czy Midjourney zezwala na treści NSFW?

Wytyczne społeczności Midjourney ostrzegają, że kreacje tworzone na platformie muszą być zgodne z PG-13, aby zapewnić dostępność narzędzia dla szerszej grupy użytkowników. Te wytyczne w szczególności ostrzegają użytkowników:

Te ograniczenia dotyczą nie tylko własnych serwerów Midjourney, ale także prywatnych serwerów korzystających z bota Midjourney. Nie możesz tworzyć takich obrazów w trybie prywatnym lub podczas komunikacji za pośrednictwem bezpośredniej wiadomości z botem AI.

W jaki sposób Midjourney blokuje treści NSFW?

Aby uniemożliwić użytkownikom tworzenie treści NSFW, Midjourney zabrania używania określonego języka i zachowań na swojej platformie, zakazując słów i wyrażeń, które mogłyby zostać użyte do tworzenia szkodliwych lub obraźliwych obrazów. Zakazany język może czasami zawierać pewne słowa, które mogą nie być popularne wśród wszystkich, ale mogą być używane do generowania obrazów, które w szerszym znaczeniu można uznać za nieodpowiednie, obraźliwe lub szkodliwe.

Na przykład Midjourney zapobiega wprowadzaniu tekstu zawierającego emoji brzoskwini, które samo w sobie nie jest obraźliwe, ale może być używane wraz z innymi słowami kluczowymi, które mogą generować treści NSFW. Środek ten został zastosowany, ponieważ Midjourney Bot może nie rozumieć niektórych języków w taki sam sposób, w jaki zrozumiałby to człowiek.

Kiedy wpiszesz słowo lub frazę, która jest zabroniona w Midjourney, zobaczysz ostrzeżenie „Zbanowany monit” na Discordzie z komunikatem podkreślającym, którego słowa lub frazy nie można używać w Midjourney. Jeśli ktoś obejdzie ten monit lub naruszy wytyczne społeczności, otrzyma ostrzeżenie od moderatora społeczności. W przypadku powtarzających się naruszeń Midjourney wdrożyłby tymczasową przerwę w dostępie do swojego chatbota lub na stałe zablokował im możliwość korzystania z jego usługi.

Czy możesz tworzyć treści NSFW w Midjourney?

Chociaż Midjourney ma ograniczenia zapobiegające wyświetlaniu treści NSFW, niektóre monity mogą nieumyślnie generować obrazy inne niż PG-13. Może się tak zdarzyć, gdy monity wejściowe zawierają słowa, które nie zostały jeszcze zbanowane, ale mogą zostać zinterpretowane przez sztuczną inteligencję w celu utworzenia obrazów, które mogą być nieodpowiednie.

Ponieważ uczenie maszynowe nie jest tak proste jak u ludzi i brakuje mu wiedzy o świecie rzeczywistym, ludzie mogą znaleźć wiele różnych sposobów generowania treści NSFW przy użyciu różnych słów kluczowych. Jeśli uważasz, że stworzony przez Ciebie obraz jest nieodpowiedni do hostowania w Midjourney, zawsze możesz sam go kontrolować, zgłaszając to samodzielnie. Można to zrobić za pomocą reakcji ❌ emoji na wygenerowanym obrazie lub klikając zawartość prawym przyciskiem myszy i przechodząc do opcji Aplikacje > Anuluj/Zgłoś zlecenie .

Kiedy zgłosisz dzieło do Midjourney, zostanie ono wysłane do moderatora społeczności w celu sprawdzenia. Pomoże to Midjourney dodać określone słowa z twojego monitu do listy zabronionych słów i uniemożliwi innym korzystanie z jego bota AI do generowania treści NSFW. W przypadku, gdy Midjourney dowie się, że wielokrotnie używasz monitów, które naruszają jej wytyczne, możesz otrzymać limit czasu na korzystanie z bota lub całkowicie zablokować możliwość korzystania z usługi.

To wszystko, co musisz wiedzieć, czy Midjourney może tworzyć treści NSFW.