Midjourney は NSFW にできますか?

DALL-E、 Stable Diffusion、Midjourneyなどのモデルのおかげで、AI アートワークの生成が話題になっています。これらのツールは楽しく遊べますが、有害なコンテンツや NSFW コンテンツの作成にも使用される可能性があるという懸念が 1 つあります。不明な点として、NSFW コンテンツは通常、特定の視聴者や職場環境には適さない可能性のある性的または生々しいコンテンツを含む素材を指します。

この投稿では、これらのツールの 1 つである Midjourney を使用して NSFW コンテンツを作成および共有できるかどうか、およびこのタイプのコンテンツに関するプラットフォームのポリシーについて説明します.

Midjourney は NSFW コンテンツを許可しますか?

Midjourney のコミュニティガイドラインでは、プラットフォーム上で作成された作品は、そのツールがより幅広いユーザー グループにアクセスできるようにするために PG-13 に適していると警告しています。これらのガイドラインは、特にユーザーに警告します:

これらの制限は、Midjourney 自身のサーバーだけでなく、Midjourney Bot を使用するプライベート サーバーにも適用されます。プライベート モードを使用したり、AI ボットとのダイレクト メッセージを介して通信したりする場合、このような画像を作成することはできません。

Midjourney は NSFW コンテンツをどのようにブロックしますか?

ユーザーが NSFW コンテンツを作成するのを防ぐために、Midjourney は、有害または不快な画像を作成するために使用される可能性のある単語やフレーズを禁止することにより、そのプラットフォームでの特定の言語および行動の使用を禁止しています. 禁止された言語には、すべての人に人気があるとは限らない特定の単語が含まれる場合がありますが、それ以外の場合は、広い意味で不適切、攻撃的、または有害と見なされる可能性のある画像を生成するために使用される可能性があります.

たとえば、Midjourney は、それ自体は攻撃的ではありませんが、NSFW のコンテンツを生成する可能性のある他のキーワードと一緒に使用できる桃の絵文字を含むテキスト入力を防ぎます。Midjourney Bot は特定の言語を人間と同じように理解できない可能性があるため、この措置が取られています。

Midjourney によって禁止されている単語またはフレーズを入力すると、Discord に「禁止されたプロンプト」という警告が表示され、Midjourney での使用が禁止されている単語またはフレーズを強調表示するメッセージが表示されます。誰かがこのプロンプトを回避したり、コミュニティ ガイドラインに違反したりすると、コミュニティのモデレーターから警告が表示されます。違反が繰り返される場合、Midjourney は、チャットボットへのアクセスを一時的にタイムアウトにするか、サービスの使用を永久にブロックします。

Midjourney で NSFW コンテンツを作成できますか?

Midjourney には NSFW コンテンツが表示されないように制限が設けられていますが、一部のプロンプトで意図せずに PG-13 以外の画像が生成される場合があります。これは、入力プロンプトにまだ禁止されていない単語が含まれている場合に発生する可能性がありますが、AI によって解釈されて適切ではない可能性のある画像が作成される可能性があります。

機械学習は人間ほど単純ではなく、現実世界の知識が不足しているため、人々はさまざまなキーワードを使用して NSFW コンテンツを生成するさまざまな方法を見つける可能性があります。作成した画像を Midjourney でホストするのが不適切だと思われる場合は、いつでも自分で報告することで自己管理できます。これは、生成された画像で ❌ 絵文字リアクションを使用するか、コンテンツを右クリックして[アプリ] > [ジョブのキャンセル/レポート]に移動することで実行できます。

Midjourney に作品を報告すると、レビューのためにコミュニティ モデレーターに送信されます。これにより、Midjourney がプロンプトから特定の単語を禁止単語リストに追加し、他のユーザーが AI ボットを利用して NSFW コンテンツを生成するのを防ぐことができます。ガイドラインに違反するプロンプトを繰り返し使用していることを Midjourney が発見した場合、ボットの使用からタイムアウトが与えられるか、サービスの使用が完全にブロックされる可能性があります。

Midjourney が NSFW コンテンツを作成できるかどうかについて知っておく必要があるのは、これだけです。