Microsoft étudie un filtrage de contenu agressif dans Bing Image Creator

Il y a quelques jours, après que Microsoft a annoncé avoir ajouté le modèle DALL-E 3 d’OpenAI dans son créateur d’art Bing Image Creator, le service a connu d’ énormes ralentissements dans la génération d’images en raison du grand nombre de personnes souhaitant l’essayer. Microsoft a déclaré qu’il ajoutait beaucoup plus de GPU dans ses centres de données pour essayer d’obtenir des images plus rapidement.

Il semble maintenant que Microsoft doive faire face à un autre problème, car de nombreuses personnes en ligne reçoivent des avertissements de contenu concernant leurs invites textuelles dans Bing Image Creator, concernant des mots qui semblent assez normaux.

Jez Corden a écrit un article sur Windows Central sur ce problème actuel. Il a déclaré que l’expression « un homme casse le rack du serveur avec un marteau » a été signalée par le service. Un autre utilisateur sur Reddit qui a tapé « un chat avec un chapeau de cowboy et des bottes » a également reçu un message de violation de contenu ce week-end.

Cependant, il semble que Microsoft soit au moins conscient de cette situation. Lorsqu’une personne sur X (anciennement Twitter) a interrogé Mikhaïl Parakhin, directeur actuel de Microsoft Windows, à propos de ces messages de contenu agressif sur Bing Image Creator, la réponse courte de Parakhin a été : « Hmm. C’est bizarre de vérifier ».

Hmm. C’est bizarre – vérifier

– Mikhaïl Parakhin (@MParakhin) 8 octobre 2023

Il semble clair que quelque chose est arrivé aux garde-fous de contenu chez Bing Image Creator. Cependant, ce n’est pas la première fois que cela se produit. Juste après que Microsoft ait lancé le créateur d’art IA en mars , il était si agressif dans la surveillance du contenu dès le départ que le simple fait de taper le mot « Bing » déclencherait un message de violation .

À l’époque, Parakhin avait écrit que le lancement était en fait intentionnel, déclarant sur X : « nous sommes conscients que Bing Image Creator est trop restrictif avec les requêtes sensibles, nous devions être prudents au lancement. » être intentionnel, donc j’espère que cela sera bientôt corrigé.