Microsoft prüft eine aggressive Inhaltsfilterung im Bing Image Creator

Nachdem Microsoft vor einigen Tagen bekannt gegeben hatte, dass es das DALL-E 3-Modell von OpenAI in seinen Bing Image Creator-Grafikersteller integriert hat, kam es bei dem Dienst zu enormen Verlangsamungen bei der Generierung von Bildern , da so viele Leute ihn ausprobieren wollten. Microsoft gab an, dass es in seinen Rechenzentren viel mehr GPUs einbauen werde, um Bilder schneller erstellen zu können.

Nun sieht es so aus, als ob sich Microsoft mit einem weiteren Problem auseinandersetzen muss, da viele Menschen online Inhaltswarnungen wegen ihrer Textaufforderungen in Bing Image Creator erhalten, wegen Wörtern, die scheinbar ganz normal aussehen.

Jez Corden hat einen Artikel bei Windows Central zu diesem aktuellen Problem geschrieben. Er gab an, dass der Satz „Mann zerbricht Server-Rack mit Vorschlaghammer“ vom Dienst gemeldet wurde. Ein anderer Benutzer auf Reddit , der „eine Katze mit Cowboyhut und Stiefeln“ eingab, erhielt an diesem Wochenende ebenfalls eine Nachricht über einen Inhaltsverstoß.

Es sieht jedoch so aus, als ob Microsoft sich dieser Situation zumindest bewusst ist. Als jemand auf X (ehemals Twitter) den aktuellen Microsoft Windows-Chef Mikhail Parakhin nach diesen aggressiven Inhaltsnachrichten auf Bing Image Creator fragte, antwortete Parakhin kurz : „Hmm. Das ist seltsam – das Überprüfen“.

Hmm. Das ist seltsam – das Überprüfen

— Mikhail Parakhin (@MParakhin) 8. Oktober 2023

Es scheint klar zu sein, dass etwas mit den Inhaltsleitplanken bei Bing Image Creator passiert ist. Allerdings ist dies nicht das erste Mal, dass dies passiert. Unmittelbar nachdem Microsoft im März den KI-Art-Maker auf den Markt gebracht hatte , war das Unternehmen bei der Überwachung von Inhalten von Anfang an so aggressiv, dass bereits die Eingabe des Wortes „Bing“ eine Verstoßmeldung auslöste .

Damals schrieb Parakhin, dass dies eigentlich für den Start vorgesehen war, und erklärte auf X : „Wir sind uns bewusst, dass Bing Image Creator bei sensiblen Abfragen zu restriktiv ist, wir mussten beim Start auf der sicheren Seite sein.“ Dies scheint in der aktuellen Situation nicht der Fall zu sein Das ist Absicht und wir hoffen, dass das bald behoben wird.