Microsoft onderzoekt een aantal agressieve inhoudsfilters in Bing Image Creator

Een paar dagen geleden, nadat Microsoft had aangekondigd dat het OpenAI’s DALL-E 3-model had toegevoegd aan zijn Bing Image Creator-kunstmaker, ondervond de service enorme vertragingen bij het genereren van afbeeldingen omdat zoveel mensen het wilden uitproberen. Microsoft verklaarde dat het veel meer GPU’s in zijn datacenters zou toevoegen om te proberen afbeeldingen sneller te maken.

Nu lijkt het erop dat Microsoft met een ander probleem te maken krijgt, omdat veel mensen online inhoudswaarschuwingen krijgen via hun tekstprompts in Bing Image Creator, vanwege woorden die er schijnbaar vrij normaal uitzien.

Jez Corden schreef een artikel op Windows Central over dit huidige probleem. Hij verklaarde dat de uitdrukking “man breekt serverrack met een voorhamer” door de dienst werd opgemerkt. Een andere gebruiker op Reddit die ‘een kat met een cowboyhoed en laarzen’ typte, kreeg dit weekend ook een bericht over een inhoudsschending.

Het lijkt er echter op dat Microsoft zich op zijn minst bewust is van deze situatie. Toen een persoon op X (voorheen Twitter) huidig ​​Microsoft Windows-hoofd Mikhail Parakhin vroeg naar deze agressieve inhoudsberichten op Bing Image Creator, was het korte antwoord van Parakhin: “Hmm. Dit is raar – controleren”.

Hm. Dit is raar – controleren

— Michail Parakhin (@MParakhin) 8 oktober 2023

Het lijkt duidelijk dat er iets is gebeurd met de inhoudsvangrails bij Bing Image Creator. Dit is echter niet de eerste keer dat dit gebeurt. Direct nadat Microsoft in maart de AI-kunstmaker lanceerde , was het zo agressief in het monitoren van inhoud buiten de poort dat alleen al het typen van het woord ‘Bing’ een overtredingsbericht zou activeren .

Destijds schreef Parakhin dat dit eigenlijk de bedoeling was voor de lancering, en verklaarde op X : “we zijn ons ervan bewust dat Bing Image Creator te restrictief is met gevoelige vragen en dat we bij de lancering aan de veilige kant moesten blijven.” Deze huidige situatie lijkt niet het geval te zijn. wees opzettelijk, dus hopelijk wordt dit snel opgelost.