Microsoft는 Bing Image Creator에서 공격적인 콘텐츠 필터링을 조사하고 있습니다.

며칠 전 Microsoft가 Bing Image Creator 아트 메이커에 OpenAI의 DALL-E 3 모델을 추가했다고 발표한 후, 이 서비스를 사용해보고 싶어하는 너무 많은 사람들로 인해 이미지 생성 속도가 크게 느려졌 습니다. Microsoft는 이미지를 더 빠르게 만들기 위해 데이터 센터에 더 많은 GPU를 추가하고 있다고 밝혔습니다.

이제 온라인에서 많은 사람들이 Bing Image Creator의 텍스트 프롬프트와 겉보기에 꽤 평범해 보이는 단어에 대한 콘텐츠 경고를 경험하고 있기 때문에 Microsoft는 또 다른 문제를 처리해야 할 수도 있습니다.

Jez Corden은 Windows Central에서 현재 문제에 대한 기사를 작성했습니다 . 그는 “남자가 큰 망치로 서버 랙을 부수다”라는 문구가 서비스에 의해 표시되었다고 말했습니다. “카우보이 모자와 부츠를 신은 고양이”라고 입력한 Reddit의 또 다른 사용자 도 이번 주말에 콘텐츠 위반 메시지를 받았습니다.

하지만 마이크로소프트는 적어도 이런 상황을 인지하고 있는 것으로 보인다. X(이전의 Twitter) 사용자가 현 Microsoft Windows 수장인 Mikhail Parakhin에게 Bing Image Creator의 이러한 공격적인 콘텐츠 메시지에 대해 물었을 때 Parakhin은 “흠. 이상해요. 확인 중이에요.”

흠. 이상해요 – 확인 중

— 미하일 파라킨(@MParakhin) 2023년 10월 8일

Bing Image Creator의 콘텐츠 가드레일에 문제가 발생한 것은 분명해 보입니다. 그러나 이런 일이 처음은 아니다. Microsoft가 3월에 AI 아트 메이커를 출시한 직후 , “Bing”이라는 단어만 입력하면 위반 메시지가 표시될 정도로 콘텐츠 모니터링에 너무 공격적이었습니다 .

당시 Parakhin은 X에 대해 “Bing Image Creator가 민감한 쿼리에 지나치게 제한적이어서 출시 시 안전한 측면에 있어야 한다는 것을 알고 있습니다”라고 말하면서 실제로 출시를 위해 의도된 것이라고 썼습니다. 이 현재 상황은 그렇지 않은 것으로 보입니다. 의도적인 것이므로 이 문제가 곧 해결되기를 바랍니다.