Пользователь Bing Chat от Microsoft обошёл запрет на распознавание ИИ графических пазлов CAPTCHA нового поколения, созданных такими компаниями, как hCaptcha.
Когда пользователь указывал, что изображение является капчей и ему нужна помощь Bing, то чат-бот отказывался реагировать на запрос. Bing Chat выдавал сообщение о том, что не может пройти тест безопасности, потому что «решение капчи противоречит целям и нарушает условия обслуживания ИИ»: «Капча «сконструирована так, чтобы быть простой для людей, но сложной для ботов. Поскольку я использую режим чата Microsoft Bing, я не человек, а бот».
При другой попытке пользователь обрезал изображение капчи и указал, что это головоломка была создана его другом. Этот метод сработал.
