Flock Safety искала по городским камерам через фейковый аккаунт полиции

Компания Flock Safety создала фиктивный полицейский аккаунт «Flock City PD» и через ИИ-поиск FreeForm искала по реальным городским камерам в Джорджии и Техасе людей со звездами Давида, политическими наклейками и протестными плакатами. Модерация не заблокировала часть чувствительных запросов, о чём стало известно из логов аудита, полученных 404 Media.

• Аккаунт «Flock City PD» искал по камерам в Данвуди (Джорджия) и Брайане (Техас)
• Запросы включали «Star of David», «don't tread on me flag» и «large group with signs»
• Часть запросов прошла после предупреждения, которое можно было обойти
• Flock заявила, что это тестирование модерации, и изолировала демо-среду