Полиция Эйвона и Сомерсета создала крупную систему сбора данных и алгоритмической оценки рисков, куда попали сведения почти о полумиллионе жителей. На основе этой информации власти пытались предсказывать, кто может совершить преступление, стать жертвой насилия, пропасть без вести или попасть в другие группы риска. Об этом сообщает Wired.
База с чувствительными данными
В центре расследования находится база Think Family Database, которую в 2016 году запустили городской совет Бристоля и полиция. В нее включали отчеты, сведения о жилищных условиях, психическом здоровье, подростковых беременностях, посещении родительских курсов и получении бесплатного школьного питания.
На этом массиве данных чиновники построили модели машинного обучения, присваивавшие взрослым и детям оценки риска. По данным журналистов, существовало как минимум 23 модели - от прогноза краж со взломом и неявки в суд до вероятности исчезновения человека и риска стать жертвой домашнего насилия.
Люди могли не знать о сборе сведений
Как пишет Wired, долгое время оставалось неясно, как именно полиция разрабатывала эти инструменты. Активист Джон Пиграм узнал о существовании базы только в 2023 году. Сначала полиция отказалась отвечать, использовались ли его данные, а позднее подтвердила это, но без подробностей. Пиграму не сообщили, присваивался ли ему риск-балл и мог ли он повлиять на контакты с властями.
Низкая точность моделей
По данным издания, как минимум две модели впоследствии перестали использовать: сотрудники городского совета сочли их ненадежными. Речь шла о системах, связанных с рисками сексуальной и криминальной эксплуатации детей. Сотрудники жаловались, что уязвимые дети не попадали в результаты, а происхождение оценок было непрозрачным.
Полиция передала Wired данные о работе 13 риск-моделей, применявшихся в 2017-2024 годах. Компания Eticas, изучившая эти сведения, пришла к выводу, что многие модели работали с низкой точностью, а значительное число людей ошибочно помечалось как рискованные. Одна из моделей, связанная с прогнозированием краж, более трех лет показывала точность ниже 10%. Полиция заявила, что часть разработок так и не внедрили, а проблемные инструменты обновляли или отключали после проверки специалистов.
Wired также напоминает, что в апреле 2025 года The Guardian сообщила о программе Минюста Великобритании по «предсказанию убийств». Правозащитники тогда назвали проект антиутопичным и предупредили о риске дискриминации этнических меньшинств и бедных.