Полицейские используют ИИ для написания отчетов о преступлениях. Выдержат ли они проверку в суде?

Полицейские начинают использовать искусственный интеллект для написания отчетов о преступлениях.

Нательная камера запечатлела каждое слово и лай, произнесенные сержантом полиции Мэттом Гилмором и его собакой Ганнером, которые в течение часа искали группу подозреваемых.

Обычно сержант полиции Оклахома-Сити брал свой ноутбук и тратил еще 30–45 минут на написание отчета о поиске. Но на этот раз он поручил ИИ написать первый черновик.

На основе всех звуков и радиопереговоров, уловленных микрофоном, прикрепленным к нательной камере Гилберта, инструмент ИИ выдал отчет за восемь секунд.

«Это был лучший отчет, чем я когда-либо мог написать, и он был на 100% точен», — сказал Гилберт. В нем даже был задокументирован факт, который он не помнил, чтобы слышал — упоминание другим офицером цвета машины, из которой скрылись подозреваемые.

Полицейское управление Оклахома-Сити — одно из немногих, кто экспериментирует с чат-ботами ИИ для создания первых черновиков отчетов об инцидентах. Полицейские, которые попробовали это, в восторге от технологии, экономящей время, в то время как некоторые прокуроры, полицейские наблюдатели и юристы обеспокоены тем, как это может изменить основополагающий документ в системе уголовного правосудия, который играет роль в том, кого привлекут к ответственности или посадят в тюрьму.

Созданное с использованием той же технологии, что и ChatGPT, и продаваемое компанией Axon, наиболее известной разработкой электрошокера и являющейся ведущим поставщиком нательных камер в США, оно может стать, по словам Гилберта, еще одним «переломным моментом» в работе полиции.

«Они становятся полицейскими, потому что хотят работать в полиции, а тратить половину дня на ввод данных — это просто утомительная часть работы, которую они ненавидят», — сказал основатель и генеральный директор Axon Рик Смит, описывая новый продукт на основе искусственного интеллекта под названием Draft One как вызвавший «самую положительную реакцию» среди всех продуктов, представленных компанией.

«Теперь, безусловно, есть опасения», — добавил Смит. В частности, он сказал, что окружные прокуроры, ведущие уголовное дело, хотят быть уверены, что сотрудники полиции, а не только чат-бот на базе искусственного интеллекта, несут ответственность за составление своих отчетов, поскольку им, возможно, придется давать показания в суде о том, чему они стали свидетелями.

«Они никогда не хотят, чтобы на свидетельском месте оказался офицер, который скажет: «Это написал искусственный интеллект, а не я»», — сказал Смит.

Технология ИИ не нова для полицейских агентств, которые внедрили алгоритмические инструменты для считывания номерных знаков, распознавания лиц подозреваемых, обнаружения звуков выстрелов и прогнозирования мест возможных преступлений. Многие из этих приложений сопровождались проблемами конфиденциальности и гражданских прав, а также попытками законодателей установить гарантии. Но введение отчетов полиции, созданных ИИ, настолько ново, что существует мало, если вообще есть, ограничений, регулирующих их использование.

Опасения по поводу расовых предубеждений и предрассудков общества, которые могут быть встроены в технологию ИИ, — это лишь часть того, что общественный активист Оклахома-Сити Аурелиус Франциско считает «глубоко тревожным» в отношении нового инструмента, о чем он узнал из Associated Press.

«Тот факт, что эту технологию использует та же компания, которая поставляет электрошокеры в департамент, сам по себе вызывает тревогу», — сказал Франциско, соучредитель Фонда освобождения разума в Оклахома-Сити.

Он сказал, что автоматизация этих отчетов «облегчит полиции возможность преследовать, следить и применять насилие в отношении членов сообщества. Облегчая работу полицейского, это усложняет жизнь чернокожих и смуглых людей».

Перед тем, как опробовать инструмент в Оклахома-Сити, полицейские показали его местным прокурорам, которые посоветовали проявить осторожность перед его использованием в уголовных делах с высокими ставками. На данный момент он используется только для отчетов о незначительных инцидентах, которые не приводят к аресту кого-либо.

«Поэтому никаких арестов, никаких тяжких преступлений, никаких насильственных преступлений», — сказал капитан полиции Оклахома-Сити Джейсон Бассерт, отвечающий за информационные технологии в департаменте, насчитывающем 1170 сотрудников.

Но в другом городе, Лафайете (штат Индиана), ситуация иная, поскольку начальник полиции Скотт Гэллоуэй сообщил агентству Associated Press, что все его офицеры могут использовать Draft One в любом деле, и что эта программа стала «невероятно популярной» с момента запуска пилотного проекта в начале этого года.

Или в Форт-Коллинзе, штат Колорадо, где сержант полиции Роберт Янгер сказал, что офицеры могут свободно использовать его в любых типах отчетов, хотя они обнаружили, что он не очень хорошо работает при патрулировании барного района в центре города из-за «невероятного количества шума».

Наряду с использованием ИИ для анализа и обобщения аудиозаписи, Axon экспериментировал с компьютерным зрением, чтобы обобщить то, что «видно» на видеозаписи, прежде чем быстро понял, что технология еще не готова.

«Учитывая всю деликатность, связанную с деятельностью полиции, расой и другими идентичностями вовлеченных людей, я думаю, что это та область, в которой нам придется проделать реальную работу, прежде чем мы внедрим ее», — сказал Смит, генеральный директор Axon, охарактеризовав некоторые из протестированных ответов как не «откровенно расистские», но бестактные в других отношениях.

Эти эксперименты побудили компанию Axon сосредоточиться исключительно на аудиотехнологиях в продукте, представленном в апреле на ежегодной корпоративной конференции для сотрудников полиции.

Технология основана на той же генеративной модели ИИ, которая лежит в основе ChatGPT, разработанной OpenAI из Сан-Франциско. OpenAI является близким деловым партнером Microsoft, поставщика облачных вычислений Axon.

«Мы используем ту же базовую технологию, что и ChatGPT, но у нас есть доступ к большему количеству инструментов, чем у реального пользователя ChatGPT», — сказал Ноа Спитцер-Уильямс, который управляет продуктами AI компании Axon. Отключение «креативности» помогает модели придерживаться фактов, так что она «не приукрашивает и не галлюцинирует так, как вы бы обнаружили, если бы просто использовали ChatGPT сам по себе», — сказал он.

Axon не раскрывает, сколько полицейских управлений используют эту технологию. Это не единственный поставщик, такие стартапы, как Policereports.ai и Truleo, предлагают похожие продукты. Но, учитывая тесные связи Axon с полицейскими управлениями, которые покупают ее электрошокеры и нательные камеры, эксперты и полицейские чиновники ожидают, что отчеты, созданные с помощью ИИ, станут более распространенными в ближайшие месяцы и годы.

Прежде чем это произойдет, ученый-юрист Эндрю Фергюсон хотел бы увидеть больше публичных дискуссий о преимуществах и потенциальном вреде. Во-первых, большие языковые модели, лежащие в основе чат-ботов ИИ, склонны к созданию ложной информации, проблема, известная как галлюцинация , которая может добавить убедительную и труднозаметную ложь в полицейский отчет.

«Я обеспокоен тем, что автоматизация и простота технологии приведут к тому, что сотрудники полиции будут менее осторожны в своих работах», — сказал Фергюсон, профессор права в Американском университете, работающий над тем, что, как ожидается, станет первой юридической обзорной статьей о новой технологии.

Фергюсон сказал, что полицейский отчет важен для определения того, «оправдывают ли подозрения офицера лишение кого-либо свободы». Иногда это единственное показание, которое видит судья, особенно в случаях правонарушений.

Фергюсон отметил, что отчеты полиции, составленные людьми, также имеют недостатки, но остается открытым вопрос, какие из них более надежны.

Для некоторых офицеров, которые попробовали это, это уже изменило то, как они реагируют на сообщение о преступлении. Они рассказывают о том, что происходит, чтобы камера лучше запечатлела то, что они хотели бы записать.

Бассерт ожидает, что по мере развития технологий офицеры будут «все более и более устно» описывать то, что находится перед ними.

После того как Бассерт загрузил видео остановки на дороге в систему и нажал кнопку, программа создала отчет в повествовательном стиле на разговорном языке, включающий даты и время, как если бы офицер набирал данные из своих заметок, — все это на основе звука с нательной камеры.

«Это заняло буквально секунды, — сказал Гилмор, — и все было сделано до такой степени, что я понял: «Мне нечего менять»».

В конце отчета сотрудник должен поставить галочку в поле, указывающем на то, что отчет был создан с использованием искусственного интеллекта.