Max Home IndustryПолиция Уэст-Мидлендса опробовала голосового помощника на базе искусственного интеллекта (ИИ), пытаясь справиться с растущим объемом вызовов неэкстренного характера.
Деликатные технические детали плана были ошибочно опубликованы в Интернете в документе, с которым ознакомилась BBC.
В нем излагались потенциальные риски, связанные с ИИ, в том числе будет ли система, получившая название «Amy101», понимать местный «брумми» акцент.
Полиция Уэст-Мидлендса настаивает на том, что были приняты «надежные меры безопасности».
Основываясь на технологии популярного голосового помощника Amazon Alexa, испытание исследовало, как искусственный интеллект может помочь силам справляться с растущим объемом звонков и потенциально предлагать новые услуги, такие как ответы на разных языках.
Документ с подробным описанием плана был по ошибке размещен в Интернете офисом комиссара полиции и преступности Уэст-Мидлендса (PCC). Документ с пометкой «официально конфиденциальный» и с предупреждениями о том, что его «не следует разглашать публично», впоследствии был удален.
Amy101 была создана для разговора или текстового чата, чтобы отвечать на запросы звонящих, и должна была обрабатывать около 200 звонков в день.
Проект, который представлял собой двухмесячное испытание концепции, финансировался на национальном уровне.
Как говорится в документе, это был первый подобный проект, в котором инструмент на базе искусственного интеллекта разговаривал с абонентами, хотя другие силы также изучали возможности использования этой технологии.
Amy101 имела возможность определять приоритетность уязвимых абонентов, отслеживая определенные ключевые слова, например те, которые относятся к домашнему насилию, и гарантируя, что они будут следующими в очереди, чтобы с ними разобрался оператор-человек, говорится в документе.
С помощью речевого или текстового чата он может перенаправлять звонки, давать советы по таким вопросам, как сообщение о преступном ущербе или запрос обновленной информации о преступлении.
Полиция Уэст-Мидлендса сообщила BBC, что судебный процесс начался 19 декабря 2023 года и на данный момент завершился
Директор коммерческих служб Питер Джиллетт заявил, что к моменту начала судебного разбирательства полиция уже улучшилась и теперь является «одной из самых эффективных полицейских сил по управлению экстренными и неэкстренными вызовами».
Предвзятость в отношении Брамми
Документ, подготовленный для комитета по этическому надзору, который консультирует PCC и главного констебля, раскрывает потенциальную проблему, которая может возникнуть с Amy101, в том числе сможет ли технология справиться с местным акцентом.
«В системе «Эми» естественным образом возникнет предвзятость, основанная на акцентах/локализации — например, может ли она понимать акценты «Брумми»? И рассматриваются ли они с одинаковым весом по отношению к различным акцентам в английском языке?» — спрашивает документ.
Поскольку Alexa используется во всем мире и работает с разными акцентами и языками, хотелось бы надеяться, что этот тип предвзятости был устранен. А если вызовы не были поняты, то они были переведены на сигнал для человека-оператора.
Жилле заявил, что силы признали, что технологии, способные понимать обычный язык, «не безупречны» и поэтому могут бороться с акцентами.
В результате силы использовали «крупномасштабную» систему, «чтобы смягчить эту предвзятость».
Также были отмечены потенциальные проблемы, связанные с защитой данных, в том числе призывы о рисках будут использоваться для обучения системы искусственного интеллекта Amazon под названием Lex V2, стоящей за Amy101.
Некоторые звонки могут содержать личную информацию. В документе приводится пример: «Меня зовут Марк, и я хочу сообщить, что в мой дом взломали….»
Однако полиция может отказаться от такого рода обучения и будет проводить его «там, где это возможно», говорится в документе.
У комитета по этике также был ряд вопросов, записанных в его протоколе, по поводу Amy101, таких как голос и «гендерное название» инструмента. В ответ силы заявили, что необходима «гуманизация».
Также предполагается, что офицеры запросили у Amazon дополнительный анализ по потенциальным проблемам, «таким как распознавание регионального акцента и тестирование на предвзятость».
Неясно, материализовались ли когда-либо опасения, поднятые в документе, хотя полиция положительно оценила исход судебного процесса:
«ИИ (искусственный интеллект) действительно предоставляет некоторые потенциальные возможности для предоставления более эффективных и надежных услуг», — сказал Джиллетт.
Теперь, когда испытание «доказательства концепции» завершено, силы будут «делиться результатами и результатами в национальном масштабе», добавил он.
Согласно документу, правительство также было заинтересовано в судебном процессе: в нем говорилось, что команда Министерства внутренних дел «пристально следит» за ним с целью более широкого использования.