Китай: искусственный интеллект поможет сотрудникам прокуратуры
Китайские ученые разработали искусственный интеллект, который может выполнять некоторые задачи, которые выполняет прокурор. В частности, он может распознать и предъявить обвинения по восьми наиболее распространенным преступлениям, совершенным в Шанхае. Это шаг вперед, который не получил единодушной поддержки китайской судебной системы, тем более что система, похоже, надежна лишь на 97% - хороший показатель для ИИ, но недостаточный для такого применения, по мнению некоторых экспертов.
Эта машина была "обучена" в период с 2015 по 2020 год. За пять лет она изучила 17 000 дел, что позволило ей выявить восемь наиболее распространенных преступлений, совершаемых в Шанхае, и предъявить обвинения тем, кто их совершил. Например, ИИ может распознать мошенничество с платежными картами, незаконные азартные игры, опасное вождение, умышленное причинение вреда здоровью, кражу, препятствование исполнению служебных обязанностей и более удивительное преступление: "споры и создание проблем". За этим довольно удивительным обвинением скрывается более мрачная реальность: говорят, что его часто используют для сокрытия политического несогласия с правящим правительством.
Этот искусственный интеллект был спроектирован, разработан и испытан Шанхайской народной прокуратурой Пудуна, крупнейшей и наиболее активной районной прокуратурой страны. По словам исследователей, этот "прокурорский ИИ" может составить обвинение с точностью 97%.
Точность в 97% может быть высокой с технологической точки зрения, но всегда будет существовать риск ошибки. Кто возьмет на себя ответственность, когда это произойдет? Прокурор, машина или разработчик алгоритма? Не говоря уже о том, что вмешательство этого искусственного интеллекта может постепенно уничтожить самостоятельность прокурора.
Профессор Йонг Ши из Китайской академии наук и ведущий ученый проекта уверяет, что машина будет становиться все мощнее по мере совершенствования искусственного интеллекта. Затем она должна быть способна распознавать менее распространенные преступления и предъявлять подозреваемому несколько обвинений.
Этот "ИИ прокурор" устанавливается на стандартном рабочем столе. Для каждого подозреваемого инструмент будет опираться на 1 000 "характеристик", полученных из показаний, большинство из которых не имеют смысла для человека. Затем система возьмет на себя оценку доказательств виновности или невиновности.
Эта система используется китайскими прокурорами с 2016 года. Это инструмент, который оценивает силу доказательств, условия ареста и то, насколько опасен подозреваемый для общества. "Но все существующие инструменты ИИ играют ограниченную роль, поскольку они не участвуют в процессе принятия решений о выдвижении обвинений или вынесении приговоров", — сказал Ши.
Если бы машина могла принимать такие решения, она должна была бы уметь определять и удалять из материалов дела все, что не относится к делу, не удаляя при этом полезную информацию. Не говоря уже о необходимости переводить сложный человеческий язык в жесткий математический формат.
Более того, инструмент, разработанный профессором Йонг Ши и его командой, использует свой предыдущий опыт, чтобы выдвинуть обвинение. В этом случае она не способна быть гибкой и адаптироваться к изменениям, которые присущи человеческой природе. "ИИ может помочь обнаружить ошибку, но он не может заменить человека в принятии решений", — говорит прокурор Гуанчжоу.