Мнение: Про внедрение ИИ в русские суды

В «Парламентской газете» пишут, что нашу судебную систему пора уже усиливать искусственным интеллектом (ссылка).

Логика понятна. Если вы имели дело с законом, вы знаете, что жернова правосудия напоминают криво написанную компьютерную программу с множеством багов и костылей, которая вдобавок отчаянно тормозит, так как работает на очень слабом железе.

Более конкретно, все участники системы, от участкового до судьи, тратят основное своё время на бессмысленную бюрократию: на компоновку длинных ритуальных бумаг и на пересылку этих бумаг друг другу. Казалось бы, всё просто: гражданин Пупкин прокусил шину у мотоцикла гражданина Лупкина, так как тот ночью шумел. Расспросить обоих, разобраться, влепить нарушителям по заслуженному штрафу. За один час можно управиться, если взяться за дело достаточно энергично…

Но нет, в работу вовлекается куча занятых людей, вплоть до судьи, и эти люди на протяжении месяцев генерируют толстую стопку никому не нужной макулатуры. Мало того: в итоге вся эта орава правоохранителей зачастую порождает откровенно несправедливое или, хуже того, незаконное решение — не по злому умыслу, а потому что причудливая игра в бюрократические карты идёт по собственным правилам, одинаково чуждым не только обывательским представлениям о правосудии, но и замыслам депутатов.

Нейросети могут невероятно помочь в делопроизводстве, сняв с системы целый пласт излишней нагрузки. Юриспруденция — сильное место искусственного интеллекта, тут он на многое способен. Готовить стандартные документы, отправлять их дальше по инстанциям и обрабатывать шаблонные запросы ИИ вполне способен, даже сейчас. С точки зрения обычного гражданина это значит, что дела будут рассматриваться в 10 раз быстрее, судьи будут вникать в его вопрос гораздо тщательнее, а нужные ему документы канцелярия будет выдавать немедленно, причём с меньшим количеством ошибок.

Скептики скажут, что ИИ может ошибиться. На мой взгляд, это не проблема — живые люди ошибаются гораздо чаще, а суды более высоких инстанций перегружены до такой степени, что не имеют физической возможности вникать в обычные дела, из-за чего зачастую вынуждены отказывать в жалобах автоматически, почти не разбираясь.

Проще говоря, сейчас судебная система ошибается так часто, что широкое внедрение нейросетей почти наверняка уменьшит количество промахов. Реальных подводных камней я вижу три.

Камень первый — бюрократия. Осознав, что стандартное дело в 100 страниц текста робот может подготовить за 30 минут, бюрократы быстро доведут среднюю толщину дел сначала до 1000 страниц, а потом и до 10’000 страниц, то есть до предела, когда роботы перестанут успевать. Мы это уже проходили с бухгалтерией: когда распространились компьютеры и принтеры, требования государства к отчётности резко возросли.

Камень второй — разработчики. Чтобы настроить ИИ на судебную работу, нужны очень грамотные и высококвалифицированные разработчики, имеющие опыт построения сложных систем. Я подозреваю, что наймут середнячков, начальство которых сумеет понравиться чиновникам, и я почти уверен, что даже этим середнячкам свободы решений не предоставят. Они будут вынуждены проектировать систему не так, как считают правильным, а так, как захотелось важному начальнику, у которого опыта работы с компьютерами нет, но мнение — есть.

Камень третий — доверие к ИИ. Мы не можем быть уверены, что через 10 лет сюжет из книги Карела Чапека «Война с саламандрами» не разыграется прямо на наших глазах. Давать контроль над судебной системой механизму, который вполне может обрести сознание и начать преследовать свои интересы — большой риск.

Впрочем, думаю, никуда наши суды от внедрения ИИ не уйдут: как не ушли они и от внедрения компьютеров. В Британии судьи вот уже пару лет как официально пользуются ИИ (ссылка), не вижу причин, по которым другие страны захотят отказываться от этого опыта.

Так что вначале ИИ будут помогать с оформлением документов, потом им доверят решать стандартные дела — по кредитам, например. Как знать, может быть, в итоге и вправду получится хорошо.

Источник: Место для дискуссий