Внедрение и развитие видеоконференцсвязи в судах позволяет не останавливать разрешение судебных споров в период эпидемии; различные цифровые сервисы по взаимодействию ведомств, организаций и частных лиц облегчают бизнес-процессы, делают их прозрачнее, доступнее, безопаснее, экономят время и финансы. 

Цифровизация различных процессов с одной стороны, значительно облегчает решение многих насущных проблем, с другой - поднимает вопросы этики, соблюдения основных конституционных свобод и прав. Но тем не менее мысль человека идет дальше. А что, если доверить компьютеру толковать и применять законы? Сможем ли мы в итоге создать абсолютно прозрачное, понятное и справедливое судопроизводство, или это постепенно уничтожит наши права и свободы?

Право как компьютерный код

Может ли компьютер понимать и применять правовые нормы? Идея перевести законы на язык компьютера получает все большее распространение, т.к. она обещает сделать законы более доступными для общественности и, как результат, людям проще будет их соблюдать. Одновременно, это поднимает множество вопросов юридического, технического и этического характера.

Искусственный интеллект впервые помог судьям из Китая вынести приговор 

Организация экономического сотрудничества и развития (ОЭСР, Австралия)  недавно опубликовала официальный документ «Право в коде», посвященный предпринимаемым усилиям по решению этого вопроса. Сейчас документ проходит общественные обсуждения заинтересованных сторон. 

Текстовая информация, записанная буквами, воспринимается человеком, но не компьютером. Чтобы машина смогла читать и применять правовые нормы, их необходимо перевести в компьютерный код. И если мы сможем понять, как это сделать, мы сможем продвигаться дальше в цифровое будущее. 

Метод проб и ошибок

Идея перевести языка закона в компьютерный код родилась не сегодня. За последние пятьдесят лет исследователи искусственного интеллекта и эксперты права создали ряд официальных версий налогового законодательства и других законов в компьютерном коде. 

Например, в 1986 году британские компьютерщики Боб Ковальски и Марек Серго перевели в компьютерный код Закон о британском гражданстве. В качестве более широко известных результатов подобной работы можно назвать руководство для помощи налогоплательщикам, разработанное Налоговой службой Австралии. Однако, именно эту систему можно назвать одной из крупных неудач разработчиков.

Что там случилось?

Самым оглушительным провалом стала Австралийская система «robodebt» («рободолг» - система для автоматизированного взыскания долгов). Система была введена в 2016 году, и ее целью была замена ручного труда по расчету платежей и направлению уведомлений о долге. Ошибки, допущенные в алгоритмах системы, привели к тому, что получатели социальных пособий выплачивали несуществующие долги либо размер долга превышал фактическую задолженность. При этом, бремя доказывания было на самом получателе пособий, а не на компании, которая проектировала систему.

На чем был основан автоматический расчет долга? Размер социальных пособий, выплачиваемых на основе заявления о двухнедельном доходе, система сравнивала с предполагаемым двухнедельным доходом, принимаемым как простое среднее значение годового дохода, сообщаемое в Налоговое управление Австралии. На основе сравнения этих сумм система и принимала решение для автоматического создания уведомления о долге. При этом, в дальнейшем не предполагалось человеческого участия в анализе или обосновании появления долга. Получалось, что если человек не работал 9 месяцев, а затем в течение трех месяцев работал на временной работе, за которую ему заплатили 12 тыс австралийских долларов, он автоматически получал уведомление о долге. И этот алгоритм не учитывал реальную ситуацию, как на самом деле оплачивается труд работников в Австралии, занятых на временной работе. 

В итоге, эта система стала катастрофой для правительства Австралии, которое должно вернуть около 721 млн австралийских долларов в виде ошибочно выплаченных долгов. Это произошло после того, как Высокий суд признал схему расчета незаконной. По этой схеме было направлено 470 000 уведомлений о долге, причем речь шла о людях с низкими доходами, что вызвало социальное напряжение в обществе.

За последнее десятилетие Data61, подразделение Государственного объединения научных и прикладных исследований Австралии, которое занимается анализом данных, по-новому взглянуло на вопрос создания правового регулирования как открытой платформы, основанной на цифровой логике. Эта платформа облегчает создание ПО для автоматической проверки деятельности компании или любого предприятия на соответствие требованиям нормативно-правовой базы. Например, может быть создан функционал по проверке необходимости получения разрешений для новой компании, и о порядке их получения. 

Что такое «Право в коде»?

Перевод языка закона на язык компьютера - это очень сложный процесс. Законы пишутся на языке людей, без учета, что в дальнейшем их будут переводить в компьютерный код. Неопределенные, широко толкуемые нормы трудно интерпретировать и применять для конкретных случаев.

Процесс кодирования - кропотливый и требует больших ресурсов. Эксперты в области права и технологий должны разбираться отдельно с каждой нормой в своде правил, которые зачастую очень обширны.

Сможет ли компьютер вынести справедливый вердикт?  В 1963 году адвокат Рид Лоулор (Reed Lawlor) опубликовал в журнале Американской ассоциации адвокатов пророческую статью. «В ближайшие годы, - писал он, адвокаты всё больше и больше будут полагаться на компьютеры, решая с их помощью свои задачи. Компьютеры будут использовать не только бухгалтерии ради минимизации работы с бумажками. Их будут использовать для поиска и анализа информации, чтобы прогнозировать судебные решения. Для этих задач будут задействованы современные логические и математические алгоритмы и теории построения вероятностей».

В качестве преодоления этих трудностей, в Новой Зеландии, Австралии, Франции и Канаде был предложен другой подход к решению проблемы: «Право в коде». Это означает, что разработчики проекта создают два текста закона одновременно -  один на языке человека, другой - в компьютерном коде.

В отчете ОЭСР заявляется, что проект «Право в коде» «позволит предприятиям использовать компьютерные версии напрямую от правительства, уменьшая индивидуальную потребность в интерпретации и кодировании». Кроме того, техническая возможность переводить нормы с человеческого языка на компьютерный «может устранить  (или существенно минимизировать) потребность в междисциплинарном сотрудничестве и обучении, таким образом уменьшая потребность в различного рода экспертов для корректировки их методов работы по улучшению общего качества правил».

Теряя гибкость

Проект «Право в коде» может иметь преимущество в плане эффективности, но может также привести к потере разумной гибкости в толковании законов. Толкование законов осуществляется различными заинтересованными сторонами, причем суды являются последней инстанцией.

Кодирование языка закона облегчает его применение в тех случаях, к которым законодатели его адресовали, а также в тех возможных ситуациях, которые явно и не рассматривались.  Однако, версия, кодированная для компьютера, может оказаться слишком жестко ограничена рамками, чтобы применяться адекватно и справедливо в ситуациях, которые законодатель не предусмотрел.

«Право в коде» поднимает множество сложных юридических вопросов. Будет ли такое применение для совокупности законов конституционным, или это будет рассматриваться как присвоение, подрыв или ограничение роли судов в толковании законов? Насколько можно доверять взгляду разработчика и кодировщика на трактовку нового закона?

Если новый инструмент Право-в-коде будет создан некорректно, на основе неверной информации, то как выявить эту ошибку и кто за нее будет отвечать? В качестве возможной ситуации представим себе, что пользователь, который обратится к данному инструменту, получит ошибочный отказ в пособии по безработице. Какие процедуры необходимо предусмотреть в подобных случаях?

Исходные данные включали расизм Насилие со стороны полицейских в городах США в этом году показали ту степень, в которой системный расизм влияет на правосудие в Америке - от полицейских патрулей до вынесения приговора. Темнокожие люди с большей вероятностью будут остановлены на улице и обысканы, арестованы за незначительные нарушения, с большей вероятностью будут заключены под стражу при предварительном расследовании дела, и им будут вынесены более длительные сроки по сравнению с белыми американцами за сопоставимые преступления, когда они предстанут перед судом. Этот системный расизм заложен и в различных алгоритмах. Один из примеров - это система COMPAS, так называемая система «поддержки принятия решений», которая помогает советам по условно-досрочному освобождению в Соединенных Штатах решить, каких заключенных можно освободить досрочно. Работа системы основана на оценке вероятности совершения преступления повторно.  Алгоритм для принятия решения опирается не на простые правила, а производит подсчет баллов на основании исходных данных, включая демографическую информацию и результаты опросов. В алгоритме нет такой переменной как «расовая принадлежность», системный расизм присутствует неявно, являясь составной частью других переменных, сформированных предубеждениями полицейских и судами на местах.   Кандидатам задаются ряд вопросов об их взаимоотношениях с правосудием, таких как возраст, в котором они впервые контактировали с полицией, и были ли в их семье или среди друзей люди, сидевшие в тюрьме. Затем ответы на эти вопросы учитываются при определении окончательной оценки «риска». Кэти О Нил в своей книге «Оружие математического уничтожения» так сказала об этом: «Легко представить, как на эти вопросы ответит один заключенный, который вырос в привилегированной семье, и другой, чья жизнь протекала в жестких условиях улиц».

Оценить риски

Восхищение по поводу возможностей проекта должно быть сбалансировано пониманием структурных рисков. Право-в-коде, объединяя в себе законы, регулирование и роль правительства, оставляет их такими же, какими они были в ХХ веке. Одновременно технологии, развиваясь, меняют законы, расширяя права и возможности людей и других субъектов. Колин Рул, мировой лидер в урегулировании споров в Интернете, заявил, что развитие технологий окажет большое влияние на будущее правосудия. Компьютерные системы, осуществляющие правовое регулирование с позиции «авторитетного» или «официального» взгляда на закон, могут разрушить само право, человеческие свободы и демократию.

Традиционный подход к кодированию законов и новый - «Право в коде» являются важными кирпичиками для строительства цифрового права в будущем. Но ни один из подходов не может успешно справиться с юридическими проблемами и потребностями при создании компьютерного кода для законов в масштабе, необходимом для поддержания генеральных решений ИИ.

Как достичь цели

Лучшим вариантом было бы создание таких алгоритмов ИИ, которые могли бы интерпретировать и кодировать правовые нормы искусно и прозрачно, развивая их содержание и соблюдая весь комплекс прав и интересов людей. Эта концепция будущего развития требует, помимо прочего, развития механизмов для определения, когда взаимодействовать с законодателями и экспертами, а также с учреждениями, что в итоге позволит достичь качественных результатов. 

Разработчикам алгоритмов необходимо фокусироваться не только на статистике и написании программного обеспечения, но учитывать и этические вопросы. Кроме этого, необходимо гарантировать прозрачность обоснования и логику принятия решений, и сравнительную предсказуемость результата, а также сделать человека ответственным за эти решения и их последствия.

Закон Евросоюза о защите данных гласит, что системы, основанные на алгоритмах и влияющие на любого человека, должны включать в себя такой этап как проверка человеком. Также к организациям предъявляется требование - обеспечить прозрачность логических процессов, заложенных в алгоритм.

А тем временем, Конгресс США рассматривает проект Algorithmic Accountability Act (закон о подотчетности алгоритма), который потребует от организаций принимать во внимание «риски того, что автоматизированная система принятия решений может привести или способствовать принятию неточных, несправедливых, предвзятых или дискриминационных решений, влияющих на потребителей».

Широкий круг экспертных знаний - не только юридических, но и этических, экономических, финансовых, медицинских, психологических и т.д. - необходим для правильного определения путей достижения поставленных целей. Если мы хотим максимально использовать новые технологии в мире, насыщенном персональными данными, и сохранять наши права, то жизненно важно обеспечить прозрачность и открытость принимаемых решений при создании алгоритмов.

Источники: ««Rules as Code» will let computers apply laws and regulations. But over-rigid interpretations would undermine our freedoms» 

«From robodebt to racism: what can go wrong when governments let algorithms make the decisions»

Перевод выполнен редакцией Института СЭиК.

По теме:

О предвзятости в алгоритмах полицейских систем Британии 

«Особое мнение»: искусственный интеллект на страже борьбы с преступностью 

Роботы на службе юриспруденции: чем они вообще там занимаются 

Искусственный интеллект изучил 300 000 документов и стал помогать прокуратуре 

Студент из Стэнфорда намерен расправиться с юристами 

Робот-юрист из Кембриджа помогает развестись