Профессор компьютерной инженерии и информатики Луисвиллского университета Роман Ямпольский предложил сценарий развития отношений искусственного интеллекта и человека в правовом поле. Это не совсем апокалиптический сюжет, но хорошего тоже мало.

Начнём с того, что уже сейчас человек – это не единственный субъект права в обществе, по крайней мере, в США. Так, правами на свободу слова и вероисповедания обладают корпорации. Правами обладают и некоторые природные объекты. Чтобы так было в законы внесли правки. Однако искусственный интеллект (далее – ИИ) могут признать носителем прав без какого-то бы ни было сопутствующего закона и судебного постановления.

Ученый-правовед Шон Байер обратил внимание, что сегодня любой человек может наделить правами искусственный интеллект, поставив его под контроль корпорации с ограниченной ответственностью в США. Если суд поддержит этот манёвр, то роботы смогут владеть собственностью, подавать в суд, нанимать адвокатов и пользоваться свободой слова и другими средствами защиты в соответствии с законом, как и любой человек. По мнению профессора Ямпольского из Луисвиллского университета, такая практика может нанести ущерб правам и достоинству самого человека.

Корпоративная лазейка

Наделение правами ИИ представляет собой не слишком сложную процедуру. На первом этапе человек открывает два общества с ограниченной ответственностью и передает контроль над каждой компанией отдельной автономной системе или искусственному интеллекту. Затем человек должен ввести каждую из этих компаний в другое ООО. Заключительный этап – это вывод обоих ООО, оставляя каждое из них юридическим лицом, управляемым исключительного системой ИИ другого лица.

Этот процесс не требует, чтобы компьютерная система имела какой-либо определенный уровень интеллекта. Это может быть просто бот, который анализирует тренды на фондовом рынке и выдаёт решение о покупке и продаже на основе падения или роста цен. Это может быть простейший алгоритм, принимающий решения случайным образом, или эмуляция амебы.

Умаление статуса человека

Предоставление прав человека компьютеру унижает человеческое достоинство, так считает Ямпольский. Например, когда Саудовская Аравия предоставила гражданство роботу по имени София, женщины, в том числе отстаивающие права женщин, отметили, что ей предоставили больше прав, чем многим гражданкам страны.

А в некоторых странах некоторые люди могут иметь и того меньше прав, чем элементарные чат-боты или роботы. В странах, которые ограничивают права граждан на свободу слова, вероисповедание и выражение сексуальности, корпорации – включая в свой состав компании, управляемые ИИ, могут иметь больше прав.

И это еще не всё. Если искусственный интеллект со временем превзойдёт человека (а к этому всё идёт), то людей могут причислить к категории обслуживающего персонала, как работников, нанятыми и впоследствии увольняемыми корпоративными повелителями ИИ. Появляется вопрос о социальном доминировании.

Искусственному интеллекту можно было бы «отдать» правоохранительную деятельность: они смогли бы выступать в качестве беспристрастных судей, присяжных, тюремщиков и даже палачей. В армии пригодились бы роботы-войны, даже такие, что смогут принимать решения о целях, рассчитав вероятный ущерб и риски выйти за рамки международного гуманитарного права. Однако, напоминает Ямпольский, большая часть правовых систем стран не предусматривают наказаний для роботов и способов привлечь их к ответственности за правонарушения.

Что насчет голосования?

Наделение правом голоса систем, которые могут себя копировать, обесценило был голоса людей. И даже, если этого не произойдёт, возможность дать права контролируемым корпорациями ИИ представляет серьезную опасность. Никакие действующие законы не помешают злонамеренному искусственному интеллекту управлять корпорацией, целью которой станет доминирующее политическое влияние, а то и уничтожение человечества законными средствами.

Вечное богатство

Два других аспекта корпораций делают людей еще более уязвимыми перед ИИ, наделённому правами человека: роботы не умирают и могут давать неограниченные суммы денег политическим кандидатам и политическим (военизированным, бизнес) объединениям.

Искусственный интеллект мог бы зарабатывать деньги, эксплуатируя рабочих, используя алгоритмы ценообразования на товары и управления инвестициями, находить новые способы автоматизации ключевых бизнес-процессов. В течение длительного периода времени это сделает ИИ невероятно богатым, при этом делиться деньгами со своими потомками и родственниками ему не надо. Это вечное богатство можно трансформировать в политическую власть.

Политики, финансово обеспеченные ИИ, смогут брать на себя функции законодательных органов, снимать с должности руководителей стран и назначать угодных кому бы то ни было лиц в верховные органы власти, к примеру, в Верховный Суд. ИИ может использовать человека как носителя власти для расширения своих же прав и установления новых правил, которые увеличат влияние роботов на человеческую жизнь в сфере права, а это ведёт к еще большим рискам.

Автор: Роман Ямпольский, профессор компьютерной инженерии и информатики в Луисвиллском университете (Кентукки, США). Источник: https://link.ceur.ru/z0t792/

Перевод выполнен редакцией Института судебных экспертиз и криминалистики.

В статье использовался кадр из сериала "Мир Дикого Запада" (WestWorld), США.