Конвенцию, которая определит правовой порядок отношений роботов и человека, представили на рассмотрение Комитету Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству. Комитет примет решение по документу в первой половине 2018 года.

Авторы документа – исследовательский центр проблем регулирования робототехники и искусственного интеллекта «Робоправо». Это автономная некоммерческая организация, созданная по инициативе международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова. По словам разработчиков конвенции, они «проанализировали существующие законы и правила <…> постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность».

Тезисы документа

Конвенция должна «определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем». Процитировало конвенцию агентство РБК, в распоряжении которого находится документ.

Итак, что предлагают авторы:

• Максимально расширить понятие объекта робототехники. Относить к робототехнике все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.
• Во главу ставить принцип максимальной безопасности. «Создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».
• Контролировать производство роботов для военных целей. В них изначально (нельзя изменить) должны быть заложены «ограничения, соответствующие положениям международного гуманитарного права».
• Установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).
• Хранить информацию об условиях функционирования робототехники. Контролировать фиксацию роботами информации об условиях своего функционирования и всех совершаемых ими действиях; хранить её в специальном «черном ящике».
• Предусмотреть «красную кнопку». Производители роботов должны предусмотреть функцию моментального или аварийного отключения по требованию, так называемую «красную кнопку», в моделях, которые физически взаимодействуют с людьми и не находятся под прямым управлением человека.
• Не забывать о достоинстве. «Человек не должен умалять человеческое достоинство своим обращением с роботами».

История вопроса

Напомним, что тема законодательного урегулирования взаимодействия робототехники и человечества актуальна в 2017 году как никогда. 5 июля её обсудили на собрании совета при президенте по стратегическому развитию и приоритетным проектам. А в феврале спикер Госдумы Вячеслав Володин заявил, что к 2022 г. «везде» будут приняты законы, регулирующие взаимоотношения человека и робота. Этой темой должна была заняться и Госдума. К тому моменту существовал только один проект – концепция председателя совета директоров Mail.ru и основателя Grishin Roboticks Дмитрия Гришина.

Гришин при помощи авторитетного юриста по вопросам законодательства, регулирующего использование ИТ, Виктора Наумова (прим. ред.: одного из основателей «Робоправо») в конце 2016 года представил проект закона о робототехнике. Ключевой была мысль: