ИИ и машинное обучение все больше и больше используются в различных сферах деятельности человека - от беспилотных автомобилей до боевых беспилотных летательных аппаратов. По мере того, как совершенствуются технологии, растет их популярность, расширяется сфера применения, растут и риски для безопасности государства и общества.

Несколько исследователей, специализирующихся в сфере кибербезопасности и компьютерной инженерии, из Научно-исследовательского института Джорджии и Технологического института Джорджии (США) занялись разработкой нового направления киберкриминалистики - ИИ-психиатрией (AI Psychiatry). Задача нового направления - обеспечение большей безопасности данных в постоянно меняющемся технологическом ландшафте.

По словам доцента Школы кибербезопасности Института, идея создания ИИ-психиатрии возникла в результате 10-ти лет исследований и разработки передовых методов киберкриминалистики, включая защиту от традиционных кибератак и получение цифровых доказательств с устройств на месте преступления. Поскольку ИИ и машинное обучение становятся все более популярными, ИИ-психиатрия будет играть ключевую роль в защите безопасности государства от киберугроз.

Психиатрия (от др.-греч. «дух», «душа», «характер»; + др.-греч. «лечение», «исправление», «приведение в исходное состояние», далее от «врач») - отрасль медицины, которая изучает психические расстройства, их диагностику, лечение и профилактику.

В каких случаях и как будет использоваться ИИ-психиатрия? 

В качестве примера исследователи привели ситуацию с беспилотным автомобилем. Если транспортное средство вдруг выполнит странный маневр или внезапно наберет скорость, то ИИ-психиатрия поможет определить причину отклонения в «поведении» - было ли это результатом воздействия кибератаки или допущена ошибка в алгоритме? Если причиной «ошибочного» поведения была кибератака, то эксперты устранят уязвимости в системе, что в дальнейшем защитит ПО от новых атак. 

ИИ-психиатрия понадобится не только для беспилотных автомобилей. Военные эксперты в сфере национальной безопасности внедряют современные технологии для ускорения процессов обучения и принятия решений, начиная от систем распознавания космических снимков и заканчивая боевыми дронами, самостоятельно принимающими решение. «Если разбивается, например,  дрон, то вам необходимо разобраться в причине», - поясняет участник исследования. «Это произошло в результате военного акта, нападения или несчастного случая?»

В мае 2021 года РИА-Новости сообщили со ссылкой на The Independent, что в Ливии боевой дрон впервые самостоятельно, без команды,  атаковал людей. Инцидент произошел в 2020 году.

Конечно, развитие ИИ-психиатрии не происходит гладко. Это новое направление в криминалистике, и его создатели идут непроторенными дорогами. «Мы пытаемся прогнозировать, какие новые проблемы появятся через 10, 20 лет, когда машины будут самостоятельно принимать решения.»

Источник: New Branch of Cyber Forensics to Advance National Security

Краткий перевод статьи подготовила Наталья Вознесенская

Коротко о развитии беспилотного транспорта в России

1 сентября 2021 г. Сергей Собянин сообщил, что в настоящее время тестируются беспилотники, которые будут внедрены на всех видах транспорта в Москве. Первыми должны появится беспилотные такси.

Согласно утвержденному Министерством транспорта плану внедрения высокоавтоматизированных транспортных средств (ВАТС), испытания беспилотников проводятся в 13 регионах страны. Эксперимент продлится до марта 2022 года.