Доказательства, основанные на экспертизе ДНК-профилей, не всегда так непогрешимы, как многие считают. За последние 20 лет созданы очень чувствительные методы, позволяющие найти даже незначительные следы ДНК на месте преступления или на предметах. Но очень часто следы ДНК преступника смешиваются с образцами ДНК других людей, которые были на этом же месте. Смешение ДНК и перенос на предметы может происходить в результате, например, рукопожатия. И это может привести к осуждению невиновного человека.

Ученые разработали алгоритм разделения таких ДНК-смесей и измерение относительного количества ДНК, которое находится в такой смеси и принадлежит каждому из людей. Такие методы «вероятностного генотипирования» позволили криминалистам определить вероятность присутствия следов ДНК других людей в образце-смеси, найденном на месте преступления*.

В настоящее время идут разработки высокочувствительных технологий с использованием искусственного интеллекта (далее-ИИ) для того, чтобы можно было определить, оставлен ли был образец ДНК на месте преступления непосредственно тем, кто там был, или следы ДНК попали туда путем переноса. И если эти разработки окажутся успешными, может возникнуть новая проблема, т.к. невозможно точно понять, как именно ИИ приходит к тем или иным результатам. И как мы можем доверить технологии предоставлять жизненно важные доказательства, если мы не можем узнать, почему ИИ пришел именно к таким выводам? И это еще один возможный источник для увеличения количества судебных ошибок.

Таким образом, отсутствие прозрачности в результатах анализа может стать препятствием к внедрению технологии в работу криминалистов.

«Совы не то, чем кажутся...»

Похожие проблемы возникли десять дет назад, когда было разработано программное обеспечение для анализа ДНК. Доказательства, полученные в результате разделения ДНК-смесей с помощью данного ПО, были оспорены адвокатами (в т.ч., по делу американского футболиста и актера О.Дж.Симпсона). Защитники добивались от обвинения предоставления доказательств того, что данное ПО сертифицировано должным образом. Насколько точны были результаты и какова погрешность? Как именно работает ПО и учитывает ли оно версии защиты? Действительно ли результаты заслуживали доверия настолько, что суд присяжных мог вынести правомерное решение?

Основополагающим принципом закона является то, что доказательства должны быть открыты для изучения. Присяжные не могут полагаться на голословные утверждения (т.е., сделанные безосновательно, без доказательств), независимо от того, кто их сделал и какой компетенцией обладают эти люди. Но владельцы ПО аргументировали, что это их интеллектуальная собственность, она защищена законом и является коммерческой тайной.

Завязалась борьба между сторонниками новых технологий и защитой, которая настаивала на том, чтобы им предоставили возможность в частном порядке изучить, как работает ПО. В итоге, суды согласились, что необходим полный доступ к программному коду, чтобы по меньшей мере проверить версии, отличные от выдвинутых обвинением.

«Чей туфля?»

Но ПО не смогло полностью решить проблему анализа ДНК-смесей и небольших, частично сохранившихся образцов. Мы до сих пор не знаем, как понять, была ли ДНК оставлена на месте преступления или попала туда путем переноса. Это усложняется тем, что люди оставляют следы ДНК с разной скоростью - феномен, известный как «статус шеддера».

Например, на орудии убийства был найден образец ДНК, в котором содержалось больше следов ДНК человека, который его не трогал, чем следов ДНК преступника. В результате, в серьезном преступлении были обвинены оба человека.

Добавьте к этому тот факт, что ДНК остается с разной скоростью на разных поверхностях и в разных условиях окружающей среды, и все это может привести к невозможности определить точно, откуда ДНК появилась в образце. И эта проблема «переноса и сохранения» ДНК угрожает серьезно подорвать веру в результаты экспертизы.

В результате, сейчас проводятся эксперименты по поиску подходов для более точного определения количества ДНК в различных условиях. ИИ обладает возможностью для анализа результатов этих экспериментов и использования их для определения источника ДНК в образце.

Но использование ПО, основанного на ИИ, создает еще большую проблему, чем проблема прозрачности метода «вероятностного генотипирования». Принцип работы ИИ не является коммерческой тайной, но он непонятен даже для самих разработчиков.

«И я думаю, что однажды при великом везении он станет и понятным»

ИИ использует математические алгоритмы для решения таких задач, как например, сопоставления выражения лица с набором определенных эмоций. Но особенно важно то, что ИИ способен учиться методом проб и ошибок, постепенно воздействуя на свои основополагающие алгоритмы для более эффективного решения задач. Этот процесс изменения не всегда прозрачен. ИИ меняет свои подходы чрезвычайно быстро, в соответствии со своей непостижимой логикой. Он может фантастически эффективно работать, но мы не понимаем, как он это сделал. Это похоже на черный ящик, в который загружают данные и получают результаты, но его внутренняя работа не видна.

Эта проблема «непрозрачности» затрагивает многие сферы, в которых используется ИИ. Например, ПО, которое используются при отборе персонала, баз данных для полиции, очень трудно откорректировать, если их результаты были основаны на алгоритмах, построенных на гендерной или расовой предвзятости (о применении ИИ в работе полиции).

Появление систем ИИ, которые будут выполнять высокочувствительный анализ ДНК-смесей, приведет к увеличению существующих проблем. Адвокаты могут с полным основанием оспаривать применение данной технологии, даже если она будет применяться только при сборе данных, а не в качестве предоставления доказательств в суде. И если эти проблемы не решить на начальных стадиях создания систем ИИ, то в дальнейшем его использование в судебной экспертизе будет проблематично.

Есть ли пути решения проблемы? Как вариант, возможно применять ИИ только в определенных рамках, для ограниченного круга задач. Однако, это снизит эффективность использования технологии, и это будет плохое решение, если цель ИИ - это работа в тех сферах, где мы не способны или не готовы решать задачи сами. Какую бы сферу применения ИИ мы ни выбрали, в рамках состязательной системы уголовного правосудия должна существовать возможность для проверки, пересмотра всех решений, принятых автоматизированной системой, и для предоставления третьим сторонам возможности однозначной оценки.

В конечном счете, это не только техническая проблема, это жизненно важный этический вопрос, который находится в центре системы уголовного правосудия. На карту поставлено право на справедливое, открытое и прозрачное судебное разбирательство. Этот основополагающий вопрос должен быть разрешен до того, как стремительный рост технологий приведет нас к точке невозврата.

Источник: «AI could revolutionise DNA evidence – but right now we can’t trust the machines» by Karen Richmond, Postdoctoral research fellow, University of Strathclyde, https://theconversation.com/ai-could-revolutionise-dna-evidence-but-right-now-we-cant-trust-the-machines-129927

Перевод выполнен сотрудниками ИСЭиК

_________
*В настоящее время в судебно-медицинской экспертизе разработаны высокоэффективные методики выделения ДНК-профиля из биологических образцов, даже если объем образцов очень мал (и составляет сотни пикограмм). Но если биологические образцы состоят из телесных жидкостей от двух и более индивидов, методы генотипирования могут быть неточными. В большинстве таких случаев могут быть получены смешанные ДНК-профили (комплексный профиль ДНК). И вот такие смешанные образцы являются одной из основных проблем криминалистической генетики. «Стандартным подходом для анализа комплексного профиля ДНК в настоящее время является статистическая деконволюция, а предпочтительно использующимся методом – оценка отношения правдоподобия (LR). LR определяется как соотношение двух вероятностей одного и того же события, определенного двумя альтернативными гипотезами: гипотезой обвинения (числитель) или гипотезой защитника (знаменатель).» (статья)

По теме:

Почему ДНК-исследования должны проводить роботы? Чем не угодили судмедэксперты? 

«Подводные камни» ДНК-тестирования» 

В статье использованы цитаты из сериалов и кинофильма: «Твин Пикс» (с), «Кавказская пленница»(с), «Шерлок» (с)