Станет ли ай-детектор началом антиутопии? Часть 2

Ай-детектор – детектор лжи нового поколения. Появление его прошло незаметно, а вот использование набирает обороты. Во-первых, он проще в использовании, не требует больших временных и трудозатрат. Во-вторых, его результаты более точны. Так утверждают создатели ай-детектора. Но что принесет нам, людям, его применение? Первая часть лонгрида.

Опасность, глазные капли...что еще влияет на результат?

Ощущение опасности — очень относительное понятие, считает Уайльд: «Многие вещи, такие как беспокойство за результаты тестирования, могут влиять на физиологические реакции как лживых, так и искренне отвечающих людей».

За последние четыре с половиной года Компания изучала, как нивелировать влияние различных способов обмана ай-детектора на результаты тестирования. Речь идет о том, если тестируемый, например, косит глаза, использует глазные капли или просто не отвечает на вопросы. Отладка системы была основана на результатах этих исследований и на уверенности в том, что короткий по времени тест защищает систему от возможного противодействия.

Сейчас компания считает, что технология «фактически исключает» эффективность воздействия каких бы то ни было факторов.

Тем не менее, неточности существуют

Даже если полагаться на самые оптимистичные выводы компании о точности результатов, при исследовании большой группы людей на причастность к такому неординарному преступлению как терроризм, ай-детектор показал бы большое число ложноположительных результатов. Сам Кирхер для выявления подобных преступлений советует не полагаться только на технологию ай-детектора или любую другую.

«Даже если точность результатов теста составит 90%, а 10% испытуемых тест не пройдут, то большинство из них окажутся невиновными в преступлении», — пишет Кирхер (при этом разработчик считает, что ай-детектор дает только 10% ложноположительных результатов, и это самый низкий уровень среди всех существующих технологий, включая полиграф).

Первые полевые испытания ай-детектора Компания проводила в Колумбии. Однако, результаты не были опубликованы из-за нестабильных показателей. Кирхер пишет:

По-видимому, детектор работал хорошо, когда мы тестировали хорошо образованных людей, подавших заявку на работу в авиакомпанию. И тест показал неэффективность, когда его проходили менее образованные претенденты в охранную компанию.

Кирхер предположил, что причина заключалась в том, что у кандидатов в охранники могли возникнуть проблемы с чтением, и они не могли понять смысл вопросов. Сейчас ай-детектор учитывает разные способности к чтению во время тестирования, говорит Компания. К сожалению, другие исследователи не могут оценить, что явилось причиной столь разрозненных результатов, т.к. данные исследования не опубликованы.

Смена алгоритма – обычное дело?

В реальной жизни ай-детектор тоже показывает удивительные результаты. В январе 2017 года сержант полицейского управления Алан Маккарти (Колумбус, штат Джорджия) написал вице-президенту по маркетингу и производству Converus, Рассу Уорнеру о кандидате, который признался в том, что в течение двух лет употреблял марихуану, при этом он успешно прошел тестирование на ай-детекторе (в тесте есть вопрос об употреблении запрещенных веществ). В своем ответе в то время Уорнер предположил, что у кандидата были проблемы с левым глазом, которые и повлияли на результаты тестирования.

В Управлении полиции Солт Лейк Сити, которое первым начало использовать ай-детектор, произошел подобный случай. Кандидат, прошедший тест с показателем 78 (50 - считается достаточным для прохождения теста), признался затем в действиях, которые квалифицируются как профнепригодность. Уорнер объяснил, как это могло произойти:

Мы установили более низкий уровень чувствительности (для этого человека). Если бы уровень был стандартным, он набрал бы менее 49 (означает «обман») и не прошел тест.

Эти случаи говорят о том, что Компания поощряет полицейские управления устанавливать более простой тест при переводе сотрудников из других правоохранительных органов. «Если вы собираетесь тестировать офицеров, которые уже принесли присягу, мы должны создать новый тест, с более мягким алгоритмом», – ответил Уорнер Маккарти в начале 2017 года. Микелсен сказал, что изменение базовой оценки вины для некоторых испытуемых «улучшает точность результатов» и является «обычной практикой» при тестировании на полиграфе.

Эти объяснения не убедили Маккарти:

Мы не делаем разницы при тестировании на полиграфе для работников правоохранительных органов и гражданских. Кандидат на должность заместителя шерифа отвечала на вопросы о том, не была ли она замешана в серьезных преступлениях, употреблении наркотиков, кражах и нарушении присяги в качестве сотрудника правоохранительных органов. Не совсем укладывается в вашу логику.

Микелсен горд, что его система меняется, «приспосабливаясь к вариантам различных неудач при тестировании большого количества кандидатов». Другими словами, по данным можно судить, какой уровень доверия получали люди с похожей биографией при тестировании в прошлом.

Например, представители правоохранительных органов, работавшие в более криминальном районе, могут получить меньше доверия по сравнению с теми, кто работал в благополучных районах. Микелсен не видит проблем в такого рода предвзятости:

Чувствительность (детектора) можно установить для конкретной группы. Это дает возможность для всех экзаменуемых получить более справедливый результат. Большинство организаций могут составить точные критерии оценки с учетом количества не пройденных проверкой биографических данных, собеседований, признаний, свидетельских показаний и т.д.

В чем опасность?

Джон Аллен обеспокоен такой практикой. «У вас должна быть очень хорошая база данных для оценки вероятности вины, – говорит он. – В противном случае, отдав это решение в руки конкретного экзаменатора, возникнет ситуация высокой вариативности оценок и реальная возможность необъективных результатов». Гражданские активисты также говорят о своих опасениях».

Несмотря на то, что полиграф – это очень ненадежная технология столетней давности, по крайней мере, критики могут переосмыслить его значение и открыто обсуждать результаты тестирования.

Ай-детектор – это закрытая система, которая использует собственный алгоритм, результаты которого может изменить оператор на свое усмотрение. Благодаря невысокой стоимости и автоматическому управлению, новые детекторы могут получить широкое и быстрое распространение в отличие от полиграфа, который требует много временных и трудозатрат.

В качестве выводов

Converus сообщила, что одна ближневосточная страна уже приобрела ай-детекторы для проверки въезжающих в страну с целью проверять их на причастность к террористической деятельности. В официальном ответе журналистам компания сообщала в 2017 году, что ей поручено «провести внеплановые проверки новой администрации Трампа».

В то время как проверка на полиграфе до сих пор запрещена в большинстве судов США, ай-детектор может вскоре стать частью правовой системы.

В мае, в окружном суде Нью Мехико впервые был использован ай-детектор в судебном процессе. Его должен был пройти бывший тренер средней школы, который обвинялся в совершении сексуального насилия в отношении 14-ти летней девочки. Обвиняемый тест прошел, и присяжные не смогли прийти к единому мнению.

Компания сообщает, что еще 4 штата обсуждают вопрос о допустимости использования ай-детектора.

В отличие от полиграфа, для приобретения которого достаточно заплатить один раз, с ай-детектором дело обстоит по-другому. Ай-детектор стоит $3500, кроме этого Компания получает деньги за каждый отдельный тест, который обрабатывает система. В прошлом году правоохранительные органы платили компании 60 и 80 долларов за тест. Если ай-детекторы заменят хотя бы часть полиграфов, на которых ежегодно проводится 2,5 млн тестов в США, у Компании будет надежный источник дохода на многие годы.

Большое беспокойство вызывает вопрос о том, заслужит ли ай-детектор доверие тех, кто будет проходить тестирование.

Источник: An eye-scanning lie detector is forging a dystopian future, by Mark Harris.

Перевод выполнен редакцией ИСЭиК.