Человек обучает искусственный интеллект всему тому, что умеет сам. Нейросети ведут вполне осмысленный диалог, пишут статьи, превосходно рисуют и делают многое другое уже быстрее, а иногда и лучше, чем их учитель - человек. Вместе с развитием навыков и умений ИИ возникает много новых вопросов в сфере этики и права. Развивать технологии дальше, решая возникающие проблемы, или ограничить сферу их применения? Если человек, задающий алгоритмы, необъективен или предвзят, то будет ли объективным им созданная система? Человек несовершенен, может ли он создать совершенную нейросеть, идеально решающую те или иные задачи?

«Нарисуй меня, художник...»

Во время недавнего хакатона (англ. Hackathon, сочетание двух слов hacker «хакер» и marathon «марафон»), который был организован компанией OpenAI, два программиста создали новую платформу на базе нейросети. Платформа позволяет автоматизировать одну из задач расследования - создавать фоторобот подозреваемого  по описанию свидетеля. По мнению создателей эта платформа поможет криминалистам сократить время на создание фотороботов, что, конечно же, повысит эффективность их работы.

Платформа Forensic Sketch AI-rtis (буквально - ИИ-художник по созданию фоторобота), созданная EagleAI, использует алгоритмы нейросети DALL-E 2 для создания в течение нескольких секунд гиперреалистичных набросков на основе словесного описания. DALL-E и DALL-E 2 - это нейросети, которые создают цифровые изображения по текстовым описаниям. Нейросеть DALL-E 2, представленная компанией OpenAI в апреле 2022 года, позволяет генерировать реалистичные изображения с высоким разрешением.

Художнику-криминалисту требуется 2-3 часа, чтобы нарисовать фоторобот по описанию свидетеля. При этом, художник и свидетель должны делать это вместе, исправляя или добавляя детали, чтобы портрет как можно точнее соответствовал описанию. Поэтому, работа может занимать и больше времени. Разработчики платформы пояснили, что они пытались решить основную проблему художников-криминалистов: ускорить процесс создания фотороботов, используя искусственный интеллект.

Как работает ИИ-художник

Сначала художник-криминалист получает описание свидетеля. Затем он загружает его в интерфейс созданной платформы. Через несколько секунд рисунок готов. Словесный портрет можно загружать либо в свободной форме (как описание, без каких либо ограничений), либо через шаблон, выбирая нужные характеристики (пол, возраст, цвет кожи, цвет волос, тип бровей, цвет глаз, описание носа, описание челюсти и тип бороды). Платформа может генерировать от одного до четырех эскизов одновременно.

После того, как изображение создано, художник-криминалист может завершить процесс или загрузить эскиз и внести небольшие исправления до или во время показа свидетелю.

Создатели платформы говорят, что они хотят сначала провести исследования, чтобы выяснить, насколько будет востребован и полезен данный продукт, и только после этого открыть платформу для бета-пользователей. Пока они планируют разработать еще две дополнительные функции. «Мы хотим дать возможность художникам-криминалистам добавлять замечания свидетеля непосредственно в программу с помощью функции точной настройки интерфейса», - поясняют создатели платформы. «Мы также планируем интегрировать Whisper (система распознавания речи) для того, чтобы пользователь мог загружать речевое описание, которое будет преобразовано в текст.»

Что не так?

Возможность использования художника по созданию фотороботов на основе ИИ поднимает много вопросов, в том числе и вопрос о непредвзятости.

После появления в апреле 2022 года нейросети DALL-E 2 пользователи заметили предвзятость в показе образов, которые использовал ИИ. Например, на надпись «строитель» ИИ отреагировал показом только мужчин, а «бортпроводник» - только женщин. Компания OpenAI заявила, что это связано с ограничениями в доступных обучающих данных. В июне компания заявила, что работает над проблемой. В июле - что внедряет новые методы, которые позволят нейросети создавать более разноплановые образы людей.

В прошлом искусственно сгенерированные изображения людей (не только продуктами компании OpenAI) очень часто подвергались критике. В октябре 2022 года полицейская служба Эдмонтона (Канада) опубликовала изображение человека по фенотипу ДНК, созданное Parabon (о создании портретов на основе фенотипирования можно прочитать здесь). Фоторобот должен был помочь идентифицировать подозреваемого в жестоком сексуальном преступлении 2019 года. Созданный компьютером образ чернокожего человека моментально подвергся широкой критике как расистский. Сорок восемь часов спустя изображение было удалено из пресс-релиза, а также с сайтов социальных сетей, а офицер, отвечающий за отдел по расследованию сексуальных преступлений, принес извинения.

Результаты многочисленных исследований свидетельствуют о том, что алгоритмы, используемые в системе распознавания лиц, имеют минимальную точность при распознавании лиц чернокожих, латиноамериканцев и представителей национальных меньшинств. С учетом того, что полиция в 5 раз чаще останавливает на улицах без особых причин именно чернокожих, а не белых, создание гиперреалистичных образов подозреваемых (которые, возможно, невиновны) с помощью ИИ превращается в серьезную проблему.

Свидетельские показания при идентификации преступников являются одной из основных причин обвинения невиновных. Согласно данным проекта «Невиновность», 69% обвинительных приговоров, построенных на опознаниях свидетелей, были отменены впоследствии после проведения ДНК-тестов. Например, в 2020 году в Бруклине окружной прокурор согласился оправдать 25 человек, незаконно осужденных в течение 2014-2019 г.г. 24 из них были темнокожие и латиноамериканцы. Согласно отчету прокурора, в 20% случаев обвинительный приговор этим людям был вынесен на основании ошибочных свидетельских показаниях.

Перевод с англ.яз.: Наталья Вознесенская