Объективные новости через призму совести

Создание фоторобота с помощью искусственного интеллекта: какие опасности эта технология может за собой нести?

22 февраля 2023
Создание фоторобота с помощью искусственного интеллекта: какие опасности эта технология может за собой нести?

Автор: Виктория Лисунова

Нейросети стали частью нашей повседневной жизни, поэтому нас уже сложно удивить какими-либо новыми изобретениями. На сегодняшний день благодаря внедрению новых технологий возможен анализ школьных работ, постановка диагнозов, прогнозирование погоды, предотвращение финансового мошенничества. Сейчас компьютер уже в силах выполнять те задачи, которые раньше были под силу только человеку, из-за чего значительно облегчилась жизнь представителей ряда профессий. Однако технологии продолжают и дальше развиваться. Совсем недавно в США была создана программа, которая умеет создавать фоторобот преступника благодаря помощи искусственного интеллекта.

Процесс создания фоторобота человека, совершившего преступление – дело нелегкое. Когда-то составлением фотороботов занимались специальные художники, основываясь на показаниях человека, они карандашом от руки рисовали портрет подозреваемого. В настоящее же время для этого используются специальные компьютерные программы, в базе данных которых содержатся графические изображения сотни губ, глаз, бровей, подбородков, усов, а также других элементов лица – из этих составляющих уже формируется полноценный образ. Этот процесс обычно небыстрый – он может занимать несколько часов. Цель же программы американских разработчиков Forensic sketc заключается как раз в том, чтобы сократить время, которое обычно требуется для привлечения подозреваемого в совершении преступления.

Принцип работы этой программы в какой-то степени напоминает создание образа персонажа в видеоигре. Пользователь должен предоставить информацию через шаблон, который запрашивает описания пола, цвета кожи, бровей, носа, бороды, возраста, волос, глаз и челюсти. Кроме этого, в системе также есть функция открытого описания, в которой потерпевший может ввести любые имеющиеся у него данные о подозреваемом. После нажатия кнопки «создать профиль», все данные описания отправляются в OpenAI DALL-E – именно там с помощью искусственного интеллекта и генерируется фоторобот.

Однако, несмотря на достаточно простую процедуру создания образа подозреваемого, все же программа имеет ряд спорных моментов, которые могли бы изменить ситуацию совсем не в лучшую сторону. Без сомнения, искусственный интеллект может помочь в этом вопросе – облегчить трудоемкий процесс, в котором раньше больше ответственности накладывалось на человека, но все-таки важно, наверное, создавать рамки, в которых допустимо прибегать к помощи нейросети. Стоит подчеркнуть, что разработчики пока не выпустили программу, но уже пытаются связаться с полицейскими управлениями, чтобы начать тестирование.

«Мы еще не выпустили продукт, поэтому на данный момент у нас нет активных пользователей. На данном этапе мы все еще пытаемся проверить, будет ли этот проект жизнеспособным для использования в реальном сценарии или нет», – заявили разработчики программы Артур Фортунато и Филипп Рейно.

Создание фоторобота с помощью искусственного интеллекта может быть опасно по некоторым причинам, одна из которых заключается в том, что гиперреалистичный образ, сгенерированный программой, сможет заменить в сознании потерпевшего смутное воспоминание о реальном подозреваемом. Есть риск, что это приведет к тому, что впоследствии будет очень сложно составить уже новый портрет. Кроме того, создание виртуальных профилей подозреваемых, было бы особенно вредно для чернокожих и латиноамериканцев, поскольку у них в пять раз больше шансов быть остановленными полицией без причины, чем у белого человека. Из этого вытекает другая причина – использование ИИ в полицейской криминалистике может усугубить и без того существующие расовые и гендерные предубеждения.

«Исследования показали, что люди запоминают лица целостно, а не по отдельности. Процесс создания эскиза, основанный на описании отдельных черт, подобный этой программе искусственного интеллекта, может привести к тому, что лицо будет разительно отличаться от лица преступника. К сожалению, как только свидетель увидит фоторобот, этот образ может заменить в их сознании смутное воспоминание о реальном подозреваемом», – подчеркнула Дженнифер Линч, директор по судебным спорам о слежке фонда Electronic Frontier Foundation.

Читать все материалы