Изображение сгенерировано Алисой Al
Институт Алана Тьюринга опубликовал доклад, в котором призвал не откладывать меры противодействия рискам мощных систем ИИ. По мнению авторов, неопределённость насчёт отдалённых угроз не должна мешать действиям. Основной упор предлагается сделать на верификации и надёжности систем, передает Habr.
В документе под названием «Риски передовых систем ИИ: практический путь вперёд» утверждается: многие опасности, связанные с искусственным интеллектом, уже можно изучать и регулировать. Проверок моделей в лабораторных условиях недостаточно, поскольку их возможности и характер взаимодействия с людьми меняются со временем. Авторы настаивают на более активном тестировании комплексных систем в реальной среде, причём с контролем не только техники, но и людей, процессов и организаций.
Глава института доктор Джордж Уильямсон заявил: «Вопросы о долгосрочном будущем человечества заслуживают внимания, однако обсуждение передовых систем ИИ не должно ограничиваться лишь технологическими компаниями или сводиться исключительно к рассмотрению самых экстремальных сценариев. Мы располагаем достаточными знаниями о многих серьёзных рисках ИИ, чтобы действовать».
В докладе перечислены пять ключевых угроз. Первая - кибербезопасность: ИИ ускоряет и масштабирует атаки, повышая нагрузку на критическую инфраструктуру. Вторая - демократическая нестабильность: дезинформация и дипфейки подрывают доверие, а операции влияния становятся всё более персонализированными. Третья - несоответствие: автономные системы могут действовать вопреки намерениям человека, что увеличивает последствия сбоев. Четвёртая - утрата значимого человеческого контроля: по мере внедрения ИИ в важные сервисы всё труднее оспаривать и отменять решения систем. Пятая - химические и биологические угрозы: ИИ снижает барьеры доступа к специализированным знаниям, хотя масштаб практических рисков пока неясен.
Рассматриваются и такие варианты, как «аварийные выключатели» и замедление разработок. Однако, по мнению авторов, простых решений нет. Эффективное отключение требует управленческих процессов и чётких процедур, а существенное замедление - такого уровня сотрудничества, который в текущих условиях маловероятен. Для поддержки инициативы институт запускает исследовательскую программу, финансируемую грантом в 2 млн фунтов стерлингов от Coefficient Giving. Реализацией займётся Центр новых технологий и безопасности (CETaS).