Предприниматель Илон Маск, сооснователь Apple Стив Возняк и свыше тысячи специалистов в области высоких технологий и искусственного интеллекта подготовили открытое письмо, в котором просят приостановить обучение нейросетей из-за опасностей. Письмо размещено на сайте некоммерческой организации Future of Life Institute («Институт будущего жизни»), передает ТАСС.
В письме говорится, что искусственный интеллект грозит человеческому обществу. «Мы должны спросить себя: стоит ли нам позволить машинам заполонить наши информационные каналы пропагандой и ложью? Стоит ли нам автоматизировать все профессии, включая те, что приносят удовлетворение? Стоит ли нам разрабатывать умы, которые не принадлежат человеку и которые могли бы в итоге превзойти нас численностью и интеллектом, сделать нас неактуальными и заменить нас? Стоит ли нам рисковать потерей контроля над цивилизацией?» — указывается на сайте Future of Life Institute.
ИИ-системы нужно создавать с твердой уверенностью, что они будут нести только положительный результат и будут управляемы.
В связи с этим подписавшиеся призвали все ИИ-лаборатории немедленно приостановить обучение ИИ-систем, более мощных, чем модель GPT-4, как минимум на полгода. «Эта пауза должна быть публичной, ее исполнение должно поддаваться проверке, и ей должны последовать все ключевые представители сферы. Если такая пауза не может быть введена быстро, правительства стран должны вмешаться и установить мораторий», — заявили эксперты.
Они рекомендуют объединиться для подготовки и введения правил безопасности. Затем работа над ИИ должна контролироваться в соответствии с утвержденными нормами. «Эти протоколы должны гарантировать, что системы, относящиеся к ним, в полной мере безопасны», — поясняется в письме.
До этого компания OpenAI указала, что новейшая языковая модель GPT-4 может быть применена для создания убедительной дезинформации. Специалисты также отмечают, что вскоре может появиться опасно сильный искусственный интеллект.