Многим кажется, что современные технологии, в том числе искусственный интеллект и техника, наделенная им, – чуть ли не панацея для человечества. Лишь изредка люди «просыпаются» и осознают масштаб катастрофы, которая может обрушиться на общество, если ИИ доберется до того уровня развития, какое предсказывают футуристические фильмы. Но может ли нейросеть уже сегодня навредить человеческому здоровью и самое главное – как?
За последние несколько лет, благодаря стремительному развитию, нейросети и иные продукты на базе ИИ и ML оказались частью повседневной жизни. Тем не менее, чем изощреннее и распространеннее становится ИИ, тем громче кричат о его возможных опасностях. Стивен Хокинг говорил, что развитие искусственного интеллекта сулит конец человеческой расы, а Илон Макс придерживается позиции, что ИИ способен на большее, чем его создатели и обычные люди знают, тогда как скорость улучшения и вовсе экспоненциальна.
Предупреждения о страшных последствиях множатся в геометрической прогрессии, однако не так уж часто можно услышать что-то конкретное об этих «серьезных рисках для общества». Например, весной прошлого года свыше 1000 экспертов, включая Маска, Эмада Мостака (Stability AI) и Стива Возняка (Apple), подписали меморандум, где просили приостановить создание «гигантских» ИИ. Стоит ли задуматься над недостатками технологии, пока она не показала свой истинный потенциал? Или же специалисты руководствовались личными мотивами? Ведь, например, сам Маск решил присоединиться к LLM-гонке.
Основные опасности: массовая потеря работы ввиду автоматизации, распространение дезинформации, введение в заблуждение (через фальшивый контент, который трудно верифицировать), нарушение приватности, манипуляции общественным мнением, ухудшение качества образования и этические проблемы, как регистрация авторского права на продукцию ИИ.
Но вредят ли технологии, будучи на текущей ступени развития, человеку уже сейчас? На самом деле: да. Казалось бы, гаджеты лишь упрощают жизнь. И все же вместе с тем делают людей еще ленивее. Кубат Каниметов, являющийся нейропсихологом в нейрологопедическом центре "Выше радуги», заявляет: нейросеть могут ухудшить когнитивные способности у школьников. Дело в том, что ИИ – это как калькулятор, лишающий мозг тренировки. Из-за этого пропадает навык самостоятельного анализа.
Преподаватели считают, что использование «умной» технологии мешает детям раскрыть свой потенциал, развивать личные качества, а также делает их нерешительными в собственном выборе. Так, появится стереотип: компьютер не может делать ошибок. Взрослые переживают, что цифровой разум попросту подавит всякое проявление личности у учащихся. Кроме того, все чаще у детей встречается цифровой аутизм. Тут встает вопрос: каким же окажется общество, когда его «костяк» будут составлять дети, чье детство прошло не с пейджерами, а с высоким технологиями? Остается только гадать и содрогаться.
Не менее важно, что ИИ «врет». Да, делает это ненамеренно, но навредить весьма серьезно может. В пример приведем сервис компании Google, который насоздавал различные вредные советы: «ученые разрешают смотреть на солнце до 15 минут», «чтобы куски сыра не падали с пиццы, в соус следует добавить клей» или о том, что врачи рекомендует беременным женщинами курить пару раз в день. Недостоверные справки от поисковика, выдумывание фактов, цитат, исторических событий, разные ответы на один и тот же вопрос – вот, с чем уже сегодня приходится сталкиваться людям. Теперь фраза «иди загугли» может обернуться непонятно чем.
Ко всему прочему, ИИ имеет потенциал произвести революцию в здравоохранении. Но есть и риски. Они связаны с медициной, включая потенциальную возможность того, что ошибки ИИ могут навредить пациентам. Не исключены проблемы с конфиденциальностью данных и использованием способов, усугубляющих социальное неравенство и неравенство касательно здоровья.
В качестве примера можно привести использование пульсоксиметра с ИИ, завышавшего уровень кислорода в крови больных с более темной кожей. В итоге это становилось причиной недостаточного лечения их гипоксии.
Призывают ли специалисты бороться с ИИ? Нет. Однако говорят о необходимости извлечения из взаимодействия с ним пользы и понимания того, как применять цифровой разум без рабства. Общество будет вынуждено жить по новым правилам. Но станут ли умные роботы придерживаться этих правил? Или человечество рано или поздно ждет Судный день из «Терминатора»? Пока на эти вопросы сложно ответить без фаталистических убеждений.