По мнению старшего вице-президента Google и глава поискового подразделения Прабхакар Рагхаван, чат-боты, работа которых основана на применении искусственного интеллекта, могут быть потенциально опасны для пользователей, так как могут испытывать галлюцинации. Такое предположение он высказал в своем интервью немецкой газете Welt am Sonntag, сообщает «Газета.ру».
«Подобный тип искусственного интеллекта, о котором мы говорим, иногда может привести к тому, что мы называем галлюцинациями. Для пользователя это выражается таким образом, что чат-бот выдает убедительный, но полностью выдуманный ответ», сообщил один из руководителей Google.
По его мнению, люди должны всегда с осторожностью относиться к информации, полученную от чат-ботов.
Основной задачей, представитель компании, видит сведения таких «ошибок» к минимуму.
Свою цель топ-менеджер компании видит в том, чтобы «быть лидером в области чат-ботов с точки зрения целостности информации, а также ответственности», которую компания берет на себя. Также он полагает, что только таким образом получится сохранить доверие пользователей.
«Огромные языковые модели, лежащие в основе этой технологии, не позволяют людям отслеживать каждое мыслимое поведение системы. Но мы хотим проверить технологию в достаточно большом масштабе, чтобы в итоге ответы были максимально точными», - сообщил руководитель поискового подразделения Google. гарантиях.