Google предостерегает пользователей от чат-ботов, которые могут вызвать галлюцинации

Об этом информирует Reuters .

"Такой вид искусственного интеллекта, о котором мы сейчас говорим, иногда может приводить к чему-то, что мы называем галлюцинациями", - сказал старший вице-президент Google и руководитель поисковой системы Google Прабхакар Рагхаван.

Он отметил, что "галлюцинации" могут возникать тогда, когда машина дает пользователю убедительный, но вполне вымышленный ответ на его вопросы. Рагхаван добавил, что одной из задач его компании было построить эту проблему в чат-ботах от Alphabet Inc. к минимуму.

В феврале 2023 года компания Alphabet Inc. представила миру свой чат-бот Bard. В рекламном видео программное обеспечение бота распространило неверный ответ. Это произошло в результате ошибки, стоившей компании рыночной стоимости в 100 млрд долларов.

В настоящее время Alphabet Inc. производит пользовательское тестирование чат-бота. Пока неизвестно, когда приложение будет выложено в свободный доступ.

Reuters пишет, что в ноябре 2022 года Google остался на заднем плане из-за чат-бот ChatGPT от компании OpenAI, который реагирует открытыми ответами на запросы пользователей.

• Компания Google анонсировала новую функцию, встроенную в Google Lens – она будет помогать найти лекарства только сфотографировав рукописный рецепт.