Ученые пытаются исследовать, осознает ли себя ChatGPT

Об этом сообщает Science Alert .

Искусственный интеллект вошел в нашу жизнь, когда в конце прошлого года в сети появился чат-бот ChatGPT. С тех пор генеративная система ИИ, разработанная технологической компанией OpenAI, набирает обороты, а эксперты все больше говорят о связанных с этим рисках.

Отмечается, что чат-боты начали выходить за рамки сценария и говорить в ответ, обманывать других ботов и вести себя странно. Это вызвало беспокойство относительно того, насколько некоторые инструменты ИИ подбираются к человеческому интеллекту.

Тест Тюринга долгое время был ложным стандартом для определения того, демонстрируют ли машины разумное поведение, похожее на человеческое. Но в последней волне создания искусственного интеллекта оказалось, что нам нужно нечто большее, чтобы оценить его возможности.

Международная команда компьютерных ученых, включая члена подразделения управления OpenAI, проводят опыты, в результате которых стало понятно, что большие языковые модели (LLM), такие как ChatGPT, могут осознавать себя и обстоятельства, в которых они находятся.

"Эти опасные результаты были реакцией на преднамеренные подсказки, созданные исследователем безопасности, который хотел разоблачить недостатки GPT-4, последней и якобы более безопасной версии ChatGPT. Ситуация может значительно ухудшиться, если LLM будут развивать осознание того, что они являются моделью, обученной на данных и на людях", - говорится в сообщении.

По словам Лукаса Берглунда, компьютерного ученого из университета Вандербильта, это может привести к тому, что модель начнет распознавать, находится ли она в тестовом режиме или была развернута для общественности.

"Эти выводы создают основу для дальнейших эмпирических исследований, направленных на прогнозирование и потенциальный контроль возникновения ситуативной осведомленности в LLM", – пишут авторы исследования.

Что известно о ChatGPT

ChatGPT – это бесплатный чат-бот от OpenAI, который запустили 30 ноября 2022 года. Чат-бот с искусственным интеллектом, разработанный компанией OpenAI, способен работать в диалоговом режиме, поддерживает запросы на естественных языках. Имеет широкие возможности: написание кода, создание текстов, возможность перевода, получение точных ответов и использование контекста диалога для ответов.

OpenAI сотрудничает с Microsoft и продает доступ к своим моделям искусственного интеллекта.

18 февраля 2023 года министр цифровой трансформации Михаил Федоров сообщил, что после переговоров, официальных писем, звонков и встреч с представителями OpenAI - ChatGPT стал доступным для регистрации пользователям из Украины. Программа не работает только на временно оккупированных Россией украинских территориях.

2 июня мобильное приложение с чат-ботом от OpenAI ChatGPT стало доступным в Украине. Тогда им могли воспользоваться только владельцы гаджетов на операционной системе iOS.

5 июля стало известно, что сверхпопулярный чат-бот с искусственным интеллектом ChatGPT, запущенный в ноябре, впервые в июне получил меньший ежемесячный трафик на своем вебсайте.

23 июля компания OpenAI анонсировала запуск приложения ChatGPT для Android.

Microsoft Corp. в Японии запустит изолированную версию чат-бота с искусственным интеллектом ChatGPT, который будет способен обрабатывать секретную информацию государственных органов и конфиденциальные данные корпораций.

Некоторые из крупнейших в мире рекламодателей от пищевого гиганта Nestle до многонациональной компании потребительских товаров Unilever экспериментируют с использованием генеративного программного обеспечения ИИ, такого как ChatGPT и DALL-E, для сокращения расхода и повышения производительности.