Британские эксперты: ИИ в чат-ботах может стать орудием киберпреступников

Об этом информирует Reuters .

Эксперты не смогли решить потенциальные проблемы безопасности, связанные с алгоритмами, которые могут создавать кажущиеся человеческими взаимодействия, называемые большими языковыми моделями, или LLM. Инструменты на основе искусственного интеллекта еще не готовы к использованию в качестве чат-ботов, которые ожидают заменить не только поиск в Интернете, но и работу по обслуживанию клиентов и звонки по продажам.

В NCSC заявили, что это может привести к рискам, особенно, если такие модели будут подключены к другим элементам бизнес-процессов организации. Ученые и исследователи много раз выявляли способы подменить чат-ботов, предоставляя им мошеннические команды или обманывая их, чтобы обходить собственные встроенные ограничения.

К примеру, чат-боты на основе искусственного интеллекта могут использоваться для несанкционированной транзакции, если хакер правильно структурировал свой запрос.

"Организации, создающие услуги, использующие LLM, должны быть осторожны, так же как они были бы, если бы они использовали библиотеку продуктов или кода, которая была в бета-версии. Они могут не позволить этому продукту участвовать в совершении транзакций от имени клиента и, надеюсь, не будут полностью доверять ему. Аналогичная осторожность должна применяться и к LLM", - сказал NCSC в одном из своих сообщений в блоге, ссылаясь на выпуски экспериментального программного обеспечения.

Сообщается, что власти по всему миру сталкиваются с проблемой роста LLM, таких как ChatGPT от OpenAI, которые компании используют для предоставления различных услуг, включая продажи и обслуживание клиентов. Вопрос безопасности искусственного интеллекта также остается актуальным, поскольку власти США и Канады сообщили, что видели, как хакеры применяют эту технологию.

Что известно об искусственном интеллекте

18 февраля 2023 года министр цифровой трансформации Михаил Федоров сообщил, что после переговоров, официальных писем, звонков и встреч с представителями OpenAI - ChatGPT стал доступным для регистрации пользователям из Украины. Программа не работает только на временно оккупированных Россией украинских территориях.

Эксперты считают, что искусственный интеллект способен разрушить рынок труда, повлияв на 300 млн рабочих мест.

Однако 28 марта стало известно, что Евросоюз профинансировал исследование и разработку многоязычного искусственного разговорного интеллекта для своих оборонных нужд.

29 марта главы правительств стран Европы призвали технологических гигантов бороться с дезинформацией в соцсетях.

19 апреля бизнесмен Илон Маск заявил, что искусственный интеллект, который он планирует создать, будет пытаться "понять природу Вселенной" и с меньшей вероятностью захочет "уничтожить человечество".

26 апреля генеральный директор Spotify Даниэль Эк рассказал, что музыкальная индустрия имеет "оправданные опасения" по поводу песен, которые создал искусственный интеллект.

Согласно исследованию Всемирного экономического форума, технологии и искусственный интеллект могут лишить работы 26 млн человек в течение 5 лет.

Джеффри Хинтон, автор технологии, легшей в основу ИИ, заявил, что искусственный интеллект может вызвать целый ряд угроз - среди которых фейки и безработица.

9 мая стало известно, что стриминговый сервис Spotify удалил со своей платформы десятки тысяч песен, написанных искусственным интеллектом с помощью музыкального стартапа Boomy.

2 июня мобильное приложение с чат-ботом от OpenAI ChatGPT стало доступным в Украине. Тогда им могли воспользоваться только владельцы гаджетов на операционной системе iOS.

5 июля стало известно, что сверхпопулярный чат-бот с искусственным интеллектом ChatGPT, запущенный в ноябре, впервые в июне получил меньший ежемесячный трафик на своем вебсайте.

23 июля компания OpenAI анонсировала запуск приложения ChatGPT для Android.

28 июля стало известно, что сенаторы США, озабоченные злонамеренным потенциалом искусственного интеллекта, вызовут разработчиков, руководителей и экспертов на слушания в конце этого года относительно возможных законодательных гарантий.

Некоторые из крупнейших в мире рекламодателей от пищевого гиганта Nestle до многонациональной компании потребительских товаров Unilever экспериментируют с использованием генеративного программного обеспечения ИИ, такого как ChatGPT и DALL-E, для сокращения расходов и повышения производительности.

Microsoft Corp. в Японии запустит изолированную версию чат-бота с искусственным интеллектом ChatGPT, который будет способен обрабатывать секретную информацию государственных органов и конфиденциальные данные корпораций.

Некоторые из крупнейших в мире рекламодателей от пищевого гиганта Nestle до многонациональной компании потребительских товаров Unilever экспериментируют с использованием генеративного программного обеспечения ИИ, такого как ChatGPT и DALL-E, для сокращения расхода и повышения производительности.

Microsoft Corp. в Японии запустит изолированную версию чат-бота с искусственным интеллектом ChatGPT, который будет способен обрабатывать секретную информацию государственных органов и конфиденциальные данные корпораций.

30 августа Google представила новую функцию искусственного интеллекта в программе видеозвонков Meet, которая может заменить человека во время рабочих встреч.