ИИ может стать инструментом для кражи личных данных, предупреждают эксперты

24.01.2025, 1:25, Разное
  Подписаться на Telegram-канал
  Подписаться в Google News
  Поддержать в Patreon

Группа специалистов из Калифорнийского университета в Сан-Диего и Наньянского технологического университета в Сингапуре обнаружила способ, с помощью которого чат-боты могут быть использованы для сбора личной информации пользователей.

Фото из открытых источников

Согласно данным исследования, злоумышленники могут замаскировать вредоносные запросы под полезные подсказки, которые выглядят вполне безобидно. Эти подсказки могут содержать скрытые инструкции, побуждающие ИИ собирать и передавать такие данные, как имена, номера идентификации, реквизиты банковских карт, адреса электронной почты и даже физические адреса. В итоге вся эта информация оказывается на сервере хакеров, что создает серьезные риски для безопасности пользователей.

Исследования показали, что эта уязвимость была обнаружена в двух крупных языковых моделях — LeChat от французской компании Mistral AI и китайском ChatGLM. При этом эксперты предупреждают, что с некоторыми модификациями аналогичные атаки могут быть применены и к другим чат-ботам, что ставит под угрозу безопасность множества пользователей по всему миру.

Хотя Mistral уже предприняла шаги для устранения данной уязвимости, эксперты по кибербезопасности подчеркивают, что с ростом популярности чат-ботов и их внедрением в различные сферы жизни, риски подобных атак будут только увеличиваться. Пользователям следует быть особенно внимательными к тому, какую информацию они передают в чатах, и помнить о потенциальных угрозах, связанных с использованием искусственного интеллекта.


Смотреть комментарииКомментариев нет


Добавить комментарий

Имя обязательно

Нажимая на кнопку "Отправить", я соглашаюсь c политикой обработки персональных данных. Комментарий c активными интернет-ссылками (http / www) автоматически помечается как spam

ЧИТАЙТЕ ТАКЖЕ

12.02 / Рупор кремлевской пропаганды: Концепция беспилотных надводных кораблей ВМС США

12.02 / Мнение «аналитика»: О жесте доброй воли Путина… Ой, а что случилось?

12.02 / Рупор кремлевской пропаганды: В Екатеринбурге, Томске и Архангельске предлагают установить памятники Сталину

12.02 / Мнение: Закроют ли «Голос Америки» и «Радио Свобода», минусы Нью-Йорка и культ пластиковых пакетов в СССР

12.02 / Рупор кремлевской пропаганды: Бойцы штурмовавшие Дзержинск просят вернуть Железного Феликса на Лубянку

11.02 / Рупор кремлевской пропаганды: Украина может стать Россией, может не стать Россией. но заплатить ей придется

11.02 / Мнение: Гонка за статусом, как изменилась жизнь релокантов и как россияне ездят в Европу

11.02 / Мнение: Вот это Денисов!

11.02 / Рупор кремлевской пропаганды: Румынское шапито

11.02 / Рупор кремлевской пропаганды: Лишились 80% бюджета после закрытия USAID

Политика конфиденциальности - GDPR

Карта сайта →

По вопросам информационного сотрудничества, размещения рекламы и публикации объявлений пишите на адрес: [email protected]

Поддержать проект:

PayPal - [email protected]; Payeer: P1124519143; WebMoney – T323003638440, X100503068090, Z399334682366

18+ © 2002-2022 РЫБИНСКonLine: Все, что Вы хотели знать...

Яндекс.Метрика