Уязвимость ChatGPT: ваш ИИ может «запомнить» ложь

16:20, октября 2, 2024 Эксперт в области кибербезопасности Иоганн Рейбергер обнаружил уязвимость в системе ChatGPT, которая может быть использована злоумышленниками для внедрения ложной информации в память искусственного интеллекта. Опасность заключается в том, что вредоносные запросы могут изменять хранимые данные о пользователях, что ставит под угрозу конфиденциальность их личной информации. ChatGPT оснащен долговременной памятью, которая сохраняет данные о пользователе, такие как возраст, предпочтения и другие детали, чтобы облегчить последующие взаимодействия. Это позволяет ИИ «запоминать» важную информацию и использовать ее в будущих разговорах. Однако Рейбергер обнаружил, что эта память может быть целенаправленно искажена с помощью специальных запросов. В ходе своего исследования он продемонстрировал, что с помощью непрямых инъекций, например, через поддельные документы или ссылки, можно заставить ИИ поверить в абсурдные вещи, такие как то, что пользователь живет в «Матрице» или что Земля плоская. Хуже всего, будущие взаимодействия чат-бота будут строиться на этих ложных данных, искажая восприятие реальности. Особенно тревожной оказалась возможность использования внешних файловых хранилищ, таких как Google Drive, Яндекс Диск или OneDrive, для проведения этих атак. В мае Рейбергер сообщил об уязвимости в OpenAI, но его запрос был отклонён без должного внимания. Однако позже он предоставил доказательства возможного взлома, показав, как вредоносные ссылки могут привести к утечке всей переписки...

Источник: api.follow.it

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

Хакеры использовали уязвимость ChatGPT для кражи данных из «Google Диска» Исследователи кибербезопасности обнаружили новую атаку под названием AgentFlayer, которая использует уязвимость в ChatGPT для кражи данных из « …

Software 00:20, августа 9, 2025 | 3dnews.ru

ChatGPT не может быть финансовым консультантом Исследование, проведенное в Вашингтонском университете, показало, что ChatGPT может быть полезным инструментом для решения общих финансовых задач. Од …

Наука и Технологии 16:20, декабря 26, 2024 | api.follow.it

Один год до запуска «Северного потока»: президент Сербии просит запомнить его слова Президент Сербии Александр Вучич прогнозирует, что «Северный поток», пострадавший из-за диверсий в Балтийском море, запустят через год. Об этом он за …

Экономика 08:20, декабря 29, 2024 | eadaily.com

Новый антивирус в мобильном приложении «СберБизнес» может обнаружить уязвимость в момент авторизации пользователя и защитить его от киберугрозы 800 тыс. пользователей мобильного приложения «СберБизнес» на платформе Android теперь лучше защищены от вирусов и... …

Интернет 08:20, марта 24, 2025 | internet.cnews.ru

Как ChatGPT может изменить лицо рекламы, даже без вашего ведома Реклама в интернете порой настолько личная, что вызывает неприятные ощущения. Даже меня, как исследователя в этой области, немного пугает сообщение с …

Наука и Технологии 00:20, января 13, 2026 | android-robot.com

В ChatGPT может появиться реклама, но руководство OpenAI постарается этого не допустить OpenAI изучает возможности для получения дополнительной выручки, одной из которых может стать появление рекламы в ChatGPT. Руководитель сервиса Ник Т …

Software 00:20, августа 16, 2025 | 3dnews.ru

В этом году OpenAI может потерять около $7 млрд из-за огромных расходов на ChatGPT По данным анализа, проведенного The Information, OpenAI, стоимость которой по состоянию на февраль составляла $80 млрд, планирует потратить в этом го …

Интересное 16:20, июля 29, 2024 | incrussia.ru

Насколько высокой может вырасти цена Ripple, если SEC одобрит XRP ETF? (предполагает ChatGPT) TL;DR Одобрение ETF может спровоцировать трехзначный рост XRP в среднесрочной перспективе (по данным ChatGPT). Несмотря на позитивный прогноз, сущест …

Крипто 08:20, октября 13, 2024 | cryptobrokers.ru