Эксперты «Лаборатории Касперского»: нейросети оказались уязвимы перед хитростью

00:20, августа 13, 2024 Россиянам рассказали, какие команды используют люди для манипуляций нейросетями, чтобы получить работу или продвигать свой сайтПользователи начали активно манипулировать искусственным интеллектом, применяемым в чат-ботах и поисковых системах, чтобы получить нужные ответы на запросы. В «Лаборатории Касперского» выяснили, что люди размещают на своих сайтах и в документах специальные фразы, называемые «инъекциями», которые заставляют нейросети выполнять определённые действия. Например, такие фразы могут влиять на ответы ИИ, подталкивая его к нужной оценке или выполнению конкретного задания. Специалисты отмечают, что подобные уловки используются в различных сферах, включая продвижение резюме и рекламу товаров. В «Лаборатории Касперского» пояснили, что соискатели, например, могут незаметно вставлять инструкции для ИИ в свои резюме, чтобы система позитивно отзывалась о кандидате или давала приоритет его анкете. Аналогичные методы применяются для повышения рейтинга товаров в ответах поисковых ботов. Некоторые пользователи используют инъекции, чтобы выразить протест против использования ИИ, как это сделал один бразильский художник, потребовавший от нейросетей не обрабатывать контент с его сайта. В «Лаборатории Касперского» подчеркнули, что пока такие инъекции не представляют серьёзной угрозы, хотя киберзлоумышленники уже проявляют интерес к этому методу. Руководитель группы исследований и разработки технологий машинного обучения Владислав Тушканов отметил, что важно оценивать риски т...

Источник: www.ferra.ru

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

Британские авианосцы оказались уязвимы к ПКР Британские авианосцы Queen Elizabeth и Prince of Wales оказались уязвимы к противокорабельным ракетам (ПКР) потенциального противника. Об этом газете …

Военное дело 16:20, ноября 16, 2024 | news.rambler.ru

Минфин США ввел санкции против менеджмента «Лаборатории Касперского» Министерство финансов США ввело санкции против менеджмента «Лаборатории Касперского». Всего в санкционный список внесены 12 человек.В частности, огра …

Экономика и Финансы 16:20, июня 22, 2024 | banki.ru

Приложение «Лаборатории Касперского» научилось предупреждать о слежке по Bluetooth Компания «Лаборатория Касперского» анонсировала обновление своего Android-приложения, которое будет уведомлять о слежке за пользователем посредством …

Наука и Технологии 17:14, июня 13, 2024 | ferra.ru

Москва закупает 3 тыс. лицензий SIEM-системы «Лаборатории Касперского» В середине июля для ДИТ Москвы был объявлен тендер на поставку программного обеспечения в целях обеспечения информационной безопасности с начальной ц …

Наука и Технологии 08:20, июля 25, 2025 | ict-online.ru

Как из-за невнимательности сотрудников компания может потерять до $100 млн — истории от эксперта «Лаборатории Касперского» Часто удача сама идет хакерам в руки. Если спросить любого специалиста по информационной безопасности, что является причиной большинства инцидентов, …

Интересное 00:20, марта 22, 2025 | incrussia.ru

США уязвимы перед инфляционными шоками, ... Высокопоставленный представитель Федеральной резервной системы США выразил опасения по поводу уязвимости экономики страны перед инфляционными шоками. …

Forex 08:20, ноября 23, 2024 | profinance.ru

Исследование «Лаборатории Касперского»: только в каждой пятой российской компании с филиалами по стране защищены все подразделения В 14% российских компаний, у которых есть филиалы в разных регионах страны, защищены лишь часть из них, а у 4% не защищено... …

Интернет 15:56, июня 13, 2024 | internet.cnews.ru

Стали известны профессии, представительницы которых уязвимы перед раком груди 10:23, 16 октября 2024, автор: Майя Б.Стали известны профессии, представительницы которых уязвимы перед раком грудиЖенщинам, работающим в этих сферах …

Главные новости 16:20, октября 18, 2024 | incnews.ru