Учёные взломали ИИ бессмыслицей: перестановка слов обходит фильтры и путает модели

Учёные взломали ИИ бессмыслицей: перестановка слов обходит фильтры и путает модели
00:20, декабря 4, 2025 Американские учёные из Массачусетского технологического института, Северо-Восточного университета и компании M**a обнаружили, что большие языковые модели искусственного интеллекта в некоторых случаях при ответах на вопросы ставят структуру предложений выше, чем их смысл. Это открывает пространство для злоупотреблений и взлома ИИ. Источник изображения: Milad Fakurian / unsplash.com...
Источник: 3dnews.ru
 
 

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Учёные предложили две новые модели развития Вселенной

Учёные предложили две новые модели развития Вселенной Российские и Индийские учёные разработали две модели, описывающие развитие Вселенной Российские и индийские учёные предложили новые модели развития В …

Наука и Технологии 21:42, июня 13, 2024 | ferra.ru
Российские учёные создадут трёхмерные модели Луны и Марса

Российские учёные создадут трёхмерные модели Луны и Марса В России построят высокоточные 3D-модели Марса и Луны Российские учёные и разработчики объявили о старте масштабного проекта, цель которого — создани …

Наука и Технологии 00:20, мая 6, 2025 | ferra.ru
Оператор не чинит GPS: как РЭБ путает навигаторы

Оператор не чинит GPS: как РЭБ путает навигаторы В соцсетях набирают популярность сообщения: "На операторе А навигатор работает, а на операторе Б — сносит в аэропорт, соседний город, в море". "Точку …

Наука и Технологии 00:20, августа 12, 2025 | pravda.ru
В клубе Овечкина произошла перестановка

В клубе Овечкина произошла перестановка Американский функционер Крис Патрик назначен старшим вице-президентом и генеральным менеджером клуба Национальной хоккейной лиги (НХЛ) "Вашингтон Кэп …

Спорт 00:20, июля 9, 2024 | gazeta.ru
Большие языковые модели теперь не требуют мощных серверов: ученые Яндекса, НИУ ВШЭ, MIT, KAUST и ISTA совершили прорыв в оптимизации LLM

Большие языковые модели теперь не требуют мощных серверов: ученые «Яндекса», НИУ ВШЭ, MIT, KAUST и ISTA совершили прорыв в оптимизации LLM Лаборатория исследований искусственного интеллекта Yandex Research совместно с ведущими научно-технологическими вузами... …

Наука и Технологии 00:20, апреля 14, 2025 | zoom.cnews.ru
Не высыпаетесь даже за 8 часов  поможет перестановка: удивительно, но факт

Не высыпаетесь даже за 8 часов — поможет перестановка: удивительно, но факт Вы выделяете на сон рекомендуемый минимум 7–8 часов, но просыпаетесь с тяжелой головой и чувством, будто и не ложились спать? Тогда причина, вероятно …

Главные новости 08:20, января 20, 2026 | 24smi.org
Apple добавила в iOS 26 фильтры, которые помогут избежать фишинга

Apple добавила в iOS 26 фильтры, которые помогут избежать фишинга В iOS 26 Apple усилит защиту в приложении «Сообщения» от фишинга и спама, внедрив изменения, которые должны значительно снизить риски, не …

Software 00:20, июля 25, 2025 | 3dnews.ru
В школах и детсадах Костромской области ввели утренние фильтры

В школах и детсадах Костромской области ввели утренние фильтры За процедурой утреннего осмотра учеников и воспитанников («утренний фильтр») теперь лично следят руководители образовательных учреждений. Специалисты …

Главные новости 16:20, декабря 11, 2025 | k1news.ru