Бристольские учёные преодолели «галлюцинации» ИИ, повысив надёжность критической инфраструктуры

08:20, августа 2, 2024 Ученые из Бристольской школы компьютерных наук достигли значительных успехов в решении проблемы «галлюцинаций» моделей искусственного интеллекта и повышении надёжности алгоритмов обнаружения аномалий в критически важных национальных инфраструктурах (CNI). Недавние достижения продемонстрировали потенциал технологии в обнаружении аномалий, особенно в данных датчиков и механизмов для CNI. Однако эти алгоритмы часто требуют длительного времени обучения и испытывают трудности с определением конкретных компонентов в аномальном состоянии. Кроме того, процессы принятия решений ИИ часто непрозрачны, что приводит к проблемам с доверием и подотчётностью. Чтобы преодолеть эти проблемы, исследователи приняли ряд мер по повышению эффективности. Для улучшенного обнаружения аномалий команда использовала два передовых алгоритма со значительно более коротким временем обучения и более быстрыми возможностями обнаружения, сохраняя при этом сопоставимые показатели эффективности. Эти алгоритмы были протестированы с использованием набора данных из испытательного стенда оперативной очистки воды, SWaT, в Сингапурском университете технологий и дизайна. Для повышения прозрачности и доверия исследователи интегрировали модели eXplainable AI (XAI) с детекторами аномалий. Такой подход позволяет лучше интерпретировать решения, предлагаемые моделью, позволяя людям понимать и проверять рекомендации перед принятием критических решений. Также оценивалась эффективность различных моделей XAI, что...

Источник: www.ixbt.com

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

В Запорожье поврежден объект критической инфраструктуры Глава украинской областной военной администрации Запорожья Иван Федоров сообщил в своем Telegram-канале о повреждении объекта критической инфраструкт …

Военное дело 18:00, июня 12, 2024 | gazeta.ru

В Чернигове поврежден объект критической инфраструктуры В Чернигове поврежден объект критической инфраструктуры. Об этом 29 октября сообщило издание «Страна.ua» в своем Telegram-канале.По данным СМИ, перед …

Главные новости 00:20, октября 30, 2025 | iz.ru

В Запорожье заявили о повреждении объекта критической инфраструктуры В результате удара Российской армии в подконтрольном ВСУ городе Запорожье поврежден объект критической инфраструктуры. Об этом сегодня, 12 июня, заяв …

Регионы 19:00, июня 12, 2024 | eadaily.com

"Росатом" занялся сертификацией IT-решений критической инфраструктуры В "Росатоме" создали орган по сертификации IT-решений для объектов критической информационной инфраструктуры. Как сообщает телеграм-канал "МашТех", а …

Главные новости 08:20, января 15, 2025 | ruposters.ru

Резервистов смогут привлекать к охране критической инфраструктуры России Их будут направлять на специальные сборы для защиты НПЗ, электростанций, ж/д станций и других ключевых объектов …

Главные новости 00:20, октября 27, 2025 | iluki.ru

БПЛА были замечены над объектами критической инфраструктуры на севере ФРГ — Bild Прокуратура во Фленсбурге проводит расследование по подозрению в шпионаже в диверсионных целях в связи с обнаружением над промышленным парком на севе …

Общество и ЖКХ 16:20, августа 22, 2024 | ng.ru

СберТех и Кауч обеспечат бизнесу надежность и сохранность ИТ-инфраструктуры Российские разработчики программного обеспечения (ПО) СберТех и Кауч подтвердили совместимость своих продуктов — операционной системы (ОС) Platform V …

Наука и Технологии 00:20, декабря 13, 2025 | iemag.ru

У половины IT-систем критической инфраструктуры России обнаружена критически слабая защита от киберугроз По данным ФСТЭК России, у почти половины (47 %) субъектов критической информационной инфраструктуры (КИИ) защита IT-систем от киберугроз находится в …

Software 08:20, февраля 16, 2025 | 3dnews.ru