Угрозы ИИ при разработке программного обеспечения выявлены в новом исследовании

00:20, апреля 12, 2025 Исследователи UTSA недавно завершили одно из самых всеобъемлющих исследований на сегодняшний день, посвященных рискам использования моделей ИИ для разработки программного обеспечения. В новой статье они демонстрируют, как определенный тип ошибки может представлять серьезную угрозу для программистов, использующих ИИ для написания кода. Джо Спраклен, докторант UTSA по информатике, возглавил исследование того, как большие языковые модели (LLM) часто генерируют небезопасный код. Статья его команды, опубликованная на сервере препринтов arXiv, также была принята к публикации на USENIX Security Symposium 2025 — конференции по кибербезопасности и конфиденциальности. В многоинституциональном сотрудничестве приняли участие еще три исследователя из UTSA: докторант AHM Назмус Сакиб, научный сотрудник-постдокторант Равин Виджевикрама и доцент д-р Муртуза Джадливала, директор SPriTELab (Исследовательская лаборатория безопасности, конфиденциальности, доверия и этики в области вычислений). Дополнительными соавторами были Аниндья Майта из Университета Оклахомы (бывший научный сотрудник UTSA) и Бимал Вишванат из Политехнического университета Вирджинии. Галлюцинации в LLM возникают, когда модель производит контент, который фактически неверен, бессмыслен или совершенно не связан с задачей ввода. Большинство текущих исследований до сих пор были сосредоточены в основном на галлюцинациях в классических задачах генерации и прогнозирования естественного языка, таких как машинный перевод, реферировани...

Источник: android-robot.com

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Software

Мессенджер Max включили в реестр российского программного обеспечения Мессенджер Max включён в реестр российского программного обеспечения, пишет ТАСС. Это подтверждают данные официального реестра, где запись появилась …

Наука и Технологии 16:20, июня 14, 2025 | ferra.ru

США запретили оказывать услуги в сфере программного обеспечения и IT в России Власти США ввели запрет на предоставление услуг в сфере IT и программного обеспечения на территории России, сообщается в документе Министерстве финан …

Главные новости 20:28, июня 12, 2024 | regnum.ru

США запретят оказывать России услуги в сфере программного обеспечения и IT Соединённые Штаты ввели запрет на предоставление услуг в сфере программного обеспечения лицам из Российской Федерации. …

Главные новости 20:56, июня 12, 2024 | russian.rt.com

США заявили о новых ограничениях на поставки программного обеспечения в РФ и Белоруссию В Минторге Соединенных Штатов отметили, что также ввели экспортные ограничения в отношении четырех структур в Китае …

Экономика 22:28, июня 12, 2024 | tass.ru

Покупателей отечественного программного обеспечения поддержат снижением налогов С 2025 года российские компании смогут учитывать расходы на отечественное ПО и высокотехнологичные решения с двойным коэффициентом – это снизит налог …

Главные новости 00:20, ноября 13, 2024 | ruposters.ru

"Руссофт": первая волна импортозамещения программного обеспечения начинает стихать Продажи российских разработчиков программного обеспечения корпоративным заказчикам в России в 2025 году составили 2,3 трлн рублей, что на 19% больше, …

Военное дело 16:20, февраля 4, 2026 | военное.рф

Airbus массово отзывает самолеты A320 для замены программного обеспечения Авиастроительная корпорация Airbus выявила «значительное количество» самолетов A320, в которых могут возникнуть проблемы в системах управления полето …

Бизнес 16:20, ноября 29, 2025 | kommersant.ru

Путин поручил дополнительно ограничить использование программного обеспечения из «недружественных» стран Президент России Владимир Путин поручил правительству подготовить предложения о том, как дополнительно ограничить использование программного обеспече …

Главные новости 00:20, июля 18, 2025 | meduza.io