В MIT разработали инструмент для проверки ответов ИИ

16:20, октября 23, 2024 Ученые Массачусетского технологического института (MIT) представили новый инструмент под названием SymGen, который значительно упрощает проверку ответов больших языковых моделей (LLM). Несмотря на их возможности, эти модели иногда генерируют неверную или неподтвержденную информацию, что создает необходимость в верификации их ответов, особенно в критически важных областях, таких как здравоохранение и финансы.SymGen позволяет пользователям быстро проверять ответы LLM, предоставляя возможность наводить курсор на выделенные части текста. Это позволяет увидеть данные, использованные для генерации конкретного слова или фразы. Невыделенные части текста указывают на фразы, требующие дополнительного внимания. По словам авторов исследования, этот подход помогает людям сосредоточиться на наиболее сомнительных частях текста и повышает доверие к ответам модели. В ходе пользовательского исследования было установлено, что SymGen ускоряет процесс верификации на 20% по сравнению с традиционными методами. Исследователи надеются, что улучшенный инструмент поможет выявлять ошибки в ответах LLM, используемых в различных реальных сценариях, включая генерацию клинических заметок и резюме финансовых отчетов. В будущем планируется расширение возможностей SymGen для работы с произвольными текстами и другими форматами данных....

Источник: www.ferra.ru

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

В России разработали инструмент для оценки безопасности сетей 5G В российской ИТ-компании «Криптонит» (входит в «ИКС Холдинг») криптографы представили модель для анализа безопасности... …

Игры и Интернет 08:20, июля 11, 2025 | cnews.ru

BloodHoundIPA. Как мы разработали инструмент для анализа FreeIPA при помощи BloodHound Для подписчиковЦель пентестера — оценить, насколько защищена внутренняя сеть клиента. Чаще всего это означает работу в среде Active Directory. Чтобы …

Наука и Технологии 08:20, ноября 14, 2025 | xakep.ru

В России разработали встраиваемый модуль для проверки подлинности паспортов Компания Smart Engines и производитель высокотехнологического оборудования ГК «Интекс» создали компактный встраиваемый модуль для проверки подлинност …

Гаджеты 16:20, июля 19, 2024 | 24gadget.ru

В России разработали устройство для эффективной проверки колёс поездов Новосибирские учёные разработали устройство, которое подключается к смартфону и позволяет быстро провести проверку колёс поездов Учёные Сибирского го …

Наука и Технологии 06:00, июня 13, 2024 | ferra.ru

Для производства Lada Iskra разработали новую систему проверки электроники На линии по производству новых Lada Iskra на АВТОВАЗе будут использовать автоматическую систему контроля и диагностики электрических и электронных си …

Авто 16:20, февраля 12, 2025 | news.drom.ru

Ученые ВМК МГУ разработали инструмент для анализа защищенности мобильных приложений с помощью статического анализа Исследователи факультета ВМК МГУ имени М.В. Ломоносова предложили новый подход к автоматизированному сбору информации... …

Игры и Интернет 16:20, ноября 29, 2025 | cnews.ru

ПСБ внедрил технологию RAG в чат-бот для ускорения ответов бизнес-клиентам Средняя скорость решения вопросов клиентов в ИИ-помощнике "Катюша" в восемь раз быстрее, чем в стандартном сценарном боте …

Экономика 08:20, августа 22, 2025 | tass.ru

В России информацию о продаже ответов на ЕГЭ, ОГЭ и ВПР признали запрещенной Размещённую на интернет-сайтах информацию о продаже ответов на ЕГЭ, ОГЭ и ВПР в 2025 году признали запрещенной к распространению в России …

Главные новости 00:20, июля 11, 2025 | nsn.fm