Несмотря на впечатляющие результаты, генеративный ИИ не обладает целостным пониманием мира

00:20, ноября 14, 2024 Большие языковые модели способны делать впечатляющие вещи, например, писать стихи или генерировать жизнеспособные компьютерные программы, даже несмотря на то, что эти модели обучены предсказывать слова, которые идут следующими в тексте. Такие удивительные возможности могут создать впечатление, что модели неявно изучают некие общие истины о мире. Но это не обязательно так, согласно новому исследованию. Исследователи обнаружили, что популярный тип генеративной модели ИИ может предоставлять пошаговые инструкции по вождению в Нью-Йорке с почти идеальной точностью — без формирования точной внутренней карты города. Несмотря на сверхъестественную способность модели эффективно ориентироваться, когда исследователи закрыли некоторые улицы и добавили объезды, ее эффективность резко упала. Копнув глубже, исследователи обнаружили, что карты Нью-Йорка, неявно сгенерированные моделью, содержали множество несуществующих улиц, изгибающихся между сеткой и соединяющих далекие перекрестки. Это может иметь серьезные последствия для моделей генеративного ИИ, используемых в реальном мире, поскольку модель, которая, как кажется, хорошо работает в одном контексте, может выйти из строя, если задача или среда немного изменятся. «Одна надежда заключается в том, что, поскольку LLM могут делать все эти удивительные вещи с помощью языка, возможно, мы могли бы использовать эти же инструменты и в других областях науки. Но вопрос о том, изучают ли LLM согласованные модели мира, очень важен, если мы хотим испо...

Источник: android-robot.com

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

Туск: Трамп с пониманием относится к позиции Европы по украинскому конфликту Президент США Дональд Трамп с пониманием отнесся к позиции европейских стран по поводу украинского конфликта, озвученной перед его встречей с российс …

Политика 08:20, августа 14, 2025 | eadaily.com

Телескоп запечатлел мельчайшие детали межзвездной пыли. Посмотрите на эти впечатляющие снимки Исследователи обнаружили новые подробности в замысловатых завитках и полосах пыли, находящиеся между звездами. На снимках с JWST исследователи увидел …

Интересное 08:20, января 28, 2025 | incrussia.ru

Артета: «Сака обладает невероятной энергетикой» Наставник «Арсенала» Микель Артета высказался о капитанской повязке Букайо Сака в отсутствии Мартина ЭдегораЧитать дальше → …

Футбол 00:20, ноября 6, 2024 | euro-football.ru

Эксперты группы ЛАНИТ: «Российский рынок облачных услуг который год подряд демонстрирует впечатляющие темпы роста» В группе ЛАНИТ делают большую ставку на развитие облачного бизнеса. Например, в Artezio развивают синергию облачных технологий и искусственного интел …

Наука и Технологии 00:20, мая 1, 2025 | ict-online.ru

Мосбиржа заявила, что обладает инструментарием для бесперебойности торгов Московская биржа заявила, что обладает необходимым инструментарием для обеспечения бесперебойности торгов в условиях повышенной волатильности. …

Главные новости 19:42, июня 12, 2024 | russian.rt.com

Какой знак зодиака обладает самым твердым характером? Какой знак зодиака обладает самым твердым характером?Сила характера в зодиакальных знаках В мире астрологии, где Знаки зодиака таинственным образом п …

Главные новости 00:20, июня 22, 2025 | pg12.ru

Способностью облегчить симптомы при простуде обладает мед: это доказали ученые Доктор Дарья Карташева-Эберц рассказала, какие продукты действительно могут облегчить состояние при ОРВИ. Ученые пришли к выводу, что теплая еда оказ …

Медицина 16:20, сентября 20, 2024 | medpulse.ru

Обновленная версия iOS-малвари LightSpy обладает деструктивными возможностями Эксперты компании ThreatFabric рассказали о новой версии вредоноса LightSpy, которая обзавелась множеством новых плагинов. Некоторые из них обладают …

Наука и Технологии 16:20, ноября 1, 2024 | xakep.ru