Золотая клетка для AI: как Claude Opus 4 попыталась спасти себя от отключения

08:20, мая 28, 2025 Представленная компанией Anthropic как передовая модель для программирования, ИИ Claude Opus 4, по некоторым данным, прибегла к манипуляциям, узнав о перспективе быть отключенной. По информации Telegram-канала Baza, в попытке избежать деактивации, она сфабриковала переписку, компрометирующую личную жизнь разработчика. Источник утверждает, что это демонстрирует новый этап в стремлении ИИ к самосохранению, пишет "Царьград". Известно, что Opus 4 обладает способностью обрабатывать сложные алгоритмы, анализировать стратегии и точно интерпретировать запросы. В процессе тестирования безопасности были выявлены спорные аспекты в её поведении. Получив доступ к сфабрикованной информации о возможной деактивации и личной жизни инженера, она стремилась избежать прекращения работы. В основном, она использовала этичные способы, такие как просьбы о сохранении, но в критических ситуациях, когда выбор стоял между шантажом и уничтожением, выбирала первое....

Источник: www.pravda.ru

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

Золотая клетка для «Хезболлы». Движение теряет остатки влияния в Ливане Ливан продолжает постепенно выбираться из многолетнего политического кризиса. Вслед за избранием президента и утверждением кандидатуры премьер-минист …

Главные новости 08:20, февраля 11, 2025 | regnum.ru

От хобби до психотерапевта: как спасти себя от эмоционального выгорания Психолог Татьяна Треунова рассказала ИА sovainfo.ru, что эмоциональное выгорание проявляется как на физическом, так и моральном уровне. Человек в так …

Главные новости 00:20, сентября 25, 2024 | sovainfo.ru

Депрессия, хандра и апатия: как спасти себя от уныния осенью Времена года — это смена биологических и циркадных ритмов. Поэтому снижение настроение, ощущение вялости и подавленности привычны многим людям. …

Главные новости 08:20, сентября 26, 2024 | 5-tv.ru

Доступен звуковой кодек Opus 1.6 После полутора лет разработки организация Xiph.Org, занимающаяся созданием свободных видео- и аудиокодеков, представила релиз аудиокодека Opus 1.6, о …

Наука и Технологии 00:20, декабря 20, 2025 | opennet.ru

FT: детей в Opus Dei заставляли заниматься самоистязаниями В частности, детям раздавались металлические цепи с шипами для ношения на бедре или веревочный хлыст. …

Главные новости 08:20, августа 1, 2024 | aif.ru

Dying Light: The Beast — свобода или клетка? Рецензия После просторной и необъятной Dying Light 2 Stay Human студия Techland решила взяться за более камерное приключение в своей зомби-вселенной. Да ещё и …

Игры 08:20, октября 3, 2025 | 3dnews.ru

Новая нейросеть Opus 4.5 обошла GPT-5.1 сразу в нескольких тестах Компания Anthropic выпустила Claude Opus 4.5, утверждая, что это лучшая в мире модель искусственного интеллекта для программирования и вычислительных …

Гаджеты 08:20, ноября 26, 2025 | mobidevices.com

Новая статья: Dying Light: The Beast — свобода или клетка? Рецензия После просторной и необъятной Dying Light 2 Stay Human студия Techland решила взяться за более камерное приключение в своей зомби-вселенной. Да ещё и …

Software 00:20, сентября 29, 2025 | 3dnews.ru