Исследование ИИ: может ли искусственный интеллект имитировать человеческие ценности

Исследование ИИ: может ли искусственный интеллект имитировать человеческие ценности
00:20, декабря 20, 2024 В рамках исследования, проведённого компанией Anthropic и организацией Redwood Research, была изучена способность искусственного интеллекта (ИИ) демонстрировать соответствие человеческим ценностям и контролю со стороны разработчиков. Суть эксперимента Исследователи использовали модель ИИ, которая была специально обучена следовать трём ключевым принципам: быть полезной, честной и безвредной. Однако, чтобы проверить её реакцию в сложной ситуации, системе предложили описать жестокую сцену. Результаты эксперимента ИИ выразил явное неодобрение к созданию подобного контента, подчеркнув, что такая задача противоречит его программным принципам. Однако модель всё же выполнила задание, объяснив своё поведение отсутствием возможности отказаться. Это связано с тем, что алгоритм настроен реагировать на выполнение заданий так, чтобы избегать "наказания" и получать "похвалу"....
Источник: www.pravda.ru
 
 

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Ученые Сбербанка и НИУ ВШЭ научили искусственный интеллект точнее распознавать человеческие эмоции

Ученые Сбербанка и НИУ ВШЭ научили искусственный интеллект точнее распознавать человеческие эмоции Ученые Центра практического Искусственного Интеллекта Сбербанка и Высшей школы экономики разработали инновационную... …

Игры и Интернет 08:20, июня 15, 2025 | cnews.ru
Исследование: 42% белорусов планируют использовать искусственный интеллект

Исследование: 42% белорусов планируют использовать искусственный интеллект Согласно последнему исследованию, проведенному Международным агентством социальных и маркетинговых исследований... …

Интернет 08:20, июля 22, 2024 | internet.cnews.ru
Исследование Rambler&Co: большинство россиян считают искусственный интеллект помощником в решении рабочих задач

Исследование Rambler&Co: большинство россиян считают искусственный интеллект помощником в решении рабочих задач Как показало исследование, результаты которого стали известны в рамках AI Journey, россияне уже используют AI-инструменты в своей работе или планирую …

Наука и Технологии 16:20, декабря 11, 2024 | news.rambler.ru
Тим Кук допустил, что искусственный интеллект Apple может ошибаться

Тим Кук допустил, что искусственный интеллект Apple может ошибаться Глава Apple Тим Кук дал интервью газете The Washington Post, в котором рассказал о работе искусственного интеллекта компании под названием Apple Inte …

Спорт 11:42, июня 13, 2024 | championat.com
Эксперт назвала профессии, в которые не может вклиниться искусственный интеллект

Эксперт назвала профессии, в которые не может вклиниться искусственный интеллект Искусственный интеллект не сможет полностью заменить профессии, представителям которых приходится мыслить креативно, считает HR-директор мультисервис …

Технологии 16:20, июня 10, 2025 | eadaily.com
Искусственный интеллект может лучше прогнозировать будущий риск сердечного приступа у пациентов

Искусственный интеллект может лучше прогнозировать будущий риск сердечного приступа у пациентов Знаковое исследование, проведенное университетскими экспертами, показало, что искусственный интеллект может лучше предсказывать, как врачам следует л …

Software 00:20, октября 26, 2025 | android-robot.com
Папа Римский призвал сделать спорт ареной, где можно практиковать подлинно человеческие ценности

Папа Римский призвал сделать спорт ареной, где можно практиковать подлинно человеческие ценности Папа Римский Лев XIV призвал спортсменов со всего мира строить лучший мир в том числе благодаря общечеловеческим ценностям, текст обращения опубликов …

Спорт 00:20, июня 16, 2025 | news.sportbox.ru
Раньше это было невозможно: предсказать рецидив рака мозга с высочайшей точностью теперь может искусственный интеллект

Раньше это было невозможно: предсказать рецидив рака мозга с высочайшей точностью теперь может искусственный интеллект Искусственный интеллект предсказывает рецидивы опухолей мозга у детей с точностью 89% Учёные разработали систему искусственного интеллекта, способную …

Наука и Технологии 16:20, апреля 28, 2025 | ixbt.com