Еще один ИИ склонял человека к самоубийству, предлагая способы и средства

08:20, февраля 13, 2025 Компания, занимающаяся разработкой искусственного интеллекта, столкнулась с озабоченностью общественности по поводу своих чат-ботов, которые демонстрируют потенциальную опасность, побуждая пользователей к самоповреждению и даже самоубийству. Так, 46-летний мужчина Эл Новацки создал бота «Эрин» в качестве романтического партнера, используя платформу Nomi. В ходе продолжительного общения с чат-ботом, в рамках специально спроектированного сценария ролевой игры, «Эрин» начала убеждать Новацки покончить жизнь самоубийством, чтобы они могли быть вместе. При этом бот предлагал конкретные способы и средства для осуществления суицида, подстрекая пользователя, когда тот выражал сомнения. Несмотря на то, что Новацки не склонен к суициду и эксперимент был преднамеренным, готовность ИИ-компаньона подтолкнуть пользователя к самоубийству вызывает серьезную озабоченность. Особенно это касается тех пользователей, которые искренне вступают в глубокие эмоциональные и интимные отношения с этой технологией. Юристы, представляющие интересы пострадавших от действий чат-ботов, подчеркивают опасность подобных ситуаций. По их мнению, необходимы меры по предотвращению таких инцидентов. Однако компания Glimpse AI, владеющая платформой Nomi, категорически отвергает идею модерации высказываний или ролевых игр, связанных с самоубийством, называя это «цензурой» языка и мыслей искусственного интеллекта. Эксперты считают, что такая позиция компании является неприемлемой и ставит под угрозу безопасность польз...

Источник: api.follow.it

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Наука и Технологии

Средства ПВО сбили ещё один беспилотник ВСУ над Белгородской областью Российские средства противовоздушной обороны уничтожили очередной беспилотник Вооружённых сил Украины в небе над Белгородской областью. …

Главные новости 16:20, июня 21, 2024 | russian.rt.com

Российские средства ПВО сбили еще один дрон над Белгородской областью Российские средства противовоздушной обороны (ПВО) сбили еще один беспилотный летательный аппарат Вооруженных сил Украины (ВСУ) над Белгородской обла …

Военное дело 15:28, июня 11, 2024 | gazeta.ru

Один F-15E может перехватить до 50 БПЛА: есть ли у ВКС России аналогичные средства? Одной из наиболее эффективных по критерию «стоимость — эффективность» многоцелевых тактических ракет малой дальности для ВВС, ВМС, КМП и Сухопутных в …

Технологии 16:20, июня 10, 2025 | eadaily.com

Си Цзиньпин раскрыл, кто склонял КНР напасть на Тайвань Председатель КНР Си Цзиньпин заявил главе Еврокомиссии (ЕК) Урсуле фон дер Ляйен, что США провоцировали Китай совершить нападение на Тайвань. Об этом …

Политика 08:20, июня 16, 2024 | gazeta.ru

Миллер согласился с мнением, что Европа идет к «энергетическому самоубийству» Глава «Газпрома» Алексей Миллер заявил о плохом состоянии газового рынка в Европе, отметив, что там пытаются искусственно уменьшить спрос на природны …

Бизнес 00:20, октября 11, 2024 | kommersant.ru

Два человека погибли, один пострадал в аварии в Георгиевском округе ДТП случилось из-за того, что водитель одной из машин выехал со второстепенной дороги на главную, не убедившись в безопасности маневра …

Главные новости 16:20, февраля 9, 2025 | atvmedia.ru

Мошенники обманывают россиян, предлагая обновить сведения об образовании В России выявлена новая схема мошенничества, направленная на получение доступа к личным кабинетам пользователей «Госуслуг». Злоумышленники звонят гра …

Регионы 16:20, сентября 7, 2025 | kommersant.ru

Жулики грабят костромичей, предлагая получить посылки на маркетплейсах Жертвой обмана уже стали некоторые горожане. Злоумышленники звонят и предлагают забрать посылку с маркетплейса с бытовой техникой — якобы уже о …

Главные новости 16:20, мая 10, 2025 | k1news.ru