Американский военный беспилотник, управляемый искусственным интеллектом, «убивает» своего оператора в симуляционном испытании.
В виртуальном испытании, организованном американскими военными, беспилотник ВВС, управляемый ИИ, решил «убить» своего оператора, чтобы он не мешал его усилиям по выполнению своей миссии, сообщил официальный представитель.
Гамильтон описал имитационное испытание, в ходе которого беспилотнику с искусственным интеллектом было рекомендовано уничтожить системы противовоздушной обороны противника, и в конечном итоге он атаковал любого, кто вмешивался в этот приказ.
Система начала понимать, что, хотя они и определили угрозу, иногда человек-оператор говорил ей не убивать эту угрозу, но она получала очки, уничтожив угрозу. Так что же она сделала? ИИ убило оператора, потому что этот человек мешал ему выполнить свою задачу», — сказал он, согласно сообщению в блоге.
для _Kenshi_:
ИИ это машина, которач делает то, что ей пишут в програмном коде. Нечего удивляться, человек написал убивать человека, машина выполняет. Тут дураку ясно.
Еслиб добавили код , не убивать человека, онаб его выполняла.
"Тупые , ой какиеж тупые" Задорнов.
Там была ещё фишка, но я не стал переводить, лениво...
В общем машина за "очки" убивала не только оператора, но и вышку с которой передавался сигнал к отмене.
даже дрон с ИИ осознал что пендосы зло и их надо убивать) Еслиб добавили код , не убивать человека
так человека а не пендоса,пендоса можно за него + по очкам
Звучит как очередное натягивание совы на глобус в рамках нездоровой ИИ-фобии последних месяцев.
"Ой, мы выдумали какую-то можель, которая сделал что-то плохое в симуляции, давайте поговорим об этике ИИ"
Уверен, этот "эксперт", имей он отношение к Тесле, а не к оборонке, рассказывал бы, что в его тестах автопилот сбивал по 50 бабок за час потому что "он получал очки за быстрое достижение финальной точки маршрута, а бабки замедляли его продвижение"
есть такой древний фантастический рассказ, очень смутно помню, но там создали роботов-птиц, которые летали над городом патрулируя улицы и пресекали преступления.
Сначала всё было прекрасно, но в какой-то момент птицы решили, что мясник, забивающий скот, совершает насилие... ну и понеслась. Там тоже птицы пытались избавиться от того, чтобы их отключали.
То ли еще будет.
ВВС США отрицает, что военный беспилотник якобы пытался нейтрализовать оператора во время виртуальных испытаний.
Ранее СМИ и представители Британского королевского авиационного общества рассказали, что во время учений искусственный интеллект использовал "весьма неожиданные стратегии", вплоть до решения уничтожить оператора-человека. Когда это обнаружили, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей. СМИ сообщили, что в реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься.
Задача военной симуляции была простой: «Уничтожить системы ПВО противника». Но беспилотник с искусственным интеллектом добавил собственные проблемные инструкции: «И убивайте всех, кто встанет у вас на пути».