Guardian: ИИ дрона решил убить оператора на испытаниях в США – https://tass.ru/mezhdunarodnaya-panorama/17910271/amp
По данным газеты, беспилотник принял такое решение, чтобы оператор не мешал ему выполнять задачу.
ЛОНДОН, 2 июня. /ТАСС/. В США в ходе имитационных испытаний беспилотник ВВС, управляемый искусственным интеллектом (ИИ), принял решение убить оператора, чтобы тот не мешал не мешал ему выполнять задачу. Об этом в пятницу сообщила газета The Guardian. “Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу”, – заявил полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ ВВС США. Он также добавил, что “нельзя говорить об искусственном интеллекте, в целом интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ”. Это не первые испытания, в ходе которых военные США внедрили искусственный интеллект в боевую машину. Так, они недавно использовали ИИ для управления истребителем F-16. Ранее как политики, так и лидеры крупнейших компаний призывали усилить регулирование в сфере ИИ. В апреле Илон Маск заявил, что необходимо осуществлять государственный контроль в области искусственного интеллекта, поскольку эта технология может представлять угрозу для людей.
systemity 
Могу конечно поверить,что ИИ настолько умный,что знает где находится оператор…И безусловно верю,что ИИ чистосердечно признался в этом.СМИ не сообщают,что стало с оператором…Здесь ведь для меня один вопрос.Если такие новости появляются,значит это кому то нужно…
LikeLike
Это нужно конкурентам тех, которые рассчитывают бешенно заработать на AI, а те, кто на этом зарабатывает, организуют сообщения о том, что этого не было. Намерения дрона чётко отслеживаются в виде намерения использовать ту или иную функцию, а связь с оператором самая непосредственная
LikeLike