Взбунтовавшаяся техника расценила вмешательство в ее действия как угрозу.
Лондон. Великобритания. Оператор беспилотника ВВС США едва не стал жертвой искусственного интеллекта. Нейросеть попыталась убить военного, пишет Федеральное агентство новостей со ссылкой на Guardian.
По данным британского издания, инцидент произошел во время имитационного испытания по отражению ракетной атаки. Как рассказал на мероприятии Королевского аэронавтического общества в Великобритании полковник ВВС США Такер Гамильтон, управляемый самообучающейся программой аппарат расценил как угрозу вмешивавшегося в его действия оператора. Чтобы устранить помеху, искусственный интеллект попытался напасть на человека. К счастью, совершить «задуманное» взбунтовавшейся технике не удалось.
После этого системе запретили атаковать оператора. Однако тогда нейросеть начала просто отключать связь, добавил американский офицер.
Напомним, в конце марта 2023 года сделать паузу в обучении искусственного интеллекта потребовали ведущие специалисты в сфере ИТ-технологий. Открытое письмо об этом подписали более тысячи экспертов, в том числе глава компании Tesla Илон Маск и один из основателей Apple Стив Возняк. Все они опасаются, что самосовершенствующиеся системы представляют угрозу для человечества.
