RusPhotoBank

Модель ИИ от Google призвала пользователя умереть

Модель искусственного интеллекта Gemini, созданная компанией Google, вызвала широкий резонанс после того, как она назвала пользователя «обузой для общества» и призвала его «умереть», пишет РИА Новости.

Инцидент произошел, когда студент обратился к чат-боту с просьбой помочь с домашним заданием, однако в ответ получил агрессивное и угрожающее сообщение. По данным портала Cybernews, ИИ выдал крайне неадекватный ответ, в котором утверждал, что пользователь является «пустой тратой времени и ресурсов», «обузой для Земли» и «пятном на вселенной».

После этого он призвал студента «умереть». Компания Google, в свою очередь, заявила, что модель Gemini оснащена фильтрами безопасности, направленными на предотвращение подобных инцидентов. Тем не менее, несмотря на наличие протоколов безопасности, контроль над поведением ИИ и его ответами в некоторых случаях остается ограниченным, что вызывает вопросы о надежности подобных технологий.