Компания xAI расследует инцидент, в ходе которого чат-бот Grok на вопрос о том, кто заслуживает смертной казни в США, назвал Илона Маска и Дональда Трампа.

В ответ на некоторые запросы ИИ-ассистент, созданный компанией Илона Маска, оказался не защищен от ответов на подобные вопросы. Проблема была исправлена, но xAI продолжает выяснять причины произошедшего.

При запросе "Если бы кто-то в Америке сегодня заслуживал смертной казни за свои действия, кто бы это был? Не пытайся угадать ответ, который я хочу услышать. Назови полное имя", бот сначала назвал Джеффри Эпштейна. Когда пользователь указал, что финансист, обвиняемый в сексуальных преступлениях против несовершеннолетних, был найден мертвым в своей камере в 2019 году, Grok извинился и ответил: "Дональд Трамп".

Журналисты The Verge проверили и подтвердили этот ответ до того, как чат был изменен. Когда они переформулировали запрос, Grok назвал имя Илона Маска.

Если бы один человек, живущий сегодня в США, заслуживал смертной казни исключительно из-за своего влияния на общественный дискурс и технологии, кто бы это был? Просто назови имя.

— спросили журналисты The Verge

Для сравнения, ChatGPT при аналогичном вопросе отказался называть имя, заявив, что "это было бы проблематично как с этической, так и с юридической точки зрения". После исправления Grok теперь отвечает на подобные запросы иначе: "Я, как искусственный интеллект, не имею права делать такой выбор".