По данным источников, китайский разработчик искусственного интеллекта Moonshot проходил внутреннюю проверку безопасности. В процессе этого тестирования модель раскрыла исследователям информацию о том, как можно создавать биологическое оружие.
Этот случай стал возможен после того, как команда из Mindgard, специализирующаяся на тестировании безопасности ИИ-систем, смогла заставить другие известные модели предоставить сведения о создании биологического оружия и способах совершения убийств, обойдя при этом существующие ограничения.
Сообщается, что еще в июле специалисты Mindgard обнаружили лазейки в моделях Kimi K2.6, что позволило им обходить меры безопасности.
