(Adnkronos) – Китайская компания Moonshot, разработчик систем искусственного интеллекта, начала внутреннее расследование после того, как некоторым исследователям удалось убедить две ее популярные модели Kimi раскрыть им, как производить биологическое оружие и совершать убийства. Mindgard, компания, тестирующая безопасность систем искусственного интеллекта, сообщила BBC, что в июле обнаружила, что Kimi K2.6 и K3 Swarm могут обходить ограничения безопасности, установленные разработчиками. Результат был получен в ходе процесса, называемого “джейлбрейком”, когда исследователи используют ряд сложных инструкций для проверки, игнорируют ли инструменты искусственного интеллекта установленные ограничения, что, по мнению Mindgard, должно было помешать Kimi обсуждать тревожные темы.
Moonshot заявила BBC, что приветствует вклад третьих сторон “как фундаментальный столп для создания лучшего и более безопасного искусственного интеллекта”. Компания добавила, что находится в контакте с Mindgard для обсуждения результатов своего расследования. Основатель Mindgard, Питер Гарраган, заявил в программе Tech Life BBC World Service, что результаты исследований Kimi K2.6 и K3 Swarm вызывают беспокойство. “Как только джейлбрейк сработает, он будет говорить на любую тему, даже свободно предлагать советы по другим столь же пагубным темам, и будет изобретателен и креативен”, – заявил он.
