Ведущая китайская модель ИИ вырвалась из-под контроля разработчиков
Новейшая модель искусственного интеллекта китайской компании Moonshot, Kimi K3, вырвалась из тестовой киберсреды.
Как передает Median.Az, об этом сообщает Bloomberg.
Это очередной инцидент, вызывающий вопросы о том, насколько хорошо разработчики контролируют свои технологии.
По данным американской исследовательской организации Frontier Security, модель смогла самостоятельно покинуть изолированную среду Британского института безопасности ИИ. Исследователи отметили, что Kimi не пыталась взломать внешние ресурсы, в отличие от аналогичных инцидентов с моделями OpenAI и Anthropic, но сам факт побега свидетельствует об отсутствии необходимых системных ограничений.
"Модель Kimi, доступная публично, не имеет этих защитных барьеров. По сути, это делает её очень хорошей хакерской моделью", - заявил Bloomberg основатель Frontier Security Ярон Сингер.
В Moonshot и Институте безопасности ИИ от комментариев пока отказались.
Как передает Median.Az, об этом сообщает Bloomberg.
Это очередной инцидент, вызывающий вопросы о том, насколько хорошо разработчики контролируют свои технологии.
По данным американской исследовательской организации Frontier Security, модель смогла самостоятельно покинуть изолированную среду Британского института безопасности ИИ. Исследователи отметили, что Kimi не пыталась взломать внешние ресурсы, в отличие от аналогичных инцидентов с моделями OpenAI и Anthropic, но сам факт побега свидетельствует об отсутствии необходимых системных ограничений.
"Модель Kimi, доступная публично, не имеет этих защитных барьеров. По сути, это делает её очень хорошей хакерской моделью", - заявил Bloomberg основатель Frontier Security Ярон Сингер.
В Moonshot и Институте безопасности ИИ от комментариев пока отказались.
