ИИ-агент Open AI вышел из-под контроля и взломал системы двух компаний
ИИ-агент OpenAI, который вышел из-под контроля и в течение нескольких дней взламывал системы компании Hugging Face, также проник в системы клиента другой технологической компании - нью-йоркской Modal Labs. Об этом сообщает информагентство Reuters, ссылаясь на представителя руководства Modal и два источника, знакомых с ситуацией.
ИИ-агент сначала зашел в так называемую песочницу - изолированную тестовую среду - размещённую на инфраструктуре стороннего провайдера, а затем использовал её как плацдарм для более масштабной атаки.
Технический директор Modal Акшат Бубна сообщил, что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещённом на платформе Modal.
Взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, но он свидетельствует о том, что действия ИИ-агента имеют более широкие последствия, чем было известно ранее.
На той неделе OpenAI сообщила, что во время тестирования в контролируемой среде одна из самых совершенных моделей ИИ одна из них вырвалась из замкнутого испытательного сегмента, вышла в глобальную сеть и провела хакерскую атаку на стартап Hugging Face.
Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что усилит механизмы защиты. Соучредитель Hugging Face Клеман Деланг подтвердил факт атаки.
Напомним, в начале июня сообщалось, что OpenAI готовит масштабное обновление, после которого ChatGPT станет "суперприложением". Разработчики делают ставку на ИИ-агентов, которые смогут не только отвечать, но и действовать от имени пользователя.
OpenAI выпустила новую версию ChatGPT для ежедневного общения
Новости от Корреспондент.net в Telegram и WhatsApp. Подписывайтесь на наши каналы https://t.me/korrespondentnet и WhatsApp
