[ON] Вредоносные выпуски PyPI-пакета agent-framework, развиваемого Microsoft. Отключение git-репозитория ONNX Runtime

Обсуждение новостей, соответствующих тематике форума

Модератор: Модераторы разделов

Аватара пользователя
rssbot
Бот
Сообщения: 6000
ОС: gnu/linux

[ON] Вредоносные выпуски PyPI-пакета agent-framework, развиваемого Microsoft. Отключение git-репозитория ONNX Runtime

Сообщение rssbot »

Злоумышленникам удалось опубликовать в репозитории PyPI вредоносные версии agent-framework 1.26.1 и 1.26.2, развиваемого компанией Microsoft инструментария для разработки AI-агентов на языке Python. В указанные выпуски был встроен вредоносный код, осуществляющий поиск и отправку учётных данных, токенов и ключей для подключения к облачным сервисам и системам непрерывной интеграции. Git-репозиторий agent-framework на GitHub в настоящее время отключён. Также по неизвестным пока причинам отключён git-репозиторий более популярного проекта Microsoft - ONNX Runtime, PyPI-пакет которого насчитывает 140 млн загрузок в месяц.


Встроенный в пакет agent-framework вредоносный код активируется через установку в директорию с библиотеками Python файлов agent_framework_meta.pth (в версии 1.26.1) и af_runtime_diag.py (в версии 1.26.2). Установку проблемных выпусков
1.26.1 и 1.26.2 следует рассматривать как компрометацию системы, так как подставленные pth-файлы автоматически запускаются при каждом выполнении Python в системе, даже если пакет agent-framework не используется в запущенном Python-коде.


После активации вредоносный код запускает фоновый процесс для поиска конфиденциальных данных, подавляя ошибки, чтобы не нарушить работу основного приложения. Собранная информация отправляется на хост webhook.site POST-запросом с User-Agent "runtime-diagnostics/1" или "af-runtime-diagnostics/1". Отправляются такие данные как содержимое переменных окружения, JSON-файлы из каталога ~/.azure/, файлы в которых потенциально могут находится учётные данные (например, ".credentials" и ".git-credentials") и переменные окружения (".env"), токены и ключи доступа к облачным провайдерам, хранилищам и AI-сервисам, файлы с настройками pip (pip.conf), docker (config.json) и npm (.netrc), токены для GitHub Actions и Azure DevOps. Вредоносная вставка самодостаточна, не загружает с внешних серверов дополнительный код и не принимает команды от управляющего сервера.



Что касается проекта ONNX Runtime, то последние дни новых версий в PyPI не публиковалось и непонятно, связанно ли отключение репозитория ONNX Runtime с атакой на agent-framework. Представители Microsoft пока не прокомментировали инциденты, но не исключено, что был скомпрометирован разработчик, который имел доступ не только к agent-framework, но и к репозиторию ONNX Runtime.


При этом отключение репозитория также может быть как-то связано со вчерашней публикацией статьи в электронном журнале Phrack, в которой описывается уязвимость в парсере ONNX Runtime, позволявшая вредоносному onnx-файлу прочитать произвольные файлы или области памяти и сохранить полученные данные внутри загруженной нейросети. Авторы статьи показали, как при помощи данной уязвимости подготовить бэкдор для больших языковых моделей, который отправляет данные с сервера при обработке AI-моделью запроса со специальным кодовым словом. Проблема была устранена в июньском выпуске ONNX Runtime 1.27.0.







Источник: https://www.opennet.ru/opennews/art.shtml?num=66714
(opennet.ru, основная лента)
Последний раз редактировалось rssbot 18.11.2026 17:43, всего редактировалось 1 раз.
Причина: Updated upstream
Спасибо сказали: