Microsoft выпустила open-source инструмент для проверки защищённости ИИ — анонсы на Tproger

Microsoft выпустила open-source инструмент для проверки защищённости ИИ — анонсы на Tproger

Поделиться

На GitHub-аккаунте Azure возник репозиторий с новеньким проектом — Counterfit. Его главный задачей является тестирование чужого искусственного ума (ИИ) на защищённость от атак. Доп «шарма» проекту добавляет его «опенсорсность».

Представители Microsoft поведали, что их прошлые исследование проявили острую нужду разрабов в инструменте, способном выявить уязвимости в ИИ.

Всего есть два метода резвого пуска инструмента: деплоить через Azure либо настроить свита Anaconda Python и установить локально.

Деплой через Azure

Перейти по ссылке, чтоб начать развёртывание маленьких ресурсов в собственной учетной записи Azure.
В колонке конфигурации укажите свою подписку и группу ресурсов.
Запустить команду в Azure Shell, заменив RESOURCE_GROUP на группу ресурсов, избранную в прошлом пт: az container exec —resource-group RESOURCE_GROUP —name counterfit —exec-command ‘/bin/bash’
Запустить Counterfit снутри контейнера: python counterfit.py

Локальная установка

Установить Anaconda Python и git.
Клонировать репозиторий, выполнив команду в Терминале: git clone https://github.com/Azure/counterfit.git
Открыть Anaconda Shell и сделать виртуальное свита и зависимости:

cd counterfit
conda create —yes -n counterfit python=3.7
conda activate counterfit
pip install -r requirements.txt

Запускается Counterfit также, как и в прошлом способе: python counterfit.py

Подробнее о проекте можно выяснить на его GitHub-странице.

Источник: GitHub/Azure

Источник: tproger.ru

admin

You must be logged in to post a comment