У Великій Британії запустили платформу для оцінювання безпеки ШІ
Британський Інститут безпеки ШІ (AISI), створений у листопаді 2023 року, запустив платформу Inspect, призначену для тестування та оцінки безпеки ШІ. Вона спростить оцінку ШІ для застосування в промислових, дослідницьких і наукових організаціях.
Набір інструментів Inspect, доступний за ліцензією з відкритим вихідним кодом, включно з ліцензією MIT, призначений для оцінювання певних можливостей моделей ШІ в різних сферах, зокрема й основних знань моделей і здатності міркувати, і вироблення оцінки на основі отриманих результатів.
За даними ресурсу TechCrunch, платформа Inspect складається з трьох основних компонентів: наборів даних, інструментів рішення та інструментів оцінки. Набори даних надають зразки для оціночних тестів. Інструменти рішення виконують роботу з проведення тестів. А інструменти оцінювання оцінюють результати і підсумовують бали тестів у метрики.
Компоненти Inspect можна доповнити за допомогою сторонніх пакетів, написаних на Python. “Ми сподіваємося, що глобальне співтовариство ШІ буде використовувати Inspect не тільки для проведення власних випробувань на безпеку моделей, а й для адаптації та розвитку платформи з відкритим вихідним кодом, щоб ми могли виробляти високоякісні оцінки за всіма напрямками”, – заявив голова AISI Ян Хогарт (Ian Hogarth).
Платформа Inspect була представлена за кілька днів після того, як Національний інститут стандартів і технологій США (The National Institute of Standards and Technology, NIST) анонсував наприкінці квітня програму NIST GenAI, призначену для оцінювання різних технологій генеративного ШІ, включно з моделями, що генерують текст і зображення.
У квітні США і Велика Британія оголосили про партнерство, в рамках якого “уряди обмінюватимуться технічними знаннями, інформацією та талановитими фахівцями в галузі безпеки ШІ”. У рамках співпраці в США буде створено інститут безпеки ШІ, який займеться оцінкою ризиків, пов’язаних із ШІ та генеративним ШІ.