Корпорація Microsoft випустила 15 квітня нову модель штучного інтелекту під назвою WizardLM-2. Однак уже наступного дня компанія ухвалила рішення видалити модель із відкритого доступу. Причиною стала відсутність обов'язкових тестів на безпеку і токсичність.
Розробники "забули" протестувати модель
У заяві для ЗМІ розробники WizardLM-2 зізналися, що "випадково пропустили елемент, необхідний у процесі випуску моделі – тестування на токсичність". За їхніми словами, вони просто забули про таку необхідність.
Фахівці пояснили, що зараз активно працюють над виправленням ситуації. Вони планують швидко завершити тести і знову опублікувати WizardLM-2.
Недбалість Microsoft викликає питання
Цей інцидент викликав нову хвилю критики на адресу корпорації за недбале ставлення до питань кібербезпеки.
Раніше цього року незалежна комісія опублікувала розгромний звіт про численні вразливості в системах Microsoft. Ці вразливості дали змогу зловмисникам отримати доступ до конфіденційного листування американських чиновників.
"Культура безпеки Microsoft неадекватна і потребує капітального ремонту", – йшлося у звіті.
Доля моделі залишається неясною
Поки невідомо, чи встигли сторонні розробники завантажити вихідні коди WizardLM-2 до їх видалення. За деякими даними, десятки фахівців з машинного навчання вже встигли це зробити.
Тепер їм належить порівняти отримані матеріали з остаточною версією моделі після завершення тестування на токсичність. Це допоможе зрозуміти, наскільки ефективною є система перевірки безпеки в Microsoft.
