Корпорация Microsoft выпустила 15 апреля новую модель искусственного интеллекта под названием WizardLM-2. Однако уже на следующий день компания приняла решение удалить модель из открытого доступа. Причиной стало отсутствие обязательных тестов на безопасность и токсичность.
Разработчики "забыли" протестировать модель
В заявлении для СМИ разработчики WizardLM-2 признались, что "случайно пропустили элемент, необходимый в процессе выпуска модели – тестирование на токсичность". По их словам, они просто забыли о такой необходимости.
Специалисты пояснили, что сейчас активно работают над исправлением ситуации. Они планируют быстро завершить тесты и вновь опубликовать WizardLM-2.
Небрежность Microsoft вызывает вопросы
Этот инцидент вызвал новую волну критики в адрес корпорации за халатное отношение к вопросам кибербезопасности.
Ранее в этом году независимая комиссия опубликовала разгромный отчет о многочисленных уязвимостях в системах Microsoft. Эти уязвимости позволили злоумышленникам получить доступ к конфиденциальной переписке американских чиновников.
"Культура безопасности Microsoft неадекватна и требует капитального ремонта", – говорилось в отчете.
Судьба модели остается неясной
Пока неизвестно, успели ли сторонние разработчики скачать исходные коды WizardLM-2 до их удаления. По некоторым данным, десятки специалистов по машинному обучению уже успели это сделать.
Теперь им предстоит сравнить полученные материалы с окончательной версией модели после завершения тестирования на токсичность. Это поможет понять, насколько эффективна система проверки безопасности в Microsoft.
