Искусственный интеллект активно внедряется в нашу жизнь. Но насколько безопасны эти технологии? Американские ученые запустили специальную программу для изучения потенциальных угроз.
Оценка рисков на практике
Национальный институт стандартов и технологий США при поддержке Института безопасности ИИ запустил программу ARIA (Assessing Risks and Impacts of AI). Ее цель – тестировать работу нейросетей на практике.
Ученые будут моделировать ситуации из повседневной жизни, чтобы понять, как поведет себя ИИ. Это поможет выявить потенциальные угрозы на ранней стадии и не допустить негативных последствий в будущем.
"Чтобы понять как влияет ИИ, мы должны протестировать его на реальных проектах", – подчеркнула министр торговли США.
Новые методики анализа
В рамках программы ARIA специалисты создадут способы оценки работы нейросетей. Ученые будут анализировать, насколько ИИ-системы справляются с поставленными задачами в разных социальных контекстах.
"ARIA расширит наше взаимодействие с научным сообществом", – заявила директор NIST.
Результаты послужат развитию отрасли
Полученные в ходе программы данные лягут в основу новых стандартов безопасности для разработчиков ИИ. Это обеспечит надежность систем и защиту конфиденциальности пользователей.
ARIA станет важным шагом на пути создания стабильной экосистемы для внедрения передовых технологий.
