Недавно 18 стран, включая США, Великобританию, Германию, Италию и Чехию, подписали 20-страничное соглашение по защите технологий искусственного интеллекта. Цель документа – призвать IT-компании разрабатывать безопасные системы ИИ, чтобы избежать их использования с вредными намерениями.
Основные положения соглашения
Согласно договору, компании должны проектировать и внедрять системы искусственного интеллекта так, чтобы защитить клиентов и общественность от злоупотреблений. Кроме того, системы ИИ должны быть "безопасными по своей архитектуре". Хотя соглашение не является обязательным, оно содержит общие рекомендации по мониторингу ИИ на предмет злоупотреблений, защиты данных от фальсификации и проверки поставщиков программного обеспечения.
В документе говорится о том, как обезопасить ИИ от взломов хакерами. Также приведены рекомендации по тестированию безопасности моделей перед их выпуском. Впрочем, соглашение не касается открытых вопросов надлежащего применения искусственного интеллекта или сбора данных для обучения моделей.
Причины заключения соглашения
В последнее время рост популярности технологий ИИ вызвал немало беспокойств. Речь идет о рисках использования ИИ для подрыва демократии, мошенничества, а также о возможной массовой безработице. Именно поэтому страны решили согласовать совместные рекомендации для IT-компаний.
Что касается регулирования искусственного интеллекта, то Европа опережает США. Франция, Германия и Италия уже работают над соответствующими законами. Зато в США вопрос регулирования ИИ остается открытым из-за отсутствия консенсуса в Конгрессе.
Итак, хоть и несовершенное, это многостороннее соглашение является важным первым шагом в направлении создания международных стандартов безопасного применения технологий искусственного интеллекта.
