Американские и китайские специалисты в сфере искусственного интеллекта провели ряд закрытых встреч, чтобы обсудить потенциальные угрозы от новейших технологий. По данным издания Financial Times, в июле и октябре прошлого года состоялись два совещания с участием ведущих компаний США в области ИИ – OpenAI, Anthropic и Cohere, а также китайских экспертов из Университета Цинхуа.
Инициатором диалога выступила консалтинговая фирма Shaikh Group. Целью встреч было обсуждение совместных усилий по разработке безопасных стандартов для ИИ и предотвращения использования алгоритмов для распространения фейков или подрыва общественной стабильности.
Поиск общего языка на фоне соперничества
Неофициальный диалог между американскими и китайскими специалистами является неожиданным примером сотрудничества на фоне острого технологического соперничества между двумя сверхдержавами. Впрочем, осознание общих вызовов в сфере ИИ, похоже, заставило стороны искать взаимопонимание.
По словам инсайдеров Financial Times, главной целью встреч было найти безопасный путь для развития сложных технологий ИИ. Ведь выработка единых стандартов в этой области требует консенсуса ключевых игроков.
О проведении переговоров знали правительства США, Китая и Великобритании. Дальнейшее развитие событий покажет, удастся ли достичь прогресса в обеспечении безопасности искусственного интеллекта. Ведь ошибки здесь могут иметь фатальные последствия для всего человечества.
Опасные алгоритмы: чем грозит искусственный интеллект
Хотя искусственный интеллект открывает фантастические возможности для человечества, его неправильное применение несет реальные угрозы. В частности, ИИ может быть использован для:
- Распространения фейковых новостей и манипуляций общественным мнением;
- Нарушение приватности и кражи персональных данных;
- Выработка автономного оружия, действующего вне человеческого контроля;
- Дискриминационных решений на основе предвзятых алгоритмов.
Поэтому разработка общих этических норм для ИИ является насущной необходимостью, чтобы избежать опасных последствий в будущем. И именно здесь нужен глобальный консенсус главных технологических игроков.
