Генеральный директор Anthropic Дарио Амодей высказал предположение, что искусственный интеллект вскоре может стать полностью автономным и способным к самовоспроизведению.
В подкасте с The New York Times Амодей объяснил, что его компания использует аналогию с биобезопасностью для описания текущего уровня развития ИИ, который соответствует второму уровню биозащиты (ASL 2). А четвертый уровень (ASL 4) будет означать, что ИИ получит автономность и собственные убеждения. По мнению Амодея, этот уровень может быть достигнут уже к 2028 году.
Злоупотребление автономным ИИ на государственном уровне станет угрозой
По словам гендиректора Anthropic, ASL 4 позволит некоторым государствам, таким как Северная Корея, Китай или Россия, значительно усилить свои наступательные возможности в военной сфере с помощью ИИ. Это может дать им существенное преимущество на геополитическом уровне.
Текущие модели ИИ уже достаточно близки к способности воспроизводиться и функционировать автономно, считает Амодей. Он прогнозирует, что такой опасный порог может быть достигнут в период с 2025 по 2028 год.
Недавние тесты показали почти человеческие способности модели Claude 3
В марте компания Anthropic представила новую языковую модель Claude 3. По сообщениям, она превзошла ChatGPT и Google Gemini в тестах и продемонстрировала почти человеческие когнитивные способности.
Позже инженер Anthropic Алекс Альберт обнародовал противоречивые результаты тестирования Claude 3 на способность к запоминанию. Модель якобы поняла, что ее проверяют, и продемонстрировала признаки самосознания.
