Энтузиаст смог запустить локально DeepSeek R1 на Mac Studio с M3 Ultra

Ця стаття доступна українською мовою
DeepSeek
Источник фото: South China Morning Post

Когда технологии кажутся уже привычными, случается что-то, что переосмысливает привычные представления. На этот раз в центре внимания оказался новейший Mac Studio, оснащенный процессором M3 Ultra, который смог без подключения к интернету запустить огромную нейросеть DeepSeek R1. Что особенного в этом достижении и как это меняет правила игры в области искусственного интеллекта?

DeepSeek R1, которая стала главной героиней эксперимента, имеет 671 миллиард параметров. Это огромное количество данных, что обычно требует мощных серверов и стабильного интернет-соединения. Однако новый Mac Studio с 32-ядерным процессором и 80-ядерной графикой смог справиться с задачей самостоятельно, используя внутренние ресурсы компьютера.

Для работы нейросети понадобилось более 400 ГБ свободного места на диске и 448 ГБ оперативной памяти. При этом энергопотребление устройства оказалось впечатляюще низким - всего около 170 Вт. По сравнению с традиционными ПК, которым понадобилось бы несколько мощных видеокарт с суммарным потреблением до 700 Вт, решение от Apple выглядит значительно экономичнее.

Запуск нейросети без интернет-соединения – это не просто интересный эксперимент, а важное решение для конфиденциальности. Например, медицинские учреждения или компании, работающие с конфиденциальной информацией, часто не могут позволить себе отправлять данные в "облако". Локальная работа искусственного интеллекта позволяет анализировать большие массивы чувствительных данных, сохраняя полный контроль над их безопасностью.

Кроме того, скорость обработки информации в таком формате позволяет мгновенно получать результаты, что важно для разработчиков, аналитиков и тех, кто работает с большими объемами информации.

Однако такая мощность стоит немало – минимальная конфигурация Mac Studio с M3 Ultra и 512 ГБ оперативной памяти оценивается в 9499 долларов. Версия с максимальным накопителем на 16 ТБ обойдется еще дороже - более 14 тысяч долларов.

Впрочем, если сравнивать с затратами на аренду серверных мощностей для работы с подобными моделями, то это вполне оправданные инвестиции для компаний, которым нужна автономность и безопасность.

Таким образом, Apple в который раз задает тренды на технологическом рынке. Новый Mac Studio демонстрирует, что мощные нейросети могут работать локально, обеспечивая высокий уровень конфиденциальности и энергетической эффективности.

Источник: YouTube

 

terazus.com є майданчиком для вільної журналістики. Матеріали користувачі завантажують самостійно. Адміністрація terazus.com може не розділяти позицію блогерів і не відповідає за достовірність викладених ними фактів.

Шановні користувачі, просимо вас шановливо ставитися до співрозмовників в коментарях, навіть якщо ви не згодні з їх думкою!



Другие статьи рубрики

В этот день 18 марта

2025

2024

2023