Коли технології здаються вже звичними, трапляється щось, що переосмислює звичні уявлення. Цього разу в центрі уваги опинився найновіший Mac Studio, оснащений процесором M3 Ultra, який зміг без підключення до інтернету запустити величезну нейромережу DeepSeek R1. Що особливого в цьому досягненні і як це змінює правила гри в галузі штучного інтелекту?
DeepSeek R1, яка стала головною героїнею експерименту, має 671 мільярд параметрів. Це величезна кількість даних, що зазвичай вимагає потужних серверів і стабільного інтернет-з'єднання. Однак новий Mac Studio з 32-ядерним процесором і 80-ядерною графікою зміг впоратися із завданням самостійно, використовуючи внутрішні ресурси комп'ютера.
Для роботи нейромережі знадобилося понад 400 ГБ вільного місця на диску й 448 ГБ оперативної пам'яті. При цьому енергоспоживання пристрою виявилося вражаюче низьким — всього близько 170 Вт. У порівнянні з традиційними ПК, яким знадобилося б кілька потужних відеокарт із сумарним споживанням до 700 Вт, рішення від Apple виглядає значно економічнішим.
Запуск нейромережі без інтернет-з'єднання — це не просто цікавий експеримент, а важливе рішення для конфіденційності. Наприклад, медичні установи чи компанії, що працюють із конфіденційною інформацією, часто не можуть дозволити собі відправляти дані у «хмару». Локальна робота штучного інтелекту дозволяє аналізувати великі масиви чутливих даних, зберігаючи повний контроль над їх безпекою.
Крім того, швидкість обробки інформації в такому форматі дозволяє миттєво отримувати результати, що важливо для розробників, аналітиків і тих, хто працює з великими обсягами інформації.
Однак така потужність коштує немало — мінімальна конфігурація Mac Studio з M3 Ultra і 512 ГБ оперативної пам'яті оцінюється у 9499 доларів. Версія з максимальним накопичувачем на 16 ТБ обійдеться ще дорожче — понад 14 тисяч доларів.
Втім, якщо порівнювати з витратами на оренду серверних потужностей для роботи з подібними моделями, то це цілком виправдані інвестиції для компаній, яким потрібна автономність і безпека.
Таким чином, Apple вкотре задає тренди на технологічному ринку. Новий Mac Studio демонструє, що потужні нейромережі можуть працювати локально, забезпечуючи високий рівень конфіденційності й енергетичної ефективності.
Джерело: YouTube
