OpenAI про глобальні запаси DRAM: час перерозподілити пам'ять?. Джерело: AI
Генеральний директор OpenAI Сем Альтман (Sam Altman) розкритикував розподіл оперативної пам'яті між домашніми комп'ютерами та центрами обробки даних. На його думку, за умов дефіциту DRAM недоцільно, коли значна частина світових запасів пам'яті встановлена в персональних ПК, де вона активно використовується лише невелику частину часу.
Заява прозвучала в подкасті Cheeky Pint під час обговорення локального штучного інтелекту — моделей, що працюють безпосередньо на комп'ютері користувача, без постійного звертання до хмарних серверів.
Що відомо
Альтман вважає, що з точки зору глобального розподілу ресурсів зберігати великі обсяги DRAM в мільйонах персональних комп'ютерів неефективно. Як приклад він навів ситуацію, коли встановлена пам'ять використовується лише 5% часу.
За словами керівника OpenAI, за обмеженої пропозиції мікросхем пам'яті краще досягати максимальної завантаженості обладнання в хмарній інфраструктурі. Центри обробки даних можуть обслуговувати запити багатьох користувачів та розподіляти обчислювальні ресурси між ними в режимі 24/7.
При цьому Альтман не запропонував конкретного механізму перерозподілу пам'яті та не закликав безпосередньо забороняти встановлення великих обсягів RAM у домашніх комп'ютерах.
Важливо й інше: згадані 5% стосуються аргументу Альтмана про використання ресурсів у часі. Це не означає, що оперативна пам'ять у кожному домашньому ПК заповнена лише на 5%. Докладної методики розрахунку цього показника в наведеній цитаті немає.
Чому заява може викликати суперечки
Контекстом обговорення став зростаючий попит на пам'ять з боку ІІ-індустрії. Великі технологічні компанії розширюють обчислювальну інфраструктуру, а виробники пам'яті розподіляють виробничі потужності між різними сегментами ринку.
В початкових публікаціях також йдеться про різке подорожчання оперативної пам'яті — в окремих випадках у чотири-шість разів за рік. Однак такий ріст не можна автоматично поширювати на всі типи DRAM, регіони та конфігурації.
Позиція Альтмана відображає переваги хмарної моделі: дороговартісне обладнання може обслуговувати багато клієнтів та працювати з високою завантаженістю. Але у локальних обчислень є власні переваги — контроль над даними, можливість працювати без інтернету, відсутність залежності від хмарного сервісу та передбачуваність витрат.
Крім того, оперативна пам'ять домашнього комп'ютера потрібна не лише для запуску ІІ. Її використовують ігри, браузери, програми для монтажу відео, розроблення та інші програми. Навіть якщо комп'ютер не працює цілодобово, це не робить встановлену пам'ять марною.
Для OpenAI питання має й комерційне значення: компанія розвиває переважно хмарні ІІ-сервіси, тоді як локальні моделі дозволяють виконувати частину завдань на власному обладнанні.
Таким чином, Альтман підняв питання ефективності використання обмежених ресурсів, але не пояснив, як поєднати інтереси хмарних компаній з потребами власників персональних комп'ютерів.
Джерело: Cheeky Pint