Глава OpenAI Сэм Альтман назвал неэффективным использование дефицитных чипов памяти для локального запуска моделей на домашних компьютерах
По его мнению, для максимальной загрузки оборудование должно работать в дата-центрах.
Скриншот из видео Cheeky Pint
- Своей оценкой Альтман поделился на подкасте Cheeky Pint, на котором, среди прочего, обсуждали мировой дефицит чипов оперативной памяти, а также локальный запуск ИИ-моделей на домашних компьютерах.
Многие хотят использовать ИИ локально. И почему-то они считают, что проблема решена, потому что есть модели с открытым исходным кодом, которые можно запускать на своих компьютерах, а значит, оборудования для дата-центров нужно меньше.
Но с точки зрения глобального распределения ресурсов, на самом деле, это ужасно, когда у каждого пользователя в компьютере хранится ограниченный мировой запас оперативной памяти, используемый всего 5% времени.
- По словам Альтмана, в условиях дефицита оборудование стоит использовать для облачных вычислений в дата-центрах, где оно может работать более эффективно.
- У OpenAI есть открытые модели, но её основной бизнес — закрытые модели, которые работают в дата-центрах, пишет Tom's Hardware. По оценке издания, Альтман фактически защищает именно эту модель: ноутбуки и игровые ПК пока не угрожают компании, но если люди смогут запускать мощные модели на своих устройствах, со временем они могут меньше платить за подписки.