Apple анонсировали M5 ультра с 512гб быстрой памяти по $17k, что чуть дороже одной 6000 видеокарты (96 памяти)

Плюс специальный быстрый интерфейс между машинами, так что четыре таких штуки смогут крутить kimi k3 всего за $71к

Это все еще дофига для консьюмеров, но уже подъемно для множества компаний, так что приватный инференс больших моделей скоро придет в каждый дом.

Я много говорил, что верю в Apple и их железо, вот и предвестники изменений.

С консьюмерским железом тоже подтянутся (жаль, нам не видать на них линукса, так и будем пользоваться убогой макосью😬, но это другой вопрос)