AMD только что нанес мощный удар по локальному ИИ
Лиза Су вышла на сцену с мини-ПК размером с толстую книгу в одной руке и запустила в прямом эфире модель с 235 миллиардами параметров. Без дата-центра. Без облака. Без аренды GPU
Главный герой — Ryzen AI Max+ 395 (Strix Halo). Это первый чип x86, объединяющий CPU и GPU с 128 ГБ унифицированной памяти. В Linux GPU может использовать до ~110 ГБ этой памяти.
Для контекста: RTX 5090 имеет 32 ГБ, а 4090 — 24 ГБ. Этот маленький девайс предлагает втрое больше доступной памяти для больших моделей, в компактном корпусе.
В конкретных тестах на инференс (например, DeepSeek R1) он превзошел по производительности RTX 5080 более чем в 3 раза, когда модель не помещается в VRAM видеокарты Nvidia.
Реальная цена устройства с 128 ГБ (GMKtec EVO-X2) обычно колеблется от $1800 до $2500 в зависимости от акций (официальный комплект от AMD дороже).
Для тех, кто много работает с ИИ, это меняет расклад: вместо сотен долларов в месяц на подписки (Claude, ChatGPT Pro, Cursor и т.д.) можно запускать мощные модели локально с помощью Ollama, LM Studio или аналогов. Полная приватность, без лимитов на токены и без отключений в 3 часа ночи.
Не то чтобы подписки исчезнут завтра, но для многих сценариев использования (RAG с приватными документами, прототипы, локальные агенты и т.д.) этот вариант становится очень привлекательным.
Мы видим начало новой эры доступного и мощного локального ИИ??
#amd #ai #halo #ryzen #liza #su #claude #chatGPTPro #cursor #агент #agents
Boosty AI | CryptoNews | CryptoGuide | X
Лиза Су вышла на сцену с мини-ПК размером с толстую книгу в одной руке и запустила в прямом эфире модель с 235 миллиардами параметров. Без дата-центра. Без облака. Без аренды GPU
Главный герой — Ryzen AI Max+ 395 (Strix Halo). Это первый чип x86, объединяющий CPU и GPU с 128 ГБ унифицированной памяти. В Linux GPU может использовать до ~110 ГБ этой памяти.
Для контекста: RTX 5090 имеет 32 ГБ, а 4090 — 24 ГБ. Этот маленький девайс предлагает втрое больше доступной памяти для больших моделей, в компактном корпусе.
В конкретных тестах на инференс (например, DeepSeek R1) он превзошел по производительности RTX 5080 более чем в 3 раза, когда модель не помещается в VRAM видеокарты Nvidia.
Реальная цена устройства с 128 ГБ (GMKtec EVO-X2) обычно колеблется от $1800 до $2500 в зависимости от акций (официальный комплект от AMD дороже).
Для тех, кто много работает с ИИ, это меняет расклад: вместо сотен долларов в месяц на подписки (Claude, ChatGPT Pro, Cursor и т.д.) можно запускать мощные модели локально с помощью Ollama, LM Studio или аналогов. Полная приватность, без лимитов на токены и без отключений в 3 часа ночи.
Не то чтобы подписки исчезнут завтра, но для многих сценариев использования (RAG с приватными документами, прототипы, локальные агенты и т.д.) этот вариант становится очень привлекательным.
Мы видим начало новой эры доступного и мощного локального ИИ??
#amd #ai #halo #ryzen #liza #su #claude #chatGPTPro #cursor #агент #agents
Boosty AI | CryptoNews | CryptoGuide | X