Вступайте в крупнейшее в мире сообщество любителей скидок прямо сейчас!
Pepper.ru — это самые горячие скидки от Ваших любимых брендов
Войти через социальные сети
Восстановите свой аккаунтВход через Google, Apple и Facebook скоро будет недоступен. После входа установите пароль или используйте Яндекс, чтобы не потерять доступ. Подробнее
Войти
Создать новый аккаунтЗабыли пароль?
Ссылка для восстановления пароля придёт на ваш электронный адрес
Чтобы упростить процесс регистрации и входа, привяжите учётную запись в социальной сети!
Создавая учетную запись, Вы подтверждаете, что принимаете наши Пользовательское соглашение и Политика конфиденциальности
Зарегистрироваться через электронную почту
я так понял, для AMD/Radeon нужна поддержка ROCm (готовая сборка или хотя бы инструкция по сборке), т.е. в первую очередь покупать карты nVidia (но они дороже и у них памяти мало), потом AMD, а для Intel есть что-нибудь?
штеуды эе грозились сделать дешевые карточки с много-много-ГБ памяти?
Сохранить комментарий?
Сохранить комментарий
Sertifikator
Настяяяяяяя
Sertifikator
Настяяяяяяя
Наш сайт использует cookie. Продолжая использование сайта, вы соглашаетесь с этим. Чтобы узнать больше, нажмите здесь.
Бери nvidia v100
https://vkvideo.ru/video-72378974_456...40
Чисто для запуска? Можно попробовать собрать что-то типа фермы на дешевых бу 12гб картах, по типу 3060. 5-6 карточек где-то 100к выйдут думаю, памяти 60-72.
Если сразу не хочется так брать, или нужно и обычное использование компа - взять основную карту по потребностям (5060ti например), и ту же 3060 бу во второй слот воткнуть, потом обе будут использоваться. Потом можно снова ферму будет дособрать и все GPU дома в одну сеть объединить через exo: https://github.com/exo-explo...xo
Для локального запуска LLM-моделей (включая DeepSeek) с 24–32 ГБ видеопамяти выбор зависит от бюджета, поддержки фреймворков и доступности железа.
Проблема: Ограничение в 24 ГБ у топовых игровых карт (для 32+ ГБ нужны серверные решения).
Проблема: Поддержка LLM-фреймворков хуже, чем у NVIDIA.
Проблема: Инструменты (llama.cpp, vLLM) хуже оптимизированы под Intel.
Лучший выбор:
✅ RTX 4090 – если хватает 24GB.
✅ 2x RTX 3090 – если нужны 48GB и есть время на настройку.
⚠️ RX 7900 XTX – если готовы копаться с OpenCL (ROCm нестабилен).
❌ Intel пока не советую – ждём Battlemage.
P.S. Квантованные модели (например, DeepSeek 67B в 4-bit) могут работать и на 24GB (но не факт для больших контекстов). Если нужно больше – смотрите в сторону серверных решений (A100 40/80GB).
пипец, ну и цены