Домашняя страница/Задать вопрос/МиниПК для домашней LLM
Опубликовано 6 месяцев назад

МиниПК для домашней LLM

Поделился(-ась)
Автор

Подробнее о скидке

Может кто курил тему покупки вменяемого миниПК под развёртывание домашней LLM?
Начал активно пользоваться Claude sonnet и chat gpt, но для части задач нужна установка on premise.
10 комментариев
отсортированы по
default-user
Написать комментарий..
Скаут
6 месяцев

Чел тебе будет обходится это очень дорого в плане электроэнергии, если он будет работать постоянно

Пламя
6 месяцев
Так это смотря для каких LLM, для маленьких моделей и бушный хлам с авито сгодится. smiley 

Скаут
6 месяцев

Ипотеку на оперативную память готовы брать? Без гпу процесс вроде как все равно будет не быстрый.
А так видимо что угодно с 32+гб озу на кукурузе c встройкой 780M или Ai Max. Minisforum UM790 Pro, Beelink SER8, GMKtec NucBox G3 Pro. Хотя вот в интернете заявляют, что и на N100 что-то можно запустить

Искатель
6 месяцев

про 780М я ниже написал, с ней все очень не очень.
Ai Max не знаю, но думаю тоже хватает компромиссов. 

для ИИ нужна NVidia

Ученик
6 месяцев


Местный
6 месяцев

В обсуждения многие не заходят. Выложи скидку т там вопрос задай

Искатель
6 месяцев

Я взял на проце AMD (а конкретно 8845HS), но потом выяснил, что его GPU для ИИ использовать очень гиморно. Фреймворки тупо не поддерживают или очень ограниченно поддерживают AMD.

Чтобы просто и эффективно использовать - нужна видюшка NVidia. В случае МиниПК - это означает, что стоит взять девайс с портом Oculink и внешнюю карту к нему.

Болтун
6 месяцев

В таком случае проще конечно компактный пк собрать с лоу профильной 4060 или 5060, не?

Тут сникерс по акции покупают
Перепутал ресурс запроса

👋 Добро пожаловать в крупнейшее шопинг-сообщество в России!
Более 754 тысячи людей вроде вас присоединились к нашему сообществу и поделились более чем 387 тысяч скидок, набравшими более 15,86 миллионов комментариев, в которых люди обмениваются своими советами, лайфхаками и экспертным мнением.
Мы можем получать комиссию, когда вы переходите по ссылкам или совершаете покупки. Благодаря этому наша платформа остается бесплатной и нейтральной. Независимо от того, получаем ли мы комиссию, это никак не влияет на температуру скидок. Мы считаем, что только наше сообщество должно решать, какие скидки горячие, а какие — холодные.
© 2017-2026 Pepper.ru. Все права защищены.