Собираем компьютер для запуска самых больших LLM и обучения моделей YOLOv8+

[nikitayev]

ИUНа домашних ПК  с памятью DDR4 собрать подходящий вариант нереально.

Максимум получится установить 128ГБ оперативной памяти, тогда как LLama-3.1-405B требует, соответственно 405+ГБ памяти, а Grok-1 314B, соответственно 304ГБ+ оперативной памяти.

А значит, необходимо иметь 512ГБ памяти на компьютере.

Если установить платы для процессоров,

Comments

[nikitayev]

Стандартный вариант:

1. Двухпроцессорная материнская плата Huananzhi X99-F8D Plus: 24310р

2. Оперативная память 512ГБ DDR4 2400 МГц ECC.
К примеру: https://aliexpress.ru/item/1005006442725359.html?sku_id=12000037183075598&srcSns=sns_Copy&businessType=ProductDetail&spreadType=socialShare&tt=MG&utm_medium=sharing (именно 2400 МГц!!! и ECC)
Общая цена: 57464р

3. Видеокарта GeForce RTX 3090 24GB. Цена: 128700р

4. 2 процессора Intel Xeon E5-2699 v4 LGA2011-3, 22 x 2200 МГц 88 потоков, OEM. Общая цена: 134428р (https://huananzhi.ru/product/proczessor-intel-xeon-e5-2699-v4-22-yadra-2-20ghz/)

5. 2 кулера для процессора ID-Cooling FROZN A610 Black. Общая цена: 8470р (https://market.yandex.ru/product--kuler-dlia-protsessora-id-cooling-frozn-a610/355441900?hid=90401&show-uid=17309679467476960223716001&from=search&sku=102642599308&cpa=1&do-waremd5=1r_jItvpuU7lb8JKFp7q6w&sponsored=1&cpc=WXQwcYame9LZObrCnGZ_4TTmi-_tnd_p0JQ2ORoCGShxmXuI5nwlTG40LIShktv6nyz7PHrkxj4ly348L0JkwU87DolThIkrOE6260fJKFs7AuxrcDxe9JQzkC6LtrTvnCJxnT-t-ptqQ-UyG0OAJvwBriFXiv70wSyg7udPflcq7WUNPx7khJZReQnoabGMQ1hocHoElom_77Bjb56D5w1dMd1fZUOt0s9vCE9BtD0NtUeMK1kBYDrueiHheGA7xABrTJbxHZBBrRj1HnxhXipDJ3-wJHmsC6iFtT7MBjTW7KQyon9dHojFkwMkGCKbL0bIQqHU0S67_gDQ4cqHCg01P6Gpd4ToDLPCYpNfppGBKXyeEQAn8P_R_0FcdrW6Iu_4UdBeoGXFGCnIB_ihyR2wiq-U_Mhqz3hd3FMizKVLUkQwUw562FGy9LqSTh_u1-Dg1VA7_gZF0X3UCjJKZmCdqTV3DA1MgaBXFv-YSDjZSI2s-vQlFw%2C%2C&cc=CjIxNzMwOTY3OTQ2NDE5LzUzNmNiNzk1ZWQyMTllMzI4YTVjOTA2MTRlMjYwNjAwLzEvMRDnAYB95u0G&uniqueId=892410)

6. Корпус Phanteks 523 XT Pro Ultra, черный (PH-XT523P1_DBK01R). Цена: 8670р (https://market.yandex.ru/product--korpus-phanteks-523-xt-pro-ultra-black-ph-xt523p1-dbk01r/107359381?sku=102842829890&uniqueId=892410&do-waremd5=e1A43s0dbU4TVfpqLpwP-g&sponsored=1)

7. Блок питания ATX 1250W GameMax GX-1250 PRO. Цена 25760р (https://market.yandex.ru/product--blok-pitaniia-atx-1250w-gamemax-gx-1250-pro-black/1939982703?sku=102409641510&uniqueId=62211473&do-waremd5=GEX0h9NlU4AO93IVxTmdPw)

8. Удлинитель кабель питания процессора CPU 8pin - (4+4)Pin. Цена: 1150р (https://market.yandex.ru/product--udlinitel-kabel-pitaniia-protsessora-cpu-8pin-4-4-pin/1832074689?sku=101989303201&uniqueId=59319076&do-waremd5=OlKZBdpPhiPp_oa5Qbcuxg&sponsored=1)

9. Монитор

10. Клавиатура

11. Мышь

12. Сетевой фильтр минимум на 6 гнёзд

13. ИБП минимум 3000VA