ИUНа домашних ПК  с памятью DDR4 собрать подходящий вариант нереально.

Максимум получится установить 128ГБ оперативной памяти, тогда как LLama-3.1-405B требует, соответственно 405+ГБ памяти, а Grok-1 314B, соответственно 304ГБ+ оперативной памяти.

А значит, необходимо иметь 512ГБ памяти на компьютере.

Если установить платы для процессоров, ( Read more... )