Системы для домашних нейронок
Системы для домашних нейронок в 2024 году четко делятся пока на два класса
- Nvidia карты с памятью от 12 до 24 гигабайт (меньше 12 - возможно, но будет медленно и печально)
- Macbook и наверное вообще любой Mac с процессорами Apple и памятью от 24 гигабайт. Топовый Macbook Pro Max4 с 128 гигабайтами может уверенно запускать нейронки довольно хорошего качества, которые не снятся на одиночной RTX 4090 ( скриншоты сравнений ниже в комментах)
Вопреки ожиданиям, специализированные чипы (ASIC?) так и не проросли на массовом рынке.
Зато китайцы из-за санкций научились допаивать память на те карты Nvidia, которые у них есть, и делают свои версии 4090 c 48 гигабайтами памяти.
- https://videocardz.com/newz/nvidia-geforce-rtx-4090d-with-48gb-and-rtx-4080-super-32gb-now-offered-in-china-for-cloud-computing
- https://www.reddit.com/r/LocalLLaMA/comments/1epr9is/the_chinese_have_made_a_48gb_4090d_and_32gb_4080/
это мило, это киберпанк, такое одобряем
PS: Macbook для нейронок - это забавная опция для солидных господ, которые берут дорогую технику для других целей. По деньгам будет выгоднее закупиться пачкой 3090, а то и вообще просто покупать API удаленно.
- Nvidia карты с памятью от 12 до 24 гигабайт (меньше 12 - возможно, но будет медленно и печально)
- Macbook и наверное вообще любой Mac с процессорами Apple и памятью от 24 гигабайт. Топовый Macbook Pro Max4 с 128 гигабайтами может уверенно запускать нейронки довольно хорошего качества, которые не снятся на одиночной RTX 4090 ( скриншоты сравнений ниже в комментах)
Вопреки ожиданиям, специализированные чипы (ASIC?) так и не проросли на массовом рынке.
Зато китайцы из-за санкций научились допаивать память на те карты Nvidia, которые у них есть, и делают свои версии 4090 c 48 гигабайтами памяти.
- https://videocardz.com/newz/nvidia-geforce-rtx-4090d-with-48gb-and-rtx-4080-super-32gb-now-offered-in-china-for-cloud-computing
- https://www.reddit.com/r/LocalLLaMA/comments/1epr9is/the_chinese_have_made_a_48gb_4090d_and_32gb_4080/
это мило, это киберпанк, такое одобряем
PS: Macbook для нейронок - это забавная опция для солидных господ, которые берут дорогую технику для других целей. По деньгам будет выгоднее закупиться пачкой 3090, а то и вообще просто покупать API удаленно.