ИИ для Иа

[leolion_1]

У Мараховского на прошлой неделе выходило блестящее эссе о человеках, споткнувшхся об ИИ, и о том, чем оно человекам всех поколений грозит, собсно

Comments

[rusty_spur]

экспертно отфильтровать, мусор - убрать, вбить в модель, заморозить

Хорошие у Вас формулировки, после этого сразу изчезает вся "нейронная магия"

[pillarj]

Там все крайне просто на уровне программинга и моделей. Реально просто. Вся магия исключительно в хайпе. Ну и в масштабе вычисленний. Дообучить предварительно обученную модель, на GPU карты A100 может позволить почти любой, цена A100 примерно 2 000 000 руб. А вот обучить LLM модель с нуля, в РФ могут 2 компании, Yandex и Sber. В том и состоит наша проблема, катастрофически мало выч. ресурсов.

[rusty_spur]

ротор поля наподобие дивергенции градуирует себя вдоль спина и там, внутре, обращает материю вопроса в спиритуальные электрические вихри, из коих и возникает синекдоха отвечания

Тут должен был быть termometr

может позволить почти любой, цена A100 примерно 2 000 000 руб

[termometr]

- Потребности надо удовлетворять! - говорил он, торопливо щелкая переключателями на пульте конвейера. - Почему сразу не дала? Ох уж эти ле фам, ле фам!.. <Женщины, женщины! (франц.)> Кто сказал, что сломан? И не сломан вовсе, а заговорен. Чтоб, значить, не всякому пользоваться, потому что, эта, потребности у всех, а селедка - для модели…
В стене открылось окошечко, затарахтел конвейер, и прямо на пол полился поток благоухающих селедочных голов. Глаза кадавра сверкнули. Он пал на четвереньки, дробной рысью подскакал к окошечку и взялся за дело.

Re: может позволить почти любой, цена A100 примерно 2 000 000 р

[pillarj]

Ну какая компания, даже SMB, не может позволить себе потратить на хард 2 млн руб? -) А если покупали в 2021, то и вовсе за ~1 200 000 руб. По моим наблюдениям, такого рода карты есть у очень многих фирмочек, даже если DataScience для них сов. не по профилю, покупали "чтобы просто було". А кто не купил, но хочет прикоснуться, те арендуют за не очень малые деньги на YandexCloud, там А100 самая популярная опция. Кстати, крипту на А100 не майнят, для этого спец-карточки есть.

[termometr]

кому бриллианты мелкие хард слабый, а кому и суп жидкий софт слабый

[pillarj]

честно, не понимаю ваш поинт-) Типа, дорого это, не надо нам такого. Так никто насильно и не не предлагает: всегда найдутся те, кому недорого-) Ваще можно ничего не знать про LLM, как не хотели ничего знать про некоторые иные штуки. По любому, незнаемое само напомнит о себе, лет через 10-15.

[termometr]

вы правы. Но у нищих слуг нет.

[rusty_spur]

а вот что интересно, детишкам для игрунек ведь покупают всякие 4090. Или не пойдет?

[termometr]

я тут себе купил китайский планшетик за 6 тыр в надежде докупить симку и сделать крупноэкранный телефон с блекджеком и фотоаппаратом.
И тут зашел гость 12 лет. Покрутил он мой планшетик в руках и рек: "Отстой! У меня мобила в 12 раз быстрее."

[rusty_spur]

Ну это не серьезно! Мы про разум, который Маск и Билл вот вот возжут (всего за 8K за карточку) и оно сумеет сочинять детективы не хуже Д.Донцовой

[pillarj]

NVIDIA GeForce RTX 4090 совместима с CUDA начиная с 11.3 и выше, включая CUDA 12.0. Так что начинать AI можно с нее, хотя она сильно проигрывает A100 по мощности. Ну, к примеру, то что на А100 считается час, на 4090 будет считаться 10. Пример условный, зависит от типа вычислений и памяти.

[rusty_spur]

Ну 10 старушек детишек и рубль!

[vsvor]

Важен объем памяти. В 4090 24 Gb, туда можно впихнуть 13B модель и некоторые модели побольше со зверским квантованием (которое портит качество ответов, как цифровой альцгеймер).

Re: может позволить почти любой, цена A100 примерно 2 000 000 р

[termometr]

Может ваш ИИ написать программу в Вольфраме для численного решения вот такой слегка модифицированной SIR?

dS/dt = - g(I)*S
dR/dt = γ*(I-Io)
dI/dt + dS/dt + dR/dt = 0

Re: может позволить почти любой, цена A100 примерно 2 000 000 р

[pillarj]

(* Определение параметров *)
g[I_] := 0.1 I; (* Функция g(I) *)
γ = 0.05; (* Параметр γ *)
Io = 0.1; (* Параметр Io *)

(* Определение системы дифференциальных уравнений *)
equations = {
S'[t] == -g[I[t]] S[t],
R'[t] == γ (I[t] - Io),
I'[t] + S'[t] + R'[t] == 0,
S[0] == 0.99, (* Начальные условия для S *)
I[0] == 0.01, (* Начальные условия для I *)
R[0] == 0 (* Начальные условия для R *)
};

(* Численное решение системы уравнений *)
solution = NDSolveValue[equations, {S, I, R}, {t, 0, 100}];

(* Построение графиков решений *)
Plot[{solution[[1]][t], solution[[2]][t], solution[[3]][t]},
{t, 0, 100},
PlotLegends -> {"S(t)", "I(t)", "R(t)"},
AxesLabel -> {"Time", "Population"},
PlotLabel -> "Моделирование SIR модели"];