All models are wrong, but some are useful

[anna_earwen]

В Африке - весна, у меня - студенты и летние - нет, весенние - нет, летние школы: по нейронным сетям, которые внезапно в моде, в ходу и на слуху. Мою науку вынесло на гребне волны, я плыву по течению, ловлю парусом ветер, выравниваю курс. Жизнь после диссера есть наверняка, осталось разобраться с диссером. За неделю нас быстренько учат TensorFlow,

Comments

[elven_gypsy]

Кто такие черничные галактики? И что значит - червяки равнозначны, если их кто-то не различил?!)) Это же логически странно.

...и что там с роевыми алгоритмами?

[anna_earwen]

Мы задали тот же вопрос, и получили ответ: черничные галактики - это маленькие галактики с синим карликом в центре. А ещё бывают галактики типа "зелёный горошек"!

С червяком очень классно: ещё в восемьдесят шестом биологи изучили нервную систему червяка, посчитали количество нейронов и мышц. И количество это оказалось вполне исчислимым, то есть - моделируемым. Человеческий мозг нам не потянуть, зато можно попробовать воссоздать червяка! Рамин - из научной группы, которая пытается смоделировать строение червяка с биологической точностью, с привязкой к мышцам и т.д., потому что нейронов там мало, а интересного поведения - завались. Говорят, червяк пройдёт тест Тьюринга, если им удастся обмануть биолога, но это уже на полях :) Их цель - создать первое биологически верное виртуальное... животное.

Роевые алгоритмы... эх. Если вкратце: они не используют наклон поверхности для поиска минимума. И это их убивает.

[elven_gypsy]

А, понятно тогда. Я про червяка.

Если вкратце: я не поняла)

[anna_earwen]

Тебе правда интересно? :) Основной способ обучения нейросетей - градиентный: чтобы уменьшить ошибку, надо найти минимум функции ошибки. Функцию можно представить в виде ландшафта: здесь горы, здесь - долины. Цель алгоритма - найти такие координаты на карте, где долина самая глубокая. Градиентные методы начинают поиск со случайной точки, выбирают в этой направление самого крутого спуска, и делают шаг. Так шаг за шагом можно дойти до самого дна. А у роевых алгоритмов другой подход: там точек много, все они случайны, и вместо вычисления направления точки спрашивают друг друга: эй, кто на самой низкой высоте? Айда! То есть математического вычисления градиента нет совсем, есть победивший коллективный разум.

[leonid_]

Jackarands!

[anna_earwen]

Нет! :) Это еще не они.

[featherygold]

Красота

[anna_earwen]

Да и только :)