Реплика в мировые пространства.

[__diogen__]

Не люблю нейросети. Вот не люблю, и все тут. Никогда они мне не нравились. И безудержной рекламой вокруг них, которая началась задолго до того, как они начали всерьез выдавать какие-то результаты. И претензиями не то, что они являются чем-то большим, чем они есть на самом деле, каким-то результатом подглядывания за кухней сознания или ответом на

Comments

[moonwalker72]

А зачем их любить? Это чисто утилитарные вещи, их задачи - распознавание и извлечение данных из шума/мусора. Про пирожки - правда. И, положа руку на сердце, я думаю большинство и теорию не особо изучает - просто используют библиотеки. Сейчас зато жиреет рынок аппаратуры - спецпроцессоров для глубокого обучения. Даже впервые освоили малосерийный выпуск chip-on-wafer 200'000 ядер, 400 чипов на вафле, 4 триллиона транзисторов, потребляет 15 кВт, т.е. для него специальный корпус делается, куда подводят водяное охлаждение, в пике до 10 петафлопов тянет. Боюсь узнавать, сколько он может стоить.

Вообще с нейросетями та проблема, что теория их строго говоря не описывает. Она дает декларативное описание, но не исчерпывающий вывод последовательности операций. Т.е. они недетерминированы в самой сути. Интересно, есть ли конспирология на тему секретных тренинговых оптимизаторов, позволяющих надежно предсказывать че-нить? Про предсказания биржевого рынка я уже слышал - но это именно, что болтовня.

[kouzdra]

Вообще с нейросетями та проблема, что теория их строго говоря не описывает. Она дает декларативное описание, но не исчерпывающий вывод последовательности операций. Т.е. они недетерминированы в самой сути.

Не в большей степени чем всякие эвристики. Да и просто "субоптимальные методы". C этим как раз никакой проблемы.

[__diogen__]

"Не люблю" в данном случае "испытываю активную неприязнь". К другим методам таких чувств я не испытываю

[vchashu]

Ну нейросети хоть что-то считают и немного можно понять о чём это.
А ведь ещё есть "квантовые компьютеры"!

[__diogen__]

Н-да. Это действительно тяжелый случай. То есть лично у меня от попыток разобраться в теме осталось только представление, что фундаментальная идея существует и не является фикцией, но ее сколь-нибудь полное техническое воплощение невозможно, и практически речь может идти только об узко-специализированных устройствах. Все, что не укладывается в эту схему, является рекламой и обманом. В начале 2000-х я специально купил книжку на эту тему, чтобы понять, о чем вообще речь. После просмотра чувствовал себя верблюдом, прожевавшим газету. Слышал, полезно почитать первоисточник Манина, но все время находится что-нибудь поактуальней.

[vchashu]

Меня очень порадовала публикация Дьяконова о квантовых компьютерах в РАНовском сборнике против псевдонауки:

http://www.ras.ru/FStorage/download.aspx?id=ac12f872-e0bb-46a5-a68b-cd107610b4b4

[kouzdra]

Вообще нейросети - штука очень неновая - вот на каком-то "Балтконкурсе" детки лет 7 назад презентовали распознавалку мегафоновских и около антиспам текстиков на нейросетях - именно что обучаемую и вполне работавшую.

Просто щас с одной стороны размер мощностей достиг уровня при котором можно решать достаточно нетривиальные (в смысле сложно решаемые традиционными методами) задачи, ну а с другой - пошел хайп по этому поводу

Достаточно вспомнить аналогичные хайпы про ООП, test-driven development, всякие agile и прочее прочее

[__diogen__]

Ну, нейросети "вообще" штука не новая настолько, что чуть ли не старше Тьюринговой архитектуры: первые подходы к штанге делались еще в глубоких сороковых. Пресловутые перцептроны -- ранние шестидесятые. Но еще лет десять назад практически любую задачу можно было решать помимо нейросетей и лучше, чем нейросетями. Хотя реклама и дутые обещания их сопровождали прямо с момента появления, когда они еще ни для чего толком не годились. Нынешний бум связан с удачными практиками "глубокого обучения", ему как раз лет десять, что ли. Положа руку на сердце, это все-таки не такая бессмыслица, как чисто-административные восторги "отжайла" ("срама" и "кабана"). Но по мне лучше бы этого не было.