Я наткнулся в ленте канала Архэ на лекцию Льва Наумова с названием "Создают ли нейросети настоящее искусство?":
( Read more... )

Ссылка на pdf-ку с докладом на идущем сейчас DataFest 2023: https://disk.yandex.ru/i/gTn2AVzL-ItuvQ

Там есть ссылки на всякие пейперы по этой теме, цифры и графики.

Наткнулся на целый репозиторий с массой материала о том, как составлять запросы к большим языковым моделям (LLM): https://github.com/dair-ai/Prompt-Engineering-Guide

За два года тема из категории анекдотов про забавные особенности LLM и шуток насчет промт-инженеров трансформировалась в нечто весьма серьезное, со своим птичьим языком, лекциями, ( Read more... )

В продолжение недавней темы (и более старой темы).

Я решил принципиально не воспроизводить подходы Нейронной Обороны, проекта Ильи Гусева или генератора стихов, о котором рассказывал Сергей Марков в последней части семинара SberDevices.

Детально я все опишу потом, а пока только скажу, что после кучи экспериментов реализован подход с двухфазной ( Read more... )

Оказывается, подцепить svn, точнее гуй с черепашкой, в VisualStudio, весьма просто: https://tortoisesvn.net/visualstudio.html
( Read more... )

Есть что почитать долгими зимними вечерами:
https://amundtveit.com/2016/11/12/deep-learning-for-natural-language-processing-iclr-2017-discoveries/
http://smerity.com/articles/2016/iclr_2017_submissions.html

При построении языковой модели для текста всегда есть соблазн вывести ее прямо из символьного представления слов ( Read more... )

Касательно char-rnn: цитата из http://www.computervisionblog.com/2016/06/deep-learning-trends-iclr-2016.html?m=1

"Some of his key take-aways from comparing word-level embedding vs character-level embeddings is that for different languages, different methods work better. For languages which have a rich syntax, character-level encodings outperform ( Read more... )

Нашлось два неплохих и живых проекта, в которых есть реализация сабжа:

Accord.NET (это целый framework по разным разделам ЧМов, а сабж ищется по ключевым классам RestrictedBoltzmannMachine и ContrastiveDivergenceLearning).
SharpRBM (спартанский вариант - только RBM ( Read more... )

Краткое описание: http://cognon.net/

Подробнейшее изложение с описанием результатов разных экспериментов, касающихся способностей модели к запоминанию, уровень ложных срабатываний и прочее http://cognon.net/Neural_Spike_Computation.pdf

Код модели (сам еще не смотрел, по-моему там C++ под Linux для сетей порядка 10 элементов) - http://code.google. ( Read more... )