Символисты против нейрооптимистов

Nov 17, 2015 14:46

"Символисты" -- они же "онтологи", представители символьного подхода -- отлично решали и решают простые задачи, где зависимости простые и правила не нарушаются.
В той же лингвистике почти любое правило нарушается, и нужно знать, когда и как принято говорить (если хотите действительно сотни принципиально различных примеров -- почитайте книгу Read more... )

Leave a comment

Comments 48

ailev November 17 2015, 10:42:49 UTC
Есть и другие подходы к редким словам: http://arxiv.org/abs/1508.07909

Reply

buriy November 17 2015, 11:21:36 UTC
Ага, по ссылке в одном месте рrecision 50% -- но это ведь "ошибается в каждом втором случае". А рядом precision 20% -- это ошибается 4 из 5 раз ( ... )

Reply

ailev November 17 2015, 11:34:11 UTC
Много чего происходит сейчас в лингвистике, не сводимого к словарям. Например, http://www.ling.upenn.edu/~rnoyer/dm/

Если бы всё со словарями и классической семантикой было хорошо, машинный перевод был бы давно реализован. А он, увы, никак и никак. Ибо в головах у людей всё-таки не грамматическая машинка.

Reply

buriy November 17 2015, 12:51:07 UTC
Я здесь понятие "словарь" применяю в обще-программистском смысле -- как набор пар "ключ -> значение", а не как набор словарных статей вида "слон -- крупное млекопитающее с хоботом, которое водится в Африке ( ... )

Reply


Символисты против нейрооптимистов livejournal November 18 2015, 11:54:25 UTC
Пользователь nashev сослался на вашу запись в своей записи « Символисты против нейрооптимистов» в контексте: [...] Почти в тему: Оригинал взят у в Символисты против нейрооптимистов [...]

Reply


palex November 25 2015, 11:14:34 UTC
Хочу попробовать через грамматику предложений:

Выделение выражений, выделенных скобками и запятыми, с возможностью пропуска при классификации предложений
Классификация предложений по преффиксам, суффиксам, окончаниям, предлогам
Распознавание корней в предложении с предопределенным типом
Формирование образа предложения по типу и корням
Формирование образа параграфа по образу входящих предложений

Использование при обучении всех возможных параграфов и постоянное уточнение образа каждого
Указание для каждого образа параграфа - времени первого появления в литературе, последующих использований
Выделение образов частых цитат, формул, определений

Начальные предложения по классификации вопросительных слов - http://lev-balashov.livejournal.com/127372.html?thread=384396#t384396
В качестве первоначального материала предполагаю использовать классику философии

Reply

buriy November 25 2015, 18:47:43 UTC
Пробуйте.
А какой будет критерий оптимизации вышеперечисленного?
Как вы определите, что достигли цели?

Reply

palex November 26 2015, 12:32:28 UTC
Критерий пока - через количество проходов по текстам с уменьшением на 1-5% коэффициента для обратного распространения ошибки.
Правильность - через соответствие входного и выходного предложений, но при малом количестве нейронов среднего слоя - поиск ассоциативных образов.
Уже сейчас видно, что требуется иерархия сеток, ориентированных на пунктуацию, окончания, корни.

Reply

buriy November 27 2015, 14:31:49 UTC
Т.е. у вас автоенкодер? Совпадают входное и выходное предложение, или я неправильно понял?

Reply


livejournal November 28 2015, 00:38:01 UTC
Здравствуйте! Ваша запись попала в топ-25 популярных записей LiveJournal сибирского региона. Подробнее о рейтинге читайте в Справке.

Reply


Leave a comment

Up