В Новосибирске -- уже два дня
Еда тут совсем не московская, я наслаждаюсь. Например, в студенческой столовке ел сегодня "горошницу с луком" -- вкусно!
До 18 часов системный подход и студенты (с маленькой долей руководителей проектов), а после 18 часов посиделки по машинному обучению. Это счастье, что я успел сделать доклад Machine Learning Engineering до отъезда -- тут эти слайды крепко пригождаются и в работе с магистрами, и в вечерних семинарах. Кажется, сегодня я таки сумел понять, что спрашивали меня новосибирцы последние три года про "нетьюринговские вычисления на тьюринговских машинах" -- ответы нашлись в работах по ссылкам на слайде 29 про аппаратуру для вычислений тут -- http://ailev.livejournal.com/1245043.html. Там оказалось много самых разных вопросов (например, почему мы верим симуляциям физических систем, которые сделаны на тьюринговских машинах; почему многослойные bitwise сетки оказываются выразительными несмотря на их убогость, как связан "универсальный аппроксиматор" и моделирование и т.д.). И на разные вопросы отвечают разные работы с этого слайда (ну, или эти работы помогут вопросы уточнить).
В первый день была бурная дискуссия про системную инженерию и ВПК (промышленность по производству орудий убийства). Очень много студенческих работ, которые посвящены созданию орудий убийства, руководителям проектов тоже политика (да и политэкономия) не чужда, поэтому страсти кипели. Что и говорить, кому война, а кому мать родна.
Много вопросов было по вопросу ненаучности инженерии (повторюсь: у меня в учебнике раздел "наука и инженерия" содержит два подраздела -- "инженерия научна" и "инженерия не научна". Учебник лежит тут: http://techinvestlab.ru/systems_engineering_thinking, и не будет большим секретом ткнуть в место, где лежит правильная книжка Билли Коэна про разные определения инженерии (в том числе про "инженерию как прикладную науку", стр.85): http://bookzz.org/dl/1244348/f9f05c
Очень много вопросов по проблемам понимания естественного языка (NLU -- natural language understanding) в распределённых представлениях. Я рекомендую всем две работы Kyunghung Cho:
-- лекционные заметки курса Natural Language Understanding with Distributed Representations (http://arxiv.org/abs/1511.07916)
-- слайды new territory of machine translation (https://drive.google.com/file/d/0B16RwCMQqrtdRVotWlQ3T2ZXTmM/view)
Ещё можно взять A Primer on Neural Network Models for Natural Language Processing от Yoav Goldber: http://arxiv.org/abs/1510.00726
Из новенького: сформулировали "правило почтальона": при определении целевой и обеспечивающей системы стараться не перескакивать через ступеньки адресации. Скажем, я говорю про стул напротив доски в круглом зале третьего этажа Николаева 12, Новосибирска, Новосибирской области, РФ, планеты Земли, Солнечной системы, галактики Млечного пути, нашей вселенной. Формально я могу сказать, что использующая система стула -- планета Земля, или даже Млечный путь. Но это как-то неправильно. Если я понимаю, что использующей системой для маленькой жестяной коробочки служит что-то соразмерное масштабу области, то тут явно пропущена какая-то система промежуточного между ними уровня, и даже не одна такая система. Очень полезно при этом поинтересоваться, откуда приходят основные стейкхолдеры, и какая у них система -- пропущенный уровень быстро находится.
До 18 часов системный подход и студенты (с маленькой долей руководителей проектов), а после 18 часов посиделки по машинному обучению. Это счастье, что я успел сделать доклад Machine Learning Engineering до отъезда -- тут эти слайды крепко пригождаются и в работе с магистрами, и в вечерних семинарах. Кажется, сегодня я таки сумел понять, что спрашивали меня новосибирцы последние три года про "нетьюринговские вычисления на тьюринговских машинах" -- ответы нашлись в работах по ссылкам на слайде 29 про аппаратуру для вычислений тут -- http://ailev.livejournal.com/1245043.html. Там оказалось много самых разных вопросов (например, почему мы верим симуляциям физических систем, которые сделаны на тьюринговских машинах; почему многослойные bitwise сетки оказываются выразительными несмотря на их убогость, как связан "универсальный аппроксиматор" и моделирование и т.д.). И на разные вопросы отвечают разные работы с этого слайда (ну, или эти работы помогут вопросы уточнить).
В первый день была бурная дискуссия про системную инженерию и ВПК (промышленность по производству орудий убийства). Очень много студенческих работ, которые посвящены созданию орудий убийства, руководителям проектов тоже политика (да и политэкономия) не чужда, поэтому страсти кипели. Что и говорить, кому война, а кому мать родна.
Много вопросов было по вопросу ненаучности инженерии (повторюсь: у меня в учебнике раздел "наука и инженерия" содержит два подраздела -- "инженерия научна" и "инженерия не научна". Учебник лежит тут: http://techinvestlab.ru/systems_engineering_thinking, и не будет большим секретом ткнуть в место, где лежит правильная книжка Билли Коэна про разные определения инженерии (в том числе про "инженерию как прикладную науку", стр.85): http://bookzz.org/dl/1244348/f9f05c
Очень много вопросов по проблемам понимания естественного языка (NLU -- natural language understanding) в распределённых представлениях. Я рекомендую всем две работы Kyunghung Cho:
-- лекционные заметки курса Natural Language Understanding with Distributed Representations (http://arxiv.org/abs/1511.07916)
-- слайды new territory of machine translation (https://drive.google.com/file/d/0B16RwCMQqrtdRVotWlQ3T2ZXTmM/view)
Ещё можно взять A Primer on Neural Network Models for Natural Language Processing от Yoav Goldber: http://arxiv.org/abs/1510.00726
Из новенького: сформулировали "правило почтальона": при определении целевой и обеспечивающей системы стараться не перескакивать через ступеньки адресации. Скажем, я говорю про стул напротив доски в круглом зале третьего этажа Николаева 12, Новосибирска, Новосибирской области, РФ, планеты Земли, Солнечной системы, галактики Млечного пути, нашей вселенной. Формально я могу сказать, что использующая система стула -- планета Земля, или даже Млечный путь. Но это как-то неправильно. Если я понимаю, что использующей системой для маленькой жестяной коробочки служит что-то соразмерное масштабу области, то тут явно пропущена какая-то система промежуточного между ними уровня, и даже не одна такая система. Очень полезно при этом поинтересоваться, откуда приходят основные стейкхолдеры, и какая у них система -- пропущенный уровень быстро находится.