Черновое сравнение tf-idf и word2vector как основы для word-sense disambiguation
Сравниваем два алгоритма для word-sense disambiguation (продолжение http://kelijah.livejournal.com/167784.html) Оба сводятся к вычислению cosine similarity, хотя строят векторы документов и предложений по-разному.
Расчет tf-tdf делался с лемматизацией. Стратегическая задумка - сделать еще и глубокую нормализацию, с приведением к "лучшему общему синониму", к нормальной форме для уменьшительно-ласкательных и к глагольному прототипу для словообразовательных гнезд.
Итоги:
tf-idf: Error count=16 (26,2295081967213%)
word2vector: Error count=13 (21,3114754098361%)
Подробный листинг с тестовыми примерами:
TF IDF
замок.механизм Кодовый замок был включен и заперт.
замок.механизм Сенсорный замок был вырван, дверь приоткрыта.
замок.сооружение Замок сумки был сделан из двух никелевых шариков;
замок.механизм Но замок входной двери мастерской тоже был заменен.
замок.механизм Был призван слесарь и в дверь врезан замок.
замок.механизм Замок был снят, дверь приоткрыта.
замок.сооружение Также был установлен механический центральный замок
замок.сооружение Кроме того был установлен противоугонный замок
замок.механизм Он был заперт на кодовые замки;
замок.сооружение Однако главный вход в тир был на замке.
замок.механизм Склад всегда был на замке.
замок.сооружение Замок был окружен тройными стенами.
замок.сооружение Замок был велик и обширен.
замок.сооружение Вскоре замок был окружен.
замок.сооружение Первый обед в замке был довольно официальным.
замок.сооружение Каменный замок был построен в 1229 году
замок.сооружение Тогда же был основательно перестроен и укреплён замок
замок.сооружение Сначала это был замок, построенный неким графом.
замок.сооружение Замок был построен в 1140 году владетелями Мортолы.
замок.сооружение Замок вновь был разрушен и восстановлен Крестоносцами;
замок.сооружение После тридцатидневной осады был взят штурмом Нижний замок
затопить.залить Паводок затопит дачи вологжан
затопить.залить Все её существо затопила теплая волна.
затопить.залить Все поля кругом затопила вода.
затопить.залить К тому моменту ливень уже затопил все окрестности.
затопить.залить Все дома полностью затопило!
затопить.залить А 24 марта вода затопила все подземелье.
затопить.залить Затопило все дамбы, дома и посевы.
затопить.залить Невыносимая боль затопила все ее существо.
затопить.залить Черная ярость затопила все его существо.
затопить.залить Они стремились пролиться, затопить все...
затопить.зажечь Затопили печь, стали греть воду.
затопить.зажечь Он прошел в диванную и затопил камин.
затопить.залить Я прикажу затопить все печки.
затопить.залить Все какую печурку затопим.
затопить.зажечь Надеюсь, нам удастся затопить чертов камин!
затопить.зажечь Я открыл ставни, затопил печь.
затопить.зажечь Один принес чурок и стружек и затопил печку.
затопить.зажечь Он затопил печь, сел и закурил.
затопить.зажечь Я затоплю камин, в доме станет уютнее.
затопить.залить А может, ты замерзла - баню затопить?
банк Но у меня есть суп в банке.
банк Я должна была бросить банку с деньгами.
банк Судя по надписям, в банках был тунец.
банк На банке была наклеена цветная картинка.
банк Банки должны быть заполнены под самое горлышко.
банк Банки должны быть с притертыми пробками.
банк Только сгущенка осталась, там банки попрочней были.
банка На следующий день были получены консервные банки.
банк Ящики были выдвинуты, коробки и банки разбиты.
банк Вскоре банки были плотно уложены в две сумки.
банк Раньше такой должности в банке не было.
банк Безопаснее было бы хранить деньги в банке.
банк Банк России будет инспектировать банки.
банк Было решено большую часть денег отдать инвестиционному банку.
банк Волгоградскому агропромышленному банку было разрешено строительство административного здания.
банк У меня есть вклад в банке.
банк У меня есть счет в банке, и...
банк В основном спонсорами были банки или крупные компании.
банк 30 апреля их усилиями было сменено руководство банка.
банк Ограбление вашего банка также было преднамеренным.
Error count=16 (26,2295081967213%)
word2vector
замок.механизм Кодовый замок был включен и заперт.
замок.механизм Сенсорный замок был вырван, дверь приоткрыта.
замок.механизм Замок сумки был сделан из двух никелевых шариков;
замок.механизм Но замок входной двери мастерской тоже был заменен.
замок.механизм Был призван слесарь и в дверь врезан замок.
замок.механизм Замок был снят, дверь приоткрыта.
замок.механизм Также был установлен механический центральный замок
замок.механизм Кроме того был установлен противоугонный замок
замок.механизм Он был заперт на кодовые замки;
замок.механизм Однако главный вход в тир был на замке.
замок.механизм Склад всегда был на замке.
замок.механизм Замок был окружен тройными стенами.
замок.механизм Замок был велик и обширен.
замок.механизм Вскоре замок был окружен.
замок.сооружение Первый обед в замке был довольно официальным.
замок.механизм Каменный замок был построен в 1229 году
замок.механизм Тогда же был основательно перестроен и укреплён замок
замок.механизм Сначала это был замок, построенный неким графом.
замок.сооружение Замок был построен в 1140 году владетелями Мортолы.
замок.механизм Замок вновь был разрушен и восстановлен Крестоносцами;
замок.механизм После тридцатидневной осады был взят штурмом Нижний замок
затопить.залить Паводок затопит дачи вологжан
затопить.залить Все её существо затопила теплая волна.
затопить.залить Все поля кругом затопила вода.
затопить.залить К тому моменту ливень уже затопил все окрестности.
затопить.залить Все дома полностью затопило!
затопить.зажечь А 24 марта вода затопила все подземелье.
затопить.залить Затопило все дамбы, дома и посевы.
затопить.зажечь Невыносимая боль затопила все ее существо.
затопить.залить Черная ярость затопила все его существо.
затопить.залить Они стремились пролиться, затопить все...
затопить.зажечь Затопили печь, стали греть воду.
затопить.зажечь Он прошел в диванную и затопил камин.
затопить.зажечь Я прикажу затопить все печки.
затопить.зажечь Все какую печурку затопим.
затопить.зажечь Надеюсь, нам удастся затопить чертов камин!
затопить.зажечь Я открыл ставни, затопил печь.
затопить.зажечь Один принес чурок и стружек и затопил печку.
затопить.зажечь Он затопил печь, сел и закурил.
затопить.зажечь Я затоплю камин, в доме станет уютнее.
затопить.зажечь А может, ты замерзла - баню затопить?
банка Но у меня есть суп в банке.
банка Я должна была бросить банку с деньгами.
банк Судя по надписям, в банках был тунец.
банк На банке была наклеена цветная картинка.
банка Банки должны быть заполнены под самое горлышко.
банка Банки должны быть с притертыми пробками.
банка Только сгущенка осталась, там банки попрочней были.
банка На следующий день были получены консервные банки.
банка Ящики были выдвинуты, коробки и банки разбиты.
банка Вскоре банки были плотно уложены в две сумки.
банк Раньше такой должности в банке не было.
банк Безопаснее было бы хранить деньги в банке.
банк Банк России будет инспектировать банки.
банка Было решено большую часть денег отдать инвестиционному банку.
банк Волгоградскому агропромышленному банку было разрешено строительство административного здания.
банк У меня есть вклад в банке.
банк У меня есть счет в банке, и...
банк В основном спонсорами были банки или крупные компании.
банк 30 апреля их усилиями было сменено руководство банка.
банк Ограбление вашего банка также было преднамеренным.
Error count=13 (21,3114754098361%)
Расчет tf-tdf делался с лемматизацией. Стратегическая задумка - сделать еще и глубокую нормализацию, с приведением к "лучшему общему синониму", к нормальной форме для уменьшительно-ласкательных и к глагольному прототипу для словообразовательных гнезд.
Итоги:
tf-idf: Error count=16 (26,2295081967213%)
word2vector: Error count=13 (21,3114754098361%)
Подробный листинг с тестовыми примерами:
TF IDF
замок.механизм Кодовый замок был включен и заперт.
замок.механизм Сенсорный замок был вырван, дверь приоткрыта.
замок.сооружение Замок сумки был сделан из двух никелевых шариков;
замок.механизм Но замок входной двери мастерской тоже был заменен.
замок.механизм Был призван слесарь и в дверь врезан замок.
замок.механизм Замок был снят, дверь приоткрыта.
замок.сооружение Также был установлен механический центральный замок
замок.сооружение Кроме того был установлен противоугонный замок
замок.механизм Он был заперт на кодовые замки;
замок.сооружение Однако главный вход в тир был на замке.
замок.механизм Склад всегда был на замке.
замок.сооружение Замок был окружен тройными стенами.
замок.сооружение Замок был велик и обширен.
замок.сооружение Вскоре замок был окружен.
замок.сооружение Первый обед в замке был довольно официальным.
замок.сооружение Каменный замок был построен в 1229 году
замок.сооружение Тогда же был основательно перестроен и укреплён замок
замок.сооружение Сначала это был замок, построенный неким графом.
замок.сооружение Замок был построен в 1140 году владетелями Мортолы.
замок.сооружение Замок вновь был разрушен и восстановлен Крестоносцами;
замок.сооружение После тридцатидневной осады был взят штурмом Нижний замок
затопить.залить Паводок затопит дачи вологжан
затопить.залить Все её существо затопила теплая волна.
затопить.залить Все поля кругом затопила вода.
затопить.залить К тому моменту ливень уже затопил все окрестности.
затопить.залить Все дома полностью затопило!
затопить.залить А 24 марта вода затопила все подземелье.
затопить.залить Затопило все дамбы, дома и посевы.
затопить.залить Невыносимая боль затопила все ее существо.
затопить.залить Черная ярость затопила все его существо.
затопить.залить Они стремились пролиться, затопить все...
затопить.зажечь Затопили печь, стали греть воду.
затопить.зажечь Он прошел в диванную и затопил камин.
затопить.залить Я прикажу затопить все печки.
затопить.залить Все какую печурку затопим.
затопить.зажечь Надеюсь, нам удастся затопить чертов камин!
затопить.зажечь Я открыл ставни, затопил печь.
затопить.зажечь Один принес чурок и стружек и затопил печку.
затопить.зажечь Он затопил печь, сел и закурил.
затопить.зажечь Я затоплю камин, в доме станет уютнее.
затопить.залить А может, ты замерзла - баню затопить?
банк Но у меня есть суп в банке.
банк Я должна была бросить банку с деньгами.
банк Судя по надписям, в банках был тунец.
банк На банке была наклеена цветная картинка.
банк Банки должны быть заполнены под самое горлышко.
банк Банки должны быть с притертыми пробками.
банк Только сгущенка осталась, там банки попрочней были.
банка На следующий день были получены консервные банки.
банк Ящики были выдвинуты, коробки и банки разбиты.
банк Вскоре банки были плотно уложены в две сумки.
банк Раньше такой должности в банке не было.
банк Безопаснее было бы хранить деньги в банке.
банк Банк России будет инспектировать банки.
банк Было решено большую часть денег отдать инвестиционному банку.
банк Волгоградскому агропромышленному банку было разрешено строительство административного здания.
банк У меня есть вклад в банке.
банк У меня есть счет в банке, и...
банк В основном спонсорами были банки или крупные компании.
банк 30 апреля их усилиями было сменено руководство банка.
банк Ограбление вашего банка также было преднамеренным.
Error count=16 (26,2295081967213%)
word2vector
замок.механизм Кодовый замок был включен и заперт.
замок.механизм Сенсорный замок был вырван, дверь приоткрыта.
замок.механизм Замок сумки был сделан из двух никелевых шариков;
замок.механизм Но замок входной двери мастерской тоже был заменен.
замок.механизм Был призван слесарь и в дверь врезан замок.
замок.механизм Замок был снят, дверь приоткрыта.
замок.механизм Также был установлен механический центральный замок
замок.механизм Кроме того был установлен противоугонный замок
замок.механизм Он был заперт на кодовые замки;
замок.механизм Однако главный вход в тир был на замке.
замок.механизм Склад всегда был на замке.
замок.механизм Замок был окружен тройными стенами.
замок.механизм Замок был велик и обширен.
замок.механизм Вскоре замок был окружен.
замок.сооружение Первый обед в замке был довольно официальным.
замок.механизм Каменный замок был построен в 1229 году
замок.механизм Тогда же был основательно перестроен и укреплён замок
замок.механизм Сначала это был замок, построенный неким графом.
замок.сооружение Замок был построен в 1140 году владетелями Мортолы.
замок.механизм Замок вновь был разрушен и восстановлен Крестоносцами;
замок.механизм После тридцатидневной осады был взят штурмом Нижний замок
затопить.залить Паводок затопит дачи вологжан
затопить.залить Все её существо затопила теплая волна.
затопить.залить Все поля кругом затопила вода.
затопить.залить К тому моменту ливень уже затопил все окрестности.
затопить.залить Все дома полностью затопило!
затопить.зажечь А 24 марта вода затопила все подземелье.
затопить.залить Затопило все дамбы, дома и посевы.
затопить.зажечь Невыносимая боль затопила все ее существо.
затопить.залить Черная ярость затопила все его существо.
затопить.залить Они стремились пролиться, затопить все...
затопить.зажечь Затопили печь, стали греть воду.
затопить.зажечь Он прошел в диванную и затопил камин.
затопить.зажечь Я прикажу затопить все печки.
затопить.зажечь Все какую печурку затопим.
затопить.зажечь Надеюсь, нам удастся затопить чертов камин!
затопить.зажечь Я открыл ставни, затопил печь.
затопить.зажечь Один принес чурок и стружек и затопил печку.
затопить.зажечь Он затопил печь, сел и закурил.
затопить.зажечь Я затоплю камин, в доме станет уютнее.
затопить.зажечь А может, ты замерзла - баню затопить?
банка Но у меня есть суп в банке.
банка Я должна была бросить банку с деньгами.
банк Судя по надписям, в банках был тунец.
банк На банке была наклеена цветная картинка.
банка Банки должны быть заполнены под самое горлышко.
банка Банки должны быть с притертыми пробками.
банка Только сгущенка осталась, там банки попрочней были.
банка На следующий день были получены консервные банки.
банка Ящики были выдвинуты, коробки и банки разбиты.
банка Вскоре банки были плотно уложены в две сумки.
банк Раньше такой должности в банке не было.
банк Безопаснее было бы хранить деньги в банке.
банк Банк России будет инспектировать банки.
банка Было решено большую часть денег отдать инвестиционному банку.
банк Волгоградскому агропромышленному банку было разрешено строительство административного здания.
банк У меня есть вклад в банке.
банк У меня есть счет в банке, и...
банк В основном спонсорами были банки или крупные компании.
банк 30 апреля их усилиями было сменено руководство банка.
банк Ограбление вашего банка также было преднамеренным.
Error count=13 (21,3114754098361%)