В репозитории https://github.com/Koziev/NLP_Datasets выложены побочные результаты всяких моих экспериментов с чатботами - наскрапленные, очищенные и отформатированные диалоги:

1) диалоги из анекдотов 8 Мб

2) диалоги с имиджборд 390 Мб архив_№1 и архив_№2 (осторожно - зашкаливающий уровень ненависти и 18+)

3) диалоги из худлита (Флибуста) 400 Мб ( Read more... )

Про изменения в модели интерпретатора и нормализатора в новой версии чатбота я уже отчитался. Теперь пора раскрыть еще одно новшество - как чатбот использует базу фактов (в общем случае - базу декларативных знаний).

Вот реальный тестовый диалог чатбота (метки B) с живым человеком (метки H). Бот использует профиль, где указаны, среди прочего, его ( Read more... )

Текущая задача в проекте чатбота - полностью переработать старое гибридное ядро, отказаться от ведущей роли написанных вручную правил и сценариев. Как минимум правила должны стать второстепенным, вспомогательным механизмом для быстрой кастомизации бота в ситуациях, когда до/пере-обучать генеративную модель тяжело или невозможно по соображениям ( Read more... )

Свёл для тестирования две болталки (одна из них - проект Axioma), смотрю на их диалоги. Бывает весьма неплохо, насколько это может быть применимо к чатботам вообще:

( Болтовня болталок... )

В репозиторий прототипа чатбота Axioma выложены все последние изменения в кодовой базе и сценариях.

Кроме этого, собран докер-образ со всеми моделями чатбота. С помощью этого образа можно легко запустить своего телеграм-бота - пошаговая инструкция под катом.

( Read more... )

Иногда в беседах с ИскИнами бывает что-то такое...

Вроде простая мелочь, но если вдуматься - можно найти глубокие аналогии с детским периодом усвоения родного языка у человека:


( Read more... )

За последние полгода в диалоговый движок внесено много изменений (очень много). Полный changelog будет доступен при очередном релизе (см. о планах ниже). Но самое главное изменение - расширенное использование генеративных языковых моделей, в том числе предобученных.

Последние пару месяцев проходило внутренее тестирование новой версии. Я брал ( Read more... )

Протыкиваю чатбот в ручном режиме (приятное дело - знай себе клацай в телегу), и вот такое забавное проскочило:
( Ксеноморфы и ксеноморфизм... )

Увы, обязательно. Судя по всему, бред и галлюцинации - неизбежный побочный продукт любых генеративных моделей, живых и неживых.

Например, вот фрагменты "мыслей", которые формируются у новой версии бота при попытке ответить, когда он не знает ответа.
( Генеративная языковая модель as is... )

Сделал на работе небольшой доклад по архитектуре чатбота для коллег-лингвистов: pdf