Я обнаружил сюрприз сегодня совершенно случайно. Сказать, что я впечатлен - это очень мало.

Оказывается, генеративная модель стихов (отладочный бот в телеге) умеет переводить стихи с английского  и немецкого, как минимум ( Read more... )

Какое-то время назад (полгода?) я начал эксперименты с посимвольной токенизацией для декодерных генеративок. Первыми результатами, разной степени успешности, были chargpt-96M и charllama-35M. Была еще модель charbloom-35M с позиционными эмбеддингами alibi, но ее я не стал выкладывать, так как она была чуть хуже charllama-35M ( Read more... )

В боте verslibre обновление:

1) в модель добавлены отдельными жанрами рэп и рубаи
2) для рэпа сделан отдельный ранжировщик, учитывающий принятые в этом жанре особенности текстов.

Как обычно с генеративками, можно начеррипикать неплохих примеров.

( Read more... )

Что еще за "Литературная студия"?

Название пафосное, но как же без этого... Впрочем, звучит красивее, чем CoPoet :)

На самом деле идея масштабная, на грани осуществимости. И увлекательная. Потому что это Creative AI, то есть "Творческий ИИ". Вкратце задумка такая: реализовать на основе архитектуры чатбота (прежний проект https://github.com/Koziev/ ( Read more... )

Какая милая безделица: в датасете генеративной модели @verslibre_bot нет ни одного сэмпла с английским языком вообще.
Но запросы на английском она понимает :)
( Стихотворение )

Я собрал отдельного телеграм-бота с новой моделью генерации стишков-пирожков: https://t.me/sacred_deer_bot

Кидать туда можно команды в императивном стиле, например "сочини стишок про дождь". В датасете есть еще несколько типов команд, причем почти весь инструктивный датасет сгенерирован через openai API.
Если бот вернул "Что-то не получается ( Read more... )

Что-то вроде спойлера: подбиваю материалы для доклада по экспериментам с разными моделями, которые файнтюнятся на датасете со стихами. Результаты оцениваются с технической точки зрения - попадание в классический метр и рифмовка ( Read more... )

Тема использования знаний LLM через хитрые затравки раскручивается и затрагивает даже такие интересные мне темы, как ранжирование шуток. Далее - мои рабочие заметки по статье, вышедшей в декабре 22 года с названием "CROWD SCORE: A METHOD FOR THE EVALUATION OF JOKES USING LARGE LANGUAGE MODEL AI VOTERS AS JUDGES ( Read more... )

Сегодня переключил телеграм-бота https://t.me/haiku_guru_bot на новую мультижанровую модель.
Если зайдете в стартовое меню командой /start, то появится перечень открытых форматов и жанров:


( Read more... )

Итак, вчера в паблик выложена новая версия модели для генерации изображений по тексту Kandinsky 2.1.
Разработчики также запустили телеграм-бот, где можно погенерить свои картинки.
То, что веса модели и вся обвязка опубликована, поволяет пилить всякие интересные штуки, не завязанные на стороние сервисы.

В качестве примера я скрутил по-быстрому ( Read more... )