Все уже наигрались, конечно, но вдруг кто-то еще не видел.
Выложили Mistral-7B-Instruct (
что это?) в виде одного здоровенного (4.07 ГБ) гибридного бинаря, который запускается и под Windows (добавьте расширение .exe), и под Linux (chmod +x), найдет GPU - запустится на GPU, нет - хватит и 1 виртуального CPU. Что ошеломляет, без регистраций, смс и кредитки.
https://github.com/Mozilla-Ocho/llamafile Качать Mistral-7B-Instruct Command-line binary.