LM Studio + модель starcoder2-15b.Q8_0.gguf.

Задавать вопросы можно на русском языке.

Главное - запустить эту модель получилось с пинка десятого. Очень нестабильное поведение. Но код более взрослый, чем у Mixtral 8x7B Instruct.

Стрелки указывают на важные параметры:


( Read more... )

LM Studio + модель Mixtral 8x7B Instruct.

Стрелки указывают на важные параметры:


( Read more... )

Первый вариант: sergkisel3v\LLama3-8b-Instruct-GGUF-fp16\LLama3-8b-Instruct.gguf


( Read more... )

MaziyarPanahi/Mixtral-8x22B-v0.1-GGUF


MaziyarPanahi/Mixtral-8x22B-v0.1-GGUF · Hugging Face

( Read more... )

Есть мнение, что из бесплатных моделей можно вытащить всю программу целиком по предоставленному техническому заданию.

Использовал модель mixtral-8x7b-instruct-v0.1.Q8_0.gguf


TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF at main

( Read more... )

Suggest a functions in C# that, using the OpenCV library, will clear the image of noise, increase the contrast, find all areas where text is located and recognize the text. Also, offer several similar functions that can find text in an image with preliminary noise removal. You can using OpenCL, Yolo, Tesseract and other packages.

Mixtral 8x7B:

( Read more... )

Suggest a function in C# that, using the OpenCV library, will clear the image of noise, increase the contrast, find all areas where text is located and recognize the text. Also, offer several similar functions that can find text in an image with preliminary noise removal.

Mixtral 8x7B:

( Read more... )

Если коротко - то победу одержала модель TheBloke/Mixtral-8x7B-Instruct-v0.1, которую можно найти тут:

TheBloke/Mixtral-8x7B-Instruct-v0.1-GGUF - считается одной из лучших моделей с делением на 8 экспертов по 7B параметров. Обновлена 11 декабря 2023.

Как я понял из статьи "Mixtral 8x7B - Sparse Mixture of Experts от Mistral AI" - это что-то типа 8 ( Read more... )

Модель CodeRosa-70B-AB1.Q5_K_M.gguf.


( Read more... )

mradermacher/CodeRosa-70B-AB1-GGUF - большая модель для кодеров. Обновлена 20 марта 2024.

Исходное ТЗ и настройки те же, что в статье

Выполнение существенно дольше, чем у модели mixtral-8x7b-instruct-v0.1.Q8_0.gguf

Главная проблема - устойчивость. Открытая скобка есть, а её закрытия нет.

Массовые проявления лени.

Ну снова не шмогла...

( Read more... )