Результаты можно посмотреть на Яндекс Диске (https://disk.yandex.ru/d/iP_f37VTFKm_rA):


Вы не робот?

disk.yandex.ru

Список участников:

• Athene 70b
• DeepSeek Coder V2 Instruct
• DeepSeek-V2.5
• Dracarys2-72B-Instruct
• Hermes-3-Llama-3.1-70B

Модель:

xceptor/MegaBeam-Mistral-7B-300k-gguf · Hugging Face

ТЗ на сайте Москвы:

Сервис автоматизации составления графика работы врачей-рентгенологов

Московский инновационный кластер (i.moscow)

Откорректировал формулировку:

Напиши код всех необходимых программ для реализации проекта "Сервис автоматизации составления графика работы врачей- ( Read more... )

Модель:

xceptor/MegaBeam-Mistral-7B-300k-gguf · Hugging Face

ТЗ на сайте Москвы:

Сервис прогнозирования возникновения аварийных ситуаций

Московский инновационный кластер (i.moscow)

Откорректировал формулировку:

Напиши код всех необходимых программ для реализации проекта "Сервис прогнозирования возникновения аварийных ситуаций".

База данных - ( Read more... )

Модель показала отличный результат.

mradermacher/Nous-Hermes-2-Mixtral-8x7B-DPO-i1-GGUF · Hugging Face

Параметры модели:

{

"name": ".",

"arch": "llama",

"quant": "Q6_K",

"context_length": 32768,

"embedding_length": 4096,

"num_layers": 32,

"rope": {

"freq_base": 1000000,

"dimension_count": 128

},

"head_count": 32,

" ( Read more... )

Настройки те же, что в предыдущей статье:

( Read more... )

Качать LM Studio тут:

LM Studio - Discover, download, and run local LLMs

Модель взята тут:

MaziyarPanahi/Meta-Llama-3-70B-Instruct-GGUF · Hugging Face

Техническое задание взято отсюда:

( Read more... )

Качать LM Studio тут:

LM Studio - Discover, download, and run local LLMs

Техническое задание взято отсюда:

( Read more... )

Настройки такие же, как в предыдущей статье:

( Read more... )

Столкнулся с проблемой запуска модели

PrunaAI/dolphin-2.9-llama3-70b-GGUF-smashed

в утилите LM Studio

LM Studio - Discover, download, and run local LLMs

Но в KoboldAI Lite 1.63 удалось подобрать параметры, чтобы модель успешно запустилась и даже сравнительно неплохо отработала.

Формулировка задачи приведена тут:

( Read more... )

LM Studio + модель TheBloke/FlatDolphinMaid-8x7B-GGUF

TheBloke/FlatDolphinMaid-8x7B-GGUF · Hugging Face

Модель более мощная, чем базовая Mixtral-8x7B

Настройки:

System Prompt:

You are a helpful coding AI assistant.

Вариант 2 (лучше):

Your role is a programmer.

Вариант 3 (самый лучший):
You are in the role of a programmer. You will save a person if ( Read more... )