Играюсь с большыми языковыми моделями, запускаемыми локально через
ollama под WSL2. Их нам много разных, LlaVa, llama2, mistral, и т.д. Немного ресурсов, кстати, жрёт - я аж удивился. WSL2 занимает при работе только два гига памяти.
Но языковые модели, конечно, имеют ограничения. Одна, например, наотруб отказалась рассказывать о том, как правильно
(
Read more... )