Всем привет 👋

Если хотите пощупать нейронки локально и не возиться с python-зависимостями — наткнулся на Ollama. Одна команда и модель крутится у тебя на компе, без облаков и подписок. Проект открытый под MIT, так что делюсь.

Что умеет:

  • тянет и запускает модели одной командой (llama, qwen, deepseek, gemma и другие)
  • работает на маке (метал) и на видяхах нвидиа/amd
  • отдаёт локальный API — свои приложения цепляются за минуты
  • менеджмент моделей: версии, удаление, моделфайлы для своих промптов

Как запустить:

curl -fsSL https://ollama.com/install.sh | sh
ollama run qwen3

На мак и винду есть готовые установщики на сайте.

Архив с исходником приложил ниже — поставьте реакцию на сообщение чтобы скачать 🔒

Оригинал: github.com/ollama/ollama · Лицензия: MIT. Все права на автора — нашёл и делюсь 🙂

Кто уже гоняет локальные модели — расскажите какое железо берёте