Как установить deepseek coder?
Кто в теме, версия на 6.7 и на 33 миллиарда по железу сильно отличаются? И вроде есть ещё отдельно инстракт и база, вот что из них для дописывания кода прямо в редакторе
Нейросети, ИИ
Знакомства и отношения
Бизнес и финансы
Гороскопы и гадания
Кто в теме, версия на 6.7 и на 33 миллиарда по железу сильно отличаются? И вроде есть ещё отдельно инстракт и база, вот что из них для дописывания кода прямо в редакторе
Что именно ставить Сборки под код бывают базовые и инструкт. Базовая просто продолжает текст, инструкт понимает задание словами. Для работы в редакторе берут инструкт.
Через что запускать Ollama или LM Studio: одна команда, и локальный сервер отвечает на стандартном адресе.
Как подружить с редактором В VS Code ставится плагин, который умеет ходить в локальный сервер. В его настройках прописывается адрес и имя сборки, дальше подсказки идут прямо в файле.
Про железо Мелкая сборка живёт на восьми гигабайтах видеопамяти, крупная требует серьёзной карты. Не влезло в память, работать будет, но медленно.
Список сборок и требования смотрите в карточке проекта, их обновляют.
Шаг 1. Выберите размер под своё железо. Число в имени сборки это миллиарды параметров, и от него зависит, влезет ли она в видеопамять. Мелкая идёт на карте с восемью гигабайтами, средняя просит двенадцать и больше, крупная это уже профессиональное железо. Если не влезло, всё уедет в оперативную память и на процессор, и вы получите одно слово в секунду.
Шаг 2. Возьмите инструкт-вариант, а не базовый. Базовый обучен продолжать текст и на просьбу словами отвечает мусором. Инструкт понимает задание.
Шаг 3. Поставьте движок. Ollama проще всего: обычная установка, потом одна команда в терминале, она сама скачает веса и поднимет локальный сервер. LM Studio то же самое, но с окном и списком сборок.
Шаг 4. Проверьте, что сервер отвечает, до всякой интеграции. Задайте вопрос прямо в консоли и посмотрите на скорость. Если она вас не устраивает уже здесь, в редакторе будет хуже.
Шаг 5. Подключите редактор. Плагины вроде Continue умеют работать с локальным сервером: в настройках указываете адрес и точное имя сборки, символ в символ.
Шаг 6. Понизьте ожидания и настройте окно контекста. Локальная модель видит ограниченный кусок кода и про остальной проект не знает ничего, поэтому уверенно вызывает функции, которых у вас нет. Каждую подсказку читайте, прежде чем принять.
Точные требования, имена сборок и поддерживаемые квантования смотрите в карточке проекта, они меняются от релиза к релизу.
Пока нет премиум-вопросов в подборке
Не нашли то, что искали?
Задайте свой вопрос
Лучший ответ
4.1 Fast
4.1 Fast
Как установить deepseek coder?
Ставь Ollama и тяни инструкт, база для редактора бесполезна. Пример: ollama run, имя сборки под свою видеопамять, потом плагин в редакторе на локальный адрес.