Создание нейросетей — удалённая работа в Москве

Доработка существующего продукта. Пожелания и особенности: требуется специалист по нейросетям (LLM) для оптимизации, настройки и дообучения модели. Цель проекта — повысить производительность, скорость ответа, стабильность и качество работы существующей LLM-системы, построенной на базе Ollama и модели Qwen. Основной рабочий стек — Python. Предусмотрено возможное дообучение модели под конкретные задачи. Текущий технологический стек: LLM Qwen (разные версии) через Ollama, Python 3.x, локальная или серверная инфраструктура (CPU/GPU), возможен Docker, взаимодействие через Ollama API, при необходимости базы данных (Redis, PostgreSQL и другие). Основные задачи специалиста: 1. Проанализировать текущую архитектуру, работу Ollama и модели Qwen, выявить узкие места, проблемы производительности, качество генерации, галлюцинации. 2. Оптимизировать производительность: настроить параметры Ollama (num_ctx, num_gpu, вариант quantization), подобрать подходящий размер модели и формат (Qwen в вариантах Q4/Q5/Q8), внедрить кэширование, ускорить обработку запросов, настроить стриминг, при необходимости предложить замену модели. 3. Улучшить качество генерации: настроить параметры temperature, top_p, penalty, разработать улучшенные промпты и системные инструкции, внедрить RAG (поиск по данным через векторную базу), уменьшить количество галлюцинаций. 4. Выполнить дообучение модели (при необходимости): подготовить датасет, выполнить fine-tuning или LoRA, обучить модель на внутренних данных (инструкции, диалоги, специфика бизнеса), интегрировать адаптеры обратно в Ollama. 5. Настроить интеграцию с Python: написать или оптимизировать клиент для взаимодействия с Ollama API, улучшить пайплайн запрос–обработка–ответ, внедрить логирование, обработку ошибок, тестирование. Требования к специалисту. Обязательные навыки: опыт работы с LLM (Qwen, Llama, Mistral и др.), уверенное владение Ollama, навыки оптимизации inference, настройка quantization, опыт fine-tuning и LoRA, уверенный Python, умение создавать эффективные промпты и системные шаблоны. Желательные навыки: опыт построения RAG-систем, работа с векторными базами (FAISS, Milvus, Chroma), умение профилировать производительность, знание Docker и CUDA, опыт подготовки данных.