Data Scientist (LLM, RAG)

Компания: ООО «Диденко Лигал»
Продукт: Speransky – AI-платформа для анализа и автоматизации работы с юридическими документами.
Формат работы: удаленно, part-time.

Почему это интересно?

Стартап с перспективами роста – ты станешь частью команды, создающей передовой AI-продукт для LegalTech.
Реальный impact – разрабатываем AI, который упрощает жизнь юристов и автоматизирует сложные процессы.
Гибкость – удаленный формат и свободный график.
Технологические вызовы – работа с LLM, RAG, векторными БД и fine-tuning open-source моделей.

Что предстоит делать?

• Разворачивать локально Large Language Models (LLM) и предоставлять доступ через FastAPI.
• Разрабатывать и внедрять RAG (Retrieval-Augmented Generation) для работы с юридическими документами, включая reranker'ы.
• Дообучать open-source LLM с помощью LoRA, QLoRA.
• Оборачивать решения в Docker, Docker-Compose для развертывания у заказчика.
• Инфраструктура для тестирования результатов работы - облачные сервисы: RunPod, immerse cloud.

Какие навыки важны?

ML & NLP: Опыт работы с LLM, их оптимизация и fine-tuning.
RAG & векторные БД: Faiss, ChromaDB, Pinecone, LlamaIndex, LangChain, sentence-transformers, ColBERT для reranking.
FastAPI & Backend: Разработка API для взаимодействия с моделями.
Оптимизация & обучение: Hugging Face, PyTorch, Deepspeed, Accelerate, Bitsandbytes.
Контейнеризация: Docker, Docker-Compose, базовые знания CI/CD.
DevOps (желательно): Развертывание на сервере.

Если тебе интересно работать с AI-технологиями, влиять на продукт и участвовать в построении AI-платформы для юристов – будем рады пообщаться!

Откликайся – обсудим детали!

Условия: % от стоимости пилотных внедрений (детали обсуждаем на интервью).