Middle/Senior LLM Engineer

Ищем LLM-инженеров для разработки финтех-решений на базе языковых моделей.

Привет! Fortis - это финтех-компания, использующая современные подходы к ведению бизнеса. Мы предлагаем эффективные IT-решения, которые помогают нашим партнерам работать с платежами, клиентами и автоматизировать бизнес.

Fortis в цифрах:

• 4млрд транзакций ежегодно
• 10млн покупателей
• 4000+ мерчантов в ОАЭ
• 70+ человек в команде

• Проектировать и разрабатывать end-to-end LLM-пайплайны: от приема и обработки входных данных до генерации, пост-обработки и выдачи финального результата;
• Создавать и оптимизировать сложные RAG-системы: заниматься чанкингом, генерацией эмбеддингов, работой с векторными БД и настройкой релевантного поиска для повышения точности ответов модели;
• Заниматься продвинутым prompt engineering: разрабатывать, тестировать и совершенствовать prompt-шаблоны для решения продуктовых задач, включая использование chain-of-thought, tool calling и получения структурированных выходных данных;
• Интегрировать и выбирать LLM: работать с облачными API и/или с open-source моделями, подбирая оптимальное решение под задачу с учетом качества, стоимости и задержек;
• Обеспечивать вывод решений в production: развертывать, масштабировать и поддерживать отказоустойчивые inference-сервисы, используя контейнеризацию (Docker) и облачные платформы;
• Настраивать и проводить fine-tuning моделей: дообучать open-source LLM под специфические домены и задачи с использованием современных методов (например, LoRA);
• Разрабатывать и внедрять систему оценки качества: создавать автоматические метрики и human-in-the-loop процессы для тестирования, мониторинга качества ответов и выявления дрифта или деградации;
• Внедрять механизмы безопасности и контроля: предотвращать утечки конфиденциальных данных (PII), минимизировать uгаллюцинации и ограничивать нежелательное поведение моделей;
• Тесно взаимодействовать с продуктовыми и инженерными командами: переводить бизнес-требования в технические спецификации и интегрировать LLM-компоненты в backend-сервисы и пользовательские интерфейсы;
• Вести MLOps-практики: обеспечивать воспроизводимость экспериментов, версионирование данных и моделей, настройку мониторинга и CI/CD пайплайнов для ML-компонентов.

• Опыт коммерческой разработки LLM-решений от 2-х лет;
• Глубокое знание Python и опыт разработки backend-сервисов;
• Практический опыт построения RAG-архитектур: от чанкинга и эмбеддингов до работы с векторными БД (FAISS, Milvus, Weaviate, Pinecone и аналогами);
• Свободное владение современными подходами prompt engineering для решения комплексных задач;
• Опыт работы как с облачными LLM API, так и с open-source моделями — их запуском, инференсом и интеграцией;
• Понимание принципов MLOps: контейнеризация (Docker), логирование, мониторинг, версионирование;
• Владение Git, умение проводить и принимать code review.

Будет плюсом:

• Опыт работы с фреймворками:

1. LangChain;
2. LlamaIndex;
3. Haystack.

• Опыт fine-tuning open-source моделей (LLaMA, Mistral, Qwen и аналоги);
• Работа с GPU и оптимизация inference (quantization, batching);
• Опыт построения LLM-агентов и multi-agent систем;
• Интеграция LLM с инструментами и внешними API;
• Понимание Data Governance и Responsible AI.

• Удалённый формат работы;
• Оплачиваемые командировки, чтобы быть в более тесной связи с командой;
• Бонусы по итогам perfomance review;
• Дей-оффы;
• Корпоративную культуру с открытыми коммуникациями, корпоративами, тимбилдингами;
• Поддержку обучения и развития компетенций;
• Скидки на партнёрские программы: доставки еды, кафе и рестораны, спорт и др.