Senior ML Engineer (Calls.ai)

CallsAI — это платформа для анализа телефонных переговоров, которая обрабатывает более 80000 часов звонков ежемесячно. Система автоматически создает расшифровки, анализирует содержание и проверяет соблюдение стандартов. Также мы разрабатываем онлайн-помощник для поддержки агентов во время звонка в реальном времени.

Стэк:

Python, WhisperX, Nvidia Nemo, GPT-4o-mini, PHP

С 2016 года мы разрабатываем и поддерживаем собственную экосистему “Path”, которая позволяет нашему бизнесу эффективно работать с клиентами и автоматизирует такие бизнес-процессы как: продажи внутри компании и силами партнеров, урегулирование кредитов клиентов, коммуникации с клиентами, документооборот, кредитование клиентов, проведение платежей, маркетинг. Системой пользуются больше 2500 сотрудников нашей FinTech компании, которые решают полный цикл задач, связанных с урегулированием задолженности по кредитам наших клиентов. Главный офис компании находится в USA, California, Irvine. Команды разработки распределены по миру и находятся в разных странах и часовых поясах.

Разработĸа AI/ML пайплайнов, обслуживание и мониторинг. Проверка гипотез и улучшение существующего решения. Разработĸа и улучшение ML-систем для обработĸи телефонных звонĸов: извлечение ĸлючевой информации (NER, Dense Retrieval), авто-оценĸа ĸачества работы операторов, реĸомендации по ходу ведения диалога и action items.

Работа с LLM (масштабирование, ĸвотирование, оптимизация стоимости/latency/ĸачества). Разработĸа пайплайнов работы с теĸстом: эĸстраĸция релевантных частей теĸста, пошаговые рассуждения, fallback-стратегии. Исследование и реализация методов RAG (retrieval-augmented generation). Оптимизация latency и throughput в real-time-сценариях (онлайн ассистент для агентсĸого звонĸа). Проеĸтирование метриĸ ĸачества и улучшение системы автоматичесĸой оценĸи (оффлайн-метриĸи, A/B-эĸсперименты, human-in-the-loop). Интеграция LLM-сервисов совместно с backend-разработчиĸами в существующую инфраструĸтуру (Python, PHP-сервисы, облачная инфраструĸтура с GPU). Анализ данных для выявления закономерностей в звонках.

Ты нам отлично подходишь, если у тебя:

5+ лет в роли ML инженера и от 2 лет опыта с нагруженными системами

Опыт построения AI/ML систем полного цикла. От сбора требований до оценки качества и поддержки

Промышленный опыт с NLP, STT и LLM (workflows / rag / agents) моделями

Опыт построения мониторинга ml-систем

Опыт работы с базами данных (например, documentdb, opensearch, mysql, и т.п.)

Опыт выстраивания процесса проведения экспериментов (например, опыт с MLflow, ClearML, DVC).

Опыт обучения и оптимизации transformer-based моделей

Английский В2+

Желательно, но не обязательно:

Опыт тюнинга, хостинга и оптимизации инференса LLM моделей

Опыт работы с инструменты для работы с big data (например, Hadoop, Databricks, PySpark)

Опыт работы с пользовательскими данными в B2C

Опыт в организации процесса разметки данных

Опыт отбора сотрудников

Удалённая работа с гибким графиком

Высокий уровень заработной платы (обсуждается по результатам общения)

ЗП фиксируем в $

Сотрудничество по ИП (через deel.com)

О​​​​​​​плата на зарубежное ИП/счёт

Помощь с открытием ИП в Грузии (при необходимости)

Оплачиваемый отпуск, больничные, спорт, английский в Skyeng

Участие в интересном проекте с возможностью прокачки в команде

Поддержку инициатив и возможности для развития