Hidden

Machine Learning Engineer

Разработка AI-соулмейта, позволяющего юзерам выбрать понравившегося персонажа и общаться с ним о чем угодно, в том числе в романтическом ключе.

Описание и характеристики продукта, к которому мы идем:

• Набор персонажей со своими личностными характеристиками (пол, психотип, back story), каждый из которых отыгрывает AI romantic partner;
• С ним можно общаться на самые разные темы — от повседневных до романтических и эротических;
• Ключевая составляющая — LLM-модель (сейчас Mistral 7B), запромптированная на отыгрывание персонажа, которая держит образ, запоминает предыдущий контекст беседы, учитывает данные из БД о клиенте (интересы, сексуальная ориентация и др.).

Ptolemay - аутсорсинговая IT компания полного цикла по разработке мобильных и веб-приложений для бизнеса и стартапов. Ищем ML специалиста с опытом работы с LLM для аутстафф-проекта наших прямых партнёров.

Ключевые задачи для команды:

• Подобрать подходящий системный промпт для создания любых персонажей, где меняются только личностные характеристики;
• Научиться менять промпт по ходу диалога и/или «докидывать» в модель информацию, которую ей нужно прямо сейчас учесть;
• Разработать систему отслеживания и суммирования текущего контекста диалога с помощью соответствующей модели — сделать так, чтобы модель запоминала факты из истории диалога;
• На основе собираемого контекста настроить выбор изображений из готовой библиотеки по тегам/метаописанию;
• В дальнейшем в продукт будут внедрены Automatic Speech Recognition (ASR) и Text-to-Speech (TTS), а также real-time генерация изображений на Stable Diffusion.

За какие задачи предстоит быть ответственным:

• Развитие и файн-тюнинг основной модели, отвечающей за диалоги (сейчас это Mistral 7B — не исключено, что решим поменять);
• Тестирование GPT 3 / GPT 3.5 (гипотеза, что на стартовом этапе диалогов, где воронка самая широкая, их API будет дешевле и, при этом, качественнее);
• Внедрение модели анализа и суммирования контекста диалога (скорее всего, какая-то конфигурация Llama);
• Промпт-инжениринг и выстраивание бизнес-процесса его автоматизации.

Какой опыт хотим видеть у кандидата:

• Наличие опыта настройки промптирования моделей, понимание принципов работы с промптами для достижения вышеупомянутых целей;
• Файн-тюнинг Open Source LLM по части инструкций, ограничений, в идеале — лора персонажа;
• Промпт-инжениринг: ручные подбор и тестирование промпта, настройка автотестирования промпта;
• Будет большим преимуществом: работа с моделями, нацеленными на ASR и TTS;
• Развертывание Open Source LLMs (Mistral, Llama, GPT) на выделенном сервере;

P.S. Если не было непосредственного опыта в одной из этих зон, но есть понимание, куда нужно двигаться — это тоже хорошо.

Условия

• Занятость - полная (опционально частичная);

• Формат работы - полностью удалённо;

• Гибкий график.