Удивительные трансформеры и где они обитают

Трансформерные модели для поисковой персонализации

Недавние успехи в области анализа последовательностей при помощи DL открыли возможность анализировать историю пользователя на масштабах сотен действий. В этом докладе мы расскажем, как правильно представлять такие взаимодействия пользователя с сервисами Яндекса в удобном для нейросетей виде, как мы адаптировали MLM Loss к задаче персонализации и как можно выкатить тяжелые трансформеры по пользовательской истории на сервисах с огромным RPS.

Удивительные трансформеры и где они обитают

Track program

Интро: Удивительные трансформеры

CTC-трансформер для распознавания речи

Трансформерные модели для поисковой персонализации

Как приручить гигантские языковые модели

Related Tracks

Яндекс. Effective data labeling with crowd

Удивительные трансформеры и где они обитают

Track program

Интро: Удивительные трансформеры

CTC-трансформер ​для распознавания речи​

Трансформерные модели для поисковой персонализации

Как приручить гигантские языковые модели

Related Tracks

Яндекс. Effective data labeling with crowd

CTC-трансформер для распознавания речи