Российские ученые обучили ИИ самостоятельно адаптироваться к новым действиям на нескольких примерах
Специалисты Института AIRI и T-Bank AI Research разработали модель в области контекстного обучения (In-Context Learning), которая умеет самостоятельно осваивать новые действия на нескольких примерах без участия человека. По словам разработчиков, модель Headless-AD способна к выполнению любой комбинации и любого количества действий, при этом она сохраняет качество их выполнения и не затрачивает дополнительные вычислительные ресурсы.
Специалисты Института AIRI и T-Bank AI Research разработали модель в области контекстного обучения (In-Context Learning), которая умеет самостоятельно осваивать новые действия на нескольких примерах без участия человека. По словам разработчиков, модель Headless-AD способна к выполнению любой комбинации и любого количества действий, при этом она сохраняет качество их выполнения и не затрачивает дополнительные вычислительные ресурсы.
Решение было создано на основе Algorithm Distillation с помощью следующих трех модификаций:
– отказ от конечного линейного слоя, который ранее ограничивал количество и набор доступных действий;
– кодировка действий случайными векторами, что позволяет избежать необходимости дообучения для каждого нового действия, обеспечивая автоматическую адаптацию;
– внедрение контекста, который позволяет информировать модель о доступных действиях.
