Введение

Память играет ключевую роль для ИИ-агентов. Однако широко используемая статическая память, которая нацелена на создание доступной памяти заранее, неизбежно страдает от значительных потерь информации.

Общая агентная память (GAM)

Чтобы преодолеть это ограничение, мы предлагаем новую структуру, называемую общей агентной памятью (GAM). GAM основывается на принципе «компиляции по мере необходимости» (JIT), где акцент делается на создании оптимизированных контекстов для клиента в реальном времени, сохраняя лишь простую, но полезную память на этапе оффлайн.

Компоненты GAM

• Меморизатор: подчеркивает ключевую историческую информацию с помощью легковесной памяти, сохраняя полную историческую информацию в универсальном хранилище страниц.
• Исследователь: извлекает и интегрирует полезную информацию из хранилища страниц по онлайн-запросу, руководствуясь заранее построенной памятью.

Преимущества GAM

Такой дизайн позволяет GAM эффективно использовать агентные возможности и масштабируемость современных больших языковых моделей (LLM), а также способствует оптимизации производительности от начала до конца с помощью обучения с подкреплением.

Экспериментальное исследование

В нашем экспериментальном исследовании мы демонстрируем, что GAM достигает значительных улучшений в различных задачах.