Искусство масштабирования вычислений во время тестирования LLM

Масштабирование вычислений во время тестирования

Масштабирование вычислений во время тестирования (TTS) — это динамическое распределение вычислительных ресурсов во время вывода, что является многообещающим направлением для улучшения логического мышления в больших языковых моделях (LLM). Однако в настоящее время отсутствует систематическое сравнение известных стратегий TTS в одинаковых условиях, а влияние типа модели и сложности задачи на производительность остается неясным.

Цели исследования

Для устранения этих пробелов мы проводим первое крупномасштабное исследование TTS, охватывающее более тридцати миллиардов токенов, сгенерированных с помощью восьми открытых языковых моделей (от 7 миллиардов до 235 миллиардов параметров) на четырех наборах данных по логическому мышлению.

Основные результаты

Мы наблюдаем три последовательные тенденции:

1. Нет единственной стратегии TTS, которая бы универсально доминировала;
2. Модели логического мышления демонстрируют различные паттерны качества трассировки в зависимости от сложности задачи и длины трассы, образуя категории короткого и длинного горизонта;
3. Для данного типа модели оптимальная производительность TTS монотонно увеличивается с ростом бюджета вычислений.

Практическое руководство по выбору стратегии TTS

На основе этих выводов мы предоставляем практическое руководство по выбору лучшей стратегии TTS, учитывая сложность задачи, тип модели и бюджет вычислений, что поможет эффективно масштабировать вычисления во время вывода.

Материал носит информационный характер и не является профессиональной консультацией. Часть материалов издания готовится с использованием нейросетевых инструментов и проверяется редакцией по первоисточникам — подробнее в пользовательском соглашении. Нашли неточность или считаете, что материал нарушает ваши права — сообщите редакции, обращения рассматриваются в течение суток.