Качество сгенерированного результата измеряется не тем, нравится ли он кому-то, а набором оценки, который можно снова и снова прогонять с теми же вопросами и теми же критериями. В отрасли эту дисциплину кратко называют eval: практика вывести доверие к тому, что производит система, из субъективного впечатления и привязать его к измеримому числу. «Выглядит хорошо» — это впечатление; «девяносто три из ста примеров прошли» — это измерение. Разница в том, на чём держится доверие.
- Eval — дисциплина оценки, которая повторяемо измеряет качество сгенерированного результата.
- Субъективное впечатление меняется от человека и дня; измерение с фиксированным набором каждый раз одно и то же.
- Набор оценки — актив, в котором намеренно накапливают примеры, представляющие ожидаемое поведение.
- Следят не за одним числом, а за распределением: важна не средняя, а где ломается.
- Когда изменение снижает качество, это замечает регрессионный тест, а не пользователь.
- Измеримое доверие можно разделить; интуицию нельзя — её лишь пытаются передать.
Что такое eval и какую проблему он решает
Eval — дисциплина оценки, которая повторяемо проверяет вывод генеративной системы по заранее заданным критериям. Название происходит от английского evaluation и закрепилось в отрасли в виде этой аббревиатуры. Решаемая проблема проста, но глубока: когда качество вывода субъективно, никто не может уверенно сказать, улучшилось ли оно.
В традиционном ПО правильный ответ чаще всего один. Два числа складывают — результат либо сходится, либо нет. У сгенерированного вывода приемлемых ответов несколько, плохие ответы могут выглядеть разумно, а один и тот же вход в разное время может дать разный результат. На этой почве вопроса «работает ли» недостаточно; ему на смену приходит «как часто и насколько хорошо».
Eval переводит этот мягкий вопрос в счётную форму. Собирают примеры ожидаемого поведения, для каждого определяют, что считается успехом, систему прогоняют по всему набору, и результат сводится к доле. Один блестящий прогон — анекдот. Устойчивая доля на сотнях примеров — доказательство. Вся дисциплина — усилие превратить анекдот в доказательство.
Здесь легко упустить различие. Eval существует не чтобы выставить оценку, а чтобы отслеживать изменение. Абсолютное значение одного прогона часто мало что говорит; настоящая информация — в разнице между двумя прогонами. После изменения доля упала, выросла или осталась прежней — решение опирается на эти три возможности. Поэтому eval — не разовый экзамен, а инструмент наблюдения, который постоянно поддерживают.
От «выглядит хорошо» к измеримому доверию
Интуитивная оценка — это когда человек смотрит на несколько выводов и складывает общее впечатление. Это быстро, дёшево и полезно в первый день. Проблема в том, что это не масштабируется. Меняется смотрящий — меняются критерии; усталый решает иначе, чем бодрый; и никто не может утверждать, что вчерашний понравившийся вывод сегодня всё ещё того же качества.
Измеримое доверие — противоположность. Тот же набор, те же критерии, результат, который видят все. Оно опирается не на настроение одного человека, а на общее определение. Каждый в команде смотрит на одно число и понимает одно и то же. Измеримое доверие — это убеждённость в качестве вывода, основанная на повторяемом измерении и проверяемая независимо от личности.
Этот переход обычно случается в момент кризиса. Делают изменение, что-то тихо ухудшается, и замечают это лишь дни спустя по внешнему сигналу. В тот момент цена слов «выглядит хорошо» становится видимой. После точки, где одной интуиции мало, измерение — не роскошь, а необходимость. Команды, прошедшие переход, часто один раз дорого это выучили.
Полностью отбрасывать интуицию тоже неверно. Опытный глаз часто первым замечает странности, которые набор не ловит. Верные отношения — не противопоставлять интуицию измерению, а превращать найденное интуицией в измерение. Кто-то чувствует, что вывод плох; это чувство становится примером; пример входит в набор и больше не проскальзывает тихо. Так субъективное впечатление становится устойчивым и разделяемым измерением. Интуиция открывает; измерение закрепляет.
Почему к набору оценки нужно относиться как к активу
Набор оценки — собрание намеренно выбранных примеров, представляющих ожидаемое поведение системы, вместе с критерием успеха для каждого. Хороший набор не собирают случайно. Он сбалансированно включает лёгкие случаи, крайние случаи, случаи, которые уже ломались, и намеренно трудные.
Этот набор — актив, ценный как сам код, и его нужно так же беречь. Он растёт со временем: каждая новая ошибка становится новым примером в наборе. Так труднее дважды пропустить одну и ту же ошибку. Брошенный набор медленно обесценивается: если мир меняется, а набор стоит, измеряемое перестаёт соответствовать реальности.
Состав набора определяет честность измерения. Набор только из лёгких примеров даёт высокую, но обманчивую долю. Набор, не представляющий реальное использование, скрывает сбои реального использования. Часто всплывает компромисс: чем больше набор, тем сильнее сигнал, но и выше цена каждого прогона. Поэтому наборы обычно слоят; маленький быстрый каркас гоняют часто, широкий медленный полный набор — редко.
Другая опасность коварнее. Набор может слишком близко отражать взгляды команды, которая его строила. Тогда измерение меряет не то, насколько система хороша в реальном мире, а то, что команда считает хорошим. Поэтому хорошие наборы питаются реальным использованием: пережитые сбои, неожиданные входы и краевые случаи регулярно включают внутрь. Набор — не фотография, а живая запись. Держать его актуальным — единственный способ привязать измерение к реальности; мир продолжает меняться, а набор меняется лишь настолько, насколько о нём заботятся.
Как оценивать вывод без единственного правильного ответа
Самое трудное в сгенерированном выводе — что правильный ответ часто не единственный. Текст может быть хорошо написан тремя разными способами. Тогда оценка перестаёт быть простой проверкой равенства и расходится на несколько подходов. У каждого свои сильные и слабые стороны.
| Подход к оценке | Сильная сторона | Слабая сторона |
|---|---|---|
| Точное совпадение | Нет неоднозначности, результат повторяем | Работает только на задачах с одним верным ответом |
| Правиловые проверки | Быстро, объяснимо, дёшево | Не улавливает гибкий язык и намерение |
| Сравнение с образцом | Меряет сходство, видит частичный успех | Выбор порога субъективен |
| Человеческая оценка | Схватывает нюансы и контекст | Медленно, дорого, зависит от человека |
На практике одного подхода мало. Где уместно точное совпадение — его и используют; в остальном сочетают правила и сравнение с образцом; в самых неоднозначных случаях измерение проверяют небольшой человеческой выборкой. Важно знать, какой подход подходит какому вопросу. Оценщик, выбранный для неверной задачи, сообщает несуществующую уверенность.
Часто забывают, что автоматический оценщик сам может ошибаться. Оценивать вывод другой системой быстро, но и этот оценщик ошибается; иногда ставит высокий балл плохому ответу. Поэтому зрелая практика время от времени сравнивает решения оценщика с человеческим суждением. Цель — измерить, насколько автоматическая оценка совпадает с человеческой. Если совпадение слабо, мы меряем не качество, а лишь каприз другой системы. Прежде чем доверять оценщику, нужно оценить самого оценщика.
Шаги, чтобы сделать оценку повторяемой и системной
Повторяемость — не случайность; это результат порядка. Чтобы оценка каждый раз мерила одно и то же, нужно сохранять определённую последовательность операций. Ниже — эта последовательность на уровне принципов.
- Сначала письменно и независимо от личности определите, что считается успехом, а что — провалом.
- Соберите примеры ожидаемого поведения и привяжите к каждому ясный критерий.
- Прогоните набор; запишите результат как распределение, а не только как одну долю.
- Сравните с предыдущим прогоном; падение отметьте как регрессию, рост — как улучшение.
- Каждый новый сбой добавьте в набор как новый пример, чтобы он больше не проскальзывал тихо.
- Сделайте этот цикл частью каждого значимого изменения; не отдельной церемонией, а рутинным шагом.
В сердце этих шагов стоят несколько понятий. Разделить их — прояснить обсуждение.
- Регрессионный тест
- Оценка по фиксированному набору, измеряющая, не сломалось ли ранее работавшее поведение после изменения.
- Базовая линия
- Принятый предыдущий результат, с которым сравнивают последующие измерения; нулевая точка улучшения и регрессии.
- Слепая зона
- Тип сбоя, который набор не представляет и потому не измеряет, и который проявляется только в реальном использовании.
Сила этой последовательности — в простоте и неизменности. Шаги каждый раз идут в одном порядке; так два прогона действительно сравнимы. Когда порядок нарушается, измерение тихо теряет смысл: два результата с разными критериями и разными примерами нельзя сравнивать. Настоящая цена повторяемости — дисциплина; на каждом изменении применять те же шаги, даже когда скучно, без пропусков. Эта скука — не недостаток, а гарантия. Регулярное и неизменное измерение надёжно именно потому, что предсказуемо.
Что усложняется, когда измерение становится культурой
Построить инструмент оценки легко; превратить оценку в культуру трудно. Инструмент — событие, которое заканчивается прогоном. Культура — привычка, при которой ни одно значимое изменение не проходит без измерения. Второе требует куда больше первого: общего определения качества, ответственности за набор и дисциплины, отказывающейся игнорировать низкое число.
По мере зрелости области центр тяжести измерения смещается. Сначала вопрос был «работает ли система». Теперь всё чаще — «откуда знать, насколько хорошо она работает». Это более глубокий и менее удобный вопрос, потому что ответ нельзя дать интуицией. Усложняется сама ясная запись определения качества; большинство команд чувствует, что считают хорошим, но не может описать.
Эта обязанность описывать даёт неожиданный побочный эффект. Чтобы построить набор, нужно написать, что считается хорошим; написание этого часто впервые заставляет команду договориться об общем определении качества. Настоящая ценность измерения иногда не в самом числе, а в разговоре, нужном чтобы к нему прийти. Построение оценки выявляет молчаливые допущения.
Вторая трудность связана с охватом измерения. Набор меряет только продуманные случаи; непродуманное измерить нельзя. Поэтому коварная опасность — доверять высокому измеренному числу и забывать о слепых зонах. Зрелая культура оценки доверяет числу, постоянно спрашивая, чего оно не покрывает. Направление ясно: доверие уже не впечатление, а актив на обслуживании. Построить его — один раз; поддерживать — ежедневная работа.
ЧАВО