OpenAI: заметка про Goodhart’s law и оптимизацию метрик
Что зафиксировано:
Goodhart’s law: когда метрика становится целью, она перестаёт быть хорошей метрикой.
OpenAI отдельно указывает, что с этим приходится работать при оптимизации целей, которые сложно или дорого измерять.
Для tracking/attribution это базовая проблема дизайна objective function: если оптимизировать только наблюдаемую метрику, сама метрика начинает деградировать как proxy. Особенно там, где часть сигнала дорогая или неполная.
Tracker Lab
@tracker_lab
OpenAI: заметка про Goodhart’s law и оптимизацию метрик
Источники:
Этот пост опубликован в Telegram-канале Tracker Lab. Подписаться можно по ссылке: @tracker_lab.