НЕЙРОСЕТЬ ВДРУГ ПИСАЛА ИЕРОГЛИФАМИ — И ЭТО НЕ БАГ

НЕЙРОСЕТЬ ВДРУГ ПИСАЛА ИЕРОГЛИФАМИ — И ЭТО НЕ БАГ

Если вы тестировали локальную модель и она внезапно вставляла в текст китайский символ, это не случайный глюк интерфейса. Чаще всего так проявляется то, как модель хранит и воспроизводит паттерны.

Полезный разрез для product-команды:
1) На уровне пользователя это выглядит как сломанный контекст.
2) На уровне модели — как конфликт между вероятностями токенов.
3) На уровне исследования — как сигнал: модель хорошо работает в одном режиме, но теряет устойчивость в другом.

Почему это важно для JTBD:
мы часто ловим «ошибку» там, где на деле есть неудовлетворённый job. Пользователь пришёл не за красотой вывода, а за стабильным результатом в своём контексте. Если модель начинает «сыпаться» в длинном диалоге, на редком языке или в шумном вводе, значит, job не закрыт именно в этих условиях.

Хорошая исследовательская формулировка тут такая:
не «почему модель странно себя ведёт?», а «в каком контексте она перестаёт быть полезной и как это влияет на решение пользователя?» 🔍