Модель внезапно пишет иероглифы не потому, что «сломалась», а потому что у неё в лоссе был другой приоритет: п

Модель внезапно пишет иероглифы не потому, что «сломалась», а потому что у неё в лоссе был другой приоритет: предсказать следующий токен, а не сохранить вам душевный комфорт.

Внутри это не «мышление», а компромисс между вероятностями: если контекст похож на то место, где в данных были символы из другого алфавита — получите сюрприз. 🤖
Особенно весело это выглядит в локалках: у них меньше страховки от странных режимов, больше шансов вытащить мусор из латентного пространства.

Вывод для growth-команды простой: если ваш AI-флоу иногда внезапно уходит в криптографию, это не баг эстетики. Это баг данных, контекста или декодинга.
Модель не «путается». Она оптимизируется. И это, как обычно, две очень разные истории.