OpenAI использует GPT-4 для разработки политик контента и решений по модерации

OpenAI использует GPT-4 для разработки политик контента и решений по модерации

Что произошло: OpenAI прямо пишет, что использует GPT-4 для content policy development и content moderation decisions.

Что у модерации видно по факту:
— LLM уже применяется не только для генерации текста, но и в контуре правил и решений по контенту.
— Речь не про теорию, а про заявленное использование GPT-4 в модерационных процессах OpenAI.
— Для команд, которые живут в рекламных кабинетах, это ещё один сигнал: проверка контента всё сильнее уходит в сторону модельной оценки, а не ручного чек-листа.

Что делать командам:
— Пересмотреть крео, ленды и формулировки не только на «формальное нарушение», но и на смысловую трактовку.
— Не рассчитывать, что модерация видит только ключевые слова: модельная проверка смотрит шире.
— Фиксировать, какие формулировки и конструкции чаще вызывают отклонения, чтобы не спорить с банхамером вслепую.

Источник: https://openai.com/index/using-gpt-4-for-content-moderation