Как измерить и снизить социальный bias в эмбеддингах/LLM?

Бенчмарки ассоциаций, slice-метрики по демографии в задачах, деbias-методы осторожно (могут ломать полезный сигнал), фильтрация корпусов, human review, прозрачные карточки модели.

Разбор

• Bias ≠ только «токсичность».
• Домен найма/кредита — высокий риск.
• Перенос bias из pretrain.
• Документировать ограничения.

Итог

Bias контролируют измерениями на срезах и процессом данных, не одним фильтром мата.