CMU：AI如何发现隐形歧视语言？
该研究针对文本中主观偏差难以识别的问题，提出利用大语言模型检测不同类型的语言偏见。研究聚焦三类主观偏差：框架偏差（使用带有单一观点的词语）、认识论偏差（影响文本可信度的隐性语言特征）和人口统计偏差（基于性别、宗教等因素的预设表达）。相比传统模型，该方法利用大模型更强的语义理解能力，提高了复杂偏差识别的准确性。
核心亮点：
LLaMA2分类器： 基于LLaMA2-7B构建偏差检测模型，通过冻结预训练参数并添加分类层，实现高效微调。
专家集成架构： 针对数据类别不均衡问题，将模型拆分为三个独立的LLaMA-MLP专家，分别检测三类偏差，再通过结果堆叠完成最终预测。
超越BERT基线： 在WikiBIAS数据集上，EnsembleLlama取得0.59的macro-F1，相比BERT基线0.33提升0.26，各类别F1均明显提高。
多跨度偏差识别： 支持检测句子级、多词组、多跨度形式的主观偏差，适用于复杂文本环境。
面向真实文本分析： 可用于新闻、政治演讲、社交媒体等场景中的偏见识别，提高文本真实性和可靠性。

arXiv：2608.09126

大语言模型 文本分析 AI安全 机器学习 自然语言处理 科研 模型评测 数据偏差 深度学习