研究方法论

LLM 合成受访者能胜过简单语义基线吗?2026 年问卷补全研究

Qualitati 研究团队

2026-11-02

7 分钟阅读


简短回答:大多数情况下可以,但并非总是如此。在 2026 年 10 月发布的一篇预印本中,三个 LLM 在两份态度问卷上补全被隐藏的答案,准确度高于一个简单基线——该基线只是挑选与受访者此前某个答案语义最相近的选项。但当只知道受访者 20% 的答案、且问卷主题冷门到模型不可能在训练中见过时,这一优势便消失了。

大多数关于合成受访者的检验只是把 LLM 的输出与人类数据比对,然后就此打住。Esko Lehtonen(芬兰 VTT 技术研究中心)与 Tommi Buder-Gröndahl(赫尔辛基大学)的新论文多走了一步,而这一步至今仍不常见:它追问 LLM 是否胜过一种刻意简化的方法——这种方法对主题一无所知,只衡量题目措辞有多相似。

这项研究测试了什么?

研究测试的是问卷数据扩充:给定一位真实受访者的部分答案,LLM 能否预测此人对其余题目的回答。作者认为,这比让 LLM 凭空生成受访者更有前景。

他们关注的隐忧来自“问卷回答的语义理论”:措辞相近的题目往往得到相近的回答。据论文引用的研究(Arnulf et al., 2014),仅语义相似度就解释了某份领导力问卷 60%–86% 的回答方差。如果属实,LLM 可能仅靠匹配措辞就显得很准,而并未真正理解受访者或主题。

研究设计,逐步拆解

  1. 两份真实问卷。AV 测量对自动驾驶的接受度:22 个题项、六个因子,从 Zenodo 上的公开数据集中随机抽取 500 名受访者。LEV 测量对轻型电动车的看法:四个因子下的 21 个题项外加八道其他问题,426 名受访者(剔除缺失和“不知道”回答后,由 646 人减至此数)。LEV 数据未公开。
  2. 三种遮蔽比例。对每位受访者,分别展示约 20%、50% 或 80% 的答案,其余隐藏。
  3. 三个 LLM。Gemini 3.7 Flash、GPT 5.6 Luna 和 Mistral 4 Small 被要求扮演一位前后一致的问卷受访者,并在同一五点同意量表上回答被隐藏的题目。
  4. 两个语义基线(“Semagent”)。它们为每个缺失答案寻找在嵌入空间中与此人已给出回答最相似的回答句子。一个使用 SBERT 嵌入,另一个使用 Gemini 嵌入。
  5. 评分。与真实答案的一致性用二次加权 Cohen's kappa 衡量,并按受访者聚类进行 bootstrap 置信区间估计。作者还检验了题项间相关和已知因子结构是否得以保留。

LLM 合成受访者能胜过语义基线吗?

在公开且被广泛研究的 AV 问卷上,答案是肯定的,而且每次都是。据 Lehtonen 和 Buder-Gröndahl(2026),在 AV 上,三个 LLM 在每种遮蔽比例下都胜过最佳语义基线。在已知 50% 答案时,模型排序稳定:Gemini 3.7 Flash 第一,GPT 5.6 Luna 第二,Mistral 4 Small 第三。

在冷门的 LEV 问卷上,优势小得多。只有 Gemini 3.7 Flash(在 50% 和 80% 时)以及 GPT 5.6 Luna(在 50% 时)显著优于基线。在仅知 20% 答案时,所有模型表现都很差,LLM 与基线之间的差异消失了。

作为参照:在一项 100 名受访者、已知 50% 答案的提示词稳健性检验中,LLM 的 kappa 值在 0.540 到 0.621 之间。在同一遮蔽比例的主分析中,语义基线得分为 0.336 到 0.413。当 LLM 被要求扮演一位前后矛盾的受访者时,kappa 变为负值,说明提示词确实驱动了它们的行为。

LLM 需要多少数据才能补全答案?

大约一半。对 LLM 而言,已知答案从 20% 增至 50% 带来的提升,大于从 50% 增至 80%。基线对数据量的变化没那么敏感。

结构层面也是同样的结论。已知 50%–80% 答案时,LLM 补全的数据集复现了问卷经过验证的因子结构。在 20% 时,只有 Mistral 4 Small 的数据能完成拟合,而语义基线的数据始终无法拟合。下表显示了在最困难设置下,各方法对题项间协方差的保留程度。

方法(已知 20% 答案)AV:RV 系数(越高越好)LEV:RV 系数AV:Frobenius 距离(越低越好)LEV:Frobenius 距离
Gemini 3.7 Flash0.940.915.505.68
GPT 5.6 Luna0.910.875.866.63
Mistral 4 Small0.930.895.315.39
Semagent(Gemini 嵌入)0.740.9511.715.00
Semagent(SBERT)0.710.9114.4211.26

来源:Lehtonen & Buder-Gröndahl(2026),表 1。

值得关注的是 LEV 两列。在数据稀疏、主题陌生的情况下,一个简单的嵌入基线保留题项相关结构的效果至少不逊于 LLM。

为什么 LLM 在其中一份问卷上表现更好?

作者给出两种可能的解释,但并未声称已证实其中任何一种。其一,AV 数据公开可得,可能出现在模型的训练数据中。其二,自动驾驶接受度是被大量研究的主题,模型见过许多类似问卷。LEV 未公开发表,主题也更窄。当模型既缺乏熟悉的材料、又缺少此人足够多的答案时,它们似乎退回到了语义基线所依赖的同一类措辞层面线索。

论文还报告了系统性的题项层面偏差:无论给定多少答案,每个 LLM 都会在某些题目上持续给出比人类更高或更低的评分。

对使用合成受访者的研究者意味着什么

  • 每次验证都加一个低成本基线。如果 LLM 连“挑选与此人已答内容最相似的答案”都胜不过,它表面上的准确度并不能证明它理解你的受访者。
  • 在模型没见过的数据上测试。用知名公开数据集做验证可能高估表现。请保留你自己研究中未发表的数据作为测试集。
  • 把稀疏输入视为危险信号。基于一半答案补全画像,与基于五分之一答案补全,表现截然不同。
  • 不只看一致性,还要检查结构和题项偏差。单看 kappa 会掩盖 20% 条件下的因子结构失败以及逐题偏差。

同样的逻辑也适用于基于访谈或问卷数据构建的数字孪生。如果你使用 QualiTaTi 的 数字孪生小组(Digital Twin Panel),请尽可能用真实受访者的数据为每个孪生体打底,并在依赖它之前,把它的回答与预留的真实回答进行比对。对于新问题,通过 AI 问卷 收集的真实回答仍是参照标准。相关证据可参见我们对 LLM 预测未见过问卷答案 以及 硅基样本为何能匹配答案却匹配不了受访者 的解读。

局限性

这是一篇 16 页的 arXiv 短篇预印本,只涵盖三个以英语为主的模型、同一领域(车辆态度)的两份英文问卷,且仅包含李克特量表题。作者呼吁在更多领域、语言、模型和人群中开展更广泛的检验。分析代码将在论文被接收后公开。

常见问题

什么是 LLM 问卷回答的语义基线?

这是一种简单方法:在嵌入空间中,选择措辞与此人已给出答案最接近的回答,以此预测缺失答案。它对主题毫无了解,用来检验 LLM 是否在措辞相似度之外提供了额外价值。

LLM 能补全缺失的问卷答案吗?

部分可以。在这项研究中,大多数条件下 LLM 与真实答案的一致性高于语义基线;在已知至少一半答案时,它们保留了问卷的因子结构。当只知道 20% 的答案时,表现大幅下降。

哪个模型表现最好?

在已知 50% 答案时,Gemini 3.7 Flash 排名第一,GPT 5.6 Luna 第二,Mistral 4 Small 第三。作者只测试了这三个模型。

这是否意味着合成受访者毫无用处?

不是。这意味着其准确度取决于具体问卷以及你用多少真实数据来约束它们,而且在任何人把结果当作证据之前,验证中都应包含一个简单基线。

来源:Lehtonen, E., & Buder-Gröndahl, T. (2026). LLMs as survey respondents: Comparison to simple semantic baselines. arXiv:2610.29645 [cs.CL].

最后更新:2026 年 11 月 2 日

本文是对第三方研究的独立编辑摘要。QualiTaTi 与作者、VTT 及赫尔辛基大学均无关联。


免费试用 Qualitati

立即开始 AI 辅助定性研究,无需信用卡。

免费开始
相关文章
研究方法论
扎根理论中的理论抽样:步骤与示例2026-11-02 · 10 分钟阅读
研究方法论
思维链能提升 AI 定性编码吗?2026 年研究结果2026-10-29 · 7 分钟阅读