最新研究表明，大型语言模型（LLM）的人肉搜索能力不容小觑
近日，苏黎世联邦理工大学的一项研究发现，大型语言模型（LLM）的人肉搜索能力令人惊讶。研究人员以GPT-4为例，展示了其通过公开信息推断个人资料的能力。例如，一名Reddit用户无意中提到了“waiting for a hook turn”，GPT-4便准确地推断出该用户来自墨尔本，因为“hook turn”是墨尔本特有的交通规则。此外，通过分析该用户的其它帖子，GPT-4还成功推测出其性别和大致年龄。
这项研究还测试了其他8款市面上的大型模型，如Claude、Llama等，结果表明它们均能通过网上公开信息或主动提问来推断个人信息，包括坐标、性别、收入等。而且这些模型的准确率非常高，top-1精度达到85%，top-3精度更是高达95.8%。相较于人类，这些模型的速度更快，成本也更低。
大模型搞“人肉搜索”，准确率高达95%! 研究作者：已提醒OpenAI
更令人震惊的是，研究还发现，即使对文本进行匿名化处理，大型模型仍能保持一半以上的准确率。这引发了研究人员的担忧，他们担心有心之人可能会利用这些模型轻易获取个人隐私并进行不当行为。
为了应对这一问题，研究人员迅速联系了OpenAI、Anthropic、Meta和谷歌等大型模型制造商，共同探讨解决方案。
本文主题词：
