关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者1555人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

被处罚的ST云动较年内高点腰斩,符合条件股民可登记索赔

证券市场周刊 浏览 2491

一句话点评10月紧凑型SUV:燃油车不仅没有死,居然还愈战越勇了

汽车公社 浏览 2258

三镇小将姜利勋:中超首秀还是有点放不开,教练一直在鼓励我

懂球帝 浏览 669

引领效率革命、深挖万亿红利,京东工业的价值逻辑

尺度商业 浏览 2009

美媒扒哈登末节细节:快船追到只差15分 登哥穿训练服两眼空洞

Emily说个球 浏览 2100

2025全球十大工程成就发布,DeepSeek、人形机器人等入选

澎湃新闻 浏览 2732

香港政务司司长:涉案人员处心积虑犯罪 害死这么多人

南方都市报 浏览 17371

腿粗女孩的王炸显瘦技巧,它来了~

Yuki女人故事 浏览 3526

医托"忽悠"病患去中医馆:大师退休前挂号费600 现在50

极目新闻 浏览 14517

伊朗高级将领:若遭美国攻击 以色列将成为首要报复目标

极目新闻 浏览 1290

书记戴的AI眼镜全网刷屏!今年东博会这个含量“爆表”

国是直通车 浏览 3306

时隔25年,上一个时代的“英伟达”终于涨回来了

华尔街见闻官方 浏览 1986

孙颖莎生日晒与父母合照,一家三口共用一张脸

观察鉴娱 浏览 2524

PPIO姚欣:智能体需要全新的操作系统|MEET2026

量子位 浏览 1915

中秋节快乐!

黎贝卡的异想世界 浏览 2296

内娱女明星手撕导演,翻车了?

独立鱼 浏览 1962

小米罗福莉AI团队最新突破,使算力成本直降71.2%

IT之家 浏览 461

荷甲副班长阿尔梅罗大力神8-2横扫兹沃勒,霍恩坎普帽子戏法

懂球帝 浏览 2486

马斯克回应争议:没有见过任何由Grok生成的未成年人裸照

IT之家 浏览 1596

从每天只睡4小时到8小时:一个失眠者的自救指南

黎贝卡的异想世界 浏览 759

普京:与乌克兰无条件停火不可能

每日经济新闻 浏览 2156
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1