关闭广告

斯坦福大学团队推出「许可证神谕」:让AI学会说「我不知道」

科技行者1664人阅读


当你向ChatGPT询问某位哲学家的出生日期时,它总是信心满满地给出答案,哪怕这个答案完全错误。这种现象被研究者称为「幻觉」,就像AI患了妄想症,总是编造一些听起来很有道理但实际上完全错误的信息。来自加州圣迭戈RA软件公司的理查德·阿克曼和保加利亚索菲亚大学的西蒙·埃马努伊洛夫在2025年发表的这项研究,提出了一个革命性的解决方案——「许可证神谕」系统。

这项研究发表在2025年的学术期刊上,研究者通过设计一种全新的架构,让AI在回答问题前必须先检验自己的答案是否正确,就像给AI装上了一个严格的「事实核查员」。研究团队在实验中取得了惊人的成果:传统方法只能达到56.7%的准确判断率,而他们的系统达到了完美的100%准确率,完全消除了虚假答案的产生。

研究者首先深入分析了AI产生幻觉的根本原因。在他们之前发表的研究《大型语言模型是如何被设计来产生幻觉的》中,研究团队指出,这个问题并非来自训练数据不足或模型调优不当,而是源于变换器架构本身的局限性。变换器模型就像一个只会模仿的学生,它能够生成语法正确、听起来合理的句子,但缺乏验证这些句子是否符合事实的能力。研究者将这种现象比作「平面语义空间」,在这个空间中

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

今年流行“毛衣+外套”,这样穿时髦又好看!

LinkFashion 浏览 1916

恰逢成都保卫战30周年,2025老甲A12月8日在成都双流开赛

懂球帝 浏览 2596

神舟二十号飞船推迟返回 疑似遭空间微小碎片撞击

极目新闻 浏览 7537

2026,什么样的企业家还能留在牌桌上?

雪豹财经社 浏览 1469

俄罗斯核潜艇在北太平洋成功试射超音速巡航导弹

环球网资讯 浏览 3561

卡罗拉锐放价格再下探!网友:这次真心动了

汽车网评 浏览 1653

燃油+电动全都配 全新宝马4系最新消息曝光

乐选爱车 浏览 1489

极氪右转:为何回归一个吉利?

天天汽车 浏览 2656

特朗普:已开始从委石油资源中赚钱

环球时报国际 浏览 1739

宝刀不老,34岁加纳老将乔丹-阿尤献7球7助攻率队直通世界杯

懂球帝 浏览 2939

聂卫平告别仪式:兰莉娅变化大

古希腊掌管松饼的神 浏览 1627

被记者询问涉移民言论 德国总理回呛"问你们女儿去吧"

环球时报国际 浏览 10258

2026手帐来了,因为它我实现了好多心愿

黎贝卡的异想世界 浏览 2791

夫妻本是同林鸟 但这次张杰也救不了谢娜?

除夕烟火灿烂 浏览 2268

优雅,与皱纹无关

Yuki女人故事 浏览 550

特朗普弄混格陵兰岛与冰岛 再提北约秘书长叫他"爸爸"

鲁中晨报 浏览 19102

存储芯片涨价潮蔓延,半导体细分龙头业绩“水涨船高”

览富财经网 浏览 1499

32岁章泽天又有新动作!不愿当家庭主妇

娱乐圈圈圆 浏览 1724

标配激光雷达和四驱 魏牌高山7上市售28.58万

网易汽车 浏览 2873

资负统筹,多元发展,中国人寿前三季度新业务价值强劲增长41.8%

证券市场周刊 浏览 2667

马斯克称新款特斯拉Roadster是“超越汽车范畴的特殊产品”

IT之家 浏览 3642
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1