关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1486人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

西媒:巴萨2019年违规接触格子,可能构成管理不善和账目造假罪

懂球帝 浏览 969

脉脉:30万年收入以上的职场人,30%日均加班超2小时

网易科技报道 浏览 15573

航行警告:南海海域有火箭残骸坠落 禁止驶入

央视军事 浏览 74

美国电动汽车遭遇“断崖式”下跌

电动知家 浏览 706

李迅雷:黄金暴涨、股市波动,普通人机会在哪?

首席经济学家论坛 浏览 901

被处罚的ST云动较年内高点腰斩,符合条件股民可登记索赔

证券市场周刊 浏览 717

诺贝尔经济学奖获得者放话:欧洲不能让中美赢了

澎湃新闻 浏览 6353

向君:申花非常稳定成熟,深足能踢出这样的过程教练组很满意

直播吧 浏览 18478

火箭不该交易探花签:追米切尔或掏空休城 20岁神射才是最佳选择

罗说NBA 浏览 11022

谷歌因未支付先前罚款而再次被俄罚款

界面新闻 浏览 15244

聚焦进博|中资银行“金”点子护航进博会

国际金融报 浏览 654

华为WATCH GT5 Pro手表获鸿蒙6.0.0.20更新:支付宝碰一下升级

IT之家 浏览 636

生涯拿下107次三双时年纪:约基奇28岁 威少30岁 詹姆斯38岁

直播吧 浏览 13376

海通证券业绩下滑,以回购稳信心同步而行,2023年境内各业务表现平稳

财联社 浏览 12745

足球报:原资方给三镇发了1个月工资,内援可能还有新人

懂球帝 浏览 12788

王世龙:对方小外援费尔德今天没出战 我们打得比较松

直播吧 浏览 19520

向佐郭碧婷逛街被偶遇,1岁儿子在母亲怀里熟睡

扒虾侃娱 浏览 16295

国企主管被举报婚内出轨女同事 前妻公开两人转账记录

每日经济新闻 浏览 76597

五菱缤果最高优惠8000元 年内再推新车型

网易汽车 浏览 12384

欧洲颤抖沙特王储:希望世界最优秀的300名球员在阿拉伯踢球

直播吧 浏览 16119

以政府:以色列被扣押人员10月11日起获释

界面新闻 浏览 1018
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1