关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家3469人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

ELLE风尚盛典秒变菜市场,有人摔倒、有人调侃内涵,状况百出

Yuki女人故事 浏览 2228

亚马逊与OpenAI签署380亿美元算力大单!AWS将供应英伟达芯片

华尔街见闻官方 浏览 2570

克洛普:斯洛特是特别好的人;当时没人告诉我还能这么花钱

懂球帝 浏览 2778

单眼皮、矮个子、微胖,停止焦虑!普通女孩的美丽指南请收好

Yuki女人故事 浏览 1606

唐嫣客串新剧遭群嘲!戴假发被吐槽像女装大佬,疑和马思纯抢番位

萌神木木 浏览 1897

成本上升、缺芯、亚洲销量下滑,本田汽车全年利润预期下调 21%

IT之家 浏览 2581

郭晶晶就个人发展问题最新发声

新民周刊 浏览 2755

17岁男生提供电话卡给网诈团伙被判8个月 称获利997元

红星新闻 浏览 8544

法尔克:曼城有意科隆前锋赛义德-马拉,巴黎和国米也在关注

懂球帝 浏览 2659

万科公告:郁亮到龄退休

财视传播 浏览 1710

从素人到涨粉30万,她全靠这些穿搭“小心思”?

黎贝卡的异想世界 浏览 714

复旦大学OpenNovelty:让AI成为学术论文同行评议的"火眼金睛"

科技行者 浏览 1818

美军重兵集结蓄力作战之际 新一轮美伊谈判时间“敲定”

环球网资讯 浏览 986

“军国主义”为何能在日本存续下来

国际在线 浏览 2249

美军绑架马杜罗"原班人马"全部飞抵欧洲 新目标已浮现

依偎在角落 浏览 7573

蚂蚁阿福声明:问答结果中无任何广告推荐、不存在商业排名

三言科技 浏览 1459

具俊晔亲手揭幕,大S雕像真容曝光,S妈拥抱雕像哭泣

素素娱乐 浏览 1530

TA:尤文逐渐展现出斯帕莱蒂所期望的风格,形成了独特的打法

懂球帝 浏览 1527

“半固态”出局!中国制定全球首个固态电池国标

界面新闻 浏览 1875

蔚来ES9四月发布!车长近5.4米-比林肯领航员还大

网上车市 浏览 1721

科学家构建AI“赛博学术小镇”,让化工科研实现自主演化

DeepTech深科技 浏览 2831
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1