关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家3360人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

厦门翔安:侨商越海疆 展翼共翱翔——一场以侨为桥招商大会背后的千亿机遇

中国商报 浏览 1537

甲骨文业绩不及预期,资本开支比预期多约150亿美元,盘后重挫超10%

华尔街见闻官方 浏览 2065

男子将热水器钢管通电致妻子触电身亡 女儿向法院求情

红星新闻 浏览 9495

研究领军人物告别一线!广发证券全球首席沈明高到龄卸任

券商中国 浏览 1337

不必悲观!券商发声:相比4月,预计冲击更小!

证券时报e公司 浏览 2760

「冰雪+温泉」模式:山地文旅地产如何重构冬季休闲生活?

豹变 浏览 1877

泽连斯基:前线局势愈发艰难

界面新闻 浏览 1931

A股利好,一夜之间多家公司密集宣布

21世纪经济报道 浏览 2017

美媒:泽连斯基未拒绝领土问题 要求提供更多细节

环球时报国际 浏览 7507

河南一村委会欠债被判还钱 "村书记"连10+10都不会算

上游新闻 浏览 18231

男女情爱奇招尽出,碎碎念伍迪老爷再上阵!

幕味儿 浏览 2090

合资品牌的“下一程”,为什么要从CR-V谈起

汽车预言家 浏览 1936

1年暴涨16倍!超级大牛股,突然爆大雷?

财经锐眼 浏览 1708

郭碧婷爸爸“打脸”向太:郭碧婷一人承担俩孩子开销

青途历史 浏览 2683

医院人满为患 加沙患者焦急等待救治

国际在线 浏览 2374

日首相官邸官员表示:日本应该拥有核武器

澎湃新闻 浏览 11545

Meta被曝靠诈骗广告赚取巨额利润

北京商报 浏览 2467

笑掉大牙!日票房仅199万,黄晓明的新片,被“小李子”打懵了

温柔娱公子 浏览 2575

克林顿夫妇将就爱泼斯坦案出庭作证 特朗普发声

极目新闻 浏览 103386

“黑色大衣”今年冬天又火了,怎么搭都高级时髦

LinkFashion 浏览 1490

奥特曼零食之父,要去IPO了

投资家 浏览 2509
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1