关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12737人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

MVP榜:约基奇领跑&前五没变化 小卡第七浓眉第八 詹杜入榜

直播吧 浏览 11953

光伏普遍亏损!TCL中环业绩跳水,存货损失何时休?

星空财富bj 浏览 11264

郑智化发声道歉!坦言自己情绪上头用词不当

萌神木木 浏览 791

BIO-FORUM 2025 蓄势待发|聚焦生物医药前沿技术,共建全球创新合作生态

上观新闻 浏览 791

90后宝妈网购猪食槽收纳孩子玩具走红 商家:订单超6倍

极目新闻 浏览 5662

何时首秀?洛城记者:哈登和塔克预计不会出战明天与湖人的比赛

直播吧 浏览 13288

滴滴代驾在全国240城落地“伴夜食堂”

网易科技报道 浏览 12978

加沙局势不会立即全面升级 “20点计划”可能烂尾

上观新闻 浏览 709

台海巡艇被目击与大陆海警船"并行"

环球网资讯 浏览 12351

51岁周迅又穿成人间香奈儿,这个搭配思路确实好用

黎贝卡的异想世界 浏览 998

汇丰在美国法院受挫,因“挖角硅谷银行员工并窃取商业机密”面临超10亿美元诉讼

界面新闻 浏览 12426

"世界第一美少年"去世 女儿未透露其具体死因

扬子晚报 浏览 6482

男子在成都住酒店发现浴巾有大片血迹 酒店质疑其敲诈

极目新闻 浏览 13318

一神奇墓地,葬着一位全才,皇帝经过都要行礼,官员必须下跪

趣看热点 浏览 26460

瑟尔斯基被任命为乌武装部队总司令

央视新闻客户端 浏览 12672

杉杉股份易主:任元林接盘,“民营船王”入主锂电材料巨头

征探财经 浏览 1041

TOPCon新建需求持续旺盛 捷佳伟创上半年净利预增逾五成|财报解读

科创板日报 浏览 10831

夏日新风尚:西装短裤,优雅高级又显瘦

Yuki时尚酱 浏览 10956

卷首语 | “做”出来的女性主义

时尚COSMO 浏览 12444

《大话西游》中朱茵扮演了青霞和紫霞,可是很多人都不知道她还在里面扮演了猪八戒

趣看热点 浏览 27955

轻薄春装大合集 几十套搭配方法值得借鉴

巧百搭 浏览 19405
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1