关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12717人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

深夜宣布涨价20% 业内人士:茅台逆势提价在情理之中

中国新闻周刊 浏览 81733

2024年奥斯卡奇葩看点多:宠物狗台下鼓掌,颁奖明星全裸上阵

萌神木木 浏览 11897

乔治·索罗斯将开放社会基金会领导权交给其子

界面新闻 浏览 16145

法兰克福左后卫布朗:我们依靠整体防守萨拉赫,而不是我单防

懂球帝 浏览 876

想回款先送钱!医院反腐深入财务科

环球网资讯 浏览 14615

突发!*ST雪发公告:实控人张劲失联

经济参考报 浏览 18595

掌握这三种搭配示范 越看越时髦

Yuki时尚酱 浏览 18965

汪涵老婆带82岁母亲拍照,透露从芒果离职原因

心静物娱 浏览 353

广州一小区2年抓到60多条蛇 业主:每天出门提心吊胆

极目新闻 浏览 4640

哈马斯官员:未收到重启加沙停火谈判通知

环球网资讯 浏览 10753

秋冬别穿阔腿裤了!裙子才是粗腿女孩的救星!

Yuki女人故事 浏览 572

50岁的女人想显气质少穿卫衣,推荐你试试这3款上衣,更时髦

静儿时尚达人 浏览 11603

冯柳新进4家公司!段永平偷着乐...

格隆汇 浏览 18191

西方官员:乌军反攻若再无进展 泽连斯基或很快"求和"

参考消息 浏览 14860

被娃写作业逼疯 妈妈"邪修法"直播写作业引2万人围观

极目新闻 浏览 15479

邱毅:两岸统一的脚步越来越近

环球网资讯 浏览 495

全尺寸货运版eVTOL样机已总装下线,「蓝霄航空」完成新一轮数千万元融资,年内累计融资近亿元|36氪首发

36氪 浏览 995

李书福狠不起来

钛媒体APP 浏览 14195

30个项目脱颖而出!大赛让AI与实体经济深度“握手”

上游新闻 浏览 779

小S大女儿拍视频曝真容性格活泼 背景引发争议

文艺圈娱乐号 浏览 13098

格里芬下家怎么选?凯尔特人和勇士二选一

直播吧 浏览 14563
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1