关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12716人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

以军称已有87万巴勒斯坦人从加沙城撤离

环球网资讯 浏览 968

超有梗!李若彤邀请易立竞采访自己与富商的故事

网易娱乐 浏览 26865

将生产两款纯电SUV 丰田最新消息曝光

乐选爱车 浏览 1645

上新|| 春天的第一件衬衫买哪件?我帮你们选好了

黎贝卡的异想世界 浏览 12846

转战舞池,前意大利网球名将弗格尼尼斩获《与星共舞》冠军

懂球帝 浏览 696

销售渠道改为“单城单店”模式?丰田中国:仅少数地区试点|早报

汽车服务世界 浏览 855

女子吃自助连吃带打包5顿点餐4万多 店方已起诉索赔

极目新闻 浏览 112999

斯帕莱蒂抵达尤文总部,受到球迷夹道欢迎

懂球帝 浏览 707

2岁幼童被父亲从楼上扔下致死 警方:男子已落网

新京报 浏览 86141

牛仔裤搭配这4件上衣 时髦又高级

小西的穿搭日记 浏览 19434

2025年首例被北交所暂缓审议的企业出炉 永大股份上市缘何待考?

叩叩财讯 浏览 360

跟队:拜仁内部不会轻易谈论让伦纳特-卡尔踢世界杯的话题

懂球帝 浏览 854

OrangePi 6 Plus 开发板公布:12 核 CPU,双 M.2 SSD 双 5GbE

IT之家 浏览 971

49岁林志颖现身饼店引关注,远看近看两种状态

缘木不求娱 浏览 12672

董璇新剧状态憔悴显老 与高云翔离婚四年状态下滑

叶公子 浏览 13771

马克龙再选勒科尔尼当总理遭批,法媒:没有议会支持的总统,只会陷入更深孤立

环球网资讯 浏览 1005

这双鞋太流行了,比芭蕾鞋更少女,比玛丽珍更优雅

LinkFashion 浏览 820

可可成本大增 亿滋国际承压

北京商报 浏览 706

黄永存、黄永裕等47人涉黑案二审维持原判 3人获死刑

环球网资讯 浏览 87888

单反绝唱:优雅技艺在职业网坛的黄昏

网球之家 浏览 626

泰厄斯-琼斯单场15助攻仅1失误 奇才近30年威少&沃尔后第5人

直播吧 浏览 12417
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1