关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12714人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

极简风穿搭好有气质 知性又复古

In风尚 浏览 17164

车祸后的伍兹已清醒恢复意识,但身体情况并不容乐观

趣看热点 浏览 139425

“超级周”来袭!美联储,降息稳了?

券商中国 浏览 758

游戏行业卷在2023:四大趋势,两强争霸

定焦One 浏览 13129

罗体:尤文图斯有意赫罗纳队巴西边锋萨维奥

懂球帝 浏览 10774

前华为“天才少年”创业公司大火!短短数月已完成3轮融资

证券时报 浏览 14215

"网游大佬"陈天桥成美国"大地主" 曾靠盛大套现88亿

封面新闻 浏览 75270

被大空头狙击的明星AI股Palantir,华尔街怎么看

第一财经资讯 浏览 633

郭碧婷不惧曝光产后身材 穿泳装露肚腩发际线后移

八怪娱 浏览 14587

3000马力!百万售价! 仰望U9赛道版比高铁快

车毂轆 浏览 1562

年过四十岁的女人,夏天多穿这些“过膝裙”,越老越气质优雅

静儿时尚达人 浏览 11132

奚梦瑶35岁生日,婆婆送她一艘新船,全家为其举办下水礼仪

素素娱乐 浏览 12530

追梦谈落选奥运会名单:很失望&本想拿第三金,我是球队领袖

懂球帝 浏览 12449

杠上了!皇马与西甲争议盘点:点球未判、突遭药检、首轮延期被拒

直播吧 浏览 1593

‍♂️吧友们抓紧了!国足主帅报名将于明天截止

直播吧 浏览 1567

昊铂全系车型免费充电权益发布 覆盖全国90%充电桩

网易汽车 浏览 12858

“Mag 7”过时了?华尔街想要AI!

华尔街见闻官方 浏览 1426

日本新一代货运飞船 HTV-X 首飞,为国际空间站送“快递”

IT之家 浏览 824

男子研发恒压阀被认定枪支散件获刑 二审检方不起诉

封面新闻 浏览 112560

台名嘴:大陆对高市早苗提出抗议的层级越来越高

环球时报新闻 浏览 10583

二手房业主抱团"保卫房价" 喊话:建议上调1万多 别贱卖

每日经济新闻 浏览 99377
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1