关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12724人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

零跑C16上市,15.58万元起售,配置是亮点

油门到底ACC 浏览 10964

曼联晒照祝贺利马与埃里克森劳伦斯获奖:笑一个吧!

直播吧 浏览 18666

中国电信触及跌停 中国移动、中国联通跌超9%

网易财经 浏览 18973

入夏裤子就穿这4条 清凉显廋巨时髦!

In风尚 浏览 16986

多给2分钟来背锅?大帝25分钟20+6丢绝杀 马克西才该为失利担责

颜小白的篮球梦 浏览 808

美媒披露:国务院要求各使馆保持缄默

环球网资讯 浏览 15416

仅仅是 AI,并不能让硬件更「智慧」,更重要的其实是这个

极客公园 浏览 839

青岛考古人员有重大发现!胶州湾海域现一战大型战舰

趣看热点 浏览 25845

韩乔生:滕哈赫作为主教练高谈阔论“白日梦”,不如踏踏实实钻研

直播吧 浏览 12124

顶级美商回归,这次她惊艳众人

她刊 浏览 12890

思辨之夏|丁磊、史喆:训练1个ChatGPT要多少钱?

网易财经智库 浏览 16249

黎巴嫩真主党证实其高级领导人遭以军空袭身亡

环球网资讯 浏览 411

习近平:正确引导民营经济健康发展高质量发展

新华社 浏览 19354

4S店冰火两重天,汽车经销商历经生死洗礼

百姓评车 浏览 10894

坦克300Hi-T宁德时代版上市 售24.98万

车质网 浏览 200

窦骁何超莲国外被偶遇!女方冲浪心情大好,窦骁喝咖啡满脸愁容

萌神木木 浏览 643

无撕×,照样全程高能,这才是女性综艺天花板

独立鱼 浏览 16631

贝克汉姆一家为布鲁克林庆生,克鲁兹牵小七超有爱

好丹 浏览 19477

郑智化吐槽大陆机场,评论区沦陷

娱乐圈笔娱君 浏览 804

港媒:中美达成共识后,荷兰在接管安世问题上进退两难

环球时报国际 浏览 760

美军遇重大伤亡 拜登政府发声明:不寻求与伊朗开战

环球网资讯 浏览 12596
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1