“Sora的出现超乎所有人的预期，我们在2021年制定的部分防御策略，今天可能已经不适用了。”
瑞莱智慧RealAI联合创始人&算法科学家萧子豪告诉「甲子光年」。
虽然Sora还未对普通用户公开测试，但是Sora生成视频的逼真效果，不得不让人“未雨绸缪”。
试想一下，如果骗子利用Sora生成一个人被抢救或者被绑架的视频，再用“AI换脸”技术换成目标当事人亲友的形象，同时利用特殊方法切断当事人与亲友之间的联系，进而实施诈骗。如果在没有各方安全防护措施的情况下，是有可能成功的。
即使没有诈骗，虚假新闻、谣言也会对社会产生不良影响。
“人工智能进入爆发式发展的关键阶段。我们主张发展与安全并重，既要拥抱新事物新机遇，也要装好刹车再上路，共同推进人工智能全球治理。”3月7日，中共中央政治局委员、外交部长王毅在回答记者有关人工智能的提问时明确表态。
据不完全统计，在今年的全国两会上，已有20多位代表、委员围绕“人工智能”提出了相关建议。其中，“安全”与“合规”是他们关注的焦点。
早在ChatGPT出现之初，「甲子光年」就曾在《第一批因ChatGPT坐牢的人，已经上路了》一文中写道：“在ChatGPT技术前景、商业模式都还方兴未艾的时刻，围绕自身的‘犯罪方案’以及所造成的负面影响却已真实发生。由新技术衍生的网络信息安全以及违法犯罪等方面的风险，成了摆在全球AI科学家、企业以及国家面前的严肃问题。”
阅读全文
