GPT或被抛弃?国内AI模型只能存活三个?后续AI到底要如何监管?

AIGC行业资讯1年前 (2023)更新 编辑员
1.6K 0

Chat GPT热度尚未退散,一场大会又将AI大模型的注意力推向新高度。

在刚刚举办的北京智源大会上,汇聚了众多传说中的AI大佬,以张钹、张宏江为代表的国内AI最前沿领军人物,Geoffery Hinton、Yann LeCun、姚期智、Joseph Sifakis这四位图灵奖得主,Open AI创始人Sam Altman、PaLM-E和RoBERTa等AI公司高管。

因每次的智源大会秉承着专业的学术思想路线,因此在国内外人工领域内行精英圈层口碑极高,但对大众来说,却稍显高冷。而在本次大会上,Sam Altman指出为搞清楚通用AI技术的发展,Open AI必须要推进AI研究变革。

但这一说法却遭到了不少AI大佬们的反对。其中,加州伯克利分校教授斯图尔特·罗素抨击Open AI研发的Chat GPT和GPT-4没有在“回答”问题,它们不理解世界,也不是一个通用AI的发展步骤。杨立昆更是直接指出,当前的GPT自回归模型存在缺乏规划、推理的能力,未来GPT系统或将被抛弃。

除激烈的学术争论外,关于当前AI如何监管、后续AI的发展方向也成了本次会议讨论的焦点

后续AI到底要如何监管?

进入到2023年以来,在生成式AI以势如破竹的速度席卷诸多领域的同时,由AI所引发的各种问题也在加剧外界的担忧。

在我国,“AI诈骗”成为近期社会关注的方向之一。日前,内蒙古包头警方通报一起利用AI实施诈骗的案件,福州市某公司法人代表郭先生10分钟内被骗430万元。据通报,骗子通过AI换脸和拟声技术,佯装熟人实施诈骗。无独有偶,江苏常州的小刘被骗子冒充其同学发语音、打视频电话,小刘看到“真人”后信以为真,“借”了6000元给骗子。

GPT或被抛弃?国内AI模型只能存活三个?后续AI到底要如何监管?

图源:抖音

事实上,AI诈骗案发生的背后还是和当前AI技术迅速发展,技术合成门槛持续降低有关。而从后续来看,若AI大模型技术不断突破,未来也将逐渐从面部合成转向到全身合成、3D合成技术,其合成效果也将更加逼真。

在美国,AI是否会影响选举成为当地媒体讨论的重点。据美联社报道,如今复杂的生成性AI工具能在几秒钟内“克隆”某人的声音和形象,制造出大量“假料”。只要绑定强大的社交媒体算法,AI就可以迅速锁定受众进行传播,以前所未见的规模和速度破坏选举。

美国其他媒体则预测,因美国下一任总统选举是在明年举行,不排除美国两党将使用AI技术用于宣传、筹款等活动。更重要的是,因Chat GPT在文本能力上有着卓越的表现。因此,参选者的团队仅需在几秒钟就能生成一份措辞华丽的演讲稿。

基于外界对AI的种种担忧,日前,由“AI教父”杰弗里・辛顿、Anthropic的首席执行官达里奥・阿莫代,Google Deep Mind首席执行官戴米斯・哈萨比斯等超过350位AI领域高管和专家共同签署了“减轻AI带来的灭绝风险,应该与流行病和核战争等其他社会规模的风险一起,成为全球优先事项”的联合声明。

GPT或被抛弃?国内AI模型只能存活三个?后续AI到底要如何监管?

针对后续AI如何监管的问题,Sam Altman在智源大会上指出,目前Open AI正在通过多种方式来解决这一问题。首先,早在5月26日,Open AI启动了一项激励计划,出资100万美元,向社会征集有效的AI治理方案。

其次,Sam Altman认为人类是无法发现一些恶意模型在一些邪恶的事情。目前Open AI正在投资一些新的、互补的方向,希望能够实现突破。但可扩展的监督是尝试使用AI 系统来协助人类发现其他系统缺陷,而解释能力是用GPT-4解释GPT-2神经元,虽然还有很长的路要走,但Open AI相信机器学习技术可进一步提高AI可解释能力。同时,Sam Altman也认为未来只有把模型做得更智能,更加有帮助,才能更好地实现通用AI的目标优势,进而降低AI风险。

最后,Open AI短期内虽不会推出GPT-5版本,但未来十年全球可能会拥有更强大的AI系统,全球范围内需做好提前准备。而Open AI后续对AI大模型的核心工作仍是训练,并且准备在全球建立一套数据库,以反映全球AI的价值观和偏好,即时向全球分享AI安全研究。

除Open AI自身努力外,Sam Altman也呼吁全球共同努力来完善对于AI的监管。比如说,Sam Altman指出当前中国拥有一些世界上最优秀的AI人才,考虑到解决 AI 系统对齐的困难需要来自世界各地最好的头脑。

因此,Sam Altman也希望未来中国AI研究人员能够在AI风险上做出贡献。Tegmark也认为,目前中国在人工智能的监管方面做得最多,其次则为欧洲,最后则是美国。

GPT或被抛弃?国内AI模型只能存活三个?后续AI到底要如何监管?

图源:智源大会

另外,Sam Altman也指出,全球AI监管的合作困难是有的,但这也实则是一种机遇。AI在让全世界走到一起的同时,后续也需要出台系统性的框架和安全标准。

但考虑当前全球大国和大国之间的博弈加剧,地缘冲突呈现多点式爆发,各国政府对生成式AI的态度不一,这在让全球关于AI监管的合作短时间难以落地的同时,也会影响到生成式AI公司的市场业务。

欧洲一直走在AI监管的前沿,5月份欧盟已经接近通过一项人工智能技术监管的立法,这也有望成为全球首部全面的人工智能法案,并可能成为发达经济体的先例。

欧盟委员会主席乌尔苏拉·冯德莱恩此前在接受媒体采访说曾表示,“我们希望人工智能系统准确、可靠、安全且无歧视,无论其来源如何。欧盟相关法律法规的出台,可能会让Open AI后续退出欧盟市场。因此,后续如何根据全球监管政策的调整,不断完善自家的生成式AI模型,这不仅仅是Open AI自身遇到的问题,更是全行业需不断关注的问题。

    © 版权声明

    相关文章

    暂无评论

    暂无评论...