AI生成内容可以检测!准确率超90%

AI应用信息10个月前更新 10小时前
2.4K 0

AI生成内容可以检测!准确率超90%AI绘画、音乐创作到虚拟人,到最近兴起的 ChatGPT,随着 AI生成内容(AIGC)技术的快速发展,使内容生产模式发生了重大变化。同时,如何在网络内容的“生长”中,寻找一种能够辨别真伪、辨别真伪的技术标准,将是关系到整个产业长期、健康发展的重要因素。

今天,AIGC-X在网络上进行了公开测试。据了解,该系统是由《人民日报社》牵头,依托《人民网》建设的“传播内容感知”国家重点实验室、中国科技大学、合肥综合科研中心人工智能研究院等单位共同研发的,是我国第一款基于 AI的内容感知系统。您可以访问http://ai.sklccc.com/AIGC-X/#/进行测试。

该系统能够迅速地识别出机器产生的文字和人为产生的文字,在中文文字的识别方面,其识别精度已经达到了90%以上。

交流内容感知国家重点实验室总研究员张勇东认为,由于 AIGC具有对话咨询、文字写作、内容修整等多种应用场景,将会进入一个全新的发展时期。伴随而来的伦理规范、内容侵权、信息造假等风险也不能被忽略,亟需研发有针对性的检测产品,提高对内容生产新范式的监管治理技术能力。

他表示,AIGC-X可以利用算法融合和知识驱动的人工智能框架,利用深度建模来捕获由 AI技术产生的虚假新闻、内容抄袭、垃圾邮件等,它在内容版权、网络钓鱼、虚假信息和学术造假等内容安全、内容风控等领域有着广泛的应用前景。将来,AIGC-X将进一步拓展,使其能够应用于由人工智能产生的文字、图像甚至视频等多个领域。

“AIGC亟需一个正确的导向和标准。”“传播内容认知”国家重点实验室研究人员靳国庆也指出,要注意防止“AIGC”在“虚假信息”、“学术造假”、“网络钓鱼”等“灰色地带”的误用。“AIGC-X将促进人工智能风险管理和安全评估技术的发展,为构建安全、可控制的 AIGC生态系统奠定基础。”

据悉,在这次AIGC-X的发布前,中国传媒大学的“内容识别”国家重点实验室已经研发出了“智晓助”、“白泽”两套以人工智能为基础的内容风险控制体系,目前已经有上百个组织在应用。以内容风险管理为主业的《人民网》资讯科技有限公司,以AIGC-X为基础,以“人民审校”为平台,推出了一款“捕获 AIGC”软件。

根据工业和信息化部发布的数据,现在,在中国,人工智能核心产业的规模已经达到了4000亿元,拥有了将近4000个左右的公司,它所带动的相关产业的规模已经达到了几万亿元,而且还会继续快速地增长。业界人士认为, AIGC是一种新型的“数字经济”与“实体经济”相结合的商业模式,将极大地赋能企业的创新发展。

张勇东说:“AIGC-X并非一成不变的技术,它将伴随着 AIGC的成长而成长。AIGC-X由于受到时间、资源等因素的限制,其对一些特殊问题及应用的支持还不够完善。比如,AIGC-X现在只能对中文的内容进行检索,英文的检索还需要进一步完善;在此基础上,还需提高对图像、音频、视频等内容的探测能力,以实现对全媒体的探测,保障 AIGC的健康发展。

    © 版权声明

    相关文章

    暂无评论

    暂无评论...