AIGC信息的造假=无意义的社会

AIGC行业资讯10个月前更新 编辑员
1.5K 0
信息的造假=无意义的社会
大家可能都见过deepfake(AI换脸)的新技术,而在过去三个月里,有一些技术推出来,可以仅仅听3秒钟左右的人类语音,然后就能继续用他们的声音说话。
例如,它会从真实的(人类声音)开始,然后在那条虚线上,它会切换到计算机自动完成声音,你无法分辨(出计算机合成的声音)。
所以我们如何期待这些技术的应用开始在世界各地冒出来呢?
你可以想象有人打电话给你的孩子,获得一点他们的声音,只是“哦,对不起,我拨错号码了。”,然后使用你孩子的声音给你打电话,说“嘿,妈妈,爸爸,忘了我的社会安全号码,我正在申请一份工作,你介意提醒我吗?”
事实上,当我们写这篇文章时,我们就在想这个概念上的例子,结果上周发现, 其他人也想出来了。
AI技术开始诈骗人。任何依赖于那种验证模型的方式都不再可用, 就像我们社会上有锁住所有门的各种锁,而我们刚刚解锁了所有这些锁一样。
人们知道深度修复(deepfake)和人工媒体,但他们不知道的是,现在只需要3秒的你的声音,就可以合成剩下的全部声音了。AI又一次做到了,而且做得越来越好。
我实际上不害怕这个例子,但AI将以指数曲线的速度继续发展下去。
这些技术和例子就是其中的一部分。我们先不讲解决什么问题,只是想类似韦恩·格雷茨基那样滑雪滑到我们需要到达的地方谈及指数曲线。我们现在需要滑得更远,比各位想象的地方远得多。
要明确地说出来,一年所有的内容验证都会破产,根本行不通。而我们的机构还没有准备好,大家没有想到这一点,还无法对此作出反应。
所以我们试着举了个身份证例子,我不知道你们是否看过最新的TikTok滤镜,它们太疯狂了,我无法相信这是一个滤镜(见图,一个超级强大的换脸滤镜的case)。事实上,这就是AI滤镜进化的结果:
你们都知道,拜登政府,一直在讨论我们是否应该让TikTok继续在美国运行。
有一项交易是确保数据存储在美国,比如存储在一些安全的得克萨斯州甲骨文服务器上。
但如果想搞乱美国,现在我要做的就是向每一个人发一些拜登和特朗普的滤镜,给你一个拜登的声音或特朗普的声音,现在就已经把你们所有的公民变成了《玛丽莲梦里人》中的人物,成了最愤怒的拜登和特朗普……
这些是信息愤怒的军队,整天在喧嚣中说话,这将让社会成为无意义的社会,而这与数据存储位置无关,也与算法重新排列哪些视频无关,而是与我们如何启用一种与虚妄的数学对抗有关。
(编者注:这只是一种设想,延续自演讲者的《社交困境》思考,并不等于tikok有任何可能这样做)
这都不违法,我们的责任是deepfake相关的新的责任,目前我们没有针对这些事情的法律。
    © 版权声明

    相关文章

    暂无评论

    暂无评论...