AIGC时代大模型微调发挥作用它能替代红人们吗

AIGC行业资讯11个月前更新 编辑员
2.7K 0

人工智能的快速发展推动了大模型的广泛应用,它们在语言,视觉,语音等领域的应用效果已经越来越好,但是,训练一个大模型需要巨大的计算资源和时间,为了减少这种资源的浪费,微调已经成为一种流行的技术,微调是指在预训练模型的基础上,通过在小数据集上的训练来适应新的任务,AIGCAI芯片)的出现进一步加快了大模型的推广,它可以提供更快的计算速度和更大的存储容量,本文将介绍AIGC下大模型微调的方法,包括微调所有层,微调顶层,冻结底层,逐层微调和迁移学习,我们将使用PaddlePaddle这个开源框架,以自然语言处理计算机视觉为例,来说明这些方法的原理和实现步骤。

AIGC时代大模型微调发挥作用它能替代红人们吗

  在AIGC大模型下,我们目前较熟知一个大模型就是Chatgpt,目前国外大佬也正在研究能否在计算机视觉角度,做到上传一个图片或一个视频,我告诉他做视觉上的任务,就可以实现相应的视觉需求。

这样的大模型,我们虽然暂时没办法用到开源的模型,而且模型涉及到的参数也太大了,如果自己训练累死机器,在面对不同业务的情况下,我们更多的方法是基于大模型进行模型微调的方法来实现我们的应用。

但计算机视觉和自然语言处理在做微调模型时,区别:

对于计算机视觉,不同的图像,学习到的经验,可能完全是不同的,但是对于自然语言处理不同的文本,可能学习到的经验是一样的,因为文本的数据,特征更多是从上下文依赖,语言时序性,这些特征在不同内容的文本中是可以套用的。

AIGC——利用人工智能技术来生成内容,它被称为人工智能的下一个风口,随着AI绘画的发展,大家或多或少都会有些许担忧自己的岗位。

无可否认的一点是,AIGC正在逐步渗透越来越多的生活场景,短视频,直播,主持,晚会舞台等领域随处可见AIGC的痕迹,AIGC也给内容生态注入了新鲜血液,AIGC即AI技术自动生成内容的生产方式,是继PGCUGC之后全新的内容生产方式。

近期AI作画火遍全网,只要简单输入几个关键词,几秒钟内一幅画作就能诞生,且绝大多数人都难以看出其究竟是人手所作还是AI所作,此类种种都令诸多画手嗅到了失业的危机,其他领域的内容创作者同样担心自己有朝一日会被AIGC取代。

而资本却早就捕捉到了商机,并逐渐加大对于AIGC的投资布局力度,AI内容创作也已经完成了从文字到图画再到视频的跃迁。

    © 版权声明

    相关文章

    暂无评论

    暂无评论...