一、大模型应用工程师项目简介
大模型应用工程师是工业和信息化部教育与考试中心推出的,针对大模型领域专业人才的考核体系。该旨在衡量从业者在大模型应用数据整合、语义理解、逻辑推理、文本输出以及应用等方面的能力,以满足不同行业对大模型应用人才的需求,推动企业大模型应用驱动决策的发展。
证书分为初级、中级、高级三个等级,为不同层次的大模型应用人才提供了专业的能力考核。
二、能力标准
1、大模型应用工程师(初级)
掌握大模型的基础应用,如数据清洗、预处理,以及模型的基本训练和调优。能够使用常见的深度学习框架和工具,进行大模型的部署和集成。
熟悉PyTorch、TensorFlow等深度学习平台,能够使用Python/C++编程语言进行基本的模型开发和调试。具备数据处理能力,包括数据爬取、清洗、增强和标注等。
通过实际操作,熟悉大模型在实际项目中的应用流程,包括模型设计、数据处理、训练与优化、部署以及性能监测与维护等环节。
2、大模型应用工程师(中级)
掌握大模型的基础应用,如数据清洗、预处理,以及模型的基本训练和调优。能够使用常见的深度学习框架和工具,进行大模型的部署和集成。
熟悉PyTorch、TensorFlow等深度学习平台,能够使用Python/C++编程语言进行基本的模型开发和调试。具备数据处理能力,包括数据爬取、清洗、增强和标注等。
深入了解LLM大模型的基础特性和应用场景,掌握大模型部署与应用的相关技术。
熟练进行数据读取、模型训练、特征提取与相似度计算等操作,实现准确高效的文本检索功能,并对整个文本检索过程进行总结和优化。
具备一定的商业敏感度,能够结合业务场景,从大模型应用角度提出合理的建议和决策支持。
3、大模型应用工程师(高级)
掌握大模型的基础应用,如数据清洗、预处理,以及模型的基本训练和调优。能够使用常见的深度学习框架和工具,进行大模型的部署和集成。
熟悉PyTorch、TensorFlow等深度学习平台,能够使用Python/C++编程语言进行基本的模型开发和调试以及熟悉使用modelscope平台和LLaMA – Factory界面微调工具等,具备数据处理能力,包括数据爬取、清洗、增强和标注等。
深入了解LLM大模型的基础特性和应用场景,掌握大模型部署与应用的相关技术以及深入理解基于CLIP模型的电商多模态图文检索原理和应用场景,能够对相关数据进行有效的预处理,使其符合模型输入要求。
具备独立部署Qwen2大模型的能力,包括环境搭建、模型配置、运行调试等环节,同时能够对模型进行量化优化,提高模型运行效率。了解其他常见大模型的部署方法和流程,具备举一反三的能力,同时具备团队管理和项目协调能力,能够带领团队完成大模型应用分析项目,与其他部门有效沟通协作,推动大模型成果在企业中的落地应用。
三、课程内容
阶段 | 课程 | 知识模块 |
基础知识 | 大模型与AIGC概述 | 1. 大模型是什么 2. 大模型的前世今生 3. 大模型爆火的原因 4. 大模型原理介绍 5. AIGC简介 |
PyTorch框架基础实践 | 1. PyTorch简介 2. 张量操作 3. 构建一个线性模型 4. 识别手写数字 | |
AIGC的多元应用 | AIGC与文本生成 | 1. AIGC概述 2. AIGC文本生成提示词工程 3. 小红书文案写作 4. 邮件撰写 5. 产品需求文档撰写 6. 测试用例撰写 7. 文献阅读 8. Python代码查错 9. SQL编写 10. 办公自动化 11. 数据格式化提取 12. 招聘信息编写 |
AIGC与图像生成 | 1. AI绘画基础知识 2. AI绘画基础实操 | |
AIGC与人力资源管理 | 1. 概述 2. 招聘信息生成 3. 简历匹配分析 4. 面试题目生成 5. 培训策划书编写 6. 调查问卷生成 7. 考勤数据分析 8. 福利制度制定 9. 员工离职分析 | |
AIGC与产品经理 | 1. 认识产品经理 2. 需求收集 3. 需求分析 4. 功能设计 | |
AIGC生产力提升 | 1. 学习准备与声明 2. 大模型辅助生成PPT 3. 大模型辅助生成思维导图 4. 大模型辅助绘制流程图 | |
AIGC的教学应用 | 1. 学习准备与声明 2. 大模型辅助教案撰写 3. 题库题目生成 4. 大模型辅助文献阅读 5. 大模型辅助编程 6. 大模型辅助数据分析 7. 总结 | |
AIGC辅助数据处理与分析 | 1. 认识数据分析 2. AIGC辅助数据分析 3. 背景与挖掘目标 4. 数据探索 5. 数据预处理 6. 指标构建与可视化 | |
大模型部署与微调 | 大模型开源平台介绍及使用 | 1. LLM大模型基础认知 2. 大模型部署与应用技术概述 3. HuggingFace开源AI社区 4. 小结 |
PyTorch大模型原理与应用 | 1. 基础模型简介 2. 万模基座Transformer 3. 生成式预训练模型GPT 4. 双向编码模型BERT 5. Transformer应用 | |
大模型微调原理与实现 | 1. 大模型微调的概念 2. 大模型微调方法 3. 全量微调FFT 4. 参数高效微调PEFT 5. 如何降低大模型显存占用 6. 小结 7. modelscope平台 8. LLaMA-Factory界面微调工具 | |
基于大模型的金融问句语义相似度计算 | 1. 案例背景及挖掘目标 2. 语义文本相似度 3. 预处理 4. 加载预训练模型 5. 定义损失函数 6. 模型训练 7. 模型预测 8. 模型评估 9. 小结 | |
基于大模型微调的命名实体识别 | 1. 背景与目标 2. 命名实体识别概述 3. 模型准备 4. 数据准备 5. 微调训练和验证 6. 小结 | |
基于通义千问(Qwen)的创意广告生成 | 1. 背景与目标 2. 千问大模型 3. 数据准备 4. 模型微调和验证 5. 小结 | |
基于BERT模型的中医问答系统 | 1. 案例背景与挖掘流程 2. 数据加载 3. 数据探索:三元组数据长度分布情况 4. 预训练模型介绍 5. 模型加载 6. 加载本地checkpoint文件并进行预测 7. 小结 | |
部署自己的Qwen2大模型 | 1. Github代码托管平台 2. Qwen2大模型部署 3. Qwen2大模型量化 8. 其他大模型部署示例 | |
部署与微调ChatGLM-6B大模型 | 1. ChatGLM介绍 2. 部署大模型ChatGLM 3. API部署的拓展 4. 微调大模型ChatGLM-6b | |
多模态的数据检索 | 基于深度学习的图像检索 | 1. 数据检索概述 2. 图像检索任务 3. 视觉模型与特征提取 4. 图像相似度计算与匹配 5. 图像检索性能评估 6. 图像检索前端展示 |
基于CLIP的电商多模态图文检索 | 1. 背景与目标 2. 数据说明 3. 数据预处理 4. CLIP模型结构 5. CLIP模型训练方法 6. CLIP模型验证—计算图文特征 7. CLIP模型验证—KNN检索 8. CLIP模型验证—Recall计算 9. CLIP模型预测后处理 10. 图文检索前端实现 11. 小结 | |
基于Bert模型微调的文本检索 | 1. 背景与应用场景和目标 2. Bert模型构造 3. 数据读取 4. Bert模型训练 5. 特征提取与相似度计算 6. 小结 | |
职业技术考核 | 大模型应用工程师(高级)职业技术考试 |
四、报考条件
初级:无要求 ,皆可报考。
中级:(满足其中一个条件即可)
1.获得初级证书。
2.年满18周岁,具备高中以上学历,工作年限满1年。
高级:(满足其中一个条件即可)
1.获得中级证书。
2.年满20周岁以上,工作年限满2年。
3.年满20周岁以上,具备大专及以上学历
五、考试方式
考试方式分为线下考试站点或线上考试系统统考两种方式,考试形式为上机答题,闭卷。
考试题型:
初级:120分钟,单选题+多选题+判断题+操作题+简答题,上机答题。
中级:120分钟,单选题+多选题+判断题+操作题+简答题,上机答题。
高级:120分钟,单选题+多选题+判断题+操作题+简答题,上机答题。
六、成绩评分
考试最终成绩满分为100分,成绩80-100分为优秀;成绩60-79分为合格;成绩60分以下为不合格。
七、证书样本
学员经考核合格,由工业和信息化部教育与考试中心颁发的大模型应用工程师职业技术证书,证书可登录国家工信部教育与考试中心官网查询。
证书样本:

八、官方指定报名渠道www.aigc.cn,详情可咨询:
必须备注:大模型应用工程师
