清昴智能

清昴智能主要聚焦于AIGC、自动驾驶、AIoT等领域，旨在解决复杂AI模型在各类设备上的高效部署问题。MLGuider针对当前主流的硬件环境进行适配与优化，包括但不限于Nvidia、AMD、华为昇腾以及其他国产芯片等，使得AI模型能够充分释放硬件的生产力，实现高效的推理性能。

工具特色：

1.MLGuider授权：

MLGuider是清昴智能推出的针对AI模型的推理优化工具链。它基于团队自研的硬件感知自动机器学习算法，可以自动寻找最适合硬件的模型架构，从而让AI模型高效运行在各类设备上。MLGuider的授权服务意味着客户可以获得使用该工具链的权限，进而解决AIGC、自动驾驶、AIoT等领域复杂AI模型的落地难问题。通过MLGuider的授权，客户可以享受到自动化模型部署优化的便利，提高AI模型在各类设备上的运行效率。

2.一体机：

清昴智能针对大模型落地的核心痛点，推出了一体机解决方案。这种一体机集成了高性能计算硬件和优化的AI模型部署软件，使得客户能够轻松实现大模型的部署和应用。一体机具备高集成度、高性能、易部署等特点，可以满足客户在不同场景下的需求。通过一体机，客户可以更加便捷地构建和部署AI应用，提升业务效率。

3.搭建智算中心：

智算中心是清昴智能为客户提供的另一种解决方案。智算中心基于云计算和大数据技术，通过搭建高性能计算集群和优化的AI模型部署平台，为客户提供强大的计算能力和数据处理能力。智算中心可以帮助客户实现大规模数据的处理和分析，支持复杂AI模型的训练和推理，从而推动客户业务的快速发展。通过搭建智算中心，客户可以享受到高效、稳定、安全的计算服务，为AI应用的落地提供有力支持。

使用教程：

1.自定义个性化LLM项目：

基于选定的基础大模型，开发者可以创建并管理自己的大模型服务项目。灵活的定制化功能使开发者能够针对不同业务需求创建专属的大模型服务空间。

2.微调·基础大模型精调适配：

开发者可以用自有业务数据对基础大模型进行微调，将基础大模型的能力与业务场景的特点相结合，提高模型在实际业务中的表现和准确性。同时支持开发者对模型进行精细的微调和优化，通过微调的高级参数设置，针对具体问题进行优化，精细调整模型的性能和效果。

3.推理·硬件感知优化 – 高性能、低成本、泛兼容：

平台提供一系列针对不同芯片硬件（AMD、Nvidia）的优化压缩技术，可以在部署硬件上高效地释放模型性能，获得更快速、响应更迅捷的模型推理速度。实现模型推理服务的高性能、低成本、泛兼容。

4.推理·资源配置对比 – 最佳模型硬件组合：

通过对优化后的不同硬件和模型搭配的性能和成本消耗的对比分析，了解不同硬件和模型组合的推理速度、准确性和响应时间等性能指标；比较不同配置下的硬件成本、能耗、配置规模、分布方式等。根据实际需求决策资源配置，避免不必要的资源浪费和错误的配置选择，提高资源利用率。

5.服务·灵活调用和可拓展性：

可将基础大模型、微调模型和优化模型轻松部署为服务，在工作台内灵活调用以及测试迭代。还可以可以根据业务需求和应用场景的变化，灵活切换不同的硬件环境和资源配置，以适应业务的增长和变化。

6.服务·服务生命周期管理：