Not Diamond – AI模型路由器，智能选择最合适的AI模型

一、Not Diamond工具介绍

Not Diamond是一家专注于AI模型路由的公司，它提供的服务以开发者优先，通过其名为Not Diamond的工具来实现多种功能。这个工具主要在AI相关领域发挥作用，是一个适合RAG（检索增强生成）工作流的API产品。

从功能模块来看，它涵盖了文档索引和检索（使用llama – index进行文档索引和检索，能够快速找到相关信息）、用户查询处理（定义用户查询并且从服务条款中检索相关上下文）、消息模板定义（将查询和相关文档部分整合成消息）、Not Diamond路由客户端（用来定义并路由至不同的大型语言模型 – LLM，以获取最佳响应）以及模型选择和调用（通过Not Diamond API确定最佳LLM，并在客户端调用该模型）等部分。

二、Not Diamond工具的功能特点

1. 智能AI模型路由
   • Not Diamond具有革命性的AI路由技术，它不仅仅是一个聊天工具，更是一个智能AI模型路由器。它能够自动为每个查询选择最佳的语言模型(LLM)。例如，在处理不同类型的任务时，它会根据任务需求在多个LLM（如GPT – 4o、Claude 3.5 Sonnet等）中自动挑选最合适的模型来生成响应，而无需用户去手动选择模型。
   • 通过将多个LLM组合成元模型并且学习何时调用每个模型，Not Diamond能在主要评估基准上超越每个基础模型，展现出卓越的性能。
2. 个性化定制
   • 它可以理解并针对个人用户偏好定制回应，根据用户的即时反馈进行优化，不断学习以适应用户的喜好。比如，如果用户在进行内容创作时，喜欢某个特定风格的AI模型输出结果，Not Diamond可以依据这个偏好，在下次类似任务中自动调用倾向于这种风格输出的模型。
3. 成本和延迟优化
   • 在应对各种查询任务时，能智能权衡成本和延迟，高效利用更小、更便宜的模型，同时不会降低输出的质量。也就是说，它不会盲目地调用高端但成本高的模型，而是根据任务的具体要求在保证质量的前提下选择性价比高的模型，从而提升效率并降低成本 。
4. 支持自定义模型训练
   • 允许用户根据自己的评估数据训练定制化的路由，以适应特定的用例需求。这一功能方便企业或开发者根据自身的业务逻辑、数据特点等构建符合自身需求的模型路由，例如企业内部有特定领域知识的文档集合，可通过自定义模型训练让Not Diamond在处理该领域相关查询时具有更好的表现。

三、Not Diamond工具的使用场景

1. 问答系统
   • 通过Not Diamond，可以构建一个问答系统。例如企业在管理服务条款等文档时，员工可能会对文档中的内容有各种各样的问题。利用Not Diamond，这个问答系统可以自动回答这些有关服务条款等文档的问题。它能够快速处理用户的查询请求，在相关文档中找到对应的信息，并通过选择合适的LLM生成准确的答案。
2. 内容摘要
   • 在处理大量文档时，可以利用RAG工作流和Not Diamond对文档进行摘要操作，快速提取关键信息。比如在新闻媒体行业，每天要处理大量的新闻稿件，通过Not Diamond，编辑人员可以快速获取新闻稿件的关键内容，提高内容筛查和整理的效率，以便更好地进行内容的筛选、编辑和发布工作。
3. 数据分析
   • 通过分析用户查询和文档内容，它可以进一步优化产品功能和用户体验。以互联网产品开发为例，产品团队可以借助Not Diamond分析用户对产品文档（如使用指南、功能介绍等）的查询内容，从而了解用户对产品功能的理解情况、遇到的问题等，进而对产品进行改进优化。

四、Not Diamond工具的用户评价

1. 高效便捷性受认可
   • 许多用户对Not Diamond的高效便捷性给予好评。它能自动选择合适的AI模型，节省了用户决定使用哪种人工智能工具的时间。例如，对于那些需要在不同任务中频繁切换AI模型的用户，Not Diamond的自动路由功能大大提高了工作效率。使用者不需要再费力地想要弄清楚哪种人工智能最适合每项任务，因为Not Diamond为用户完成了思考步骤，像一个超级智能助手一样，可以会聚多个用户喜欢的AI模型，如GPT、Claude、Perplexity等在一个平台，并根据任务自动选择其中最合适的模型进行响应 。
2. 助力不同能力水平用户
   • 对于不同能力水平的用户来说，它具有很强的普适性。对于有经验的AI使用者，它可以帮助优化工作流程，提高工作质量；对于初学者或者不是人工智能专家的用户，它降低了使用AI工具的学习曲线，可以让这部分用户无需了解每个AI模型的详细情况就能获得专业水平的成果。例如，一些刚接触AI内容创作的新手，在使用Not Diamond时，可以更容易地得到高质量的创作内容，不需要像以前那样去深入学习不同模型的特点和使用方法才进行操作 。
3. 性能和灵活性受肯定
   • Not Diamond在性能方面（如组合多个LLM成元模型超越基础模型等）以及灵活性（如用户可以自定义模型训练、根据反馈微调模型选择等）方面的表现也得到了用户的肯定。它可以对用户提供的反馈进行学习，改善未来类似任务的模型选择。同时用户如果对特定任务选择的模型不满意，还可以手动切换到另一个模型，提高用户对工具使用的掌控感。不过，由于它是一个相对较新的工具，一些用户也在期待它进一步提升功能以及增加更多可兼容的LLM 。

五、Not Diamond工具与类似工具的对比

1. 与通用聊天机器人对比
   • 传统的聊天机器人往往只能基于自身固定的算法或者预训练模型进行交互，缺乏像Not Diamond这样对不同LLM进行智能路由的能力。例如，大多数聊天机器人如果要在GPT这样的语言模型和其他模型间切换，需要人工重新调整或者切换平台。而Not Diamond能够根据每次提示自动调用最佳模型，并且还可以依据即时反馈优化模型选择，同时理解用户的偏好来定制回应，这是传统聊天机器人难以实现的 。
2. 与专门的AI模型管理平台对比
   • 一些专门的AI模型管理平台可能侧重于模型的训练、部署或者监控等单一功能，而Not Diamond集文档索引、用户查询处理、消息模板定义、模型路由以及选择调用等多功能于一体。例如，某些平台可能主要关注企业级用户开发和部署自己的LLM应用，而Not Diamond更侧重于通过精确快速地调用正确的模型来提升效率和降低成本，并且在应用场景上更加倾向于问答、摘要、分析等具体的应用场景方面的优化 。
3. 与其他AI助手对比
   • 其他AI助手可能只是简单地整合了部分流行的AI模型供用户选择使用，但没有像Not Diamond这样深入的组合多个LLM成元模型并且学习调用时机的技术。同时，在成本和延迟优化方面，Not Diamond能够智能选择合适的模型以兼顾质量和性价比，这是其他一些AI助手可能缺失的功能。例如部分AI助手在生成相似质量的回答时，可能会更多地调用高端昂贵的模型，而Not Diamond会根据实际情况选择虽然小、便宜但足够完成任务的模型以减少成本和延迟。

六、Not Diamond工具的发展历程

目前参考信息中关于Not Diamond的最早发布时间为2024年相关的信息。从流量趋势分析来看，在2024年11月，notdiamond API开放平台PV流量减少，达到2.2M次访问，比上个月减少了2.3M次访问；UV减少到422.3K，减少了127.9K。但notdiamond API开放平台全球排名到达960.3K，比上个月上升了1.3M，并且印度的用户访问量占据主导地位。由此可以看出，在2024年Not Diamond处于发展过程中，用户数据呈现一定的波动变化，在逐步扩大影响力并且走向国际化的过程当中。随着不断的发展，它在AI模型路由、支持自定义模型训练以及适合RAG工作流等功能方面不断吸引着更多开发者和用户应用于问答系统、内容摘要、数据分析等多种场景中 。