商被锁定了吗 对抗毫无意义。选择一个供应商，全力以赴。其他一切都是海市蜃楼。”—— 一位经验丰富的IT专业人士的遗言
只要我们使用任何产品，我们解决方案的基础设施就依赖于其供应商。许多人认为，构建定制基础设施会降低速度。在人工智能时代，这种说法正确吗？
这取决于你的公司目前的情况
大多数初创公司都撑不过五年，所以在基础 特别领导 设施上投入太多精力并非资源的最佳利用方式。你首先需要生存下来，并证明产品的可行性。
有时您可能选择了正确的供应商但仍然会失败。
GPU成本
我们都已经开始看到AI硬件
瓶颈带来 商被锁定了吗 的后果。运行LLM的成本很 学习和驾驭质量 高，规模较小的项目可能会因成本过高而受到影响。这会如何影响大型企业？
如果您是一家成熟的企业，依赖特定供应商可能会成就或毁掉一个稳固的商业案例。对于大规模 GenAI 解决方案而言，成本是维护的关键，并决定了此类项目的长期可行性。短期内，企业或许能够承受高昂的成本，但当价格下降时，就到了调整的时候了。
遗憾的是可扩展性和灵活性的
长期目标可能会因供应商锁定而受到阻碍。将运营从一个主机转移到另一个主机需要专业知识和兼容性调整。如果企业依赖于单一云服务提供商，他们将面临从成本飙升到创新受阻等一系列风险。
找到最佳供应商是关键；但保持移动性也至关重要。
硬件是新的供应商锁
“我们的 GPU 非常短缺，使用该 比利时商业指南 工具 [ChatGPT] 的人越少越好。” OpenAI 首席执行官 Sam Altman
当 GPU 托管成本过高时，大型且激动人心的 Gen AI 项目就会失去光彩。如果迁移到云平台的成本过高或难以实施，您就会被供应商锁定。这曾经在软件领域很常见。现在，硬件成了新的依赖。
企业有很多理由保持与供应商无关的态度 – 但成本是主要原因。
Andreessen Horowitz 的 Appenzeller、Bornstein 和 Casado指出，AI 计算的成本正在不断增长。A100 每小时 GPU 的市场仍由供应商主导，这主要是由于供应限制。此外，AWS、GCP 和 Azure 之间的价格差异非常大，足以证明潜在客户需要进行广泛的成本效益分析。
gpu-成本-a16z
资料来源：Andreessen Horowitz
当然，您的竞争对手可以吹嘘他们可以 商被锁定了吗使用的所有功能 – 但他们是否愿意承认他们的公司因便利和成本增加而损失了多少？
作为企业客户，我们不应该期望供应商在这个市场上保持一致。
这对 Qdrant 有何影响？
作为开源矢量数据库，Qdrant 完全无风险。此外，节省成本也是众多公司使用它来增强 LLM 的众多原因之一。您无需花费大量 GPU 资金进行训练或推理。一个配备 CPU 和 RAM 的基本实例即可轻松管理索引和检索。
然而，我们发现许多客户希望将 Qdrant 与其他基础设施（例如 LLM 或其他数据工程基础设施）托管在同一位置。这可能是出于实际原因，例如公司安全政策，甚至是全球政治因素。
有一他们可能会发现这
种基础设施成本太高。虽然向量搜索仍然很便宜，但他们的训练、推理和嵌入成本会增加。到那时，他们就会想要更换供应商。
什么因素会影响到切换？兼容性？技术？还是缺乏专业知识？
在功能方面，由于云提供商之间的功能差异，云服务标准化非常困难。这导致了定制解决方案和供应商锁定，阻碍了迁移和成本降低，就像 Snapchat 和 Twitter 所见的那样。
恐惧不确定和怀疑
你花了几个月的时间搭建基础设施，但你的竞争对手却全力投入，推出了更便宜的替代方案，并在一个月内就推出了竞争产品？如果你的公司在你尝试搭建一个完全不可知的平台时面临倒闭的风险，那么避免锁定还有意义吗？
问题：如果你没有被供应商锁定，你就必须管理一个规模更大的工程师团队。自主研发与购买之间的权衡是真实存在的，它本身就伴随着一系列风险和成本。
致谢：任何使用 AI 处理海量数据的组织，无论行业如何，都需要定制的基础设施和专用资源。由于需要使用 A100 GPU 等昂贵的服务，内部 DevOps 团队的存在显得尤为重要。任何规模扩张的企业，如果想要控制成本，都需要雇佣经验丰富的运营人员。
无需恐惧、不确定和怀疑。供应商锁定并非徒劳——所以，让我们消除所有供应商都是对手的情绪。您只需要与一家愿意灵活使用产品的公司合作。
解决方案是 Kubernetes：将基础设施
与特定的云主机解耦是目前保持安全无风险的最佳方式。您的解决方案中任何运行在 Kubernetes 上的组件都可以与其他兼容的基础设施无缝集成。
这就是您保持活力并在最适合您的时候转移供应商的方式。
那么混合云怎么样？
自由的关键在于构建可在任意云上运行的应用程序和基础架构。通过利用 Kubernetes 或 Docker 的容器化和服务抽象，软件供应商可以真诚地帮助客户迁移到其他云提供商。
我们设计了 Qdrant 混合云的架构，以满足企业寻求无与伦比的灵活性、控制力和隐私性的不断变化的需求。
该技术将来自任何环境（云、本地或边缘）的 Kubernetes 集群集成到统一的企业级托管服务中。