一项新的调查显示,企业正在自行购买硬件,而不是依赖公共云提供商。他们的理由并不令人意外。
人工智能系统如同计算巨兽,其成本在公有云环境中很容易失控。这并非空穴来风,数据也印证了这一点。最近的一项调查显示,近一半的 IT 领导者报告了与云相关的意外成本,金额从 5,000 美元到 25,000 美元不等,而人工智能工作负载是常见的罪魁祸首。这些工作负载需要大量的云端计算能力、存储和实时数据处理能力,而所有这些都是动态计费的。
公有云的核心承诺——“按使用量付费”——对人工智能来说可能成为一把双刃剑。高性能人工智能系统依赖于专用硬件,例如 Nvidia GPU或 TPU,这些硬件的租赁成本高昂,而且如果没有持续的工作负载优化,通常无法得到充分利用。此外,许多人工智能任务需要跨多个计算实例进行扩展,而这一过程会产生额外的网络流量、存储检索和延迟降低费用。
一些企业还发现,云的灵活性是以牺牲可预测性为代价的。正如32%的IT专业人士指出的那样,由于担心关键任务型AI任务资源不足,许多现有的云资源未得到充分利用或被浪费。考虑到预算比以往任何时候都更加紧张,这种情况令人沮丧。
专用服务器提供更可预测、更稳定的定价模式。租赁或购买用于 AI 工作负载的物理服务器,可让企业完全掌控硬件,从而消除隐性成本和月底的意外账单。IT 领导者越来越多地认为这种模式更具成本效益,并且更适合提供明确的投资回报。
控制、安全和人工智能基础设施
对更佳控制和更严格安全性的需求也加速了向私有专用服务器的迁移。人工智能系统依赖于数据,而数据通常敏感且专有。企业越来越不愿将如此重要的资产委托给公有云提供商。对意外数据泄露、数据泄露,甚至不遵守数据保护法规的担忧,可能会抵消将基础设施外包给管理松散的公有云所带来的好处。
在金融、医疗保健或政府等行业,专用硬件几乎是理所当然的选择。这些组织严格遵守 HIPAA、GDPR 或 PCI DSS 等法规。他们的敏感数据不得跨越管辖范围,也不得与共享公有云环境中的其他租户数据混淆。Liquid Web 的报告显示,政府(93%)、IT(91%)和金融(90%)在专用服务器采用方面处于领先地位。
另一个问题是,AI 系统通常需要 IT 人员对工作流程和基础架构进行微调,以最大限度地提高效率,而这只有通过精细控制才能实现。IT 专业人士强调,这是私有环境的一大优势。专用服务器允许组织自定义 AI 工作负载的性能设置,无论是针对大规模模型训练优化服务器、微调神经网络推理,还是创建用于实时应用程序预测的低延迟环境。
随着托管服务提供商和主机托管设施的兴起,企业不再需要自行购买和安装物理服务器。构建和维护内部数据中心的时代或许已经结束,但物理基础设施远未消失。如今,大多数企业选择租赁托管的专用硬件,并将安装、安全和维护的责任交给专门运营强大服务器环境的专业人员。这些设置模拟了云的易操作性,同时为 IT 团队提供了对其计算资源更深入的可视性和更大的控制权。
私人服务器的性能优势
性能是人工智能的关键,延迟不仅会带来不便,还会直接影响业务成果。许多人工智能系统,尤其是专注于实时决策、推荐引擎、财务分析或自主系统的系统,都需要微秒级的响应时间。公有云虽然设计时就考虑了可扩展性,但由于公共共享基础设施的多租户特性以及与用户或数据源的潜在地理距离,不可避免地会带来延迟。
相比之下,专用物理服务器通常更靠近驱动 AI 运营的数据源或用户。企业可以使用主机托管服务提供商或本地边缘设施,将硬件部署在关键地理区域附近,从而减少网络跳数并降低延迟。通过消除共享云网络带来的开销,网络性能得到进一步提升。在繁忙时段,当其他租户争抢资源时,共享云网络的开销可能难以预测。
通过持续保持高性能,私有基础设施显著提高了将人工智能从小型项目扩展到关键任务系统的可行性。此外,随着人工智能模型日益复杂(有些模型的参数已超过万亿),专为高速计算而设计的私有服务器的性能已变得至关重要,而非可有可无。
公私混合战略
尽管向私有基础设施的转型已势在必行,但公有云依然重要。企业仍在使用公有云执行特定的 AI 任务,例如测试新模型、集成外部可用的 AI API或运行非关键系统。公有云具备快速扩展的优势,通常可作为创新平台,尤其是在 AI 开发的迭代训练阶段。
然而,随着这些项目的成熟并过渡到长期生产,企业发现控制成本、保持合规性和提供最佳性能需要不同的方法。对许多企业来说,问题不在于在公有云和私有服务器之间做出选择,而在于找到平衡点。公有云最适合作为混合云策略的一部分,其弹性可以补充私有基础设施的稳定性和控制力。
值得注意的是,即使是私有基础设施也不一定要求公司拥有物理服务器。借助主机托管和托管服务,企业可以享受专用硬件的优势,而无需构建或管理自己的数据中心。
“一切云上”的理念正在朝着更实用、更个性化的方向转变。近一半(45%)的IT专业人士预计,到2030年,专用服务器将变得更加重要,从传统的骨干服务器演变为人工智能驱动创新的关键要素。
企业基础设施的未来是混合型的。公有云和私有服务器相辅相成。公有云将继续引领实验和可扩展性方面的创新。然而,当成本和性能至关重要时——尤其是对于资源密集型的人工智能系统而言——专用服务器正重新崛起,成为推动企业发展的低调动力。
评论前必须登录!
注册