数据可观测性公司Prove AI的首席技术官Greg Whalen表示，虽然公有云为AI实验提供了快速启动大量GPU的灵活性，但随着AI战略的成熟和可预测AI工作负载的形成，CIO们正在转向私有云或本地环境，以控制支出并保护数据隐私。
Prove AI最近对美国和加拿大1000名企业领导者进行的调查发现，67%的受访者计划在未来12个月内将部分AI数据迁移到非云环境。除了成本可预测性和数据隐私担忧，迁移的主要原因还包括安全问题以及云与SaaS环境的集成挑战。
Whalen指出，运行一致性AI工作负载的组织可以通过购买几个GPU或在私有云提供商处安装几个GPU来节省成本，而不是在公有云中租用时间。如果IT领导者能够准确估计需求，内部GPU将得到充分利用，几乎没有闲置时间。
"如果你真的在进行微调，或者只是想定制RAG（检索增强生成）模型，你可能需要连续数小时的GPU计算，"他说。"你的工作负载并不会有很大波动，即使是在模型评估和运行阶段也是如此。"
Whalen表示，他没有看到许多运行自有GPU的组织存在利用率不足的问题。
"如果有人说'你有一个GPU，可能只会使用10%的时间'，根据我们的经验，情况并非如此，"他补充道。"你会找到使用它的方法，而且大部分工作负载是训练，这是非常连续的。这些任务在可预测的时间内运行。"
私有云支出增长
虽然Prove AI的调查显示了对本地计算的兴趣，但另一项调查显示私有云支出出现显著增长，尽管公有云支出也在以较低速度增长。
网络和安全提供商GTT Communications的调查显示，2024年至2025年间，计划在公有云上支出超过1000万美元💵的组织数量增长了12%。
但根据调查，计划在私有云服务上支出超过1000万美元💵的受访者比例增长更快，从2023年的36%增长到2024年的43%，再到2025年的54%。这是公有云大额支出者增长率的两倍。
GTT发现，目前超过一半的AI工作负载运行在私有云和本地环境的组合中，安全性、合规性以及AI工作负载的特定需求是寻求公有云替代方案的主要原因。
GTT战略和技术采用副总裁Bastien Aerni表示，监管和合规担忧是推动私有云或本地解决方案的重要驱动因素。许多公司正在将敏感工作负载转移到私有云，作为支持智能体AI和其他复杂AI项目的更广泛多云和混合策略的一部分。
"大多数时候，AI都涉及机密数据或业务关键数据，"Aerni说。"那么关于架构以及工作负载应该是公有还是私有，甚至是本地的思考就成为了一个真正的问题。"
他表示，公有云仍然为AI项目提供最大的可扩展性，近年来，CIO们被那里提供的众多额外功能所说服。
"在我大约五年前与CIO们的一些对话中，他们会提到'有这么多功能，这么多工具'，"Aerni补充道。"现在当我进行同样的对话时，他们说'实际上，我现在并没有那么频繁地使用这些工具。'他们都在寻求稳定性和可预测性。"
小规模迁移
其他云和AI专家并没有看到公有云的大规模退出，由于AI的高计算需求，增长仍在继续。云咨询公司Zoi North America的董事总经理Danilo Kirschner表示，很大比例的企业仍在使用混合云模型。
他说，回迁正在发生，但组织并没有完全放弃公有云。
"这个悖论很明显：AI工作负载同时推动着大规模云增长和选择性回迁，因为市场扩张如此迅速，它同时容纳了多种部署模型，"Kirschner说。"我们看到的是从天真的'一切上云'策略向智能的、针对特定工作负载的决策的成熟转变。"
IT人力咨询公司C4 Technology Services的首席AI官Zac Engler也看到了同样的趋势。
"我们并没有看到云端的大规模撤离，"他说。"更像是公司悄悄地带着他们最有价值的AI工作负载从侧门溜出去。"
他补充说，信任、成本和数据控制重新回到董事会议程，并影响着AI工作负载运行位置和数据存储的决策。
"公有云仍然非常适合实验、快速扩展和在董事会报告中展示成效，"Engler说。"但当涉及专有数据、合规性或不想不必要地烧钱时，本地和私有设置开始变得更有意义。"
