English

IT战略

大型银行联手支持Anthropic 630亿美元算力建设

作者:Makenzie Holland29阅读

包括美国银行、花旗、摩根士丹利和黑石在内的一批金融机构将投入630亿美元,为Anthropic的AI算力容量提供融资。合作方将购买博通XPU AI加速器和网络产品,并从2027年起将其租赁给Anthropic。此举正值AI系统消耗海量算力,推高成本并导致内存短缺之际。Gartner预测2027年全球IT支出将达到7.35万亿美元,分析师警告CIO们当前的AI成本不会一直保持低位。其他动态包括:英伟达和Meta以30亿美元股权投资扩大其Muse合作;OpenAI将Oracle应用集成到ChatGPT中;IBM将HashiCorp Vault扩展至AI代理;Slack全面开放其Code API。

大型银行联手支持Anthropic 630亿美元算力建设
本音频为自动生成。如有任何问题,请告知我们,欢迎 反馈.

编者按: 欢迎阅读 Tech Bytes,这是 CIO Dive 的固定专栏,为 CIO 及其他高级 IT 领导者汇总相关的产品和行业新闻。有适合未来期次的线索? 请发邮件给我们团队。

AI 系统正迅速消耗算力,给现有基础设施带来压力,并推动大额交易以支持扩容。对 CIO 而言,其下游影响正以成本上升和内存短缺的形式显现。

一个 金融机构群体 ——包括美国银行、花旗、摩根士丹利和黑石——本周公布了一项计划,拟投入 630 亿美元,为前沿模型开发商 Anthropic 的 AI 算力扩容提供融资。这些金融合作伙伴将 购买博通 XPU AI 加速器 和网络产品,并从 2027 年起将其租赁给 Anthropic。

“负责任地推进 AI 需要把雄心勃勃的技术计划转化为切实的算力基础设施,”美国银行联合总裁 Jim DeMare 在新闻稿中表示。

为更多 AI 算力提供融资的热潮正在推高 全球 IT 支出,据 Gartner 预测,随着各组织寻求“将 AI 部署产业化”,该支出到 2027 年将达到 7.35 万亿美元。目前,算力供应正超过企业需求,供应商纷纷在模型和 token 定价上提供优惠以争取用户。

“尽管 CIO 们如今担心 AI 的成本,但成本不会再这么低了,”他说。

随着算力成本即将上升,企业开始更战略性地思考 AI 模型的使用。这包括为 Anthropic 巨额交易提供资金的金融机构。美国银行的 AI 路由层 Orchestra 使用一个小型分类器模型将查询发送至最具成本效益的选项,帮助该银行避免对基础查询使用成本更高的前沿模型。

CIO 面临的另一项财务挑战在于内存芯片短缺以及 AI 基础设施建设推动的价格上涨。PC、笔记本电脑、平板电脑和手机制造商正将飙升的内存价格转嫁到终端设备上,Lovelock 表示这一趋势至少将持续到 2030 年。

以下是 CIO 值得关注的其他几项重要动态:

英伟达与 Meta 扩大 Muse 合作

英伟达与 Meta 正致力于提升 Meta 的 Muse 模型和智能体的推理与训练性能,这些模型和智能体构建于英伟达的基础设施之上。作为周二公布的合作的一部分,英伟达还表示计划向 Meta 的股权发行投资 30 亿美元,以支持 Meta 的 AI 基础设施雄心,据一份 新闻稿.

改进个人 AI 智能体 Muse 的这项合作,正值金融机构应对允许第三方 AI 智能体进入其环境所带来的安全风险之际。多家银行, 包括摩根大通,近几周以安全顾虑为由决定封禁智能体。

OpenAI 将 Oracle 应用引入 ChatGPT

前沿模型提供商 OpenAI 正将 Oracle 应用和数据引入 ChatGPT,据周三发布的消息。此举建立在两家公司现有关系之上,因为 OpenAI 模型 为新的 Oracle 产品和服务提供支持。据一份新闻稿称,两家公司旨在“利用 AI 运行核心业务”。

“我们的目标是让 Oracle 软件更易于发现、使用和管理,提供更简单的管理、统一登录,以及由各组织的权限和审批所管控的访问,”该新闻稿称。

IBM 加强对智能体的管控

周三,IBM 公布了对其 AI 运营模式的一系列调整,旨在为 IT 和安全团队提供对 AI 智能体更好的控制、权限和问责。

该公司 扩展了 HashiCorp Vault ——一款管理应用程序访问业务系统所用机密和凭据的数据保护工具——使其适用于 AI 智能体。IBM 还扩展了 HashiCorp Vault 的智能体身份和凭据控制,使 IT 团队能够在尝试进行未经授权的操作时实时停止智能体。

Slack Code API 正式上线

Salesforce 旗下的 Slack 于 8 月推出 Slack Code 服务,让包括 GitHub 在内的合作伙伴无需离开 Slack 频道即可开发智能体。本周,Slack 将其 Slack Code API 正式开放,允许开发人员让智能体在 Slack 中创建频道、添加相关人员并发布更新。

“我们正在把你已经熟悉的 GitHub Copilot 交互构建到你用于所有其他工作的同一个空间里,”GitHub 员工工程师 Tim Hunter 在一份 新闻稿声明中表示。“能够看到智能体做了哪些工作,并直接在 Slack 内部引导它,这具有颠覆性意义。”

合作伙伴