火山引擎发布AI云原生架构及相关产品,助力企业拥抱通用人工智能时代

在2024火山引擎FORCE原动力大会上,字节跳动基础架构负责人赵鹏伟宣布,为迎接通用人工智能时代,火山引擎推出了一系列全新产品和升级,旨在帮助企业解决落地大模型的实际问题,并强调在性价比、创新和安全方面做好准备。

火山引擎提出AI云原生架构,以GPU为核心优化计算、存储和网络架构,实现GPU直接访问存储和数据库,降低IO延迟,并提供更高规模的高速互联和端到端安全保护。具体产品包括:新一代GPU实例(支持大规模并行计算和P/D分离推理架构)、EIC弹性极速缓存(GPU直连,降低大模型推理时延至1/50,成本降低20%)和PCC私密云服务(实现用户数据在云上推理的端到端加密)。

为加速大模型落地,火山方舟平台进行了多项升级,包括推出Prompt优解(通过“自动+互动”方式协助用户编写提示词)、离线批量推理方案和上下文缓存(实现更精细化和低成本运营)。此外,全新发布的扣子1.5和HiAgent1.5旨在助力企业级AI原生应用的开发,并支持豆包大模型的视觉理解、文生图和音乐模型。

数据飞轮2.0也正式发布,它通过AI创新重新定义企业数据智能,提供一体化数智研发和一站式数据智能运营,并推出Data Fabric驱动的ChatBI智能体和多模态数据湖,以降低数据使用门槛,提升数据反馈效率和准确率。

在安全方面,火山引擎云安全围绕“让智能更安全,让安全更智能”理念,为AI基础设施提供透明可信的安全保障,并通过安全智能体为企业提供安全服务。

总而言之,火山引擎致力于提供更高性价比、更强安全保障的全栈AI服务,帮助企业降低模型训练和推理应用难度,实现AI能力的增长和价值飞跃。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注