混合云的开源AI/ML

面向开发人员、数据工程师、数据科学家和操作人员的企业级人工智能和机器学习（AI/ML）。

概述

开源软件是像Generative AI这样的前沿创新的核心，此外它在推动预测AI方面已经发挥了突出作用。为了在全球范围内交付这些创新，企业必须处理安全、隐私、合规性、可靠性、规模和性能等复杂问题。为了处理这些复杂性，企业通常会出现混合云足迹，其数据和应用程序部署在从预部署数据中心到超大规模云提供商基础设施的各种环境中。在混合云环境中提供指数级增强的客户体验的智能应用程序中操作AI/ML并利用开源AI/ML需要具备以下功能的平台能力用于机器学习操作（MLOps）和应用程序开发。

MLOps平台

一个MLOps平台，其工作流受到DevOps和GitOps原则的启发，将ML模型集成到软件开发过程中。

一个灵活且可扩展的平台，具有用于构建、部署和管理支持AI的应用程序的工具。
利用来自开源提供商的大量经过预培训的模型。
利用ML框架和服务格式（如Pytorch、Tensorflow、ONNX和其他）进行模型开发。
在混合云环境中以高性能和高吞吐量提供推理。

应用程序平台

基于Kubernetes的一致应用程序平台，用于开发、部署和管理在任何云上运行的现有和现代化云本地应用程序。

用于开发业务逻辑的各种语言、运行时和框架。
集成技术，如API管理、SSO等，允许应用程序安全、大规模地公开。
支持现代CI/CD DevOps实践的工具。
支持无缝登录和DevSecOps的开发人员工具。

混合云AI/ML平台通过以下方式结合MLOp和应用程序平台功能：

为开发人员、数据工程师、数据科学家和操作团队提供如何开发、打包、部署和管理应用程序和模型的一致性。
通过通用接口和工具，将模型和应用程序作为容器化工作负载进行开发、培训、调优、部署和服务，而无需直接处理Kubernetes配置、编排、安全性的底层复杂性，也无需遵守成熟的云本机CI/CD实践。
支持集装箱化AI工作负载及其特殊需求。
支持由专业的一流开源项目和ISV软件组成的生态系统，以补充和扩展平台。