NVIDIA发布全新GPU加速NIM微服务和云端节点目录
Keywords: NVIDIA, GPU加速, NIM微服务, 云端节点目录, AI模型
NVIDIA发布了全新的GPU加速NVIDIA NIM微服务和云端节点目录，用于预训练的AI模型，在云端、数据中心、工作站和个人电脑上优化运行，能够利用数亿台CUDA启用的GPU。企业可以利用微服务加速数据处理、LLM定制、推理、检索增强生成和防护栏等功能。这些微服务已被广泛应用于包括卡迪斯、CrowdStrike、SAP、ServiceNow等在内的AI生态系统中。NVIDIA的创始人兼CEO黄仁勋表示，“成熟的企业平台拥有大量数据，可以转化为生成式AI协同工具，这些经过合作伙伴生态系统打造的容器化AI微服务，是各行业企业成为AI公司的基石。”
NIM推理微服务可将部署时间从几周缩短到几分钟，为开发人员提供由NVIDIA推理软件驱动的预构建容器，包括Triton推理服务器和TensorRT-LLM，可在语言、语音和药物发现等领域提供行业标准的API，以便开发人员快速构建AI应用。此外，CUDA-X微服务还提供了端到端的数据准备、定制和训练构建块，以加速各行业的生产AI开发。企业可以使用NVIDIA的微服务在各种基础设施上部署，如AWS、Google Cloud、Azure和Oracle Cloud Infrastructure等领先的云平台，以及Cisco、Dell Technologies、HPE、Lenovo等超过400个NVIDIA认证系统的服务器和工作站上部署NVIDIA的微服务。
以上是关于NVIDIA公司的最新消息，更多信息请访问https://nvidianews.nvidia.com/。
英伟达推出新医疗微服务套件
英伟达今天推出了二十多项新的微服务，使全球的医疗企业能够利用最新的生成式人工智能技术。这些微服务包括优化的NVIDIA NIM™ AI模型和工作流程，具有行业标准的API，可作为创建和部署云原生应用程序的构建块。它们提供先进的成像、自然语言和语音识别，以及数字生物学的生成、预测和模拟。这些微服务可以加速医疗公司的转型，为制药公司、医生和医院带来了许多机会，包括药物发现、早期疾病检测和智能的数字助手。
Continue readingNVIDIA发布新的GPU加速微服务和云端点目录
NVIDIA发布了新的GPU加速的NVIDIA NIM微服务和云端点目录，用于预训练的AI模型在数亿个CUDA启用的GPU上运行。企业可以使用微服务加速数据处理、LLM定制、推理、检索增强生成和防护栏。NVIDIA的NIM推理微服务可以将部署时间从几周缩短到几分钟，为语言、语音和药物发现等领域提供行业标准的API。这些微服务的推出为NVIDIA的全栈计算平台增添了新的一层，连接了模型开发者、平台提供商和企业，为其提供了标准化的路径，以在NVIDIA的CUDA安装基础上优化定制的AI模型。企业可以在AWS、Google Cloud、Azure和Oracle Cloud Infrastructure等领先的云平台上部署NVIDIA微服务。NVIDIA的AI企业微服务现在可以在超过400个NVIDIA认证系统上支持，包括来自Cisco、戴尔科技、惠普企业、联想和超微的服务器和工作站。NVIDIA的生态系统中还有数百家AI和MLOps合作伙伴，他们也在通过NVIDIA AI Enterprise支持NVIDIA微服务。这些微服务现在可以在ai.nvidia.com免费试用。企业可以在NVIDIA认证系统和领先的云平台上部署NVIDIA AI Enterprise 5.0的生产级NIM微服务。更多信息，请访问NVIDIA的官方网站。
Continue reading