NVIDIA推出新的AI Foundry服务和Llama 3.1系列开放模型

Magpie.AI 2024-07-23 11:15:00

Keywords: NVIDIA, AI Foundry服务, Llama 3.1, 人工智能, NIM推理微服务

NVIDIA宣布推出了新的NVIDIA AI Foundry服务和NVIDIA NIM™推理微服务，以加速企业世界的生成式人工智能，并引入了今天推出的Llama 3.1系列开放模型。借助NVIDIA AI Foundry，企业和国家现在可以利用Llama 3.1和NVIDIA软件、计算和专业知识为其特定领域的行业用例创建自定义的“超级模型”。企业可以使用专有数据以及从Llama 3.1 405B和NVIDIA Nemotron™奖励模型生成的合成数据来训练这些超级模型。NVIDIA AI Foundry由NVIDIA DGX™ Cloud AI平台提供支持，该平台与全球领先的公共云共同开发，可为企业提供大量计算资源，以便根据AI需求进行轻松扩展。这些新服务的推出正值企业和正在制定主权AI战略的国家希望构建具有特定领域知识的自定义大型语言模型，以反映其独特的业务或文化的时候。“Meta的Llama 3.1模型的开放使用标志着企业采用生成式人工智能的一个关键时刻，” NVIDIA的创始人兼首席执行官Jensen Huang表示。“Llama 3.1为每个企业和行业打开了构建最先进的生成式人工智能应用程序的大门。NVIDIA AI Foundry已经全面整合了Llama 3.1，并准备好帮助企业构建和部署自定义的Llama超级模型。”“新的Llama 3.1模型对于开源人工智能来说是一个非常重要的一步，”Meta的创始人兼首席执行官Mark Zuckerberg表示。“借助NVIDIA AI Foundry，公司可以轻松创建和定制人们想要的最先进的人工智能服务，并使用NVIDIA NIM进行部署。我很高兴能让人们使用这项技术。”为了加速企业部署Llama 3.1模型用于生产人工智能，NVIDIA推出了用于Llama 3.1模型的NIM推理微服务，可以从ai.nvidia.com下载。NIM微服务是在生产中部署Llama 3.1模型的最快方法，并且比不使用NIM进行推理的吞吐量提高了2.5倍。企业可以将Llama 3.1 NIM微服务与新的NVIDIA NeMo Retriever NIM微服务配对，以创建用于AI副驾驶、助手和数字人类化身的最先进的检索管道。全球专业服务公司Accenture是第一个采用NVIDIA AI Foundry构建定制Llama 3.1模型的企业，使用Accenture AI Refinery™框架，既用于自身，也用于寻求部署反映其文化、语言和行业的生成式人工智能应用程序的客户。“全球领先的企业看到生成式人工智能正在改变每个行业，并渴望部署由定制模型驱动的应用程序，”Accenture的主席兼首席执行官Julie Sweet表示。“Accenture一直在使用NVIDIA NIM推理微服务进行内部人工智能应用程序的开发，现在，使用NVIDIA AI Foundry，我们可以帮助客户快速创建和部署定制的Llama 3.1模型，以推动其自身业务重点的变革性人工智能应用程序。”NVIDIA AI Foundry为快速构建定制超级模型提供了端到端服务。它结合了NVIDIA软件、基础设施和专业知识，以及来自NVIDIA AI生态系统的开放社区模型、技术和支持。借助NVIDIA AI Foundry，企业可以使用Llama 3.1模型和NVIDIA NeMo平台创建定制模型，其中包括在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward模型。一旦创建了定制模型，企业可以使用其首选的MLOps和AIOps平台在其首选的云平台和全球服务器制造商的NVIDIA认证系统™上运行NVIDIA NIM推理微服务。NVIDIA AI企业专家和全球系统集成合作伙伴与AI Foundry客户合作，加速整个过程，从开发到部署。需要额外训练数据来创建特定领域模型的企业可以使用Llama 3.1 405B和Nemotron-4 340B，以提高在创建定制Llama超级模型时的模型准确性。拥有自己的训练数据的客户可以使用NVIDIA NeMo进行领域自适应预训练（DAPT）来定制Llama 3.1模型，以进一步提高模型准确性。NVIDIA和Meta还合作提供了Llama 3.1的精炼配方，开发人员可以使用该配方构建更小的定制Llama 3.1模型，用于生成式人工智能应用程序。这使企业可以在更广泛的加速基础设施上运行以Llama为动力的人工智能应用程序，例如AI工作站和笔记本电脑。各行业领先企业使用NVIDIA和Llama加速人工智能医疗保健、能源、金融服务、零售、交通运输和电信等各行业的公司已经在使用NVIDIA NIM微服务进行Llama。首批获得Llama 3.1的新NIM微服务的企业包括Aramco、AT&T和Uber。Llama 3.1多语言LLM系列是一个包括8B、70B和405B参数大小的生成式人工智能模型。使用新的NVIDIA NeMo Retriever NIM推理微服务进行检索增强生成（RAG），组织可以在部署定制的Llama超级模型和Llama NIM微服务时提高响应准确性。结合Llama 3.1 405B的NVIDIA NIM推理微服务，NeMo Retriever NIM微服务为RAG管道提供了最高的开放和商业文本问答检索准确性。数百家NVIDIA NIM合作伙伴提供的企业、数据和基础设施平台现在可以将新的微服务集成到其人工智能解决方案中，以加速NVIDIA社区的生成式人工智能，该社区拥有超过500万开发人员和1.9万家初创企业。Llama 3.1 NIM和NeMo Retriever NIM微服务的生产支持可通过NVIDIA AI Enterprise获得。NVIDIA开发者计划的成员将很快能够在其首选基础设施上免费访问NIM微服务，用于研究、开发和测试。关于NVIDIANVIDIA（纳斯达克：NVDA）是加速计算的世界领导者。有关更多信息，请联系：Natalie HerethNVIDIA Corporation+1-360-581-1088nhereth@nvidia.com本新闻稿中的某些声明，包括但不限于关于NVIDIA产品和技术的益处、影响、性能、特性和可用性，包括NVIDIA AI Foundry、NVIDIA Nemotron模型、NVIDIA Nemotron-4模型、NVIDIA DGX Cloud、NVIDIA NeMo Retriever NIM微服务、NVIDIA NeMo平台、NVIDIA-Certified Systems、NVIDIA Tensor Core GPU、NVIDIA RTX GPU和GeForce RTX GPU；第三方使用或采用NVIDIA产品、技术和平台以及其益处和影响；Llama 3.1为每个企业和行业打开了构建最先进的生成式人工智能应用程序的大门；以及NVIDIA AI Foundry准备好帮助企业构建和部署自定义Llama超级模型的声明，都是前瞻性声明，受到可能导致结果与预期大不相同的风险和不确定性的影响。导致实际结果大不相同的重要因素包括：全球经济状况；我们依赖第三方制造、组装、打包和测试我们的产品；技术发展和竞争的影响；新产品和技术的开发或对现有产品和技术的增强；对我们的产品或我们合作伙伴的产品的市场接受度；设计、制造或软件缺陷；消费者偏好或需求的变化；行业标准和接口的变化；集成到系统中时我们的产品或技术的性能意外丧失；以及其他因素，这些因素不时在NVIDIA向证券交易委员会或SEC提交的最新报告中详细说明，包括但不限于其年度报告Form 10-K和季度报告Form 10-Q。提交给SEC的报告副本已发布在公司网站上，并可在未经NVIDIA收费的情况下获得。这些前瞻性声明并非对未来业绩的保证，仅于此日期发表，并且除非法律要求，否则NVIDIA不承担更新这些前瞻性声明以反映未来事件或情况的义务。此处的陈述并非意图成为、也不应被解释为一种承诺、承诺或法律义务，我们产品的特性、定价、可用性和规格的开发、发布和时间取决于变化，并且完全由NVIDIA自行决定。NVIDIA对于未能交付或延迟交付此处所述的任何产品、特性或功能不承担责任。©2024 NVIDIA Corporation。保留所有权利。NVIDIA、NVIDIA标志、DGX、NVIDIA Certified-Systems、NVIDIA Nemotron、NVIDIA NIM和NVIDIA RTX是NVIDIA Corporation在美国和其他国家的商标和/或注册商标。其他公司和产品名称可能是与其相关的公司的商标。特性、定价、可用性和规格如有变更，恕不另行通知。此公告附带的照片可在https://www.globenewswire.com/NewsRoom/AttachmentNg/f5da35f5-cf1b-4848-8df8-0972343438af处获得。