您的位置: 首页 > 科技频道

英伟达推出全新NVIDIA AI Foundry服务、NVIDIA NIMTM推理微服务

出处:北京商报 作者:王柱力 网编:陶凤 2024-07-24

北京商报讯(记者 陶凤 王柱力)7月24日,英伟达推出了全新NVIDIA AI Foundry服务和NVIDIA NIMTM推理微服务,与同样刚推出的Llama3.1系列开源模型一起,为全球企业提供生成式AI相关服务。Llama3.1多语种大语言模型(LLM)集合是一个具有8B、70B和405B三种参数规模的生成式AI模型集合。当与适用于Llama3.1405B的NVIDIA NIM推理微服务结合使用时,NeMo Retriever NIM微服务可以为RAG工作流中的开放和商业文本问答带来极高的检索准确性。NVIDIA AI Foundry能提供一种可用于快速构建自定义超级模型的端到端服务。

右侧广告

本网站所有内容属北京商报社有限公司,未经许可不得转载。 商报总机:010-64101978 媒体合作:010-64101871

商报地址:北京市朝阳区和平里西街21号 邮编:100013 法律顾问:北京市中同律师事务所(010-82011988)

网上有害信息举报  违法和不良信息举报电话:010-84276691 举报邮箱:bjsb@bbtnews.com.cn

ICP备案编号:京ICP备08003726号-1  京公网安备11010502045556号  互联网新闻信息服务许可证11120220001号