找回密码
 立即注册
查看: 728|回复: 0

软硬结合,面向生成式 AI 的加速型平台解决方案

[复制链接]

1

主题

0

回帖

16

积分

新手上路

积分
16
发表于 2023-9-12 11:55:35 | 显示全部楼层 |阅读模式
AI 正在敦促全球各行各业的变化。从语音识别和保举系统到医疗成像和改良的供应链打点,AI 技术能为企业提供其团队完成毕生工作所需的计算能力、东西和算法。
丽台科技作为 NVIDIA DGX 系统精英级合作伙伴以及 NVIDIA 认证系统™合作伙伴,为企业生成式 AI 应用提供软硬件部署解决方案,从实施部署到调优运维,致力于为客户交付先进的产物和处事,提供生成式 AI 所需的性能、可靠性和可扩展性。
针对生成式 AI 范围,NVIDIA 有系统的 AI 全栈平台,该全栈平台的每一层都包含创新技术,包罗加速计算、基础 AI 软件、预训练模型和“AI 代工厂”,能够随时随地针对任何应用构建、定制和部署生成式 AI 模型。
该全栈平台包含三个部门:NVIDIA AI 模型和“代工厂”、NVIDIA AI 平台软件和NVIDIA加速型基础架构。



©NVIDIA 版权归NVIDIA所有。

AI 模型和“代工厂”


  • NVIDIA NeMo
NVIDIA NeMo™ 提供先进的大型语言基础模型、定制东西和大规模部署功能,是模型制作处事套件 NVIDIA AI Foundations 的一部门,该套件旨在促进企业级生成式 AI 的成长并实现跨用例定制。

  • NVIDIA BioNeMo
借助 NVIDIA BioNeMo™ 研究人员和开发者可以使用生成式 AI 模型快速生成蛋白质和分子的布局与功能,从而加快新候选药物的研发。BioNeMo 也是 NVIDIA AI Foundations 的一部门。

  • NVIDIA Picasso
NVIDIA Picasso 让生成式 AI 更上一层楼。企业、软件创作者和处事提供商可以在其模型上运行优化推理,使用专有数据训练先进的生成模型,或者以预训练模型为基础,操作文本或图像提示生成图像、视频 3D 和 360 HDRi 内容。

  • NVIDIA ACE
NVIDIA Avatar Cloud Engine (ACE)  可辅佐中间件、东西和游戏开发者在软件或游戏中构建和部署自定义语音、对话和动画 AI 模型。

  • 生成式 AI 模型
由 NVIDIA 构建的基础模型(包罗 GPT、T5 和 Llama),能够辅佐加快生成式 AI 的采用过程。用户可以从 Hugging Face 或 NGC 目录下载这些模型,并在浏览器中使用 AI Playground 直接对其进行测试。
AI 平台软件


  • NVIDIA AI Enterprise
对于运用 AI 开展业务的企业,NVIDIA AI Enterprise 提供了一个安全可靠、适用于开发和部署的出产级端到端软件平台。该平台包含 100 多个框架、预训练模型和开源开发东西(例如 NeMo、Triton™、TensorRT™),以及生成式 AI 参考应用和企业撑持,可有效简化采用过程。NVIDIA AI Enterprise 可部署在任意位置。企业组织可以灵活地在云、数据中心、工作站和边缘运行其撑持 NVIDIA AI 的解决方案,实现一次开发,到处部署。

  • NVIDIA NeMo
NVIDIA NeMo 可以辅佐企业组织从头开始构建自定义大型语言模型(LLM),定制预训练模型,并进行大规模部署。NeMo 随 NVIDIA AI Enterprise 提供,包含训练和推理框架、护栏东西包、数据管护东西,以及预训练模型。

  • NVIDIA Triton 推理处事器
此软件跨各种工作负载提供了尺度化的 AI 模型部署和执行方式。借助强大的优化性能,可以在单 GPU、多 GPU 和多节点配置上实现超卓的推理性能。NVIDIA AI Enterprise 随附的 NVIDIA Triton™ 打点处事可自动部署多个 Triton 推理处事器实例,从而实现性能更超卓、操作率更高的大规模推理。

  • NVIDIA TensorRT-LLM
这个开源库可以针对 NVIDIA GPU 上的出产部署优化新型 LLM 的模型推理性能。通过使用 TensorRT-LLM 试验新型 LLM,开发者无需深入掌握 C++ 或 CUDA 常识即可确保高性能。TensorRT-LLM 基于 FasterTransformer 项目构建,不仅具有超卓的灵活性,而且能与 NVIDIA Triton 推理处事器紧密配合,使先进的 LLM 阐扬出更优异的端到端性能。
加速型基础架构


  • NVIDIA DGX 系统
NVIDIA DGX™ 系统将 AI 软件、专用硬件和专业常识集成到一款综合的 AI 开发解决方案中,适用于从云到当地数据中心等各种环境。

  • NVIDIA 认证系统
为了提高运营效率并交付先进的产物和处事,企业需要依靠具有超卓性能、可靠性和可扩展性的计算基础架构。NVIDIA 认证系统™ 为企业提供了安全可靠、针对各种加速的现代化工作负载(桌面、数据中心和边缘)而优化的硬件解决方案,确保企业可以安心部署。
如果有关于 NVIDIA DGX 系统以及 NVIDIA 认证系统(工作站、处事器)相关产物咨询,可联系 @丽台科技
*与NVIDIA产物相关的图片或视频(完整或部门)的版权均归NVIDIA Corporation所有。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|T9AI - 深度人工智能平台 ( 沪ICP备2023010006号 )

GMT+8, 2024-11-21 23:58 , Processed in 0.059258 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表