NVIDIA Jetson Orin Nano 开发者套件得到“超级”提升

生成式 AI 格局正在迅速发展，新的 大语言模型 (LLMs)、视觉语言模型 (VLMs) 和视觉语言动作 (VLAs) 模型每天都在涌现。...

利用 NVIDIA NeMo-Aligner 进行监督式微调的数据高效知识蒸馏

知识蒸馏是一种将更大的教师模型的知识转移到更小的学生模型的方法，理想情况下可生成紧凑、易于部署的学生，且准确度与教师相当。...

NVIDIA OptiX 着色器绑定表优化实现高效光线追踪

NVIDIA OptiX 是通过 CUDA 实现 GPU 加速光线追踪的 API，通常用于渲染包含各种物体和材质的场景。...

利用 RAPIDS cuML 和 GPU 加速提升多标签分类性能

现代分类工作流程通常需要将单个记录和数据点分类为多个类别，而不仅仅是分配单个标签。...

借助新的小语言模型，在 NVIDIA RTX AI PC 上部署智能体、助理和虚拟形象

NVIDIA 刚刚发布了一系列小语言模型 (SLMs)，可增加数字人用于增强响应能力的信息量和类型。...

微调小型语言模型以提高代码审查准确性

生成式 AI 通过 推动众多 应用的创新和提高效率，正在改变企业。然而，采用大型 基础模型 会带来一些挑战，包括高成本、慢性能、以及数据隐私问题。...

NVIDIA TensorRT-LLM 现支持 Recurrent Drafting，实现 LLM 推理优化

Recurrent Drafting (简称 ReDrafter) 是苹果公司为大语言模型 (LLM) 推理开发并开源的一种新型推测解码技术，该技术现在可与 NVIDIA TensorRT-LLM 一...

AEC 检索增强生成技术指南

大语言模型 (LLMs) 正在迅速改变业务格局，为自然语言处理 (NLP)、内容生成和数据分析提供新功能。这些 AI 驱动的工具改善了公司的运营方式，从简化客户服务到增强决策流程。...