交通类 AI 项目预演阶段，本地化部署的一些新思路

交通行业的AI应用场景目前主要涵盖交通公共服务体验优化、汽车等交通工具的智能化升级和物流的智能化转型。大部分应用场景仍在项目实验阶段。此阶段需要有效地平衡项目需求、成本和开发效率。

在项目预演阶段中，通常小规模算力就可以满足需求。此阶段主要是对模型的可行性、架构设计的合理性以及算法的有效性进行初步验证，此时模型规模相对较小，参数数量和复杂度都处于较低水平。

例如，在构建一个简单的文本分类预演模型时，可能只需要训练几万到几十万的参数，小规模算力足以支持模型在较短时间内完成训练和评估。等到模型进入正式训练和优化阶段，才会对算力有更高的要求。

我们今天就几种主要的AI场景，谈谈对于处在项目预演阶段的团队，值得尝试的一些高效又经济的本地化硬件部署方案。 智慧交通大模型

目前在开发的智慧交通大模型面向的公共服务体验场景非常多元，例如：

报告生成类：很多团队在本地化部署大语言模型，主要使用AI生成交通违规报告，加快交通事故处理效率；

咨询服务类：部分团队借助大语言模型，正在基于现有的交通标准规范、学科教材、交通知识等材料搭建用于交通知识问答的大模型，希望为出行者、企业等提供便捷精准的交通咨询服务；

业务办理类：有些团队利用现有的路网数据，训练用于交通情况预测、智能咨询和AI辅助办理业务的大模型；

资源调度类：还有团队在考虑利用DeepSeek的深度推理能力，对历史流量、天气、事件等多源数据进行融合分析，开发出大模型能够动态地优化信号灯控制策略，提升路口通行效率和交通资源利用率。

这其中，报告生成类任务主要基于DeepSeek等模型进行部署，通常为长文本生成场景，咨询服务类则多为短文本生成，模型以DeepSeekR170B、32B、通义千问QWQ32B为主，主要采用的推理精度为FP16。在项目预演阶段，采用搭载NVIDIARTX™GPU的平台可以在1周内完成模型部署并启动研究工作。

NVIDIARTX™GPU属于NVIDIA企业级显卡，兼具有图形处理和AI能力，安培架构被称为“卡皇”的NVIDIARTX™A6000就是属于该系列的显卡。目前NVIDIARTX™A6000已停产，性能更强的NVIDIAAdaLovelace架构显卡为NVIDIARTX™5000Ada（32GB）、NVIDIARTX™5880Ada（48GB）。

*测试数据来源：赞奇科技

*详细测试数据可扫描底部二维码登记获取 汽车的AI应用开发

车企正在布局开发更多的AI场景，包括AI工厂机器人、车内AIAgent应用等。

工厂AI机器人

AI机器人逐步开始在工厂流水线的一些特定环节中“打工”，逐步尝试着未来能降本增效。AI机器人场景对硬件设备的AI与图形处理能力均有要求。目前，机器人仿真测试任务主流基于NVIDIAIsaacSim™平台，同时采用的是NVIDIAIsaac™Lab进行强化学习，还需要通过DeepSeek等大语言模型的推理能力来实现语音交互。此类场景中，NVIDIARTXGPU可以同时满足AI和图形需求，我们以搭载NVIDIARTX5000Ada的计算平台为例，来看看一些开发场景中的GPU消耗、可以适配的部署方案及其预期效果。

*测试数据来源：赞奇科技

*详细测试数据可扫描底部二维码登记获取

车内AIAgent

车内的Agent应用已经在如火如荼地开发进程中，场景不限于出行伴侣、旅行专家、用车助手等。很多开发团队尝试借助DeepSeek、QWQ的深度推理能力，实现多情感、多模态的超拟人交互。随着ManusAIAgent的出现，对于Agent的市场关注度和开发热度也有所提升。

在项目前期开发阶段，AIAgent会以相对简单的场景来实现快速落地，开发团队用于模型训练和推理测试的规模并不是非常庞大的，但依然需要较强的算力来支持不同的算法模型。NVIDIARTX5880Ada无论在计算能力还是图形能力上，都在NVIDIARTX系列GPU中首屈一指。NVIDIARTX5880Ada单卡能力超强，这能够为后续机器的扩展留有较大的空间，毕竟随着AIAgent功能的完善，即使是项目前期预演阶段，算力需求也会在增长。

由于AIAgent具体的应用场景、功能需求和数据规模差异比较大，我们需要根据具体情况来评估所需的算力规模，并且不断通过测试来匹配开发效果预期。