交通行業(yè)的 AI 應(yīng)用場景目前主要涵蓋交通公共服務(wù)體驗(yàn)優(yōu)化、汽車等交通工具的智能化升級(jí)和物流的智能化轉(zhuǎn)型。大部分應(yīng)用場景仍在項(xiàng)目實(shí)驗(yàn)階段。此階段需要有效地平衡項(xiàng)目需求、成本和開發(fā)效率。

在項(xiàng)目預(yù)演階段中，通常小規(guī)模算力就可以滿足需求。此階段主要是對模型的可行性、架構(gòu)設(shè)計(jì)的合理性以及算法的有效性進(jìn)行初步驗(yàn)證，此時(shí)模型規(guī)模相對較小，參數(shù)數(shù)量和復(fù)雜度都處于較低水平。

例如，在構(gòu)建一個(gè)簡單的文本分類預(yù)演模型時(shí)，可能只需要訓(xùn)練幾萬到幾十萬的參數(shù)，小規(guī)模算力足以支持模型在較短時(shí)間內(nèi)完成訓(xùn)練和評估。等到模型進(jìn)入正式訓(xùn)練和優(yōu)化階段，才會(huì)對算力有更高的要求。

我們今天就幾種主要的 AI 場景，談?wù)剬τ谔幵?/span>項(xiàng)目預(yù)演階段的團(tuán)隊(duì)，值得嘗試的一些高效又經(jīng)濟(jì)的本地化硬件部署方案。

1

智慧交通大模型

目前在開發(fā)的智慧交通大模型面向的公共服務(wù)體驗(yàn)場景非常多元，例如：

• 報(bào)告生成類：很多團(tuán)隊(duì)在本地化部署大語言模型，主要使用 AI 生成交通違規(guī)報(bào)告，加快交通事故處理效率；

• 咨詢服務(wù)類：部分團(tuán)隊(duì)借助大語言模型 ，正在基于現(xiàn)有的交通標(biāo)準(zhǔn)規(guī)范、學(xué)科教材、交通知識(shí)等材料搭建用于交通知識(shí)問答的大模型，希望為出行者、企業(yè)等提供便捷精準(zhǔn)的交通咨詢服務(wù)；

• 業(yè)務(wù)辦理類：有些團(tuán)隊(duì)利用現(xiàn)有的路網(wǎng)數(shù)據(jù)，訓(xùn)練用于交通情況預(yù)測、智能咨詢和 AI 輔助辦理業(yè)務(wù)的大模型；

• 資源調(diào)度類：還有團(tuán)隊(duì)在考慮利用 DeepSeek 的深度推理能力，對歷史流量、天氣、事件等多源數(shù)據(jù)進(jìn)行融合分析，開發(fā)出大模型能夠動(dòng)態(tài)地優(yōu)化信號(hào)燈控制策略，提升路口通行效率和交通資源利用率。

  
  

這其中，報(bào)告生成類任務(wù)主要基于 DeepSeek 等模型進(jìn)行部署，通常為長文本生成場景，咨詢服務(wù)類則多為短文本生成，模型以 DeepSeek R1 70B、32B、通義千問 QWQ 32B 為主，主要采用的推理精度為 FP16。在項(xiàng)目預(yù)演階段，采用搭載 NVIDIA RTX? GPU 的平臺(tái)可以在1周內(nèi)完成模型部署并啟動(dòng)研究工作。

NVIDIA RTX? GPU 屬于 NVIDIA 企業(yè)級(jí)顯卡，兼具有圖形處理和 AI 能力，安培架構(gòu)被稱為“卡皇”的 NVIDIA RTX? A6000 就是屬于該系列的顯卡。目前 NVIDIA RTX? A6000 已停產(chǎn)，性能更強(qiáng)的 NVIDIA Ada Lovelace 架構(gòu)顯卡為 NVIDIA RTX? 5000 Ada （32GB）、NVIDIA RTX? 5880 Ada （48GB）。

*測試數(shù)據(jù)來源：贊奇科技

*詳細(xì)測試數(shù)據(jù)可掃描底部二維碼登記獲取

2

汽車的AI應(yīng)用開發(fā)

車企正在布局開發(fā)更多的 AI 場景，包括 AI 工廠機(jī)器人、車內(nèi) AI Agent 應(yīng)用等。

• 工廠 AI 機(jī)器人

  
  

AI 機(jī)器人逐步開始在工廠流水線的一些特定環(huán)節(jié)中“打工”，逐步嘗試著未來能降本增效。AI 機(jī)器人場景對硬件設(shè)備的 AI 與圖形處理能力均有要求。目前，機(jī)器人仿真測試任務(wù)主流基于 NVIDIA Isaac Sim? 平臺(tái)，同時(shí)采用的是NVIDIA Isaac? Lab 進(jìn)行強(qiáng)化學(xué)習(xí)，還需要通過 DeepSeek 等大語言模型的推理能力來實(shí)現(xiàn)語音交互。此類場景中，NVIDIA RTX GPU 可以同時(shí)滿足 AI 和圖形需求，我們以搭載 NVIDIA RTX 5000 Ada 的計(jì)算平臺(tái)為例，來看看一些開發(fā)場景中的 GPU 消耗、可以適配的部署方案及其預(yù)期效果。

*測試數(shù)據(jù)來源：贊奇科技

*詳細(xì)測試數(shù)據(jù)可掃描底部二維碼登記獲取

• 車內(nèi) AI Agent 

  
  

車內(nèi)的 Agent 應(yīng)用已經(jīng)在如火如荼地開發(fā)進(jìn)程中，場景不限于出行伴侶、旅行專家、用車助手等。很多開發(fā)團(tuán)隊(duì)嘗試借助 DeepSeek、QWQ 的深度推理能力，實(shí)現(xiàn)多情感、多模態(tài)的超擬人交互。隨著 Manus AI Agent 的出現(xiàn)，對于 Agent 的市場關(guān)注度和開發(fā)熱度也有所提升。

在項(xiàng)目前期開發(fā)階段，AI Agent 會(huì)以相對簡單的場景來實(shí)現(xiàn)快速落地，開發(fā)團(tuán)隊(duì)用于模型訓(xùn)練和推理測試的規(guī)模并不是非常龐大的，但依然需要較強(qiáng)的算力來支持不同的算法模型。NVIDIA RTX 5880 Ada 無論在計(jì)算能力還是圖形能力上，都在 NVIDIA RTX 系列 GPU 中首屈一指。NVIDIA RTX 5880 Ada 單卡能力超強(qiáng)，這能夠?yàn)楹罄m(xù)機(jī)器的擴(kuò)展留有較大的空間，畢竟隨著 AI Agent 功能的完善，即使是項(xiàng)目前期預(yù)演階段，算力需求也會(huì)在增長。

由于 AI Agent 具體的應(yīng)用場景、功能需求和數(shù)據(jù)規(guī)模差異比較大，我們需要根據(jù)具體情況來評估所需的算力規(guī)模，并且不斷通過測試來匹配開發(fā)效果預(yù)期。如果需要詳細(xì)評估與提前測試，可掃描下方二維碼登記，后續(xù)會(huì)有技術(shù)人員來跟進(jìn)。