最近開始開發一些大型AI項目，之前買的NVIDIA Tesla T4顯存16G已經不太夠用，所以想說升級到全新的NVIDIA RTX 4500 Ada Generation顯示卡。這款顯示卡是基於NVIDIA的最新Ada架構，強化生成式 AI、內容創作和資料科學的全新系統。
首先，從外觀上看，RTX 4500 Ada Generation保持了NVIDIA專業繪圖卡慣有的精緻設計，搭配低調而優雅的黑色渦輪散熱器，不像遊戲卡的花俏設計。
繪圖卡的優勢是支援Quadro Sync II卡（另購），有超高解析度、同步的顯示器的需求非常適合選擇專業繪圖卡。
側邊顯示接孔為4個DP 1.4a ，盒子內也有附DP to HDMI轉接線一條。
這次的供電接頭也做了更新，改為12Pin供電，盒子內也有附雙8Pin轉12Pin，此張顯卡TDP為210W。
接下來測試的是使用TensorFlow訓練影像辨識
訓練YOLOv8的速度也是非常快，我是跑實例分割，epoch 100得到很好的模型。
最後是運行LLM大語言模型的部分，運行Llama 2 7B模型顯存大約會佔用14G上下，生成速度為23.14 tokens/s左右
在生成文字時的顯卡溫度為49度左右，佔用88%耗電量為132w左右。
以上就是本次的測試，之後會在更新更多有關AI的項目，感謝豐康科技的協助讓我快速買到這張GPU，在AI應用上非常強大。
| GPU 架構 | NVIDIA Ada Lovelace |
| CUDA 平行處理核心 | 7680 |
| NVIDIA Tensor 核心 | 240 |
| NVIDIA RT 核心 | 60 |
| 單精度效能1 | 39.6 TFLOPS |
| RT Core 效能1 | 91.6 TFLOPS |
| Tensor 效能1 | 634.0 TFLOPS2 |
| GPU 記憶體 | 24 GB GDDR6 支援 ECC |
| 記憶體介面 | 192-bit |
| 記憶體頻寬 | 432 GB/s |
| 最大功耗 | 210W |
| 繪圖匯流排 | PCI Express 4.0 x16 |
| 顯示連接器 | DP 1.4a (4) |
| 板型 | 4.4” H x 10.5” L 雙寬度 |
| 產品重量 | 1079.7g |
| 散熱方式 | 主動式風扇 |
| NVIDIA® 3D Vision® 與 3D Vision Pro | 支援3-pin mini DIN |
| 同步輸出 | 支援 Quadro Sync II |
| NVLink 互連技術 | 不支援 |
| 外部電源連接器 | 1x 16-pin CEM5 PCIe |
| NVENC | NVDEC | 2x | 2x (+AV1 編碼與解碼) |
