最近開始開發一些大型AI項目，之前買的NVIDIA Tesla T4顯存16G已經不太夠用，所以想說升級到全新的NVIDIA RTX 4500 Ada Generation顯示卡。這款顯示卡是基於NVIDIA的最新Ada架構，強化生成式 AI、內容創作和資料科學的全新系統。

首先，從外觀上看，RTX 4500 Ada Generation保持了NVIDIA專業繪圖卡慣有的精緻設計，搭配低調而優雅的黑色渦輪散熱器，不像遊戲卡的花俏設計。

繪圖卡的優勢是支援Quadro Sync II卡（另購），有超高解析度、同步的顯示器的需求非常適合選擇專業繪圖卡。

側邊顯示接孔為4個DP 1.4a ，盒子內也有附DP to HDMI轉接線一條。

這次的供電接頭也做了更新，改為12Pin供電，盒子內也有附雙8Pin轉12Pin，此張顯卡TDP為210W。

效能測試

首先先來跑個Geekbench 6，我是將此顯卡安裝在ESXI伺服器上在直通給Windows Server，裸機分數可能更高。

最後是運行LLM大語言模型的部分，運行Llama 2 7B模型顯存大約會佔用14G上下，生成速度為23.14 tokens/s左右

在生成文字時的顯卡溫度為49度左右，佔用88%耗電量為132w左右。