Yn y digwyddiad SIGGRAPH 2023 diweddar, cymerodd NVIDIA gam sylweddol trwy ddatgelu eu GPU NVIDIAL40S arloesol, ochr yn ochr ag integreiddio L40S o fewn gweinydd NVIDIA OVX. Yn seiliedig ar y data sydd ar gael, mae'r cynigion hyn wedi'u teilwra'n fanwl ar gyfer cymwysiadau amrywiol sy'n cwmpasu hyfforddiant a chasgliad model AI, dylunio a delweddu 3D, prosesu fideo, yn ogystal â digideiddio diwydiannol. Mae'r amcan yn glir: cryfhau galluoedd AI, graffeg, a phrosesu fideo mentrau, sefydliadau, a chanolfannau data i fynd i'r afael yn effeithiol â'r gofynion cyfrifiannol cynyddol.
Yn ganolog i weinydd L40S GPU ac OVX yw eu rôl wrth wella camau hyfforddi a chasgliad modelau AI cynhyrchiol, gan ddangos y potensial i ehangu effeithlonrwydd y modelau hyn.
Mae gwybodaeth a ddatgelwyd yn agored yn nodi bod y cerdyn cyflymu GPU L40S ffres, sy'n olynydd i'r gyfres L40, yn deillio o NVIDIA. Mae'r GPU hwn, sydd wedi'i saernïo ar bensaernïaeth Ada Lovelace, yn ymgorffori'r injan drawsnewid Tensor Core o'r bedwaredd genhedlaeth ac FP8, gyda chyflymder cyfrifiannol hyd at 1.45 PFlops. Gan ychwanegu ymhellach at ei allu, mae gan GPU L40S gynulliad o greiddiau 18,176 CUDA, gan ddarparu gwelliant trawiadol bron i bum gwaith mewn perfformiad pwynt arnofio manwl-gywir (FP32) (91.6 TFlops) o'i gymharu â'r NVIDIA A100 GPU. Yn wahanol i'r GPUs A100 a H100, mae'r L40S yn ildio cefnogaeth NVLink, gan ddewis cof GDDR6 ECC yn lle hynny, gan ei leoli fel datrysiad mwy medrus ar gyfer senarios cyfrifiadura ymyl.
Rhannodd Liu Jingzhao, dadansoddwr Shanghai Securities, ei fewnwelediadau:
- Oherwydd cyfyngiadau rhyngwyneb PCIe Gen 4, efallai y bydd y L40S yn gweld ei gymhwysiad mewn cyfrifiadura rhwydwaith GPU yn gymharol gyfyngedig, a allai gael dylanwad ymylol ar y galw am fodiwlau optegol 800G parhaus.
- O'i gymharu â'r A100, mae'r L40S yn arddangos manteision effeithlonrwydd cyfrifiadol o fewn cyd-destunau model AI cynhyrchiol penodol, ynghyd â chost-effeithiolrwydd uwch.
- Gan ddefnyddio technolegau aeddfed fel GDDR6, mae'r L40S yn gwarantu sefydlogrwydd yn y cyflenwad i fyny'r afon.
- Gallai'r manteision a amlygwyd a briodolir i'r L40S ysgogi tueddiad caffael estynedig ymhlith darparwyr cwmwl i lawr yr afon, gan arwain at bosibiliadau twf newydd ar gyfer modiwlau optegol cyflymder canolig i uchel, yn benodol y cynrychioliadau 200G a 400G.
Mae cyflwyniad NVIDIA o'r GPU L40S yn barod i ehangu galluoedd cyfrifiadurol AI, gan gataleiddio mwy o weithgareddau caffael ymhlith darparwyr cwmwl i lawr yr afon o bosibl. Mae'n bosibl y gallai'r momentwm hwn baratoi'r llwybr ar gyfer galw uwch o fewn y farchnad modiwlau optegol cyflymder canolig i uchel.