Karty graficzne NVIDIA GeForce RTX 3000 Ampere z modyfikacją GPU Unlock oferują wyraźnie wyższą wydajność w AI - PurePC
Nowy projekt open-source GPU Unlock pozwala niemal podwoić moc obliczeniową rdzeni Tensor w kartach graficznych NVIDIA GeForce RTX 3000 Ampere w zadaniach AI.
Projekt GPU Unlock, opublikowany na GitHubie przez użytkownika o ksywce Zagitta, pozwala ominąć sztuczne ograniczenia wydajności w układach graficznych NVIDIA GeForce RTX innych niż Blackwell. Modyfikacja oferuje wyraźnie wyższą wydajność w zadaniach AI, niemal podwajając moc obliczeniową rdzenia Tensor bez konieczności wykorzystywania nieoficjalnych wersji vBIOS lub sterowników.
Wzrost wydajności
Na przykładzie karty GeForce RTX 3090 Ti z limitem mocy 450 W, teoretyczna moc obliczeniowa dla FP16 zwiększa się z 87,46 TFLOPS do 118,39 TFLOPS. Dla BF32 wzrost jest jeszcze większy - z 87,50 TFLOPS do 157,41 TFLOPS. W przypadku obliczeń AI w precyzji TF32 wydajność rośnie z 42,58 TFLOPS do 82,61 TFLOPS.
Cały proces wykorzystuje wcześniejsze badania dotyczące odblokowania pełnej mocy obliczeniowej w układach NVIDII z serii CMP.
Działanie modyfikacji
GPU Unlock wykorzystuje moduł jądra Linuksa uruchamiany przed sterownikiem NVIDIA. Modyfikacja zmienia selektory prędkości sprzętowej, wykonuje reset na poziomie funkcji FLR, a następnie umożliwia standardową inicjalizację pracy GPU. Takie podejście eliminuje konieczność aktualizacji sterowników przy każdej nowej wersji.
Pierwsi użytkownicy potwierdzili działanie modyfikacji w dużych modelach językowych i środowisku ComfyUI, obserwując znaczący wzrost wydajności w zadaniach opartych o instrukcje FP16, BF16 i TF32. Dla precyzji INT8 różnice są na granicy błędu pomiarowego.
Powiązane
