Un modulo del kernel sblocca i Tensor Core delle RTX 30

• GPU Unlock, progetto open source di Zagitta su GitHub, toglie il freno che NVIDIA mette alle schede consumer Ampere (RTX 30) per distinguerle da quelle professionali: le istruzioni FP16/BF16 con accumulo FP32 sui Tensor Core girano alla velocità delle schede pro
• Su una RTX 3090 Ti a 450 W, nei calcoli tra matrici: BF16 da 87,5 a 157,4 TFLOPS (+80%), FP16 +35%, TF32 +94%
• Nell'uso reale: fino a +59% in ComfyUI (immagini in BF16, prova di un utente su Reddit) e +33% nell'elaborazione del prompt con vLLM su una RTX 3090. La generazione dei token resta uguale perché dipende dalla banda della memoria, e nei giochi non ci sono vantaggi dimostrati
• È un modulo del kernel Linux che parte all'avvio, prima del driver NVIDIA: niente driver modificati, niente flash del VBIOS e nessuna patch da rifare a ogni nuovo driver. Supporta i chip GA102, GA103, GA104 e GA106; per Windows c'è un port sperimentale fatto da altri
• È ancora sperimentale: su almeno una scheda lo sblocco è riuscito ma senza guadagni

Quellen

• GitHub: gpu-unlock
• Wccftech: benchmark e prove degli utenti