skip fp8 fusion

vllm/compilation/fusion.py

@@ -58,11 +58,11 @@ kFp8DynamicTensorSym = QuantKey(FP8_DTYPE, False, True, True)
 kFp8DynamicTokenSym = QuantKey(FP8_DTYPE, False, False, True)
 
 QUANT_OPS: Dict[QuantKey, OpOverload] = {
-    kFp8StaticTensorSym: torch.ops._C.static_scaled_fp8_quant.default,  # noqa
-    kFp8DynamicTensorSym:
-    torch.ops._C.dynamic_scaled_fp8_quant.default,  # noqa
-    kFp8DynamicTokenSym:
-    torch.ops._C.dynamic_per_token_scaled_fp8_quant.default,  # noqa
+    # kFp8StaticTensorSym: torch.ops._C.static_scaled_fp8_quant.default,  # noqa
+    # kFp8DynamicTensorSym:
+    # torch.ops._C.dynamic_scaled_fp8_quant.default,  # noqa
+    # kFp8DynamicTokenSym:
+    # torch.ops._C.dynamic_per_token_scaled_fp8_quant.default,  # noqa
 }
 
 
@@ -81,14 +81,14 @@ class FusedRMSQuantKey(NamedTuple):
 
 
 FUSED_OPS: Dict[FusedRMSQuantKey, OpOverload] = {
-    FusedRMSQuantKey(kFp8StaticTensorSym, False):
-    torch.ops._C.rms_norm_static_fp8_quant.default,  # noqa
-    FusedRMSQuantKey(kFp8StaticTensorSym, True):
-    torch.ops._C.fused_add_rms_norm_static_fp8_quant.default,  # noqa
-    FusedRMSQuantKey(kFp8DynamicTokenSym, False):
-    torch.ops._C.rms_norm_dynamic_per_token_quant.default,  # noqa
-    FusedRMSQuantKey(kFp8DynamicTokenSym, True):
-    torch.ops._C.rms_norm_dynamic_per_token_quant.default,  # noqa
+    # FusedRMSQuantKey(kFp8StaticTensorSym, False):
+    # torch.ops._C.rms_norm_static_fp8_quant.default,  # noqa
+    # FusedRMSQuantKey(kFp8StaticTensorSym, True):
+    # torch.ops._C.fused_add_rms_norm_static_fp8_quant.default,  # noqa
+    # FusedRMSQuantKey(kFp8DynamicTokenSym, False):
+    # torch.ops._C.rms_norm_dynamic_per_token_quant.default,  # noqa
+    # FusedRMSQuantKey(kFp8DynamicTokenSym, True):
+    # torch.ops._C.rms_norm_dynamic_per_token_quant.default,  # noqa
 }