TypeError: cannot unpack non-iterable ResponseType object
使用dtk24.04.1的lmdeploy=0.2.6执行benchmark中的代码时,报错 TypeError: cannot unpack non-iterable ResponseType object 原因时lmdeploy版本的问题,使用lmdeploy0.1.0的可以正常运行,需要去官网替换0.2.6版本的profile_generation.py https://github.com/InternLM/lmdeploy/blob/v0.2.6/benchmark/profile_generation.py