修改GPT2模型的最大shape

Python/NLP/GPT2/gpt2.py

@@ -9,7 +9,7 @@ vocab_file = os.path.join('../../../Resource/Models/NLP/GPT2', 'vocab_shici.txt'
 tokenizer = BertTokenizerFast(vocab_file, sep_token="[SEP]", pad_token="[PAD]", cls_token="[CLS]")
 
 # 设置最大输入shape
-maxInput={"input":[1,1024]}
+maxInput={"input":[1,1000]}
 
 # 加载模型
 print("INFO: Parsing and compiling the model")

README.md

@@ -116,7 +116,7 @@ export MIGRAPHX_DYNAMIC_SHAPE=1
 
 如下所示，采用交互式界面，通过输入开头诗词，GPT2模型可以推理出后续的诗句。
 
-<img src="./Doc/Images/GPT_04.png" style="zoom:90%;" align=middle>
+<img src="./Doc/Images/GPT_04.png" style="zoom:100%;" align=middle>
 
 ## 历史版本
 

Src/NLP/GPT2/GPT2.cpp

@@ -46,7 +46,7 @@ ErrorCode GPT2::Initialize(InitializationParameterOfNLP initParamOfNLPGPT2)
 
     // 设置最大输入shape
     migraphx::onnx_options onnx_options;
-    onnx_options.map_input_dims["input"]={1,1024};
+    onnx_options.map_input_dims["input"]={1,1000};
 
     // 加载模型
     if(Exists(modelPath)==false)
@@ -70,12 +70,7 @@ ErrorCode GPT2::Initialize(InitializationParameterOfNLP initParamOfNLPGPT2)
     options.device_id=0;                          // 设置GPU设备，默认为0号设备
     options.offload_copy=true;                    // 设置offload_copy
     net.compile(gpuTarget,options);
-    LOG_INFO(logFile,"succeed to compile model: %s\n",GetFileName(modelPath).c_str());
-
-    // Run once by itself
-    migraphx::parameter_map inputData;
-    inputData[inputName]=migraphx::generate_argument(inputShape);
-    net.eval(inputData);                          
+    LOG_INFO(logFile,"succeed to compile model: %s\n",GetFileName(modelPath).c_str());                       
 
     return SUCCESS;
 }