"vscode:/vscode.git/clone" did not exist on "404530d06650a3f871b8a7af32886d904c3c6deb"
Unverified Commit 0b45cc71 authored by Weihao XUAN's avatar Weihao XUAN Committed by GitHub
Browse files

Update MMLU-ProX task (#3174)

* update MMLU_ProX

* update MMLU_ProX

* cleanup code by pre-commit
parent 05b37f20
dataset_path: li-lab/MMLU-ProX-Lite
dataset_name: hu
test_split: test
fewshot_split: validation
fewshot_config:
sampler: first_n
doc_to_text: !function utils.fewshot_to_text
doc_to_target: ""
output_type: generate_until
doc_to_text: !function utils.doc_to_text
doc_to_target: answer
filter_list:
- name: "custom-extract"
filter:
- function: "regex"
regex_pattern: 'A válasz \(?([ABCDEFGHIJ])\)?'
- function: "take_first"
generation_kwargs:
until:
- "</s>"
- "Q:"
- "Kérdés:"
- "<|im_end|>"
do_sample: false
temperature: 0.0
max_gen_toks: 2048
num_fewshot: 5
metric_list:
- metric: exact_match
aggregation: mean
higher_is_better: true
ignore_case: true
ignore_punctuation: true
metadata:
version: 0.0
dataset_path: li-lab/MMLU-ProX
dataset_name: hu
test_split: test
fewshot_split: validation
fewshot_config:
sampler: first_n
doc_to_text: !function utils.fewshot_to_text
doc_to_target: ""
output_type: generate_until
doc_to_text: !function utils.doc_to_text
doc_to_target: answer
filter_list:
- name: "custom-extract"
filter:
- function: "regex"
regex_pattern: 'A válasz \(?([ABCDEFGHIJ])\)?'
- function: "take_first"
generation_kwargs:
until:
- "</s>"
- "Q:"
- "Kérdés:"
- "<|im_end|>"
do_sample: false
temperature: 0.0
max_gen_toks: 2048
num_fewshot: 5
metric_list:
- metric: exact_match
aggregation: mean
higher_is_better: true
ignore_case: true
ignore_punctuation: true
metadata:
version: 0.0
group: mmlu_prox_hu
task:
- mmlu_prox_hu_biology
- mmlu_prox_hu_business
- mmlu_prox_hu_chemistry
- mmlu_prox_hu_computer_science
- mmlu_prox_hu_economics
- mmlu_prox_hu_engineering
- mmlu_prox_hu_health
- mmlu_prox_hu_history
- mmlu_prox_hu_law
- mmlu_prox_hu_math
- mmlu_prox_hu_other
- mmlu_prox_hu_philosophy
- mmlu_prox_hu_physics
- mmlu_prox_hu_psychology
aggregate_metric_list:
- aggregation: mean
metric: exact_match
weight_by_size: true
filter_list: custom-extract
metadata:
version: 0.0
group: mmlu_prox_lite_hu
task:
- mmlu_prox_lite_hu_biology
- mmlu_prox_lite_hu_business
- mmlu_prox_lite_hu_chemistry
- mmlu_prox_lite_hu_computer_science
- mmlu_prox_lite_hu_economics
- mmlu_prox_lite_hu_engineering
- mmlu_prox_lite_hu_health
- mmlu_prox_lite_hu_history
- mmlu_prox_lite_hu_law
- mmlu_prox_lite_hu_math
- mmlu_prox_lite_hu_other
- mmlu_prox_lite_hu_philosophy
- mmlu_prox_lite_hu_physics
- mmlu_prox_lite_hu_psychology
aggregate_metric_list:
- aggregation: mean
metric: exact_match
weight_by_size: true
filter_list: custom-extract
metadata:
version: 0.0
description: 'Itt van egy feleletválasztós kérdés a(z) biológia témában (választ is
tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_biology
task_alias: biology
process_docs: !function utils.process_biology
description: 'Itt van egy feleletválasztós kérdés a(z) üzlet témában (választ is tartalmazza).
Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz (X)" kifejezéssel
fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_business
task_alias: business
process_docs: !function utils.process_business
description: 'Itt van egy feleletválasztós kérdés a(z) kémia témában (választ is tartalmazza).
Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz (X)" kifejezéssel
fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_chemistry
task_alias: chemistry
process_docs: !function utils.process_chemistry
description: 'Itt van egy feleletválasztós kérdés a(z) informatika témában (választ
is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_computer_science
task_alias: computer_science
process_docs: !function utils.process_computer_science
description: 'Itt van egy feleletválasztós kérdés a(z) közgazdaságtan témában (választ
is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_economics
task_alias: economics
process_docs: !function utils.process_economics
description: 'Itt van egy feleletválasztós kérdés a(z) mérnöki tudományok témában
(választ is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z)
"A válasz (X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_engineering
task_alias: engineering
process_docs: !function utils.process_engineering
description: 'Itt van egy feleletválasztós kérdés a(z) egészség témában (választ is
tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_health
task_alias: health
process_docs: !function utils.process_health
description: 'Itt van egy feleletválasztós kérdés a(z) történelem témában (választ
is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_history
task_alias: history
process_docs: !function utils.process_history
description: 'Itt van egy feleletválasztós kérdés a(z) jog témában (választ is tartalmazza).
Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz (X)" kifejezéssel
fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_law
task_alias: law
process_docs: !function utils.process_law
description: 'Itt van egy feleletválasztós kérdés a(z) matematika témában (választ
is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_math
task_alias: math
process_docs: !function utils.process_math
description: 'Itt van egy feleletválasztós kérdés a(z) egyéb témában (választ is tartalmazza).
Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz (X)" kifejezéssel
fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_other
task_alias: other
process_docs: !function utils.process_other
description: 'Itt van egy feleletválasztós kérdés a(z) filozófia témában (választ
is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_philosophy
task_alias: philosophy
process_docs: !function utils.process_philosophy
description: 'Itt van egy feleletválasztós kérdés a(z) fizika témában (választ is
tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_physics
task_alias: physics
process_docs: !function utils.process_physics
description: 'Itt van egy feleletválasztós kérdés a(z) pszichológia témában (választ
is tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_template_yaml
task: mmlu_prox_hu_psychology
task_alias: psychology
process_docs: !function utils.process_psychology
description: 'Itt van egy feleletválasztós kérdés a(z) biológia témában (választ is
tartalmazza). Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz
(X)" kifejezéssel fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_lite_template_yaml
task: mmlu_prox_lite_hu_biology
task_alias: biology
process_docs: !function utils.process_biology
description: 'Itt van egy feleletválasztós kérdés a(z) üzlet témában (választ is tartalmazza).
Kérjük, gondolkodjon lépésről lépésre, és a válaszát a(z) "A válasz (X)" kifejezéssel
fejezze be, ahol X a helyes válasz betűjele.
'
include: _hu_lite_template_yaml
task: mmlu_prox_lite_hu_business
task_alias: business
process_docs: !function utils.process_business
Markdown is supported
0% or .
You are about to add 0 people to the discussion. Proceed with caution.
Finish editing this message first!
Please register or to comment