ํ์ต๋ SKT-AI/KoGPT2 ๋ชจ๋ธ์ ๊ธฐ๋ฐ์ผ๋ก ์ง๋ฌธ ์์ฑ QG(Question Generation) ๋ชจ๋ธ์ ๋ง๋ค์์ต๋๋ค. QG ๋ชจ๋ธ์ ๋ง๋ค๊ธฐ ์ํด Question Answering ๋ฐ์ดํฐ์ ์ธ KorQuAD v1.0์ ์ฌ์ฉํ์์ต๋๋ค.
ํ์ต/ํ๊ฐ/์์ฑ์ ์ํด์ KorQuAD v1.0 ๋ฐ์ดํฐ์ ์ ๋ค์ด ๋ฐ์ต๋๋ค.
make prepare-dataset๋ค์ ์ปค๋งจ๋๋ฅผ ์ด์ฉํด์ ํ์ต์ ์ํํ ์ ์์ต๋๋ค.
python -m scripts.run_fine_tune --train-batch-size 16 --eval-batch-size 16 --epochs 5MODEL_PATH = "artifacts/gpt2_xxxxxxxx/gpt2_step_x.pth"
python -m scripts.run_evaluation --model-path $MODEL_PATH --batch-size 50
Question Generation POC ์คํ๋ ๋ ์ํธ: KorQuAD v1.0 dev ์ ์ ๋ํด์ decoding ํ ๊ฒฐ๊ณผ ์ ๋๋ค.
beam-search ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก decoding ๋์์ผ๋ฉฐ, beam_size ๋ 5๋ฅผ ์ฌ์ฉํ์์ต๋๋ค.
MODEL_PATH = "artifacts/gpt2_xxxxxxxx/gpt2_step_x.pth"
python -m scripts.run_generate --model-path $MODEL_PATH --output-path decoded.tsvby Junseong Kim (Scatter Lab, Pingpong AI) codertimo@gmail.com