KO-Platypus (Ko-Platy🥮)

Introduction

• 최근 llama-2 등장으로 LLM 분야가 다시 활발해지는 가운데, Open-Platypus 데이터셋 활용하여 llama-2를 fine-tuning한 Platpyus 모델이 등장하였습니다!🤗

• 하지만 Open-Platypus 데이터셋은 대부분 영어로만 구성되어 있기 때문에 한국어에 접목하기에는 한계가 있었습니다.

• 이것을 동기부여로 삼아서, 한국어 기반의 Open-Platypus 데이터셋을 제작한 후, Ko-Platypus를 만들기로 계획하였습니다!🙂🙂

• Open-Platypus를 DeepL Pro API를 활용하여 번역을 진행한 후, 약 25,000개의 데이터를 수작업으로 체크하였고 약 144시간 정도 소요하여서 번역 오류를 대부분 고쳤습니다😭😭

• 이렇게 만들어진 🥮KOpen-Platypus🥮 데이터셋을 활용하여 beomi님의 llama-2-ko 모델을 fine-tuning 하였습니다.

• 결과적으로 Ko-Platypus2-7B-EX 모델을 만들게 되었고✌, 성능평가를 위해 Polyglot-Ko와 llama-2-ko 모델과 비교를 진행했습니다.🙂🙃

Model BenchMark(KO-LLM; old version)

Model Description

KO-Platypus2-7B-ex

• llama-2-ko-7B를 fine-tuning한 모델
• 🥮KO-Platypus2-7B-ex🥮 모델은 zero-shot에서 llama-2-ko보다 높은 성능을 보여주었고, BoolQ의 경우에는 Polyglot-Ko보다 높은 성능을 보여주었습니다.✌✌

News

• 2023.10.14

  • Llama2-13B를 KOR-Orca-Platypus 데이터셋을 활용하여 fine-tuning한 🐳KoR-Orca-Platypus-13B Model 제작 완료.
  • HuggingFace KO-LLM 리더보드 1등 달성.

• 2023.10.08

  • CoT 방식으로 re-fine-tuning한 KoT-platypus-13B🤗 Model 제작 완료.
  • HuggingFace KO-LLM 4등(1등) 달성.

• 2023.10.05

  • ko-en-llama2-13b를 기반으로 한 Ko-platypus2-13B🤗 Model 제작 완료.
  • HuggingFace KO-LLM 5등(1등) 달성.

• 2023.10.04

  • CoT방식으로 Poly-platypus-ko를 fine-tuning한 CoTy-platypus-ko-12.8b🤗 Model 제작 완료.
  • HuggingFace KO-LLM 5등(2등) 달성.

• 2023.10.02

  • Polyglot-ko를 기반으로 하여 Poly-platypus-ko-12.8b🤗 Model 제작 완료.
  • HuggingFace KO-LLM 리더보드 4등달성.

• 2023.10.01

  • CoT방식으로 re-fine-tuning한 KoT-platypus2-7B🤗 Model 제작 완료.
  • HuggingFace KO-LLM 리더보드 5등(1등) 달성.

• 2023.09.29

  • Ko-platypus2-7B🤗 Model KO-LLM leaderboard🤗에서 2등(1등) 달성.

Quick start

### KO-Platy
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

repo = "kyujinpy/KO-Platypus2-7B-ex"
ko_platypus = AutoModelForCausalLM.from_pretrained(
        repo,
        return_dict=True,
        torch_dtype=torch.float16,
        device_map='auto'
)
ko_platypus_tokenizer = AutoTokenizer.from_pretrained(repo)

Training

1. First download the origina repo Platypus
2. 🥮Run the file🥮: Training Code

*Note: You must access the original llama-2.
**Note: You must generate your huggingface token. And after login, you can implement this colab.
***Note: If you run Platypus in colab, you must use A100 GPU.

Datasets

from datasets import load_dataset

# dataset testing
dataset = load_dataset("kyujinpy/KOpen-platypus")

KOpen-Platypus🥮:

I think that KOpen-Platypus is higher quality korean-translation dataset than just using DeepL. Because I almost check translation-error.

Procedure

• First, I use DeepL Pro API and Selenium Code.
• Second, checking all data. If there are some errors, I modify translation myself. *If you want more detail, see below Post-procesing.

Post-processing

I focus about 5 type errors.

1. Result of just code
2. Result of code+explanation
3. Float missing
4. Math symbol
5. Not translation or cut off translation result

*Note: If you want to see more detail example, visit huggingface or Ko-Platypus-blog.

Performance(Old_version)

When I evaluated Ko-Platy, I used this repo.
And, implement below code.

# In colab,
!python main.py \
    --model gpt2 \ 
    --model_args pretrained=..your_model_name.. \
    --tasks kobest_hellaswag,kobest_copa,kobest_boolq,kobest_sentineg \
    --device cuda:0 \
    --num_fewshot 0 # 5, 10, 25, ...

COPA (F1)

HellaSwag (F1)

BoolQ (F1)

SentiNeg (F1)

References

Kopen-Platypus🥮
KO-Platypus2-7B-ex🥮
KO-Platypus2-13B🥮
Platypus
llama-2
llama-2-ko
ko-en-llama2
ko-lm-evaluation-harness

TODO

• Make KO-Platypus-7B-EX
• Share huggingface repo
• Share evaluation results
• Share sample code

Additional info about image

I made the image, inspired by Platypus-LLM.
I used Playground AI, then applying prompt engineering. (For example, img2img, guidance etc...)

When I made Ko-Platy image, I use prompt like below.

Prompt: 'Platypus wears a pretty traditional Korean clothes with 한국어 책'
Guidance: 10
Quality: 70~100
img2img: 'Platypus.png'
Model: SDXL