7th place solution

まずは、コンペを開催してくださった皆様&コンペに参加してくださった皆様ありがとうございました。

Nishikaのディスカッションの解法もご参考ください。 https://www.nishika.com/competitions/33/topics/395

学習方法

• exp/bokete/ディレクトリにコンペデータを配置する
• 以下のようなコマンドで学習を実行する

cd exp/ex{ID}
python ex{ID}.py

最終的なsubmissionファイルの作成方法

• ex55, ex59, ex61のensemble.ipynbをそれぞれ実行する

Summary

最終的に暫定Best（Best Public）とBest CVのsubを選択しました。

解法の概要は以下です。

解法ではBest CVのsubを解説します。（Best PublicはBest CVと1つ前のBest Publicのサブを平均したものになっているため）

• 11個のモデルをアンサンブル
• Best CVに対して、nelder-meadでアンサンブルの重みを最適化
• 予測値を調整する後処理を適用

Cross Validatioin

is_laughのラベルに対して、StratifiedKFoldを使用し7foldsでCVを計算していました。

Model & Weight

Tutorialで公開されていたnotebookを改良して使用していました。 notebookと同じMMBTのモデルがベースになっています。Tutorialのご共有ありがとうございました。 https://www.nishika.com/competitions/33/topics/355

学習済みモデルはtorchvision or Huggingfaceのものをそれぞれ表しています。

No.11のモデルについては、テストデータに対して擬似ラベリング(soft label)したものを学習データに含めて学習しました。

CV(ensemble): 0.632142

Post process

アンサンブルの予測値をnelder-meadで求めた係数をかけることで調整しました。 閾値の間隔は適当に決定しています。

• preds < 0.05 → preds * 0.9858
• 0.05 <= preds < 0.1 → preds * 0.9817
• 0.1 <= preds < 0.15 → preds * 0.9805
• 0.15 <= preds < 0.2 → preds * 0.9894
• 0.2 <= preds < 0.25 → preds * 0.9386
• 0.25 <= preds < 0.3 → preds * 0.9151
• 0.3 <= preds < 0.35 → preds * 1.0362
• 0.35 <= preds < 0.4 → preds * 1.0127
• 0.4 <= preds < 0.45 → preds * 1.0132
• 0.45 <= preds < 0.5 → preds * 0.9979
• 0.5 <= preds < 0.55 → preds * 1.0238
• 0.55 <= preds < 0.6 → preds * 1.0171
• 0.6 <= preds < 0.65 → preds * 1.0121
• 0.65 <= preds < 0.7 → preds * 1.0047
• 0.7 <= preds < 0.75 → preds * 1.0076
• 0.75 <= preds < 0.8 → preds * 1.0087
• 0.8 <= preds < 0.85 → preds * 1.0059
• 0.85 <= preds < 0.9 → preds * 1.0429
• 0.9 <= preds < 0.95 → preds * 1.0716
• 0.95 <= preds < 1.0 → preds * 1.0124

CV(ensemble+post process): 0.632142 → 0.631605