深入探討 NLP 模型的訓練技巧和應用 [NLP-Kickoff]

  1. 針對模型進行評估
    1. https://colab.research.google.com/drive/1WnYVguy32aMW__omZrqZciUiSSEI_a0B?usp=sharing
  2. 了解 NLP 模型在實際應用中的挑戰,例如過擬合、模型效率等
    1. loss代表甚麼
    2. overfit/ underfit
    3. F1/ precision/ recall
  3. 學習 NLP 模型的常用技巧,例如超參數調整、模型融合等
    1. learning-rate
    2. batch_size
    3. num_train_epochs
    4. weight_decay
  4. 如何上傳模型到huggingface
  5. ref
    1. https://github.com/google-research/tuning_playbook?fbclid=IwAR0dRfk5hiw80kroM19mlVlm_H3df4sw4nsKhYoHFEntYC8PkRxQnR7V61o#choosing-the-batch-size

Add a Comment

發佈留言必須填寫的電子郵件地址不會公開。