SorboBot / README.md
ferhataddour's picture
Update README.md
39c2e97
|
raw
history blame
2.17 kB
metadata
title: TEST2
emoji: 🦀
colorFrom: yellow
colorTo: blue
sdk: streamlit
sdk_version: 1.21.0
app_file: app.py
pinned: false

Check out the configuration reference at https://huggingface.co/docs/hub/spaces-config-reference

Malheureusement, faute de temps, je n'ai pas pu terminer le fine-tuning du modèle GPT-2 et de BERT à temps, car ce dernier prenait plus de 130 heures de calcul.

Vous pouvez relancer le fine-tuning du GPT-2 en vous rendant sur le dépôt du projet et en exécutant la commande python3 GPT2_Lorafinetune.py.

Une fois le processus de fine-tuning terminé, vous pouvez créer un modèle et le déployer sur HuggingFace pour une utilisation ultérieure. Pour ce faire :

  • Cliquez sur l'icône de votre profil sur HuggingFace -> New model (choisissez un nom / public ou privé) -> create model. Une fois le modèle créé, allez dans "Files" et ajoutez les fichiers nécessaires.

Vous pouvez vous référer à ce tutoriel : https://huggingface.co/transformers/v4.0.1/model_sharing.html

Assurez-vous qu'il n'y a pas de fichiers inutiles dans le répertoire que vous allez charger. Il doit contenir uniquement :

  • Un fichier config.json, qui enregistre la configuration de votre modèle.

  • Un fichier pytorch_model.bin, qui est la checkpoint PyTorch (sauf si vous ne pouvez pas l'avoir pour une raison quelconque).

  • Un fichier tf_model.h5, qui est la checkpoint TensorFlow (sauf si vous ne pouvez pas l'avoir pour une raison quelconque).

  • Un fichier special_tokens_map.json, qui fait partie de l'enregistrement de votre tokenizer.

  • Un fichier tokenizer_config.json, qui fait partie de l'enregistrement de votre tokenizer.

  • Des fichiers nommés vocab.json, vocab.txt, merges.txt ou similaires, qui contiennent le vocabulaire de votre tokenizer, faisant partie de l'enregistrement de votre tokenizer.

  • Éventuellement un fichier added_tokens.json, qui fait partie de l'enregistrement de votre tokenizer.

Une fois que vous avez créé et déployé votre modèle sur HuggingFace, vous devez remplacer le modèle dans app.py par le chemin vers votre modèle.

Référence : https://huggingface.co/learn/nlp-course/chapter4/2?fw=pt