Création de modèles peaufinés d'IA

La section Modèles peaufinés permet de créer des modèles réglés avec précision à partir de modèles téléchargés qui peuvent ensuite être chargés et utilisés pour la génération de texte. Plusieurs modèles peuvent être créés, mais une seule génération de texte peut être chargée en mémoire. Cette fonctionnalité n'est disponible que sur les ordinateurs Mac dotés d'une puce Apple.

Important  Vous devez d'abord activer le serveur de modèles avant que la section Modèles peaufinés ne soit disponible. Certains modèles exigent que vous incluiez un jeton Hugging Face dans la section Serveur de modèle pour télécharger le modèle. Consultez la section Activer le serveur de modèle d'IA.

Pour créer un modèle peaufiné :

  1. Cliquez sur l'onglet Services d'IA > Modèles peaufinés.

  2. Cliquez sur le bouton Créer un modèle peaufiné.

  3. Dans la boîte de dialogue Créer un modèle peaufiné, cliquez sur le bouton Parcourir..., puis recherchez le fichier JSON contenant les données d'entraînement.

    Chaque ligne du fichier JSON de données d'entraînement doit contenir un exemple d'entrée utilisateur et la réponse valide à cette entrée. Par exemple :

    Copier 
    {"messages":[{"content":"System prompt","role":"system"},{"content":"Example user data","role":"user"},{"content":"Example system output after processing user data"}]}
    {"messages":[{"content":"sys.123","role":"system"},{"content":"usr.234","role":"user"},{"content":"ast.345","role":"assistant"}]}
    {"messages":[{"content":"sys.456","role":"system"},{"content":"usr.567","role":"user"},{"content":"ast.678","role":"assistant"}]}

  4. Dans la boîte de dialogue Créer un modèle peaufiné, saisissez les informations suivantes :

    • Nom du modèle peaufiné : le nom du modèle que vous souhaitez utiliser pour les connexions client. FileMaker Server ajoutera le préfixe « fm-mlx- » au nom spécifié de sorte que le nom réel du modèle peaufiné sera « fm-mlx-<nom_spécifié> ».

    • Modèle de base : permet de sélectionner le modèle que vous souhaitez peaufiner.

      Remarque  Il doit s'agir d'un modèle de génération de texte déjà téléchargé et accepté.

    • Nombre d'itérations : le nombre d'itérations d'entraînement. Un nombre plus élevé d'itérations prend plus de mémoire et induit un traitement plus long.

    • Couches LoRA : le nombre de couches d'adaptation de bas rang (LoRA). Plus ce nombre est élevé, plus vous avez besoin de mémoire et de temps.

    • Taille du lot : le nombre d'exemples d'entraînement avec lesquels il est possible d'entraîner le modèle de façon simultanée. Plus cette taille est importante, plus vous avez besoin de mémoire, l'entraînement peut toutefois se terminer plus rapidement.

  5. Cliquez sur le bouton Créer un modèle.