Herunterladen von KI-Modellen

Im Abschnitt „Modelle“ können Sie KI-Modelle für die Text- und Bildeinbettung und die Textgenerierung herunterladen und laden. Es können mehrere Modelle jedes Typs heruntergeladen werden, jedoch kann jeweils nur ein Modell jedes Typs zur Verwendung in den Speicher geladen werden.

Wichtig  Sie müssen zunächst den Modellserver aktivieren, bevor der Abschnitt „Modelle“ verfügbar ist. Bei einigen Modellen müssen Sie ein Hugging Face-Token in den Abschnitt „Modellserver“ einfügen, um das Modell herunterladen zu können. Siehe Aktivieren des KI-Modellservers.

So fügen Sie ein Modell hinzu:

1. Klicken Sie auf das Register KI-Dienste > Modelle.

2. Klicken Sie auf die Schaltfläche Modell hinzufügen.

3. Geben Sie im Dialogfeld „Modell hinzufügen“ die folgenden Informationen ein:

   • Modellname: Der genaue Name des Modells, wie er auf der Hugging Face-Website angegeben ist.

   • Modelltyp: Wählen Sie Texteinbettung, Bildeinbettung oder Textgenerierung.

   • Wählen Sie Ja, wenn Sie die Erlaubnis zum Herunterladen des Modells von Hugging Face erteilen möchten.

4. Klicken Sie auf die Schaltfläche Modell hinzufügen.

So laden Sie ein Modell herunter:

1. Klicken Sie auf das Register KI-Dienste > Modelle.

2. Klicken Sie auf die Schaltfläche Herunterladen neben dem Modell, das Sie herunterladen möchten.

3. Wenn das Modell nicht zum Herunterladen bestätigt wurde, wählen Sie Ja im Dialogfeld „Modell hinzufügen“ und klicken Sie dann auf die Schaltfläche Modell hinzufügen.

Hinweis  Das Herunterladen von Modellen schlägt fehl, wenn ein Hugging Face-Token erforderlich ist und Sie noch kein Token im Abschnitt „Modellserver“ eingegeben haben.

So laden Sie ein Modell:

1. Klicken Sie auf das Register KI-Dienste > Modelle.

2. Klicken Sie auf die Schaltfläche Laden neben dem Modell, das Sie laden möchten.

3. Klicken Sie im Dialogfeld „Modell laden“ auf die Schaltfläche OK.

Hinweis  Modelle können erst geladen werden, nachdem sie heruntergeladen wurden.