====== LibreChat mit ChatGPT ====== ===== Probebetrieb ===== Dieser Dienst befindet sich noch in der Erprobung. Verfügbarkeit und Zuverlässigkeit können noch nicht garantiert werden. Bitte melden Sie technische Fehler an [[support@rz.tu-clausthal.de]]. ===== Beschreibung ===== LibreChat ermöglicht die Integration unterschiedlicher Anbieter von [[https://de.wikipedia.org/wiki/Large_Language_Model | Large Language Modellen]] (LLMs). Aktuell stehen die ChatGPT-Modelle gpt-4, gpt-4-turbo und gpt-3.5-turbo von OpenAI allen Studierende und Mitarbeitende der TU Clausthal zur Verfügung. Der TU entstehen damit jedoch nutzungsabhängige Kosten, die bis auf weiteres aus einem zentralen Budget getragen werden. Wir weisen darauf hin, dass LibreChat ein Frontend (Oberfläche) für ChatGPT ist! Alle Anfragen werden direkt über die von OpenAI bereitgestellte API weitergeleitet. Es findet eine Drittstaatenübermittlung ins Nicht-EU-Ausland statt. Es besteht jedoch ein Datenverabeitungsvertrag mit OpenAI in dem zugesichert wird, dass die übermittelten Daten nicht für Trainingszwecke verwendet werden und die Daten nicht an Dritte weitergegeben werden. Siehe [[https://openai.com/enterprise-privacy/|Enterprise privacy at OpenAI]] ===== Zugang ===== LibreChat erreichen Sie unter folgender Adresse: [[https://chat-ai.tu-clausthal.de/]] aus dem Netz der TU-Clausthal. Für den Zugriff von zu Hause benötigen Sie eine [[netzwerk_und_internet:vpn:start|VPN-Verbindung]]. {{ :sonstige_dienste:ki-dienste:login-librechat.png |600}} Gehen Sie auf den Button "TU Login". Geben Sie danach als Benutzerkennung Ihren (z.B. abc123) an, sowie Ihr zugehöriges TUC-Passwort und bestätigen Sie mit „Login“. {{ :sonstige_dienste:ki-dienste:login2-librechat.png |}} Nach erfolgreicher Anmeldung steht Ihnen der Zugang zu ausgewählten Sprachmdellen von OpenAI zur Verfügung. ===== Nutzung ===== Die Oberfläche von LibreChat sieht sehr ähnlich zu dem Webinterface von ChatGPT selbst aus. Bitte beachten Sie, dass je nach ausgewähltem Sprachmodell dieses bis zu einem bestimmten Datum trainiert ist. Die Modelle können daher unvollständige und auch falsche Antworten liefern. Zudem verfügen die angeboteten Sprachmodell nicht über unternehmensspezifisches Wissen. * **gpt-4-turbo** | Stand Dezember 2023 * **gpt-4** | Stand September 2021 * **gpt-3-tubro** | Stand September 2021 {{ :sonstige_dienste:ki-dienste:oberflaeche-librechat-2.png |600}} Auf der linken Seite **(1)** finden Sie Ihren Chatverlauf, wo Sie neue Unterhaltungen beginnen oder bereits bestehende fortsetzen können. Ihre Fragen und die Antworten von ChatGPT werden hier in chronologischer Reihenfolge angezeigt. Für jedes neue Thema sollten Sie einen neuen Chat aufmachen, damit sich der Kontext unterschiedlicher Themen nicht vermischt. Oben **(2)** befindet sich ein Menü, in dem Sie den Anbieter des LLM auswählen können, aktuell ist OpenAI verfügbar. Dort können Sie auch das spezifische Sprachmodell wählen und die Modellparameter anpassen oder vorhandene Einstellungen importieren. Im Eingabefeld **(3)** tippen Sie Ihre Fragen oder Kommandos ein und können zudem Dateien über das Symbol einer Klammer hochladen. Im rechten Bereich **(4)** erhalten Sie eine Übersicht über alle Dateien, die Sie in diesem Chatverlauf hochgeladen haben. ===== Modellparameter ===== Diese Parameter helfen dabei, die Vielfalt, Relevanz und Einzigartigkeit der generierten Antworten zu kontrollieren. Anfängern wird jedoch empfohlen die Standardwerte beizubehalten. {{ :sonstige_dienste:ki-dienste:modellparameter.png? |}} ++++ Erläuterung der Modellparameter | * **Temperatur** (Temperature): Dieser Parameter steuert den Zufallsgrad der Antworten. Ein niedrigerer Wert (z.B. 0.1) führt zu vorhersehbareren und konsistenteren Antworten. Ein höherer Wert (z.B. 1.0) erhöht die Vielfalt und macht die Antworten weniger vorhersagbar. Eine Temperatur von 0 würde immer dieselbe Antwort auf dieselbe Eingabeaufforderung geben (sofern der Rest der Einstellungen identisch ist). * **Top-P** (Topical Penalization, auch bekannt als Nucleus Sampling): Dieser Wert bestimmt, wie das Modell aus einer Gruppe von wahrscheinlichen nächsten Worten auswählt. Ein niedrigerer Top-P-Wert (z.B. 0.5) bedeutet, dass nur die wahrscheinlichsten Worte berücksichtigt werden. Ein höherer Wert (z.B. 0.95) erlaubt eine größere Vielfalt potenzieller Worte. Dieser Mechanismus funktioniert durch das Beschränken der Auswahl an Wörtern auf ein kumulatives Wahrscheinlichkeitsintervall („P“). * **Frequency Penalty** (Häufigkeitsstrafe): Dieser Parameter verhindert, dass das Modell dieselben Wörter oder Phrasen wiederholt. Je höher der Wert, desto größer die Strafe für die Wiederholung von Wörtern, was zu einer variableren und diversifizierteren Antwort führt. * **Presence Penalty** (Anwesenheitsstrafe): Ähnlich wie die Frequency Penalty, aber dieser Parameter bestraft Wörter basierend darauf, ob sie bereits im Text erschienen sind, unabhängig von ihrer Häufigkeit. Ein höherer Wert fördert die Einführung neuer, bisher nicht verwendeter Wörter oder Phrasen in den Antworten. ++++ ===== Löschen von Chats ===== Sie haben zwei Möglichkeiten, Ihre Chats und damit Ihre Daten zu löschen. In der chronologischen Auflistung der Chats haben Sie die Möglichkeit, über das Papierkorbsymbol (1) den entsprechenden Chat zu löschen. Weiterhin können Sie auch alle Ihre Chats auf einmal löschen. Dazu klicken Sie auf Ihre E-Mail-Adresse (2a) im unteren linken Bereich. In dem sich öffnenden Menü (2b) klicken Sie auf Einstellungen. In dem nun angezeigten Fenster können Sie über die Schaltfläche "Entfernen" alle Chats löschen. {{ :sonstige_dienste:ki-dienste:delet-chat.png?800 |}} ===== Fehlerbehandlung ===== ==== Fehler "No model spec selected" ==== Änderungen an der System-Konfiguration können dazu führen, dass älteren Chat-Verläufe die Auswahl des Sprachmodells verloren geht. Dann wird die folgende Meldung angezeigt: {{ :sonstige_dienste:ki-dienste:error-kein_model_gewaehlt.png |}} Auch zuerkennen an der Anzeige "Keine [Modelle] gewählt" im oberen Menü (2): {{:sonstige_dienste:ki-dienste:kein_modell_ausgewaehlt.png?400|}} Der Fehler kann behoben werden, indem im Menü (2) einfach das gewünschte Modell gewählt wird. ===== weitere Informationen ===== Weitere Hinweise zur Benutzung von ChatGPT finden Sie auf der Hilfeseite [[https://help.openai.com/en/articles/6783457-what-is-chatgpt|What is ChatGPT?]] von OpenAI.