RZ-Dokumentationen

Diese Seite ist nicht editierbar. Sie können den Quelltext sehen, jedoch nicht verändern. Kontaktieren Sie den Administrator, wenn Sie glauben, dass hier ein Fehler vorliegt.
====== LibreChat mit ChatGPT ======
===== Probebetrieb =====

Dieser Dienst befindet sich noch in der Erprobung. Bitte melden Sie technische Fehler an [[support@rz.tu-clausthal.de]].


===== Beschreibung =====

LibreChat ermöglicht die Integration unterschiedlicher Anbieter von [[https://de.wikipedia.org/wiki/Large_Language_Model | Large Language Models]] (LLMs). Aktuell stehen Modelle von OpenAI und der GDWG zur Verfügung.

Folgende Modelle von OpenAI sind eingebunden:
  * gpt-4o
  * gpt-4o-mini
  * o1
  * o1-mini
  * o3-mini
Sie werden in der [[https://platform.openai.com/docs/models | Dokumentation von OpenAI]] näher beschrieben.

Informationen zu den Modellen der GWDG finden Sie auf der Seite  [[https://docs.hpc.gwdg.de/services/chat-ai/models/index.html | zur Modellbeschreibung der GWDG]]. Auch die GWDG entwickelt ihr Angebot an OpenSource-Modellen ständig weiter. Sollte die GWDG ein neues Modell über ihre API bereitstellen, so steht dies auch in LibreChat umgehend zur Verfügung. 

Die KI-Modelle stehen allen Studierenden und Mitarbeitenden der TU Clausthal zur Verfügung. Der TU entstehen jedoch bei den Modellen von OpenAI nutzungsabhängige Kosten, die bis auf weiteres aus einem zentralen Budget getragen werden. //Die Kosten entstehen nicht dem Nutzer!//

Die Generierung von Bildern ist mit LibreChat derzeit nicht möglich. Hier verweisen wir auf [[sonstige_dienste:ki-dienste:ms-copilot|]].

<note important>Wir weisen darauf hin, dass LibreChat ein Frontend (Oberfläche) für ChatGPT ist! Alle Anfragen werden direkt über die von OpenAI bereitgestellte API weitergeleitet. Es findet eine Drittstaatenübermittlung ins Nicht-EU-Ausland statt. Es besteht jedoch ein Datenverabeitungsvertrag mit OpenAI in dem zugesichert wird, dass die übermittelten Daten nicht für Trainingszwecke verwendet werden und die Daten nicht an Dritte weitergegeben werden. Siehe [[https://openai.com/enterprise-privacy/|Enterprise privacy at OpenAI]]. Zudem sei auf die  [[https://www.tu-clausthal.de/datenschutzhinweise/librechat|Datenschutzhinweise zu LibreChat]] verwiesen.</note>

===== Zugang =====
<note tip>LibreChat erreichen Sie unter folgender Adresse: [[https://chat-ai.tu-clausthal.de/]] aus dem Netz der TU-Clausthal. Für den Zugriff von zu Hause benötigen Sie eine [[netzwerk_und_internet:vpn:start|VPN-Verbindung]].</note>
{{ :sonstige_dienste:ki-dienste:login-librechat.png |600}}

Gehen Sie auf den Button "TU Login". Geben Sie danach als Benutzerkennung Ihren <TUC-User>(z.B. abc123) an, sowie Ihr zugehöriges TUC-Passwort und bestätigen Sie mit „Login“. 

{{ :sonstige_dienste:ki-dienste:login2-librechat.png |}}

Nach erfolgreicher Anmeldung steht Ihnen der Zugang zu ausgewählten Sprachmodellen von OpenAI und von der GWDG zur Verfügung.

===== Nutzung =====

Die Oberfläche von LibreChat sieht sehr ähnlich zu dem Webinterface von ChatGPT selbst aus. 

Bitte beachten Sie, dass je nach ausgewähltem Sprachmodell dieses bis zu einem bestimmten Datum trainiert ist. Die Modelle können daher unvollständige und auch falsche Antworten liefern. Zudem verfügen die angeboteten Sprachmodell nicht über unternehmensspezifisches Wissen.

{{ :sonstige_dienste:ki-dienste:oberflaeche-v0.7.3.png |}}

Auf der linken Seite **(1)** finden Sie Ihren Chatverlauf, wo Sie neue Unterhaltungen beginnen oder bereits bestehende fortsetzen können. Ihre Fragen und die Antworten von ChatGPT werden hier in chronologischer Reihenfolge angezeigt. Für jedes neue Thema sollten Sie einen neuen Chat aufmachen, damit sich der Kontext unterschiedlicher Themen nicht vermischt.

Oben **(2)** befindet sich ein Menü, in dem Sie das konkrete Sprachmodell auswählen können. Hier ist auch die Anpassung der Modellparameter möglich.

Im Eingabefeld **(3)** tippen Sie Ihre Fragen oder Kommandos ein und können zudem Dateien über das Symbol einer Klammer hochladen. Auch ist es möglich Text per Spracheingabe einzugeben. (Derzeit steht die Spracheingabe nicht in allen Browsern zur Verfügung, da hier auf die Speech-To-Text Funktion des Browsers verwendet. Möglich ist dies zum Beispiel mit Chrome und Edge.)

Im rechten Bereich **(4)** erhalten Sie eine Übersicht über alle Dateien, die Sie in diesem Chatverlauf hochgeladen haben.


===== Weiterführende Informationen =====

  * [[:sonstige_dienste:ki-dienste:librechat:einstellungModellParameter]]
  * [[:sonstige_dienste:ki-dienste:librechat:faq]]
  * [[:sonstige_dienste:ki-dienste:librechat:reasoningModelle]]
  * [[:sonstige_dienste:ki-dienste:librechat:temporaryChat]]