Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

--- sonstige_dienste:ki-dienste:librechat [10:34 19. February 2025 ] – [Weiterführende Informationen] Mirco Schindler
+++ sonstige_dienste:ki-dienste:librechat [17:20 19. February 2025 ] (aktuell) – Hans-Ulrich Kiel
@@ Zeile 2: / Zeile 2: @@
 ===== Probebetrieb =====
-Dieser Dienst befindet sich noch in der Erprobung. Verfügbarkeit und Zuverlässigkeit können noch nicht garantiert werden. Bitte melden Sie technische Fehler an [[support@rz.tu-clausthal.de]].
+Dieser Dienst befindet sich noch in der Erprobung. Bitte melden Sie technische Fehler an [[support@rz.tu-clausthal.de]].
 ===== Beschreibung =====
-LibreChat ermöglicht die Integration unterschiedlicher Anbieter von [[https://de.wikipedia.org/wiki/Large_Language_Model | Large Language Modellen]] (LLMs). Aktuell stehen Modelle von OpenAI und der GDWG zur Verfügung:
+LibreChat ermöglicht die Integration unterschiedlicher Anbieter von [[https://de.wikipedia.org/wiki/Large_Language_Model | Large Language Models]] (LLMs). Aktuell stehen Modelle von OpenAI und der GDWG zur Verfügung.
-  * OpenAI | gpt-4o
-  * OpenAI | gpt-4o-mini
-  * OpenAI | gpt-o1
-  * OpenAI | gpt-o1-mini
-  * OpenAI | gpt-o3-mini
-Informationen zu den Modellen der GDWG finden zu auf der Seite der GWDG [[https://docs.hpc.gwdg.de/services/chat-ai/models/index.html | zur Modellbeschreibung der GDWG ]].
+Folgende Modelle von OpenAI sind eingebunden:
+  * gpt-4o
+  * gpt-4o-mini
+  * o1
+  * o1-mini
+  * o3-mini
+Sie werden in der [[https://platform.openai.com/docs/models | Dokumentation von OpenAI]] näher beschrieben.
-Diese stehen allen Studierenden und Mitarbeitenden der TU Clausthal zur Verfügung. Der TU entstehen damit jedoch bei den Modellen von OpenAI nutzungsabhängige Kosten, die bis auf weiteres aus einem zentralen Budget getragen werden. //Die Kosten entstehen nicht dem Nutzer!//
+Informationen zu den Modellen der GWDG finden Sie auf der Seite  [[https://docs.hpc.gwdg.de/services/chat-ai/models/index.html | zur Modellbeschreibung der GWDG]]. Auch die GWDG entwickelt ihr Angebot an OpenSource-Modellen ständig weiter. Sollte die GWDG ein neues Modell über ihre API bereitstellen, so steht dies auch in LibreChat umgehend zur Verfügung.
+Die KI-Modelle stehen allen Studierenden und Mitarbeitenden der TU Clausthal zur Verfügung. Der TU entstehen jedoch bei den Modellen von OpenAI nutzungsabhängige Kosten, die bis auf weiteres aus einem zentralen Budget getragen werden. //Die Kosten entstehen nicht dem Nutzer!//
+Die Generierung von Bildern ist mit LibreChat derzeit nicht möglich. Hier verweisen wir auf [[sonstige_dienste:ki-dienste:ms-copilot|]].
 <note important>Wir weisen darauf hin, dass LibreChat ein Frontend (Oberfläche) für ChatGPT ist! Alle Anfragen werden direkt über die von OpenAI bereitgestellte API weitergeleitet. Es findet eine Drittstaatenübermittlung ins Nicht-EU-Ausland statt. Es besteht jedoch ein Datenverabeitungsvertrag mit OpenAI in dem zugesichert wird, dass die übermittelten Daten nicht für Trainingszwecke verwendet werden und die Daten nicht an Dritte weitergegeben werden. Siehe [[https://openai.com/enterprise-privacy/|Enterprise privacy at OpenAI]]. Zudem sei auf die  [[https://www.tu-clausthal.de/datenschutzhinweise/librechat|Datenschutzhinweise zu LibreChat]] verwiesen.</note>
-<note important>Wir weisen darauf hin, dass derzeit die Bildgenerierung mit LibreChat nicht möglich ist! Hier verweisen wir derzeit auf [[sonstige_dienste:ki-dienste:ms-copilot|]].</note>
 ===== Zugang =====
 <note tip>LibreChat erreichen Sie unter folgender Adresse: [[https://chat-ai.tu-clausthal.de/]] aus dem Netz der TU-Clausthal. Für den Zugriff von zu Hause benötigen Sie eine [[netzwerk_und_internet:vpn:start|VPN-Verbindung]].</note>
@@ Zeile 29: / Zeile 33: @@
 {{ :sonstige_dienste:ki-dienste:login2-librechat.png |}}
-Nach erfolgreicher Anmeldung steht Ihnen der Zugang zu ausgewählten Sprachmdellen von OpenAI zur Verfügung.
+Nach erfolgreicher Anmeldung steht Ihnen der Zugang zu ausgewählten Sprachmodellen von OpenAI und von der GWDG zur Verfügung.
 ===== Nutzung =====
 Die Oberfläche von LibreChat sieht sehr ähnlich zu dem Webinterface von ChatGPT selbst aus.
 Bitte beachten Sie, dass je nach ausgewähltem Sprachmodell dieses bis zu einem bestimmten Datum trainiert ist. Die Modelle können daher unvollständige und auch falsche Antworten liefern. Zudem verfügen die angeboteten Sprachmodell nicht über unternehmensspezifisches Wissen.
@@ Zeile 44: / Zeile 47: @@
 Oben **(2)** befindet sich ein Menü, in dem Sie das konkrete Sprachmodell auswählen können. Hier ist auch die Anpassung der Modellparameter möglich.
-Im Eingabefeld **(3)** tippen Sie Ihre Fragen oder Kommandos ein und können zudem Dateien über das Symbol einer Klammer hochladen. Auch ist es möglich Text per Spracheingabe einzugeben.
+Im Eingabefeld **(3)** tippen Sie Ihre Fragen oder Kommandos ein und können zudem Dateien über das Symbol einer Klammer hochladen. Auch ist es möglich Text per Spracheingabe einzugeben. (Derzeit steht die Spracheingabe nicht in allen Browsern zur Verfügung, da hier auf die Speech-To-Text Funktion des Browsers verwendet. Möglich ist dies zum Beispiel mit Chrome und Edge.)
-<note important>Derzeit steht die Spracheingabe nicht in allen Browsern zur Verfügung, da hier auf die Speech-To-Text Funktion des Browsers verwendet. Möglich ist dies zum Beispiel mit Chrome und Edge.</note>
 Im rechten Bereich **(4)** erhalten Sie eine Übersicht über alle Dateien, die Sie in diesem Chatverlauf hochgeladen haben.
-===== Modellparameter =====
-Diese Parameter helfen dabei, die Vielfalt, Relevanz und Einzigartigkeit der generierten Antworten zu kontrollieren. Anfängern wird jedoch empfohlen die Standardwerte beizubehalten.
-{{ :sonstige_dienste:ki-dienste:modellparameter_v0.7.3.png |}}
-++++ Erläuterung der Modellparameter |
-  * **Kontexttokens**: Dies bezieht sich auf die maximale Anzahl von Token (Einheiten von Wörtern oder Zeichen), die das Modell auf einmal "verstehen" oder verarbeiten kann. Bei vielen Sprachmodellen gibt es eine obere Grenze für die Anzahl von Token, die im Eingabekontext enthalten sein können. Wenn diese Grenze überschritten wird, muss der Text gekürzt oder geteilt werden.
-  * **Antwort Tokens**: Dies bezieht sich auf die Tokens, die im generierten Output oder in der Antwort des Modells enthalten sind. Wenn das Modell eine Antwort erzeugt, besteht diese Antwort aus einer bestimmten Anzahl von Token. Es gibt oft auch eine maximale Begrenzung dafür, wie viele Token die Antwort des Modells haben kann, abhängig von der Implementierung oder den Nutzerpräferenzen.
-  * **Temperatur** (Temperature): Dieser Parameter steuert den Zufallsgrad der Antworten. Ein niedrigerer Wert (z.B. 0.1) führt zu vorhersehbareren und konsistenteren Antworten. Ein höherer Wert (z.B. 1.0) erhöht die Vielfalt und macht die Antworten weniger vorhersagbar. Eine Temperatur von 0 würde immer dieselbe Antwort auf dieselbe Eingabeaufforderung geben (sofern der Rest der Einstellungen identisch ist).
-  * **Top-P** (Topical Penalization, auch bekannt als Nucleus Sampling): Dieser Wert bestimmt, wie das Modell aus einer Gruppe von wahrscheinlichen nächsten Worten auswählt. Ein niedrigerer Top-P-Wert (z.B. 0.5) bedeutet, dass nur die wahrscheinlichsten Worte berücksichtigt werden. Ein höherer Wert (z.B. 0.95) erlaubt eine größere Vielfalt potenzieller Worte. Dieser Mechanismus funktioniert durch das Beschränken der Auswahl an Wörtern auf ein kumulatives Wahrscheinlichkeitsintervall („P“).
-  * **Frequency Penalty** (Häufigkeitsstrafe): Dieser Parameter verhindert, dass das Modell dieselben Wörter oder Phrasen wiederholt. Je höher der Wert, desto größer die Strafe für die Wiederholung von Wörtern, was zu einer variableren und diversifizierteren Antwort führt.
-  * **Presence Penalty** (Anwesenheitsstrafe): Ähnlich wie die Frequency Penalty, aber dieser Parameter bestraft Wörter basierend darauf, ob sie bereits im Text erschienen sind, unabhängig von ihrer Häufigkeit. Ein höherer Wert fördert die Einführung neuer, bisher nicht verwendeter Wörter oder Phrasen in den Antworten.
-++++
 ===== Weiterführende Informationen =====
-[[:sonstige_dienste:ki-dienste:librechat:faq]]
+  * [[:sonstige_dienste:ki-dienste:librechat:einstellungModellParameter]]
+  * [[:sonstige_dienste:ki-dienste:librechat:faq]]
-[[:sonstige_dienste:ki-dienste:librechat:einstellungModellParameter]]
+  * [[:sonstige_dienste:ki-dienste:librechat:reasoningModelle]]
+  * [[:sonstige_dienste:ki-dienste:librechat:temporaryChat]]