Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

--- sonstige_dienste:ki-dienste:librechat [09:20 19. June 2024 ] – [Nutzung] Mirco Schindler
+++ sonstige_dienste:ki-dienste:librechat [07:46 14. August 2024 ] (aktuell) – [Beschreibung] Mirco Schindler
@@ Zeile 8: / Zeile 8: @@
 ===== Beschreibung =====
-LibreChat ermöglicht die Integration unterschiedlicher Anbieter von [[https://de.wikipedia.org/wiki/Large_Language_Model | Large Language Modellen]] (LLMs). Aktuell stehen die ChatGPT-Modelle gpt-4, gpt-4-turbo und gpt-3.5-turbo von OpenAI allen Studierende und Mitarbeitende der TU Clausthal zur Verfügung. Der TU entstehen damit jedoch nutzungsabhängige Kosten, die bis auf weiteres aus einem zentralen Budget getragen werden.
+LibreChat ermöglicht die Integration unterschiedlicher Anbieter von [[https://de.wikipedia.org/wiki/Large_Language_Model | Large Language Modellen]] (LLMs). Aktuell stehen Modelle von OpenAI und der GDWG zur Verfügung:
+  * OpenAI | gpt-4o
+  * OpenAI | gpt-4o-mini
+  * GDWG | mixtral-8x7b-instruct
+  * GDWG | meta-llama-3-70b-instruct
+  * GDWG | meta-llama-3.1-8b-instruct
+  * GDWG | qwen2-72b-instruct
-<note important>Wir weisen darauf hin, dass LibreChat ein Frontend (Oberfläche) für ChatGPT ist! Alle Anfragen werden direkt über die von OpenAI bereitgestellte API weitergeleitet. Es findet eine Drittstaatenübermittlung ins Nicht-EU-Ausland statt. Es besteht jedoch ein Datenverabeitungsvertrag mit OpenAI in dem zugesichert wird, dass die übermittelten Daten nicht für Trainingszwecke verwendet werden und die Daten nicht an Dritte weitergegeben werden. Siehe [[https://openai.com/enterprise-privacy/|Enterprise privacy at OpenAI]]</note>
+Diese stehen allen Studierenden und Mitarbeitenden der TU Clausthal zur Verfügung. Der TU entstehen damit jedoch bei den Modellen von OpenAI nutzungsabhängige Kosten, die bis auf weiteres aus einem zentralen Budget getragen werden. //Die Kosten entstehen nicht dem Nutzer!//
+<note important>Wir weisen darauf hin, dass LibreChat ein Frontend (Oberfläche) für ChatGPT ist! Alle Anfragen werden direkt über die von OpenAI bereitgestellte API weitergeleitet. Es findet eine Drittstaatenübermittlung ins Nicht-EU-Ausland statt. Es besteht jedoch ein Datenverabeitungsvertrag mit OpenAI in dem zugesichert wird, dass die übermittelten Daten nicht für Trainingszwecke verwendet werden und die Daten nicht an Dritte weitergegeben werden. Siehe [[https://openai.com/enterprise-privacy/|Enterprise privacy at OpenAI]]. Zudem sei auf die  [[https://www.tu-clausthal.de/datenschutzhinweise/librechat|Datenschutzhinweise zu LibreChat]] verwiesen.</note>
+<note important>Wir weisen darauf hin, dass derzeit die Bildgenerierung mit gpt-4-o nicht möglich ist, da dies in der von OpenAI bereitgestellten API nicht nicht freigeschaltet ist!</note>
 ===== Zugang =====
 <note tip>LibreChat erreichen Sie unter folgender Adresse: [[https://chat-ai.tu-clausthal.de/]] aus dem Netz der TU-Clausthal. Für den Zugriff von zu Hause benötigen Sie eine [[netzwerk_und_internet:vpn:start|VPN-Verbindung]].</note>
@@ Zeile 28: / Zeile 37: @@
 Bitte beachten Sie, dass je nach ausgewähltem Sprachmodell dieses bis zu einem bestimmten Datum trainiert ist. Die Modelle können daher unvollständige und auch falsche Antworten liefern. Zudem verfügen die angeboteten Sprachmodell nicht über unternehmensspezifisches Wissen.
-  * **gpt-4-o** | Stand Dezember 2023
-  * **gpt-4-turbo** | Stand Dezember 2023
-  * **gpt-4** | Stand September 2021
-  * **gpt-3-tubro** | Stand September 2021
 {{ :sonstige_dienste:ki-dienste:oberflaeche-v0.7.3.png |}}
@@ Zeile 50: / Zeile 53: @@
 Diese Parameter helfen dabei, die Vielfalt, Relevanz und Einzigartigkeit der generierten Antworten zu kontrollieren. Anfängern wird jedoch empfohlen die Standardwerte beizubehalten.
-{{ :sonstige_dienste:ki-dienste:modellparameter.png? |}}
+{{ :sonstige_dienste:ki-dienste:modellparameter_v0.7.3.png |}}
 ++++ Erläuterung der Modellparameter |
+  * **Kontexttokens**: Dies bezieht sich auf die maximale Anzahl von Token (Einheiten von Wörtern oder Zeichen), die das Modell auf einmal "verstehen" oder verarbeiten kann. Bei vielen Sprachmodellen gibt es eine obere Grenze für die Anzahl von Token, die im Eingabekontext enthalten sein können. Wenn diese Grenze überschritten wird, muss der Text gekürzt oder geteilt werden.
+  * **Antwort Tokens**: Dies bezieht sich auf die Tokens, die im generierten Output oder in der Antwort des Modells enthalten sind. Wenn das Modell eine Antwort erzeugt, besteht diese Antwort aus einer bestimmten Anzahl von Token. Es gibt oft auch eine maximale Begrenzung dafür, wie viele Token die Antwort des Modells haben kann, abhängig von der Implementierung oder den Nutzerpräferenzen.
   * **Temperatur** (Temperature): Dieser Parameter steuert den Zufallsgrad der Antworten. Ein niedrigerer Wert (z.B. 0.1) führt zu vorhersehbareren und konsistenteren Antworten. Ein höherer Wert (z.B. 1.0) erhöht die Vielfalt und macht die Antworten weniger vorhersagbar. Eine Temperatur von 0 würde immer dieselbe Antwort auf dieselbe Eingabeaufforderung geben (sofern der Rest der Einstellungen identisch ist).
   * **Top-P** (Topical Penalization, auch bekannt als Nucleus Sampling): Dieser Wert bestimmt, wie das Modell aus einer Gruppe von wahrscheinlichen nächsten Worten auswählt. Ein niedrigerer Top-P-Wert (z.B. 0.5) bedeutet, dass nur die wahrscheinlichsten Worte berücksichtigt werden. Ein höherer Wert (z.B. 0.95) erlaubt eine größere Vielfalt potenzieller Worte. Dieser Mechanismus funktioniert durch das Beschränken der Auswahl an Wörtern auf ein kumulatives Wahrscheinlichkeitsintervall („P“).
@@ Zeile 65: / Zeile 69: @@
 Sie haben zwei Möglichkeiten, Ihre Chats und damit Ihre Daten zu löschen. In der chronologischen Auflistung der Chats haben Sie die Möglichkeit, über das Papierkorbsymbol (1) den entsprechenden Chat zu löschen. Weiterhin können Sie auch alle Ihre Chats auf einmal löschen. Dazu klicken Sie auf Ihre E-Mail-Adresse (2a) im unteren linken Bereich. In dem sich öffnenden Menü (2b) klicken Sie auf Einstellungen. In dem nun angezeigten Fenster können Sie über die Schaltfläche "Entfernen" alle Chats löschen.
-{{ :sonstige_dienste:ki-dienste:delet-chat.png?800 |}}
+{{ :sonstige_dienste:ki-dienste:einstellungen_v0.7.3.png |}}
+----
+===== FAQ =====
+==== Meldung "Your account has been temporarily banned due to violations of our service." ====
+Wird Ihnen diese Meldung angezeigt, dann wurde Ihr Account vorrübergehend gesperrt. Folgende Ursachen können eine temporäre Sperrung auslösen:
+  * Zuviele Nachrichten innerhalb eines definierten Zeitintervalls.
+  * Aufruf eines nicht zulässigen Models.
+  * Zuviele parallele Aufrufe der Anwendung.
-===== Fehlerbehandlung =====
+<note important>Die Sperrdauer beträgt 60min.! In dieser Zeit können Sie sich einloggen. Ihnen steht es aber frei die anderen Dienste ([[sonstige_dienste:ki-dienste:start|]]) zu nutzen.</note>
 ==== Fehler "No model spec selected" ====