RZ-Dokumentationen

Diese Seite ist nicht editierbar. Sie können den Quelltext sehen, jedoch nicht verändern. Kontaktieren Sie den Administrator, wenn Sie glauben, dass hier ein Fehler vorliegt.

====== Reasoning Modelle ======

Reasoning-Modelle sind Sprachmodelle, die mit Reinforcement Learning trainiert wurden, um komplexe Schlussfolgerungen zu ziehen. Reasoning-Modelle erstellen eine interne Gedankenkette, bevor sie dem Benutzer antworten. Die Idee hinter diesen Modellen ist es, das logische Denken und den Problemlösungsmechanismus nachzubilden, wie etwa Ursache-Wirkungs-Beziehungen. Sie zeichnen sich durch eine höhere Genauigkeit und Zuverlässigkeit aus. Dies geht zu Lasten der Geschwindigkeit. Beispiele für diese Art von Modellen sind: o1, o1-mini oder o3-mini. 

Derzeit bieten wir sowohl Reasoning-Modelle von OpenAI, also auch von der GWDG an, um diese Modelle zu benutzen wählen Sie einfach das entsprechenden Menü aus:

{{ :sonstige_dienste:ki-dienste:librechat:rm-select.png?300 |}}

In den Parametereinstellungen kann der Reasoning-Effort (derzeit nur für OpenAI-o1 Modelle) eingestellt werden. Eine Verringerung des Wertes kann zu schnelleren Antworten führen.

{{ :sonstige_dienste:ki-dienste:librechat:rm-effort.png?400 |}}