Codebeispielbibliothek
Praktischer Code, der gängige LLM-Szenarien abdeckt, einfach kopieren und einfügen, um loszulegen.
Exklusive Funktionen von Nexevo
Automatischer Fallback für mehrere Modelle
Übergeben Sie eine „Modelle: [...]“-Liste und der Agent versucht es nacheinander, bis es gelingt – integrierte Fehlertoleranz.
Beispiel ansehen
Verwenden Sie max_price, um die schlechtesten Kosten zu erfassen
Legen Sie eine Obergrenze für den Stückpreis fest, um zu verhindern, dass außer Kontrolle geratene Schleifen/nicht vertrauenswürdige Eingaben das Kontingent aufbrauchen.
Beispiel ansehen
:schnell / :billig / :qualität Routing-Suffix
Fügen Sie dem Modellnamen ein Suffix hinzu, um Routing-Hinweise zu geben, ohne den Anfragetext neu zu organisieren.
Beispiel ansehen
RLHF-Feedback-Regelkreis
Sammeln Sie Daumen hoch/runter aus dem Benutzerverhalten und geben Sie diese automatisch an das Routing-System zurück, sodass der selbstlernende Algorithmus die zukünftige Modellauswahl optimieren kann.
Beispiel ansehen
Asynchrone gleichzeitige Stapelverarbeitung (10-facher Durchsatz)
Verwenden Sie AsyncNexevo + asyncio.gather, um Batch-Anfragen zu verarbeiten. Der Durchsatz ist mehr als 10x höher als bei seriellen Anfragen und eignet sich für Offline-Aufgaben wie Datenanmerkungen/-klassifizierung.
Beispiel ansehen
RAG / Abruf
Agent / Automatisierung
Agents Schnellstart
Sync + Streaming.
Beispiel ansehen
RAG Agent — Dokumente einfügen
Agent nutzt rag_search automatisch.
Beispiel ansehen
Multimodales Combo — Recherche + Rechnen + Bilderzeugung
Eine Aufgabe verkettet web_search + python_exec + generate_image; der Agent orchestriert die Schritte automatisch.
Beispiel ansehen