Problem
Ein Portfolio-Backend mit KI-Funktionen soll auch dann verfügbar bleiben, wenn ein Anbieter Quota-Limits erreicht oder zeitweise ausfällt.
Lösung
FastAPI mit LangChain Multi-Fallback: Google Gemini, OpenAI und Groq werden je nach Funktion und Verfügbarkeit genutzt. Ziel ist die zuverlässige Weiterverarbeitung von LLM-Ergebnissen über validierte, typisierte Datenstrukturen (Pydantic Structured Output) für die Demo-Endpunkte.
Ergebnis
CV-Assistent, Vision-Analyse, Sentiment-Analyse und Agent-Chat live unter sinanucar.com — mit resilientem Betrieb auch bei Provider-Ausfällen.
Technische Details und Entscheidungen
Technische Architektur
Astro-Frontend mit FastAPI-Backend, vier Demo-Endpunkte, getrennte Fallback-Ketten für Text und Vision, Pydantic-Modelle für strukturierte Antworten.
Engineering-Entscheidungen
- Text- und Vision-Fallbacks getrennt modellieren
- Keine manuelle JSON-Auswertung, sondern Pydantic Structured Output
- Portfolio-Demo mit klar begrenzten Eingaben und ohne dauerhafte Chatverlauf-Speicherung
Demonstriert
Kontrollierte Agenteninteraktion, strukturierte Textklassifikation, multimodale Analyse und robuster Provider-Fallback.
Status
Live-Beleg für kontrollierte KI-Integration auf sinanucar.com.