- Konzeption, Aufbau und Weiterentwicklung einer zentralen KI-Umgebung für MTG
- Entwicklung einer unternehmensweiten AI-/LLM-Plattform zur sicheren Nutzung unterschiedlicher KI-Modelle und Provider
- Aufbau und Betrieb eines zentralen AI Gateways für lokale und Cloud-basierte KI-Dienste
- Integration von KI-Werkzeugen in den Softwareentwicklungsprozess
- Integration lokaler Large Language Models sowie externer Cloud-KI-Dienste
- Aufbau einer flexiblen Multi-Model-Architektur, mit der abhängig von Sicherheitsanforderungen, Kosten und Anwendungsfall unterschiedliche Modelle eingesetzt werden können
- Aufbau einer unternehmensinternen RAG-Lösung (Retrieval Augmented Generation) für Dokumente, technische Dokumentationen, Wiki-Inhalte und internes Wissen
- Aufbau von Monitoring-, Logging- und Observability-Funktionen für KI-Systeme
- Kontinuierliche Beobachtung aktueller Entwicklungen im Bereich Generative AI, LLMs, AI Agents und AI Engineering
- Überführung geeigneter neuer Technologien in produktive MTG-Lösungen
- Aufbau von Best Practices, Guidelines und wiederverwendbaren Komponenten für den KI-Einsatz im Unternehmen
Technologische Themen
Je nach Projekt arbeitest du unter anderem mit Technologien und Konzepten wie:
- Large Language Models (LLMs)
- lokale und Cloud-basierte KI-Modelle
- OpenAI, Anthropic, Google Gemini, Mistral oder vergleichbare Plattformen
- Ollama, vLLM oder vergleichbare lokale Inference-Plattformen
- RAG und Vector Databases
- Embeddings und semantische Suche
- AI Gateways und Model Routing
- LLMOps und MLOps
- AI Agents und agentische Workflows
- REST APIs und API Gateways
- Docker und Kubernetes
- Monitoring und Observability
- GitLab/GitHub und CI/CD