« Back to Glossary Index

Was ist Inferenz (Künstliche Intelligenz)?

Inferenz ist der operative Rechenprozess, bei dem ein bereits trainiertes KI-Modell auf neue, unbekannte Daten angewendet wird, um Vorhersagen zu treffen, Klassifizierungen vorzunehmen oder Inhalte zu generieren. Sie stellt die eigentliche Nutzungsphase dar, in der das Modell live Schlussfolgerungen aus Eingaben zieht.

Wie funktioniert KI-Inferenz?

Während des vorhergehenden Modelltrainings erlernt ein neuronales Netz Gewichte und mathematische Zusammenhänge. Bei der Inferenz verarbeitet das fertige System eine Eingabe (den Prompt, ein Bild oder Sensordaten) und durchläuft dieses Berechnungsnetzwerk ohne dass die gelernten Gewichte verändert werden. Das Resultat ist die Ausgabe – je nach Anwendungsfall deterministisch (eine feste, eindeutig reproduzierbare Antwort) oder probabilistisch (eine auf Wahrscheinlichkeiten basierende Generierung, etwa bei Sprachmodellen). Typische Ergebnisse sind beispielsweise eine Textantwort, ein Analysewert oder eine automatisierte Steuerungsentscheidung.

Für den stabilen Betrieb von KI-Inferenz in Produktivumgebungen sind drei technische Faktoren entscheidend:

Inferenz vs. Training: Der Kernunterschied

Obwohl beide Prozesse Rechenleistung erfordern, unterscheiden sie sich grundlegend in Zielsetzung, Datenanforderung und Hardware-Profil:

Vergleich: Traditionelle IT-Sicherheit vs. SecOps

Kriterium

KI-Training
KI-Inferenz

Hauptziel

Erlernen von Mustern und Parametern
Anwenden erlernter Muster auf Produktivdaten

Rechenoperation

Vorwärts- und Rückwärtspass (Backpropagation)
Nur Vorwärtspass (Forward Pass)

Ressourcenbedarf

Extreme Spitzenlasten (High-Performance-Cluster)
Geringere Spitzenlast, jedoch kontinuierliche 24/7-Verfügbarkeit
Infrastrukturfokus
Rechenleistung und Hochgeschwindigkeits-Interconnect
Latenz, Energieeffizienz, externe Konnektivität

Zeitraum

Einmalig oder periodisch über Tage/Wochen
Fortlaufend oder in Echtzeit[T

Praxisbeispiel: Inferenz im Alltag

In der Praxis bedeutet Inferenz beispielsweise das Absenden einer Anfrage an einen Large-Language-Model-basierten Textgenerator. Das Modell erlernt beim Verfassen der Antwort kein neues Grundwissen mehr. Stattdessen berechnet es anhand der trainierten Wahrscheinlichkeiten Wort für Wort (Token für Token) Wahrscheinlichkeiten und erzeugt in Sekundenbruchteilen daraus schrittweise die Antwort.

Infrastruktur-Perspektive: Relevanz für Rechenzentren

Die Verlagerung von KI-Workloads vom Training zur Inferenz verändert die Anforderungen an IT-Infrastrukturen nachhaltig:

Edge- und Colocation-Nähe: Inferenz muss latenzsensibel erfolgen. Je näher der Inferenz-Server am Endnutzer oder Firmenstandort platziert ist (z. B. an zentralen europäischen Internetknoten wie Frankfurt), desto reaktionsschneller agieren Chatbots, API-Gateways oder autonome Prozesse.

Hohe Hardware-Dichte und Liquid Cooling: Die Hardware-Anforderungen skalieren mit der Modellgröße: Während für Standardaufgaben oft kosten- und energieeffiziente Beschleuniger genügen, erfordern komplexe Großmodelle auch in der Inferenz High-End-GPUs im Clusterverbund. Diese dichten Setups führen zu extremen Leistungsdichten pro Rack (oft 40 bis über 100 kW), was fortschrittliche Flüssigkeitskühlung (Direct-to-Chip Liquid Cooling) im Rechenzentrum unverzichtbar macht.

Kontinuierliche Lastprofile und Skalierbarkeit: Im Gegensatz zu zeitlich begrenzten Trainingsphasen erzeugt Produktiv-Inferenz eine permanente, schwankende 24/7-Last. Rechenzentren müssen daher redundante Strompfade und flexible Kapazitäten bieten, um dynamische Lastspitzen stabil und energieeffizient abzufedern.

Häufig gestellte Fragen (FAQ)

Die drei Hauptvorteile von SecOps im Enterprise-Umfeld sind die drastische Reduzierung der „Mean Time to Repair“ (MTTR), die Sicherstellung von Compliance-Vorgaben und die Erhöhung der System-Verfügbarkeit durch proaktive Risikominimierung.

Nein. Die Inferenz nutzt ein fixes, statisches Modell. Um neues Wissen ohne erneutes Training einzubinden, werden Verfahren wie Retrieval-Augmented Generation (RAG) eingesetzt, bei denen externe Daten zur Laufzeit als Kontext übergeben werden.
Echtzeit-Inferenz liefert unmittelbare Antworten auf Einzelanfragen mit minimaler Latenzzeit. Batch-Inferenz hingegen verarbeitet große Mengen gesammelter Datensätze (z. B. nächtliche Logfile-Analysen) zeitversetzt und paketweise.
Beim In-Context-Learning verarbeitet das KI-Modell neue Informationen, Beispiele oder Regeln direkt aus der aktuellen Eingabe (dem Prompt), ohne dass dafür ein aufwendiges Nachtraining nötig ist. Man kann es sich wie das temporäre Arbeits- oder Kurzzeitgedächtnis des Modells vorstellen: Es nutzt den mitgelieferten Kontext nur für die laufende Antwort, speichert das Wissen danach aber nicht dauerhaft ab.
« Back to Glossary Index WordPress Cookie Hinweis von Real Cookie Banner