Inference (Inferenz)

Inference bezeichnet den Prozess, bei dem ein trainiertes KI-Modell auf neue Daten angewendet wird, um Vorhersagen oder Entscheidungen zu treffen. Im Gegensatz zum Training (Modellparameter finden) ist Inference die praktische Anwendung des fertigen Modells in der realen Welt.

Unterschied Training/Inference: Training – große Datensätze, sehr hoher Rechenaufwand, Stunden bis Wochen; Inference – einzelne oder kleine Datenmengen, geringerer Aufwand, Millisekunden bis Sekunden. Technologien: GPUs, TPUs, optimierte Frameworks (TensorFlow Lite, ONNX), Quantisierung.

Anwendungsbereiche: Echtzeitentscheidungen (Gesichtserkennung, autonomes Fahren), Sprachassistenten, medizinische Diagnose, Betrugserkennung. Inference-Optimierung ist ein wichtiges Forschungsgebiet für den effizienten Einsatz großer KI-Modelle auf ressourcenbeschränkter Hardware.