Training vs. Inferenz
TL;DR
Training = KI lernt. Inferenz = KI arbeitet.
Was bedeutet das?
Beim Training lernt ein Modell aus Daten und baut sein Wissen auf. Bei der Inferenz wendet es dieses Wissen an, um Anfragen zu beantworten. Training passiert einmal (oder selten), Inferenz läuft ständig.
So funktioniert es
Training: Millionen von Texten werden verarbeitet, das Modell passt seine Parameter an. Inferenz: Ein Nutzer stellt eine Frage, das Modell generiert eine Antwort in Echtzeit.
Beispiel
GPT-4 wurde monatelang trainiert (Training). Wenn du ChatGPT eine Frage stellst, nutzt es dieses Training, um zu antworten (Inferenz).
Warum es wichtig ist
Hilft einzuordnen, warum KI-Modelle teuer in der Entwicklung, aber günstig im Betrieb sein können.
Verwandte Begriffe