14 Sep.

Outcome-based Reward Model

Versino Financial Suite

Outcome-based Reward Model (ORM) ist ein Verfahren, das ein KI-Modell allein anhand der finalen Antwort bewertet, ohne den Weg dorthin zu prüfen. Stimmt das Ergebnis, gibt es Belohnung. Der Rechenweg, die Argumentation oder die Zwischenschritte spielen keine Rolle.

Diese Herangehensweise hat einen praktischen Vorteil: Sie ist einfach zu trainieren, weil nur das Endergebnis annotiert werden muss und nicht jeder einzelne Zwischenschritt. Für viele Aufgaben reicht das aus, etwa bei einfacher Klassifikation, Textzusammenfassung oder Frage-Antwort-Aufgaben mit klar prüfbarem Resultat. Der Nachteil zeigt sich bei komplexeren, mehrstufigen Aufgaben. Ein Modell kann durch einen fehlerhaften oder sogar erratenen Lösungsweg trotzdem zum richtigen Ergebnis gelangen. Ein Outcome-based Reward Model erkennt diesen Unterschied nicht und belohnt den Zufallstreffer genauso wie eine saubere Herleitung. Über viele Trainingsdurchläufe hinweg kann das dazu führen, dass ein Modell lernt, sich auf plausibel klingende, aber inhaltlich brüchige Argumentationen zu verlassen, solange am Ende die Zahl stimmt.

Abgrenzung

Der Gegenpart ist das Process Reward Model, das jeden Zwischenschritt einzeln bewertet und dadurch auch fehlerhafte Herleitungen mit zufällig richtigem Ergebnis erkennt. Ein Outcome-based Reward Model ist günstiger im Training, ein Process Reward Model liefert das feinere Signal. Beide sind Varianten der Belohnungsfunktion innerhalb eines Reinforcement-Learning-Trainings, nicht das Reinforcement Learning selbst.


 

KI im Arbeitsalltag: Person beginnt mit der eigenen Aufgabe statt mit dem Lernstapel

KI im Arbeitsalltag: So finden Sie den richtigen Start

Wer KI im Arbeitsalltag einsetzen will, kennt das: Man liest einen Beitrag über Prompts. Darin taucht ein neues Modell auf ...
AI-SHOP

KI-Assistent trifft SAP Business One: Zwei Wege aus dem Versino KI-Shop

KI-Assistenten wie Claude oder Copilot schreiben E-Mails, fassen Dokumente zusammen und erklären Fachbegriffe. Fragt man sie aber nach dem offenen ...
SPRINT & SWIRL

Sprint und Swirl: Wie ein KI-Agent Arbeit aufteilt und aus Probeläufen lernt

Diese Reihe beschäftigt sich mit Künstlicher Intelligenz im Zusammenspiel mit SAP Business One. Sie nimmt sich grundlegende KI-Prinzipien in Ruhe ...
LATS

LATS: Mehrere Wege gleichzeitig durchdenkt mit KI — und die Verfügbarkeitsprüfung in SAP B1

Diese Reihe beschäftigt sich mit Künstlicher Intelligenz im Zusammenspiel mit SAP Business One. Nicht als Ansammlung von Produktankündigungen, sondern als ...
ReAct und RLEF

ReAct und RLEF: Wie Künstliche Intelligenz aus echten Fehlern lernt — und was der automatische Bankabgleich in SAP Business One damit zu tun hat

Dies ist die vierte Folge einer Reihe auf diesem Blog, die sich mit KI-Grundlagen im Zusammenspiel mit SAP Business One ...
Service Layer KI als transaktionalen Schicht

SAP B1 10.0 FP2608: Service Layer KI als transaktionalen Schicht

Der Service Layer von SAP Business One diente bisher überwiegend als passiver Datenlieferant: Anwendungen fragten Daten über OData ab, jede ...
Wird geladen …