Goodhart’s Law

Goodhart’s Law (Gesetz von Goodhart)

„When a measure becomes a target, it ceases to be a good measure" (Strathern-Formulierung)

Sobald eine Metrik als Ziel genutzt und an Anreize gekoppelt wird, optimieren Menschen die Metrik statt das eigentliche Ziel — die Metrik bildet dann nicht mehr ab, was sie einst maß

Die meisten Metriken sind Proxys für ein schwer direkt messbares Ziel; Druck auf den Proxy vergrößert die Lücke zwischen Proxy und Ziel

Ziele laden zu Gaming, Tunnelblick und Surrogation ein — die Zahl jagen, während das eigentliche Ziel verfällt (z.B. Test-Coverage-% vs. echte Testqualität)

Körbe aus balancierten/Gegen-Metriken, manche Maße zum Lernen statt als Ziel, quantitative mit qualitativen Signalen paaren, Metriken überarbeiten, wenn sich Verhalten anpasst

Eine direkte Linse für den Entwurf von LLM-Evaluationskriterien und KPIs — davor schützen, einen Score zu optimieren statt die dahinterstehende Fähigkeit

Charles Goodhart (1975, geldpolitischer Kontext); prägnante allgemeine Formulierung von Marilyn Strathern (1997); verwandt mit Campbell’s Law