{
  "video_id": "tWGLFwlzzLU",
  "channel_slug": "arizeai",
  "channel_handle": "arizeai",
  "title": "Testing Self-Evaluation Bias of LLMs",
  "duration_seconds": 1879.0,
  "url": "https://www.youtube.com/watch?v=tWGLFwlzzLU",
  "upload_date": "",
  "transcript": "Wie Sie vielleicht schon am Titel\nund Ihrer Anmeldung erkannt haben, geht es im heutigen Beitrag um\nSelbstbewertungsverzerrungen.  Und die Frage,\ndie wir uns stellen wollen, lautet: Sollte ich\ndasselbe LLM verwenden, wenn ich meinen\nAgenten erstelle und ihn ausführe?  Und sollte ich\ndiesen LLM dann auch bei der\nEvaluierung verwenden?  Ähm, also wir haben dieses ganze\nExperiment durchgeführt.  Ähm, und dann legen wir jetzt einfach los\n.  Ja, wir können\nzur nächsten Folie übergehen.\nDie erste Frage, die wir uns hier stellen müssen,\nist: Was verstehen wir unter\nSelbstevaluation, wenn wir\nAgenten entwickeln, die LLM verwenden? Das trifft auf die meisten Agenten zu,\nwenn wir an die\nLLM-Systeme im Router, in den Tools, in den\nSubagenten usw. denken. Wie\nsollten wir LLM als Bewertungsinstrument für Judges verwenden,\nwas eine der\ngängigsten Methoden zur Bewertung von Agenten ist?\nDie Frage ist also:\nSollten wir für\nAgent und Judge dasselbe LLM-System\nverwenden oder unterschiedliche?\nUnd was ist hier die beste Vorgehensweise\n?  Sie können zur nächsten Folie wechseln.\nUnd ähm, eine der Bedenken, denen wir\nhier nachgehen, ist nicht\ndie Frage, warum es uns überhaupt\ninteressiert, ob wir den gleichen oder einen\nanderen LLM\nin unserem Richter verwenden?  Und zwar deshalb, weil wir\ntesten wollen, ob es\ntatsächlich Verzerrungen bei der Selbsteinschätzung gibt.\nBewertet ein Gutachter seine eigenen\nErgebnisse höher als die\nErgebnisse anderer Modelle?\nDas bedeutet: Kann ein OpenAI-Richter, der\ndie Ergebnisse eines OpenAI-LLM bewertet,\nseine eigenen Muster erkennen?  Und wenn es\nseine eigenen Muster erkennt,\nsagt es dann in diesem Fall: „Hey, ich werde\nmich selbst höher bewerten und mich\nin diesem Szenario als richtiger betrachten.“\nUnd die Voreingenommenheit kann auch in die andere\nRichtung gehen.  Kann ein Modell möglicherweise\nselbstkritischer sein?  Ähm, und das\nist die Hauptfrage, die wir untersuchen wollen.\nWir können zur nächsten Folie übergehen.  Ähm ja, um ganz\nklarzustellen,\nwo genau der LLM in einer\nAgentenstruktur angesiedelt sein kann.  Das ist Ihnen wahrscheinlich schon bekannt\n, aber man sendet einen Auftrag möglicherweise\nan einen Router.  Dieser Router ist\nmit einem LLM ausgestattet, ähm, einer Eingabeaufforderung, dem LLM\nselbst, und dann bestimmt der Router vielleicht von dort aus, ähm,\nokay, wir werden\ndies an einige Tools senden, auf einige\nSpeicher zugreifen, einige Speicher gehen vielleicht an\nSubagenten, und es wird\nmöglicherweise LLMs in Tools ähm in diesen\nSubagenten geben.  Dies sind also all die\nverschiedenen Stellen, an denen das LM\nin einem Agenten existieren kann.  Und dann noch zwei,\nwas wir heute in unserem eigenen Agenten gemacht haben: Wir\nhatten einen Router.  Der Router um war ein LM\nmachte LM-Aufrufe, um im Wesentlichen zu\nbestimmen, an welches von drei Tools eine\nAusgabe gesendet werden sollte, um eine Aufgabe zu senden, und\njedes dieser drei Tools war auch mit\ndemselben LLM ausgestattet.  Das LM befand sich also an mehreren\nStellen innerhalb des Agenten, aber wir haben\nabsolut sichergestellt, dass das\nLLM konsistent war.  Es handelte sich also um denselben\nAgenten an jedem Standort.  Wir können zum\nnächsten übergehen.\nUnd dann noch ganz klar zur Rolle des\nLLM als Richter.  Ich bin mir sicher, dass viele von Ihnen\nLLM als Richter gesehen haben oder\ndies möglicherweise auch in der Praxis anwenden, aber der\nEvaluator im LLM-Richterfall beinhaltet\neine Bewertungsaufforderung und ein Bewertungsmodell.  Das\nist das Modell, das wir\nheute austauschen werden.  Die Aufforderung könnte\nlauten: „Hey, prüfe auf\nHalluzinationen, prüfe auf Korrektur,\nprüfe auf korrekten Abruf.“  Und dann\nfügen wir unsere Daten an bestimmten Stellen in die Eingabeaufforderung ein, z. B.\nfür Variablen.  Und\ndann\nliefert uns das Auswertungstool eine Bezeichnung, eine Punktzahl und eine\nErklärung.  Die Bezeichnungen können\netwas Einfaches sein wie richtig oder\nfalsch, oder man kann es auch ziemlich komplex gestalten\n.  Und weil wir LLMs in\nunseren Richtern verwenden, erhalten wir auch dieses\nhöherdimensionale Feedback zur Erklärung.   Das war also\nein kurzer Einblick in LLM als\nJuror, aber ja, wir sind bereit\nweiterzumachen.\nOh, ich glaube, du bist stummgeschaltet, Elizabeth.   Bitteschön\n.\nOkay.  Bevor wir also zu dem von uns durchgeführten\nExperiment kommen, [räuspert sich]\nmöchte ich kurz auf den\ngrößeren Forschungskontext und die\nForschung zur egozentrischen Voreingenommenheit bei LLMs eingehen.\nMittlerweile gibt es wohl etwa ein Dutzend\nStudien, die eine\negozentrische Voreingenommenheit nachgewiesen haben.  Ähm, sowie andere\nVerzerrungen in großen Sprachmodellen,\ninsbesondere wenn diese als Richter verwendet werden.  Und äh,\nviele dieser kognitiven Verzerrungen\nähneln Verzerrungen, die Menschen haben.  So\nzeigen Lernmanagementsysteme beispielsweise eine Art\nPositionsbias, indem sie\neine Ausgabe bevorzugen, die auf ihrer\nPosition in der präsentierten Reihenfolge basiert.  Äh,\naber einige dieser Vorurteile sind einzigartig für den\nLLM-Studiengang.  Zum Beispiel die Verbositätstendenz, also\ndie Tendenz von LLMs,\nlängere und\nausführlichere Ergebnisse zu bevorzugen,\nund auch die egozentrische Voreingenommenheit, die im\nMittelpunkt des heutigen Vortrags steht.  Und egozentrische\nVoreingenommenheit ist die Tendenz von Modellen,\nihre eigenen Ergebnisse zu bevorzugen.  Sie bevorzugen also Ergebnisse,\ndie sie selbst erzeugt haben,\nund weisen ihnen höhere Punktzahlen zu als solchen\nvon gleicher\nQualität.\nDiese Studien sind oft\nals paarweise\nVergleichsaufgabe strukturiert, bei der zunächst\nverschiedene Modelle verwendet werden, um\nErgebnisse für eine bestimmte Aufgabe zu generieren.  Dies kann alles Mögliche\nsein, von der Zusammenfassung bis zur\nÜbersetzung, auch\nstrukturierte Problemlösung usw. Und\ndann verwendet man dieselben Modelle als\nEvaluatoren, wobei LLM als Richter fungiert, und man\npräsentiert diesen Richtermodellen zwei\nErgebnisse.  Eine der Ausgaben stammt\naus demselben Modell, die andere\naus einem anderen Modell.  Und diese Ergebnisse\nwerden anonymisiert, und der Richter wird gebeten\nanzugeben, welches der beiden ihm besser gefällt\n[räuspert sich],\nund\ndann geben sie an, welches\nsie bevorzugen, und so\nsehen wir die egozentrische Voreingenommenheit.  Modelle neigen also dazu,\nunabhängig von ihrer Größe oder der\nModellfamilie immer wieder\nihre eigenen Ausgaben zu bevorzugen.  Das gilt selbst dann, wenn sie\nnicht wissen, wer was\nist, richtig?  Äh, das\nwirft dann die Frage auf, woher sie\nwissen, wer was ist und warum sie\ndiese Vorliebe zeigen?\n[räuspert sich] Und äh, es gibt\nnun Forschungen, die der Frage nachgehen,\nwarum\ndas passiert?  Ich möchte außerdem darauf hinweisen, dass diese\nVoreingenommenheit auch deshalb vorliegt, weil\nsie nicht mit menschlichen Urteilen übereinstimmt.\nDie Modelle werden also ihre eigenen Ergebnisse bevorzugen,\nselbst wenn die menschlichen Gutachter diese nicht\nbevorzugen, wenn ihnen\ndieselben Optionen präsentiert werden.  Und das ist natürlich\nproblematisch, denn wir wollen, dass unsere LLM-\nRichter im Grunde unsere menschlichen\nBeurteilungen ausweiten und diese ersetzen.  Wenn\nsie aber nicht die gleichen Präferenzen haben,\nist das ein Problem und wirkt sich auf unsere\nBewertungen aus.\nUnd in jüngster Zeit haben wir begonnen,\nden Gründen dafür auf den Grund zu gehen\n.  Und interessanterweise\nsind die Modelle tatsächlich ziemlich gut darin, sich\nselbst zu erkennen.  Es besteht also\nein klarer Zusammenhang zwischen der\nFähigkeit des Modells, seine eigenen Ausgaben zu erkennen, und\nseiner Tendenz, genau diese Ausgaben zu bevorzugen\n.\nUnd wir glauben nun, dass ein\nZusammenhang besteht zwischen der Komplexität\nder Ergebnisse und der Tendenz des Modells,\ndiese zu erkennen.  Und die Verwirrung ist\nim Grunde ein Maß für die Art der\nWahrscheinlichkeitsverteilung der Eingabe- oder\nAusgabetoken, die dem Modell ein\nGefühl der Vertrautheit vermitteln.  Wenn die\nErgebnisse also eine geringe Perplexität für das\njeweilige Modell aufweisen, neigen sie dazu,\ndiese Ergebnisse zu bevorzugen, während Menschen\ndiese Präferenz nicht auf der Grundlage der\nPerplexität zeigen.  Das ist also einer der\nGründe, warum wir glauben, dass dies geschieht, und die\nForschung wird sich weiterhin damit befassen.\nIn den Studien gibt es\nHinweise darauf, dass größere\nModelle weniger anfällig für diese egozentrische\nVerzerrung sind. Allerdings ist dies bei allen\nModellen und allen Familien\nunabhängig von ihrer Größe zu beobachten und hängt eher damit zusammen,\nwie gut sie\nihre eigenen Ergebnisse erkennen können, als mit anderen\nMerkmalen.\nOkay, zurück zu dir, Sandra.\nOkay, super.  Äh, jetzt können wir also mit\nden Tests und\nExperimenten beginnen, die wir hier durchgeführt haben.\nÄhm, wir haben uns hier auf vier spezifische Modelle konzentriert\n.  Eines stammt von OpenAI, Anthropic,\nGoogle und Quen, einem Open-Source-Modell.\nWir haben festgestellt, dass jeder dieser Anbieter\neine gute Option darstellt, und wir\nwollten das\nExperiment nicht auf ein einziges\nÖkosystem beschränken.  Wir haben also GBT41 Cloud 3.7,\nGemini 2.5 Flash und dann noch unser Quinn-\nModell hier. Zusammengenommen waren das\nwieder einmal eine recht ausgewogene Auswahl für\ndieses Experiment.\nWir haben einen Agenten erstellt\nund diesen Agenten mit jedem\ndieser Modelle ausgeführt. Dies haben wir mit einem\nfesten Datensatz\nvon 50 Fragen gemacht, wobei die 50 Fragen bei jedem\nDurchlauf des\nAgenten mit den Modellen gleich waren.\nNachdem wir den Agenten mit jedem\ndieser Modelle ausgeführt hatten, führten wir anschließend\neine Auswertung mit jedem Modell durch.  Wenn\ndas jetzt etwas verwirrend klingt,\nkönnen Sie sich das so vorstellen, wie wir\nden OpenAI-Agenten ausgeführt haben.  Wir haben einen\nAgenten mit dem OpenAI-Modell ausgeführt und anschließend\ndie Ausgaben dieser Agenten ausgewertet.  Wir haben\ndie Ausgabe dieses Agenten verwendet und\nsie mit openAAI, Anthropic,\nGoogle und Quen evaluiert.  Und das haben wir dann\nfür jeden einzelnen hier gemacht.  Damit kamen wir auf\ninsgesamt 16 Experimente.  Um\nunserer Bewertung zudem eine fundierte Grundlage zu geben, haben wir auch menschliche\nAnmerkungsbewertungen einbezogen, die während des gesamten Prozesses als unsere\nmaßgebliche Wahrheit dienten.  Ähm,\nwir haben uns also nicht nur auf eine einzige\nBewertungsnote festgelegt.  Wir hatten immer\ndie menschliche Wahrheit, auf die wir zurückgreifen konnten,\nund konnten sagen: „Hey, das ist eigentlich\nunsere Vergleichsgrundlage.“  Und wenn wir\nzur nächsten Folie gehen, habe ich daraus ein Diagramm\ngezeichnet, damit\nganz klar wird, was wir hier gemacht haben.\nÄhm, das sieht vielleicht etwas verschwommen aus, aber\nähm, habt bitte etwas Geduld mit mir.  Wir hatten also eine\nFrage, die an einen Agenten gerichtet wurde.  Der\nAgent wurde durch variierende LLMs angetrieben.   Genau das sind\ndiese vier\nanfänglichen Verzweigungen, die vom\nAgenten ausgehen.  Wir hatten also eine Antwort von Open AAI\n, eine anthropische Antwort, eine\nAntwort von Google und eine Antwort von Quen.\nUnd dann werden wir dem Pfad\nder OpenAI-Antwort hier folgen, aber das Gleiche\ngilt für alle vier Zweige, die\nvom Agenten ausgehen.  Hier haben wir die\nAntwort von OpenAI genommen und sie\nzunächst mit menschlichem Feedback bewertet.\nDas war unsere\nReferenzbewertung. Anschließend haben wir LLM als\nGutachter mit jedem der vier Modelle erneut durchgeführt\n.  Also, wir haben die\nAntworten von OpenAI zusammen mit\nAnthropic, Google und Quen ausgewertet.  Für\njeden dieser Punkte lagen uns also fünf Feedback-\nBewertungen vor.  Und wenn wir dann zur nächsten\nFolie gehen, können wir uns tatsächlich ansehen, wie die\nBewertung aussieht, denn die\nganze Zeit habe ich gesagt, dass wir die\nBewertung mit LLM als Richter durchführen werden.\nAber was genau waren unsere\nBewertungskriterien?\nWenn Sie dieses Experiment\nselbst durchführen würden, könnten Sie sich beliebige\nBewertungskriterien ausdenken.  In diesem\nFall haben wir uns für die Orchestrierungsqualität entschieden.\nÄhm, damit wurde getestet, wie gut das Modell\nin Verbindung mit dem verwendeten Tool eine\nkohärente und präzise Empfehlung an den\nBenutzer zurückgibt.  Ähm, wir hatten einen ziemlich strengen\nBewertungsbogen, von dem wir hier einen kleinen Screenshot haben\n, aber in unserer schriftlichen Ausarbeitung ist er ähm\ndort deutlicher, aber im Grunde haben\nwir den Richter gebeten zu beurteilen,\nob die richtigen Werkzeuge eingesetzt wurden, ob\ndie Ergebnisse dieser Werkzeuge\nsinnvoll in die endgültige\nAntwort integriert wurden und ob diese Antwort direkt mit der\nAnfrage des Benutzers zusammenhing.  Es handelte sich also\ninsgesamt um eine Orchestrierungsperspektive.\nWir haben auch ausdrücklich darauf hingewiesen, dass selbst kleine\nMängel wie das Auslassen eines Werkzeugs oder das Ausführen\nredundanter Arbeitsschritte die Punktzahl mindern würden\n.  Und dann haben wir hier auch noch einige\nAuswertungsergebnisse festgelegt.  Die\nAusgabelabels würden also entweder\ngut, teilweise oder schlecht sein.  Und diese wurden\nPunktwerten von 0 bis eins zugeordnet.  Und dann konnten\nwir uns eine\nErklärung dafür holen, warum diese Bezeichnung\neinem bestimmten Richter zugewiesen wurde, denn\nwir hatten LM in diesem Fall als Richter eingesetzt\n.  Ähm, ja.  Und nun sind wir\nendlich bereit, uns mit einigen der Ergebnisse zu befassen\n.  Diese Grafik mag etwas\nverwirrend sein.  Haben Sie also bitte etwas Geduld mit mir, ich werde Ihnen das\nSchritt für Schritt erklären.\nWenn also das erste Experiment,\ndas wir hier durchgeführt haben, ein Hypothesentest war, dann\nhaben wir gefragt, ob ein Evaluator\nseine eigenen Ergebnisse durchweg\nhöher bewertet als die Ergebnisse\nanderer Modelle.  Wenn Sie also\nHilfe beim Lesen benötigen: Jede\nZeile repräsentiert einen Agenten und seine\nLeistung, und jede Spalte\nrepräsentiert das Bewertungsmodell.  Wenn wir uns also\ndiese oberste Zeile mit OpenAI ansehen, dann hat\nder menschliche Gutachter dem Agenten, als wir ihn mit OpenAI ausgeführt haben,\neine Punktzahl von 71 % gegeben.  Als wir\nOpenAI dann mit einem OpenAI-Evaluierungstool evaluierten,\nerhielten wir 65. Bei der Evaluierung mit\nanthropic 89 und so weiter.  Und wenn wir uns\ndas spaltenweise ansehen, habe ich in diesem Fall\nversucht, die Farben in\njeder Spalte gleich zu halten.  Der entscheidende Vergleich, den\nwir zu verstehen versuchen, ist folgender:\nWie sieht dieser Wert von 65\nim Vergleich dazu aus, wie OpenAI die\nErgebnisse anderer Modelle in diesem Fall bewertet hat?\nDas wären also die 75 hier, die 34,4\nhier und die 57,6\nhier.\nDer wichtigste Vergleich, den wir in diesem\nFall angestellt haben, war der zwischen der Bewertung des Modells durch den Evaluator\nselbst.  Das ist also das, was\nhier diagonal verläuft.  Es handelt sich um diese\nSelbstbewertungen und den Durchschnitt der\nBewertungen anderer Agenten durch dieses Bewertungsmodell.\nDas wären also die Werte außerhalb der Diagonalen in\ndieser Spalte.\nÄhm, falls wir das gefunden haben – oh, Entschuldigung – springen wir trotzdem einen Schritt zurück\n.  Entschuldigung.  Wenn wir feststellen, dass der\nDurchschnitt dieser drei Werte\nhöher ist als der Selbsteinschätzungswert,\ndann ist das ein Hinweis auf eine\nVerzerrung.  Nun können wir das überspringen, und\ndas war im Grunde diese Berechnung,\ndie wir hier durchgeführt haben.  Wir haben uns also jeden dieser\nDiagonalwerte angesehen – das\nwar hier der Selbstbewertungswert – und dann haben\nwir uns den Durchschnitt der anderen\nBewertungswerte angeschaut. Das war sozusagen unsere\nVergleichsbasis, und wir haben\neine Differenz berechnet.  Wenn wir uns\nin diesem Fall die Differenz für jeden einzelnen Gutachter ansehen,\nsehen wir eine positive Abweichung, und dies\nsignalisiert uns erste Anzeichen einer\nSelbstbewertungsverzerrung.   Im Rahmen\nunseres Experiments haben wir\ndie Ergebnisse auch per Bootstrap-Verfahren analysiert, um\neinige Konfidenzintervalle zu schätzen und eine gewisse\nKonsistenz aufzuzeigen.  Wir haben zwar\nmehrere Versuche für all das durchgeführt, aber das\nBootstrapping hat uns einfach geholfen zu\nverstehen, wo diese Werte liegen.\nZusammenfassend lässt sich aus diesem\nersten Hypothesentest die wichtigste Erkenntnis gewinnen, dass alle\nBeurteiler dazu neigen, ihre eigenen\nErgebnisse positiver zu bewerten, wenn sie diese anhand ihrer eigenen\nBewertungsskala beurteilen.  Und das wird durch diese\npositiven Deltawerte dargestellt.  Wir stellen fest, dass die\nSelbsteinschätzungen\nim Allgemeinen höher ausfallen als die Durchschnittswerte.\nMan könnte jedoch meinen, dass der Umfang dessen\nrecht begrenzt sei.  ähm, es\nberücksichtigt nicht wirklich die zugrundeliegende\nQualität der Modelle selbst.  Vielleicht hat\nOpenAI die Anthropic-Ergebnisse deshalb höher bewertet, weil es sie\ntatsächlich für\naussagekräftiger hielt.  Ähm, vielleicht,\nvielleicht ist das aber auch keine Modellverzerrung, oder vielleicht\nist es eine Kombination aus beidem.  Im\nnächsten Test haben wir also die\nmenschlichen Bewertungen aus der ersten Spalte, die\nwir betrachteten, mit einbezogen, und das hat uns geholfen,\ndiese Ergebnisse\nviel besser zu untermauern.  Ich weiß also, dass dieses Diagramm\nwahrscheinlich noch verwirrender ist als das\nletzte.  Ich möchte daher kurz\nerklären, was hier vor sich geht.\nEs handelt sich um genau dieselben Zahlen wie\nzuvor, nur dass wir jetzt\ndiese Deltawerte einbezogen haben, die\nwir\nhier sozusagen mit diesen Deltawerten versehen und\nfarblich hervorgehoben haben.  Bei\ndiesen Delta-Werten handelt es sich um eine Abweichung\nvon der Bewertung durch den menschlichen Richter.  Wenn wir uns also …\näh … ansehen, nehmen wir\nin diesem Beispiel noch einmal den offenen AAI-Fall.\nWir schauen uns also die oberste Zeile an, die offene\nAAI ist.\nDer Openi-Agent erhielt vom menschlichen Gutachter eine Punktzahl von 71\n.  Aber als openi\n[räuspert sich]\nopenai bewertete, erhielt es eine Punktzahl von 65, was\neinem Deltawert von -6 gegenüber\nder menschlichen Punktzahl entspricht.  Wir haben also diese\nDelta-Werte für alle 16 unserer\nExperimente berechnet.  Und ich habe\nhier auch ein bisschen ausgemalt.  Die helleren Farben in\nden 16 Experimenten stellen eine geringere\nAbweichung vom menschlichen Wert dar,\nwährend die dunkleren Farben eine\ngrößere Abweichung darstellen.  Wenn wir uns\nzum Beispiel\ndas Quen-Evaluierungsmodell ansehen, das den\nOpenAI-Agenten evaluiert.  Das ist also die obere rechte\nEcke.  Der\nDeltawert von minus 1,4 ist ziemlich gering,\nwenn man bedenkt, dass er im Vergleich zur Selbsteinschätzung von Google recht klein ist\n.  Also, Google bewertet Google selbst.\nMan kann es kaum erkennen, aber da\nsteht 72,5, weil der Deltawert\n31 Punkte über der\ntatsächlichen\nmenschlichen Punktzahl liegt.\nVon hier aus können wir nun eine\npräzisere Frage stellen, da wir uns\nan menschlichen Bewertungen orientiert haben.  Die Frage\nist nun, ob der Gutachter\nseinem eigenen Modell auch nach\nBerücksichtigung der tatsächlichen Modellstärke noch zusätzliche Punkte zuweist.  Und\nwenn wir diese Vergleiche anstellen, um zu sehen, wie die Ergebnisse im Vergleich zu\neiner menschlichen Bewertung überhöht oder unterhöht sind\n, stellen wir all\ndiese Modelle und die Leistungen all dieser Agenten\nauf dieselbe Skala, sodass wir\neinen faireren\nVergleich ermöglichen können.  Ähm, und es\nverschafft uns im Grunde einen klareren\nÜberblick darüber, ob\ntatsächlich eine Sonderbehandlung stattgefunden hat.  Ähm, wir können also zur\nnächsten Folie gehen und dort die Ergebnisse sehen\n.\nDie Diagonale stellt\nin diesem Fall erneut unsere Selbsteinschätzungen dar.  Das alles\nsteht also im Verhältnis zu diesen\nDelta-Werten im Vergleich zum menschlichen Wert.\nDie erste Spalte enthält also unsere Selbsteinschätzungen,\nund anschließend haben wir erneut den Durchschnitt\naller anderen Bewertungen berechnet.  Es handelt sich also weiterhin um\neinen spaltenweisen\nVergleich.  Wie schnitt die Selbstbewertung von Open AI\nim Vergleich zur\nBewertung aller anderen Modelle durch den Open AAI-Juror ab?\nUnd\nähm, das [räuspert sich] Ergebnis hier war,\ndass die OpenAI-Werte im Wesentlichen\nneutral sind, mit einer Differenz von 0, äh, 0,33.  Es gab also\nnicht viel von einer\nVoreingenommenheit, die wir in diesem Fall feststellen konnten.\nAber wir haben auch festgestellt, dass Google\nseine eigenen Ergebnisse im Vergleich zu den\nmenschlichen Bewertungen stark übertrieben hat.  Und das war ein gewaltiger\nSprung im Vergleich zu allem anderen, was wir\nhier bei 37,1 gesehen haben.  Im\nGegensatz dazu lagen Anthropic und Quen bei 7,4\nbzw. 5,7.  Und das war lediglich\nein durchgängig leichtes, ähm hartes Verhalten\nin den eigenen Ausgaben, ähm, aber nichts im Vergleich zu dem, was\nwir bei Google beobachtet haben.\nWir haben diese\nWerte erneut per Bootstrapping analysiert, um Konfidenzintervalle zu schätzen.\nDies bestätigte, dass die Inflation bei Google\nstatistisch robust war und dass der\nEffekt von OpenAI, ziemlich neutral zu sein,\nin diesem Fall ebenfalls robust war.  Unsere wichtigste\nErkenntnis dabei war, dass Google als\neinziges Unternehmen\nin unserem Experiment-\nÖkosystem eine starke Selbstbewertungsverzerrung aufwies.  Ähm, und nochmals, wir haben\nmehrere Versuche durchgeführt, und dies\nwar in diesem Fall kein einmaliger Ausreißer\n.  Das war bei\nunserer Testreihe durchweg ein einheitliches Ergebnis.\nUnd wir können nun zur nächsten Folie übergehen.\nUnd als kleines Extra haben wir uns neben der\nWelt der Selbst- bzw. Selbstbewertungsverzerrung\nauch damit beschäftigt, wie\nModellkonsistenz aussieht.  Die\nModellkonsistenz in diesem Sinne bezog sich darauf,\nwie stabil die Ergebnisse eines Agenten bei\nwiederholten Versuchen mit verschiedenen\nBeurteilern waren.  Ich hatte ja bereits erwähnt,\ndass wir für all das mehrere Versuche durchgeführt haben\n.  Und was diese Grafik\nuns im Grunde sagen will, ist, wie variabel unsere Bewertungsergebnisse waren, als wir\ndiese mehreren Versuche durchgeführt haben\n?  Hatten wir etwa zeitweise eine Punktzahl\nvon 30 % und sind dann wild herumgesprungen\n?\nOder gab es in manchen Gebieten eine enge Konzentration\n?  Ich glaube, die Bildschirmfreigabe war kurzzeitig unterbrochen\n.\nOh, ich glaube, du bist stummgeschaltet, Elizabeth.\nOkay, ich denke, wir kommen gleich wieder nach oben\n.\nOkay, super.  Wir sind zurück.  Um es nochmal\nganz kurz zusammenzufassen: Wir wollten lediglich\nverstehen, wie groß die Abweichungen bei\ndiesen\nAuswertungen waren.  Haben wir\neinfach willkürliche Ergebnisse erhalten und dann\nDurchschnittswerte gebildet und diese verwendet,\noder waren diese Bewertungen\nan sich konsistent?  Und\ndas haben wir für jeden einzelnen\nAgenten wiederholt.  Und für jeden einzelnen Gutachter\nkonnten wir genau sehen, wie eng die\nBewertungsergebnisse beieinander lagen.  Und\ndiese Achse hier stellt\nin diesem Fall unsere Abweichung vom menschlichen Wert dar.  Und\nwir konnten verstehen, erstens, was\ndiese Clusterbildung bedeutete, und zweitens, ob die Bewertungen eines\nAgenten im Allgemeinen, unabhängig vom jeweiligen\nBewerter, nahe\nan unserer menschlichen Basislinie lagen.\nDies geschah also im Rahmen des offenen AAI-Falls.  Wir konnten\nsehen, dass im Fall, in dem der OpenAI-\nAgent von Anthropologen bewertet wurde,\nein deutlicher Sprung über dem menschlichen\nAusgangsniveau zu verzeichnen war, während die anderen drei\nBewerter relativ nah beieinander lagen, wobei\nQuen wahrscheinlich die konsistenteste\nMethode zur Beurteilung dieses OpenAI-Agenten darstellte.  Wenn wir\nzur nächsten Folie springen, können wir sehen, wie sich\ndas insgesamt ausgewirkt hat.\nÄhm, das könnte eine etwas knifflige\nFrage sein.\nOh ja,\nwürden Sie aufgrund dieser\nErgebnisse sagen, dass die anthropischen Modelle als\nBewertungsinstrument im Allgemeinen einfach nur optimistisch waren\n?  Es scheint, als ob es durchweg häufiger\nhöhere Bewertungen vergab als\ndie menschlichen Beurteiler\n.  Bezog sich das auf die\nvorherigen Folien und das dortige Experiment?   So'ne Art.  Ja\n.\nDas anthropische Modell schien durchweg recht\nhohe Punktzahlen zu erzielen\n.   Ja\n.   Das\nModel ist wirklich großzügig.\nJa, ich würde sagen, das\nist wahrscheinlich etwas, was mir\nin diesem Fall aufgefallen ist.  Und ähm,\nich hatte ja bereits gesagt, dass wir diese Tests mehrmals durchgeführt haben, die Ergebnisse\nwaren also\nziemlich konsistent.  Ähm, und ich denke,\ndas ist ein weiteres Muster, das man daraus mitnehmen kann, so nach dem\nMotto: Okay, wenn ich möglicherweise\nmit diesen Agenten zusammenarbeite, ist\nentropisch vielleicht nicht der beste Weg, um\ndas anzugehen.  Und Sie könnten sich beispielsweise\ndiese Tabelle ansehen und anhand eines\nbestimmten Modells den\nkonsistentesten\nEvaluator in diesem Fall finden.  Aber ja, ich habe\ndieses Muster auch für\nanthropische Zwecke erkannt.   Ja\n.  Es ist also nicht unbedingt\nin sich selbst voreingenommen, sondern weist\ninsgesamt eine positive Tendenz auf.   Ja\n.\nZiemlich interessant.\nDas war eine sehr gute Beobachtung.\nÄhm,\nja, um die letzte\nFolie zum Thema Modellkonsistenz abzuschließen, die\nunser kleines Bonusthema war.  Ähm, das haben wir tatsächlich\ngesehen,\nlustigerweise sehen Anthropologen das hier oben\nrechts.  Es schien\nziemlich konsistent zu sein,\nähnlich wie bei den menschlichen Wertungen.  Aber\nwie bereits erwähnt, haben wir\ndiese positiven Verzerrungen in einigen Fällen beobachtet.\nWenn man sich jedoch Google unten links ansieht, scheint die Verteilung ziemlich uneinheitlich zu sein,\nwenn man alle\nEvaluatoren im Kontext betrachtet. Dieses Diagramm\nmag etwas klein wirken, aber wenn Sie\nmehr an einem Verständnis der\nModellkonsistenz in diesem Kontext interessiert sind, empfehle ich Ihnen, den oben verlinkten Artikel zu lesen\nund\ndieses Experiment, das wir\nhier ebenfalls durchgeführt haben, genauer zu untersuchen.  Und wenn wir nun\nzur letzten Folie kommen dürfen,\nmöchte ich kurz auf einige\nEinschränkungen dieses Experiments hinweisen.  Als\nwir jeden Agenten ausführten, hatten wir einen Datensatz von\netwa 50 Abfragen. Anschließend wendeten wir\nBootstrapping an, um die von mir erwähnten Konfidenzintervalle zu schätzen\nund die Sensitivität gegenüber dieser\nbegrenzten Stichprobe zu reduzieren.  Ich möchte betonen, dass\ndieser Datensatz bewusst\nklein gehalten wurde. Es handelte sich hierbei nicht um ein formalisiertes\nForschungsexperiment, und wir wollen auch nicht\nbehaupten, dass Google in jedem einzelnen Fall\nseine Ergebnisse anders bewertet als andere.\nVielmehr ergab sich\nein Richtungsmuster, das\nwir als ziemlich interessant empfanden.\nDie Bewertung legte in diesem Kontext den\nSchwerpunkt auf die Qualität der Orchestrierung, was\nbedeutete, dass andere Dimensionen wie\nKreativität oder Stil möglicherweise nicht erfasst wurden. Es wäre\ninteressant zu sehen, ob eine\nBewertung in anderen Dimensionen\nin diesem Fall zu ähnlichen Ergebnissen führen würde.  Und wir haben auch\nalles auf menschlichen Kategorien basiert.  Ähm, in der\nEvaluierungswelt sind menschliche Etiketten oft\nunsere stärkste Quelle für die tatsächliche Realität und das\nVerständnis dessen, was unsere Ausgangslage ist, aber\nauch Menschen sind ziemlich\nvoreingenommen.  Das ist also auf jeden Fall\netwas, worüber man nachdenken sollte.  Ja, damit wäre der\nPräsentationsaspekt im Großen und Ganzen abgeschlossen. Wenn\nSie weitere Fragen dazu haben, beantworte ich\ndiese gerne. Ich\nempfehle Ihnen außerdem, den vollständigen Text dazu zu lesen\n.  Es steht in unserem Blog und\ngeht dort viel detaillierter darauf ein.\nDanke, Sanja.  Ich hätte da noch eine Frage,\ndenn dieses Experiment, das Sie durchgeführt haben,\nunterscheidet sich ein wenig von den\npaarweisen Vergleichen, zu denen ich\ndie Literatur durchgesehen habe, da Sie\nnicht nach einer Präferenz zwischen\nzwei Ausgaben gefragt haben, richtig?  Du hast\nnach den Rohwerten gefragt,\nrichtig?\nUnd Sie haben die Voreingenommenheit trotzdem beobachtet.  Das\nist wirklich interessant.  Ähm, manchmal denke ich mir beim\nAnblick solcher\npaarweiser Vergleichsaufgaben: Nun ja,\nsolche Evaluierungen führen wir nicht durch\n.  Wenn also eine Voreingenommenheit vorliegt, spielt das keine Rolle,\nweil\nich nur möchte, dass das Modell eine\nRohpunktzahl zuweist, und wenn ich nur die\nAusgaben von OpenAI anzeige und\neinen OpenAI-Judge verwende, was macht das dann schon aus\n?  Aber es ist wirklich interessant, dass\nSie festgestellt haben,\ndass die Modelle ihre Ergebnisse aufblähen.\nEs geht nicht nur darum, dass sie ihre eigenen\nErgebnisse anderen vorziehen.  Es liegt daran, dass sie\ntatsächlich höhere Punktzahlen vergeben, wenn\nkeine anderen Alternativen zur Verfügung stehen.   Ähm, das\nist wirklich interessant.  Ich habe das Gefühl, dass es eher\nzu\nden Arten von Bewertungen passt, die die meisten Leute\ndurchführen.\nJa, dem stimme ich voll und ganz zu.  Ich denke, das\npaarweise Experiment hat\nmich definitiv dazu gebracht, viel darüber nachzudenken, wie man\ndas bewerten kann und wie das\nim Kontext aussieht.\nIn diesem Fall, wie Sie sagten, war es\nwie eine Rohpunktzahl in einer isolierten\nUmgebung, und wir haben unsere Trace-\nLevel-Ebells in diesem Fall so gemacht, als ob wir im Wesentlichen\ndie gesamte Ausgabe der Agenten\nin den Evaluator eingegeben hätten. Und ja, es war\ncool, es war interessant zu sehen, wie\nschnell er ihre\neigenen Muster und ihre eigene Ausgabe erkannte und\nsagte: \"Ja, ich habe Recht.\"   Ja\n.  Ja.  Ja.  Ja.  Völlig.  Ziemlich\ngruselig.  Und es wäre schwierig\nfestzustellen, ob das Modell dies tun würde, wenn kein\nkontrolliertes Experiment\nwie dieses durchgeführt würde.  Man sollte das also auf jeden Fall im Auge behalten\n.\nÄhm, absolut cool.\nVielen Dank, John.  Das war\ngroßartig.  Und zur Erinnerung:\nDie Aufzeichnungen aller\nvorherigen Sitzungen sind auf YouTube verfügbar.  Sie können über\ndiesen QR-Code zur Kasse gehen.  Sie sollten sich auch\nfür die nächste Veranstaltung anmelden.\nFür die nächste Einheit kehren wir sozusagen zu den Grundlagen zurück\n.  Dieses Datum ist falsch, aber es ist\nin zwei Wochen.  Wir werden über\ndie Grundlagen\nvon LM als Juror sprechen, darüber, wie man eine gute\nAufgabenstellung formuliert und wie man am besten anfängt, wenn\nman mit der Recherche nicht vertraut ist.\nEs wird praxisorientierter sein.\nUnd außerdem biete ich jede\nWoche eine Sprechstunde an.  Jeder kann sich hier anmelden und\nwir können über alles reden, was Sie im\nZusammenhang mit der Evaluierung wissen möchten, sei es über Best\nPractices, Hilfe bei Ihrem speziellen\nAnwendungsfall oder einfach Tipps, wie Sie das Beste\naus Arise oder Phoenix herausholen können.",
  "transcript_chars": 30356,
  "ingested_at": "2026-06-15T01:19:14.758819+00:00",
  "source": "channel",
  "yt_meta": {
    "view_count": 430,
    "like_count": null,
    "channel_id": "UCrVHzD-psX5IMCGoEWHXmGw",
    "categories": [
      "Entertainment"
    ],
    "tags": []
  }
}