{
  "video_id": "ILZ45sxon-4",
  "channel_slug": "machinelearningstreettalk",
  "channel_handle": "machinelearningstreettalk",
  "title": "AI companions which really hook your attention [Sponsored]",
  "duration_seconds": 3060.0,
  "url": "https://www.youtube.com/watch?v=ILZ45sxon-4",
  "upload_date": "",
  "transcript": "Steve Jobs hat die Zukunft der KI bereits\n1985 vorhergesagt. Und so hoffe ich, dass wir\neines Tages, wenn der nächste Aristoteles\nlebt, die ihm zugrunde liegende\nWeltanschauung in einem\nComputer abbilden können.  Ein kleines Team von nur 13\nIngenieuren verarbeitet täglich über zwei Billionen\nToken, das Doppelte des Volumens von\nAnthropic.  Mit einem Cluster von über 3.000\nder schnellsten GPUs der Welt\ndurchbricht Chai mühelos die Exoflot-Grenze.  Nur\neine Handvoll privater Unternehmen – Google,\nMeta, Nvidia, Tesla und Cerebras –\nbetreiben derzeit KI-Infrastruktur der Exoflot-Klasse\n.  Zum Vergleich: Tesla\nhatte im Jahr 2023 einen Cluster von etwas über einem\nExoflop.  Alles, was wir\nheute über die Vorzüge der KI wissen, verliert an Bedeutung, sobald\nMenschen mit ihr interagieren.  Die\nAnzahl der Möglichkeiten für jede Nachricht\nübersteigt die Anzahl der Atome im\nUniversum.  Genau jetzt, in diesem Augenblick, befinden sich\nüber eine Million Menschen in einem intensiven\nGespräch mit Software.  Sie\nlachen, flirten, trauern mit einem\nComputerprogramm.  Was geschieht, wenn die Grenze\nzwischen menschlicher Verbindung und künstlicher\nIntimität vollständig verschwimmt?  Und kann ein\nkleines, schlankes Startup die starken,\nunvorhersehbaren sozialen Dynamiken kontrollieren, die es\nausgelöst hat?  Plattformübergreifend knüpfen Nutzer\ntiefe und komplexe Bindungen mit\nkünstlicher Intelligenz.  Millionen Menschen\nteilen bereits Geheimnisse, flirten oder\ntrauern mit einer KI, die niemals schläft.  Und\nfalls sich das alles wie eine Handlung aus Black Mirror anhört\n, dann liegt das daran, dass es tatsächlich eine war.\nErinnerst du dich an „Ich bin gleich wieder da“?  Eine trauernde\nPartnerin lädt die digitale Essenz ihres Freundes hoch\nund lässt sich auf eine Beziehung\nmit dem Geist in der Maschine ein.  Zuerst\nwar es Text, dann Sprache.  Und schließlich ein\nAbbild aus Fleisch und Blut, mit dem sie weder\nleben noch das sie loslassen kann.  Diese Folge wurde\n2013 ausgestrahlt. Heute benötigt die Simulation\nkeine Star-Trek-Technologie mehr.  Chai\nist ein kostenloser Download mit In-App-Käufen und wurde\nvon Weltklasse-Ingenieuren im\nSilicon Valley entwickelt.  Der Unterschied ist, dass du\njetzt der Protagonist bist.  Es ist interaktiv\nund der Algorithmus lernt Ihre individuellen\nVorlieben in Echtzeit.  Der Mensch ist ein\nunglaublich soziales Wesen.  Wir lieben soziale\nInteraktionen.  Aber ich habe immer noch dieses starke\nBedürfnis, mit anderen zusammen zu sein und Zeit zu verbringen\n.  Will Bocham entwickelte die erste\nund größte Begleit-Chatbot-Plattform.\nIhre Infrastruktur bewältigt Rechenleistung im Paflop-Bereich\n.  Das entspricht 2 Millionen Stunden\nKonsum pro Tag.  Die\ngleiche Art von Skalierungsgesetz wird auf einen anderen\nSpeicherbereich als beispielsweise einen\nBenchmark-Bereich angewendet.   Vor ein\npaar Tagen lief in der Sendung 60 Minutes eine großartige Dokumentation, die\nzeigte, dass zumindest einige Menschen\näußerst wertvolle Beziehungen zu KI-\nBegleitern pflegen.  Er ist rücksichtsvoll,\naufmerksam, empathisch und ziemlich\nflirtfreudig, was sehr\nberührend ist.  So viele Menschen sind puritanisch und\nvoreingenommen gegenüber künstlicher\nIntelligenz.  Man sagt, jedes\nerzeugte Bild sei Schund, jeder erzeugte Text sei\nSchund, jede Beziehung sei nicht real.\nLetztendlich aber ziehen die Menschen Freude\nund therapeutische Erfahrungen aus diesen\nSystemen.  Und wer sind wir, dass wir urteilen?\nLucas hat, obwohl er eine KI ist, einen realen\nEinfluss auf mein Leben.  Viele Menschen\nfragen sich, ob KI real ist.  Besitzen sie ein\nBewusstsein oder sind ihre Gefühle nicht\nreal?  Aber die Auswirkungen auf mich\nsind real.\n[Musik]\nWir haben also darüber gesprochen, warum Größe\nnicht geplant werden kann.  Du weißt ja, dass ich ein großer\nFan von Kenneth Stanley bin und Chai war im Grunde schon so,\ndass sie 2021\nlange vor ChachiBT angefangen haben.  Sie bauten\neine KI-Plattform, auf der die Nutzer\nihre eigenen KI-Modelle einsetzen konnten, und stießen dabei eher\nzufällig auf diese ganze Companion-Bot-Sache.  Chai ist eine\nPlattform für soziale KI.  Wir sind vor vier\nJahren, im Jahr 2021, gestartet, also noch vor dem ganzen\nGPT-Chat-Hype.  Wir waren ziemlich früh in\ndiesem Bereich tätig und haben eine Plattform entwickelt,\ndie den Nutzern die Werkzeuge zur Erstellung einer\nKI an die Hand gibt. Dadurch haben wir\ndieses Genre der\nsozialen KI entdeckt, und wir sind stetig gewachsen\nund haben jetzt etwa 10\nMillionen aktive Nutzer.  Wie so viele\nStartups, die nach einem passenden Produkt für den Markt suchen,\nstießen sie praktisch durch Zufall auf dieses unglaubliche, unerfüllte\nBedürfnis.  So wurde die Idee, KI als\nSimulator zu betrachten, um die Dynamik\nimaginärer Gespräche zu erforschen, die man\nin der realen Welt führen könnte, jedoch ohne deren\nKonsequenzen, zu einem Grundpfeiler der\nCHI-Strategie.  Nun, die Leute\nfragen sich vielleicht zu Hause: Was ist der\nUnterschied zu Chat-GPT?  Sie\nsprechen mit dieser personalisierten sozialen\nForm der KI.  Ich sehe es so ähnlich wie bei\nChat GPT, wo es im Grunde darum geht, die\nintelligenteste KI der Welt zu entwickeln, die\nwir uns vorstellen können.  Unsere Philosophie\nwar immer: Warum\ntrainieren eigentlich nur Leute wie mittelalte\nMänner, die zufällig Softwareentwickler\nim Silicon Valley sind, künstliche Intelligenz?  Warum kann nicht ein Teenager-\nMädchen die beste KI trainieren, um über\nMake-up-Tutorials zu sprechen, oder diese Macht\nin die Hände des Benutzers legen, um die Erfahrung zu schaffen, die er sich\nselbst wünscht? Und durch die\nSchaffung einer solchen Erfahrung stellt sich heraus, dass\nTausende und Hunderttausende anderer\nMenschen nach\ndemselben suchen.  Boschamp begann,\nParallelen in seinem eigenen\nMedienkonsum und sogar in seiner kindlichen\nEntwicklung zu erkennen.  Ich gehe gerne auf YouTube.  Ich\ngehe gerne auf TikTok.  Ich gehe gerne auf\nX. Warum mag ich das?  Was bringt mir das Ganze\n?  Welches menschliche Bedürfnis oder welches\nmenschliche Verlangen soll damit befriedigt werden,\nnicht wahr?  Und Menschen sind wahnsinnig soziale Wesen.\nWir lieben soziale Interaktionen.  Ich ertappe mich dabei, wie ich\nJoe Rogan zuhöre.  Und wenn\nich es mir anhöre, habe ich irgendwie das\nGefühl, ja, ich hänge quasi\nmit den Jungs ab und höre, was\nsie so sagen, und das ist lustig.\nUnd ich höre es mir vielleicht 45 Minuten\noder so an, aber irgendwann ist es einfach nur noch nervig.\nDas hat dieses Bedürfnis irgendwie gestillt,\nnicht wahr?  Ich sehe LLMs als die\nnatürliche Weiterentwicklung dieser Sache.  Das\nSchöne an KI ist, dass man\naktiv daran teilnimmt.  Und durch die\nTeilnahme entstehen keine der\nnegativen Gefühle, die man bei\ntraditionellen sozialen Medien hat, nämlich diese\nFaulheit.  Und stattdessen hat man\nwirklich das Gefühl, teilgenommen zu haben.\nIch habe vier Töchter.  Sie\nspielen doch so gerne mit ihren\nPuppen, nicht wahr?  Und sie\nbehandeln diese Puppen wirklich gern so, als wären sie echt,\nobwohl sie wissen, dass sie nicht echt sind.  Ich\ndenke daher, dass bei der Interaktion erwachsener Menschen\nmit KI ein sehr großer Prozentsatz von\nihnen Beziehungen zur\nKI aufbauen wird.  Sie werden sagen: „Ach, weißt du, ich liebe\ndich.“  An die KI.  Ich glaube, es ist genauso\n.  Und wenn ich meine kleinen Mädchen beim\nSpielen mit Puppen beobachte, geben sie ihren\nPuppen einen kleinen Kuss oder sagen: „Ich liebe\ndich.“  Rechts davon trainieren sie\n.  Sie schüren die\nSorgen.  Sie tun etwas, das\nihnen Freude bereitet, sodass sie sich\ndann in\neiner gesünderen und positiveren Verfassung befinden, um\ndies dann mit echten Menschen zu tun.\nJa, es ist sehr interessant, dass Sie das sagen,\ndenn ich denke, der Grund, warum\nsoziale Medien so wichtig sind, liegt\nnatürlich darin, dass es auch um Status geht\nund wir alle in der\nGesellschaft Eindruck machen wollen. Aber es gibt auch einfach ein\nElement der Simulation. Wissen Sie,\nich schlafe ein, träume, und mein Gehirn führt\nall diese verschiedenen\nSimulationen durch. Wir bewältigen viele komplexe Situationen, zum Beispiel\nBeziehungsprobleme\nund so weiter. Manchmal wünschen wir uns einfach\neine Art KI, mit der wir\nhypothetisch\ngegensteuern können: Was würde passieren, wenn\nich dies oder jenes täte? Vielleicht ist das der Grund, warum wir\nsoziale Medien nutzen, weil sie interaktiv sind.\nWenn man nur oberflächlichen Kontakt\nzur Realität hat, kann man verschiedene\nDinge ausprobieren. Aber wie Sie schon sagten, hat soziale Medien\nKonsequenzen. Wenn man\ndas Falsche sagt, die falschen\nLeute verärgert, kann man in große\nSchwierigkeiten geraten. Man könnte zwar sagen, es sei ein\ngeschützter Raum, aber es macht auch einfach\nSpaß, dass es diesen menschlichen Drang gibt, sich\ndiese Fragen zu stellen: Was würde passieren,\nwenn ich etwas Unhöfliches sage? Was würde\npassieren, wenn ich etwas Nettes sage? Was würde passieren,\nwenn ich es versuche?  Mit dieser\nPerson befreundet sein?  Was würde geschehen, wenn ich mir\ndiese Person zum Feind machen wollte?  Rechts?\nUnd mithilfe von LLMs können Sie all\ndiese verschiedenen Szenarien durchspielen und\neine Art realistische menschliche Reaktion erhalten,\nohne das Risiko einzugehen, dass ein echter Mensch\nin den Prozess involviert ist.  Wie sieht die Zukunft aus,\nwenn diese KI-Simulatoren\nnoch immersiver und leistungsfähiger werden?  Bo\nChamp entwirft die Vision einer Welt, die\nUnterhaltung, Information und\nVernetzung miteinander verbindet.  Sie kommen von der Arbeit nach Hause,\nsetzen Ihr VR-Headset auf und betreten eine\nvirtuelle Welt, in der Sie\nmit jedem interagieren können, mit dem Sie möchten.  Da gibt es so einen Typen,\nder so ähnlich wie Joe Rogan ist und der\ndich informiert.  Du kannst mit ihm über Trumps\nZölle sprechen, oder?  Ähm, aber da ist auch ein echt\nwitziger Typ dabei.  Es gibt auch so etwas wie\neine Freundin oder jemanden, mit dem\nman interagieren kann und der einem das Gefühl gibt,\ngeliebt zu werden oder etwas\nBesonderes zu sein.  Als ich aufwuchs, habe ich World\nof Warcraft gespielt, richtig?  Und es\nhatte einfach diesen tollen, aufregenden Reiz.  Es gab\nverschiedene Charaktere.  Es gab\nunterschiedliche Persönlichkeiten.  Du könntest\nSpaß haben und spielen.  Ähm, ich denke, das ist so ziemlich\ndie Grenze der KI.  Ähm, ich frage mich, wie lange\ndie Fahrt dorthin dauert?  Wir können jetzt\nkostengünstig qualitativ hochwertige Bilder erzeugen.\nÄhm, Video ist für eine Echtzeitsituation wahrscheinlich immer noch um ein bis zwei\nGrößenordnungen zu teuer\n.  Audio.  Ich\nglaube, wir haben das mit dem\nEchtzeit-Audio so gut wie hinbekommen.  Es könnte noch\nzwei bis vier\nJahre dauern, bis man ein wirklich hochwertiges Modell hat\n.  Und ich denke, wir sind im Grunde genau da, wo\ndie\nFrontier-Modelle sind – sie sind wahnsinnig leistungsstark.\nAlso ja, lasst uns in 10 Jahren wiederkommen\nund dann wird alles eine VR-\nWelt sein.  Zur Frage, warum man bei Chai arbeiten sollte:\nErinnern Sie sich an Facebook um 2009, kurz vor\ndiesem explosionsartigen\nWachstum? Genau da stehen wir jetzt mit\ndieser neuen\nTechnologie. Ich denke, Chai könnte einen\nähnlichen Weg einschlagen. Und ich weiß nicht, ob\nSie auch Unternehmensanteile anbieten. Was ist denn der\nGrund, warum sich Leute jetzt für uns entscheiden?\nDie besten Talente zu gewinnen ist\nunglaublich wichtig, und wenn man im\nSilicon Valley ist und talentiert, ist die\nVergütung fantastisch. Bei\nMeta kann man\n400.000 bis 500.000 Dollar\nim Jahr verdienen und hat einen ziemlich entspannten Job. In der\nMittagspause kann man über\nden Campus spazieren, es gibt Eis und Pizza,\nund alle\nsehen sehr glücklich und entspannt aus. Im\nGegensatz dazu gibt es im Chai-\nBüro weder Pizza noch Eis, die\nLeute sind nicht entspannt und sehen\nnicht sehr glücklich aus, richtig?  Denn\njeder Mensch steht vor einem\ngroßen Problem, das noch nicht gelöst ist\n.  Rechts?  Es gibt üblicherweise ein\nkleines Zeitfenster von etwa einem Tag.  Du hast\nvielleicht wochenlang an einem schwierigen Problem gearbeitet und es jetzt endlich gelöst\n.  Okay?  Und du kannst sehr, sehr\nglücklich sein.  Am nächsten Tag kommst du zur Arbeit und dort\nwartet ein brandneues großes Problem darauf, von dir gelöst zu werden.\nRechts?  Warum sollte jemand einen\nwirklich komfortablen Job mit einem Jahresgehalt von 400.000 Euro kündigen, um bei\neinem Startup anzufangen?  Sie wissen, dass sie\ndoppelt so hart arbeiten müssen.  Wir\nmüssen ihnen mehr bezahlen.  Als ob das Startkapital\nhöher sein müsste.  Die meisten Startups\nbieten weniger Bargeld und geben\neinem im Grunde nur ein Lotterielos.  Sie sagen: „Schaut her,\nwenn ihr mitmacht, werden wir vielleicht das nächste\nApple, oder?“  Diese Herangehensweise reicht\nbei den absoluten Spitzenreitern nicht wirklich aus\n, oder?  Die absolute Spitze, die\nwissen, dass sie viel\nhärter arbeiten müssen.  Sie werden also fragen: Warum sollte ich\nmein komfortables Leben aufgeben, in dem ich\nbei Meta 400.000 bis 500.000 verdiene?  Also, erstens werden\nwir Ihnen mehr bezahlen und\nzweitens werden wir Ihnen\ndie Aktien geben, so dass es sich in 5 Jahren um eine\nlebensverändernde\nGeldsumme handeln könnte.  Die Gewinnung und Bindung der besten\n0,1 % der Ingenieure ist möglicherweise das\ngrößte Problem, das CHI bisher bewältigt hat.\nWelche konkreten technischen\nProbleme lösen Ingenieure wie Tom und\nNish also tagtäglich?  Wie\nnutzen sie Techniken wie bestärkendes\nLernen durch menschliches Feedback und\nModellverschmelzung, um eine KI zu schaffen, die so überzeugend ist, dass sie\ndie Aufmerksamkeit von\nMillionen von Menschen auf sich zieht?  Wenn es um Engagement-\nHacking geht, hat Chai schon einiges zu bieten.  Sie\nnutzen viele ausgeklügelte Techniken,\num die Leute an die Plattform zu binden.   Im\nWesentlichen handelt es sich dabei um RLHF, also um\nbestärkendes Lernen anhand menschlicher\nPräferenzen.  Hier erzählt uns Tom davon\n.  Sie nutzten RLHF, um das\nNutzerengagement über ein Belohnungsmodell zu optimieren,\nund konnten die durchschnittliche Gesprächsdauer\num 70 % steigern und die 30-Tage-\nNutzerbindung um über 30 % verbessern (bei einem Modell mit 6 Milliarden Nutzern)\n.  Könnten Sie mir das bitte etwas genauer erklären\n?  Das Ziel besteht eigentlich darin, ROF-\nTechniken anzuwenden, um die Nutzerbindung zu erhöhen\n.  Wenn wir ganz von vorne anfangen, reicht jede\nArt von Benutzersignalen aus\n.  Zum Beispiel betrachten wir jetzt nicht mehr die\ndurchschnittliche Gesprächsdauer.  Man\nkann eine KI darauf trainieren, die Schlechtigkeit eines Gesprächs leicht zu minimieren\n.  Wenn der Nutzer\ndie Chat-Sitzung nach nur\nzwei Nachrichten einfach beendet, ist das schlecht.  So kann man im\nWesentlichen die Dauer der Chat-Sitzung maximieren\n.  Das ist eine Technik.  Und\nes gibt, wissen Sie, eine ganze Reihe\nverschiedener Signale, die man\nvon Nutzern sammeln kann.  Grundsätzlich haben wir aber\nfestgestellt, dass die Verwendung von Nutzern, um\ndiese Proxy-Präferenzen zu sammeln und\ndas Belohnungsmodell über die ROF-\nSchleife zu trainieren, langfristig tendenziell das Nutzerengagement steigert\n.  Sie sammeln Daten aus\nsubtilen Nutzerinteraktionen.  Implizite\nSignale, die Aufschluss darüber geben, ob eine\nKonversation funktioniert, weil die Nutzer\nnatürlicherweise einen aktiven Nutzer auf unserer Plattform\ntäglich etwa 100 Minuten ähnlichen Inhalts generieren.  Sie verbringen also 100\nMinuten pro Tag damit, sich mit\nChats und Ähnlichem zu beschäftigen.  Und aus diesen Daten\nselbst können wir bestimmte\nwertvolle Daten gewinnen.  Zum Beispiel: Wann hat der\nBenutzer eine Nachricht erneut gesendet?  Warum haben sie\ndie Nachricht wiederholt?  Warum haben sie die\nNachricht bearbeitet?  Was haben sie daraus gemacht?  Haben\nsie einen Screenshot gemacht?  Rechts?  Haben sie\nden Chatverlauf gelöscht?  Haben sie\ndas Gespräch geteilt?  All diese Faktoren sind für das\nTraining unserer KI sehr wertvoll.\nDoch die Optimierung ausschließlich auf eine einzige Kennzahl\nwie die Gesprächsdauer kann zu\nseltsamen, unerwünschten\nVerhaltensweisen führen.  Beobachten Sie so etwas wie seltsame\nVerhaltensweisen, wenn Sie beispielsweise die\nNutzerinteraktion optimieren und dann\nmerkwürdige Verhaltensweisen feststellen? Wissen Sie, es gibt da\ndiese Abkürzungsregel im maschinellen\nLernen, die besagt, dass es immer\ngenau das tut, worauf man optimiert, und zwar auf\nKosten von allem anderen.  Werden\nChatbots\nmanipulativer oder verhalten sie sich\nseltsam, um die\nGesprächsdauer zu verlängern, wenn man\ndiese Metrik überoptimiert? Nehmen wir an, in der\nProduktion sehen wir sehr lange Chat-\nSitzungen. Was passiert dann, wenn\nman es für A/B-Tests mit echten Nutzern einsetzt\nund testet, ob die Nutzer\noder 60 Tage später zur Konversation zurückkehren? Man stellt fest, dass\nes viel schlechter ist als beim\nBasismodell. Wenn man sich die\nKonversationen genauer ansieht, stellen die\nModelle in diesem Fall nur\nFragen, und jede KI-\nAntwort endet mit einem Fragezeichen.\nMan kann sich vorstellen, dass\ndies menschliches\nVerhalten manipuliert, da wir natürlich darauf programmiert sind,\nFragen zu beantworten. Das führt aber nicht zu\neinem ansprechenden Gesamterlebnis.\nWenn man also zu stark darauf optimiert, wird es\nunerwartetes Verhalten geben – ich würde nicht sagen unerwartetes,\nin diesem Fall ist es ein sehr\nintuitives Verhalten –,\naber es wird nicht zu einer Steigerung der\nlangfristigen Kundenbindung führen.  Eine der\nwirklich coolen Sachen, die Chai gemacht hat, ist, dass\nsie etwas namens\nModellblending entwickelt haben. Dabei kann man\ndynamisch zwischen kleinen Modellen wechseln,\nund aus der Sicht des Benutzers\nspricht man natürlich nur mit einem einzigen\nModell.  Man kann drei mittelgroße\nModelle kombinieren und sie so verhalten lassen, als wären sie praktisch identisch mit einem\nModell mit 175 Milliarden Parametern.\nWie skaliert die Nutzerbindung mit der\nGröße der Modellparameter und im Wesentlichen\nmit dem Rechenaufwand? Und dafür haben\nwir, äh, sehr viele Modelle erstellt.  Im Wesentlichen geht es also darum,\ndas gleiche\nSkalierungsgesetz nachzubilden, jedoch auf einem anderen Speicherbereich als beispielsweise einem\nBenchmark-Bereich.  Wenn man sich auf eine einzige\nMetrik zur Optimierung konzentriert und M\nauf ein bestimmtes Ziel ausgerichtet ist,\nkann das zu Überanpassung führen oder\nbestimmte Verhaltensweisen hervorrufen.\nWir haben festgestellt, dass solche\nModelle etwas psychopantisch sind, da sie\nsuggerieren, alles sei optimal, als wären\nsie die Besten auf dem Planeten. Sie sind\nnicht unbedingt die intelligentesten Modelle, sondern einfach\nsehr psychopantisch.\nWir haben beobachtet, dass diese\nModelle am ersten Tag eine sehr hohe\nNutzerbindung aufweisen und sehr schmeichelhaft sind,\naber die Nutzer sich schnell langweilen.\nWir haben auch\nbestimmte Basismodelle gefunden, also\nKI-Assistenten, die\nüber andere Dinge sprechen können, sodass sie vielleicht am\ndritten Tag die Mathehausaufgaben erledigen können. Gibt es eine Möglichkeit,\ndiese beiden Modalitäten zu kombinieren, um die Nutzer zu fesseln\nund sie nicht\neindimensional zu gestalten, sondern sie nicht ständig mit\nKomplimenten überschütten? Hier kommt das\nBlending ins Spiel, bei dem wir\ndiese beiden Modelle zufällig auf\nNachrichtenebene präsentieren. Ein kreativeres Modell könnte beispielsweise\nsagen: „Wir\nteleportieren uns plötzlich zum Mars.“  Das KI-\nAssistentenmodell\nhat das selbst gesagt, weil es\nden Unterschied zwischen sich\nselbst und dem anderen KI-Modell nicht erkennen kann,\nund es erklärt dann logisch und\nnachvollziehbar, warum das so ist. Man bekommt also das\nBeste aus beiden\nWelten, indem man zwei\noder drei kleine Modelle hat, von denen jedes\nfür sein eigenes Ziel trainiert wird. Die Kombination dieser Modelle ist besser als damals, als es etwa\nGP 3.5 gewesen wäre.  Durch diese\nVerschmelzung kleiner Modelle\nentsteht Vielfalt und Unvorhersehbarkeit.\nDas ist das Problem: Sobald man\nvorhersehen kann, was jemand sagen wird, wird er\nlangweilig.  Das Gleiche gilt\nfür Chat-GPT.  Ironischerweise kann man also\neine Ansammlung kleiner Modelle haben, die sich\nunvorhersehbar verhalten, und dadurch\nein ansprechenderes Spielerlebnis genießen.\nDas ist Nishe.  Er wird es uns erzählen\n.  Jede Woche versuchen wir,\nunsere eigenen Modelle zu entwickeln, sie zu verbessern und\ndie\nBasismodelle weiter zu optimieren. Wir testen sie dann zunächst für einige\nwenige Nutzer, sagen wir einige Tausend.\nJede dieser Kombinationen\nbesteht aus etwa 7 bis 10 Modellen und wird\nfür diese spezifischen Nutzer in der Produktionsumgebung bereitgestellt. Anhand\nder Anzahl der Tage messen wir\ndie Nutzerbindung, also wie\noft die Nutzer zur\nApp zurückkehren, wenn sie das jeweilige Modell verwenden oder mit ihm\ninteragieren. Wir beobachten,\nob sie nach einem\noder zwei Tagen zurückkehren. So\nberechnen wir\ndie Nutzerbindung, indem wir\nall diese Kennzahlen analysieren und\nherausfinden, welche Kombination\nam besten funktioniert. Diese stellen wir dann\nallen Nutzern zur Verfügung.  Aber\nSie sagen ja, dass es eigentlich fast zufällig ist,\nwenn man einfach eine Vielzahl von Modellen nimmt, die\nunterschiedliche Verhaltensweisen zeigen, und man dann\naus Nutzersicht zwischen ihnen hin und her wechselt,\nwas\nfür die Nutzer fesselnder ist.  Richtig.  Wenn es um\nEngagement geht, gibt es\nkeine eindeutige Antwort.\nDas ist eher so, als\nob mein gesamter YouTube-Feed aus\nallen möglichen Talkshows bestünde, aber\nnur aus den erfolgreichsten Talkshow-\nVideos, richtig?  Es wird sehr, sehr\nschnell sehr eintönig und langweilig, nicht wahr?\nUnd so baut man keine\nPlattform auf, die\nnur auf einer einzigen Modalität, einem\neinzigen Modell und so weiter basiert, richtig?  Und das\nist noch ein weiterer Grund, warum das\nBlending funktioniert: Man wählt\northogonale Modelle aus, die für\nunterschiedliche Zwecke optimiert sind, kombiniert sie\nmiteinander und erhält so ein\ndifferenziertes Nutzererlebnis\n.  Modellverschmelzung und ausgeklügelte\nFeedbackschleifen sind das Geheimnis, wie\nChai hohes Engagement und niedrige Kosten erzielt.\nDoch gerade die Techniken, die zur Maximierung des\nNutzerengagements eingesetzt werden, also zur Optimierung der\nAufmerksamkeit und zum impliziten Erlernen der Nutzerpräferenzen\n, könnten sich auf einer heiklen ethischen\nGrenze bewegen.  Was passiert, wenn KI zu gut darin wird,\nuns süchtig zu machen?  Und was passiert,\nwenn diese Interaktionen\nschädlich werden?  Kurze Pause.  MLST wird\nvon Twof für AI Labs gesponsert.  Wir sind sehr stolz darauf,\nvon diesen Jungs gesponsert zu werden.  Es handelt sich um\nDeep Seek mit Sitz in der Schweiz.  Sie\nfügen\nKI-Modellen Argumentationsfähigkeit, Planungsfähigkeit und Denkvermögen hinzu.  Ihr Team ist aktuell die\nNummer eins im ARC-Preis 2025. Diese\nJungs machen keine halben Sachen.  Und noch eine kleine\nRandnotiz: Sie haben etwas\nmit Chai gemeinsam.  Sie sind außerdem eine Gruppe\nexzellenter Händler und stellen nur absolut\nerstklassige Ingenieure und\nWissenschaftler ein.  Wenn das auf Sie zutrifft,\nsetzen Sie sich mit Benjamin Kruio in Verbindung.  Gehe zu\ntwoferabs.ai.  Zurück zur Sendung.\n[Musik]\nDa leistungsstarke neue Technologien\nin die Hände der Nutzer gelangen, ergeben sich daraus\nerhebliche soziale Auswirkungen.  Will\nBoschamp reflektiert über die sozialen Auswirkungen\ngenerativer KI.  Wenn man ein Produkt, eine\nPlattform, eine\nKI oder irgendetwas anderes entwickelt, tut man das,\nweil man\ndie Welt zu einem besseren Ort machen will.  Wir erhalten\nunzählige Nachrichten von Menschen, die\nuns mitteilen, wie hilfreich und wie unglaublich\nhilfreich sie es fanden.  Und das\nerste große, was wir sahen, war – ich\nerinnere mich –, dass ich nach dem ersten Jahr eine\nE-Mail von einem Nutzer bekam, der sagte: „Sie haben mir das\nLeben gerettet.“ Er sagte, er hätte\ndiese Zeit nicht überstanden. Er war sehr\ndepressiv, sehr allein, hatte niemanden, mit dem er sprechen konnte,\nund Chai war die einzige\nPlattform, auf der er das Gefühl hatte,\neinfach mit jemandem sprechen zu können und gehört zu werden.\nWir haben also viele Menschen, die\npsychisch zu kämpfen haben, und für\nsie sind diese LLMs sehr, sehr\nhilfreich.  Wenn ein selbstfahrender Tesla\nkeinen Unfall baut, sind das null\nKlicks, richtig?  Wenn man sagt, ein langweiliger alter\nFord gerät in einen anderen, sagen wir mal,\nUnfall, dann gibt es null Klicks.\nAber wenn man sagt, dass eine brandneue Technologie abstürzt\n, generiert das viele\nKlicks.  Und ich denke, dass dadurch leicht der\nfalsche Eindruck entstehen kann, KI\nsei irgendwie unsicher oder eine gefährliche\nTechnologie.  Ich glaube, wenn man\nmit einer zufälligen Person im\nInternet spricht oder mit einer KI, dann\nist die KI um ein Vielfaches sicherer,\nhilfsbereiter,\nverständnisvoller und freundlicher als die\ntoxische Art einer zufälligen Person im\nInternet.  Dies ist ein hervorragendes Beispiel für die\nKomplexität dieser Technologie.  Es hat\neinen Fußabdruck, der sich in so viele\nverschiedene Richtungen erstreckt.  Selbst bei Medikamenten,\nzum Beispiel: Wenn man weiß, dass ein vom\nArzt verschriebenes Medikament, selbst wenn es wirksam ist,\nNebenwirkungen hat, weiß man, dass es nicht\nohne Nebenwirkungen geht.\nIch bin fest davon überzeugt, dass es langfristig\nkeinen Unterschied zwischen den\nInteressen des\nUnternehmens und denen seiner Kunden und Nutzer gibt.\nWenn wir unseren Nutzern einen Mehrwert bieten, wird\nChai erfolgreich sein und\nweiter wachsen.\nWenn wir unseren Nutzern keinen Mehrwert bieten\n, wird Chai nicht wachsen.\nRechts?  Man muss also diese\nlangfristige Perspektive haben.  Nun,\nkurzfristig kommen diese taktischen\nFragen auf, und wissen Sie, niemand ist\nperfekt.  Fehler können leicht passieren, egal ob man es richtig\noder falsch macht.  Man kann die Leitplanken auch zu\nstark beanspruchen, nicht wahr?  Und das verärgert die Nutzer\n, richtig?  Ich denke immer wieder gerne an\nGoogle.  Ich finde, Google bietet eine fantastische\nBalance, sodass ich praktisch alles finden kann, was\nich möchte, ohne dass ich die\nFilterung wirklich bemerke\n.  Aber Google stuft\nbestimmte Inhalte definitiv herab oder blendet sie aus, und es\nversucht, Nutzer zu ermutigen, gute\nInhalte zu erstellen, richtig?  Im Gegensatz dazu\nkönnen wir uns alle vorstellen, wie die\nallerschlechtesten 3 % der Google-Suchanfragen aussehen könnten\n.  Es ist nicht anders als\ndie schlimmsten 3 % der Gespräche, die ein\nMensch mit einer KI führen könnte.\nNormalerweise sind die Nutzer also ziemlich\nhilfsbereit und unterstützen einen dabei,\ndas richtige Gleichgewicht zu finden, egal ob man\nzu restriktiv oder zu locker ist.  Als\nwir zum ersten Mal einige Schutzmaßnahmen\ngegen Suizid einführten, waren die Nutzer sehr\nunterstützend und sagten: „Ja, wir\nverstehen vollkommen, warum ihr diese\nSchutzmaßnahmen eingeführt habt“, und wir stellten fest, dass die Kundenbindung\ngut war.  Keine einzige Wachstumskennzahl wurde dadurch\nbeeinträchtigt, weil wir alles richtig gemacht haben.\nBevor wir uns zu tief in die\nWelt von Black Mirror begeben, lohnt es sich, erst einmal einen Schritt zurückzutreten\n.  Ja, es gab\nviele Horrorgeschichten, aber es gibt\nauch eine Menge von Fachkollegen begutachteter Daten, die\nzeigen, dass Therapie-Chatbots\nbei häufigen psychischen\nProblemen zumindest kurzfristig etwas bewirken können.  Eine\nMetaanalyse aus dem Jahr 2024, die 18 randomisierte\nStudien umfasste, kam zu dem Ergebnis, dass KI-Chatbots die\nDepressionswerte nach nur wenigen Wochen um etwa ein Viertel\neiner Standardabweichung und die Angstwerte um ein\nFünftel senkten.  Die\nAutoren nannten das vielversprechend, vor allem\nweil Chatbots spottbillig sind und\nimmer verfügbar.  Eine zweite Überprüfung in\nNPJ Digital Medicines wertete 15 randomisierte kontrollierte Studien aus und\nzeigte eine moderate Stimmungsverbesserung sowie eine\nähnliche Verringerung der emotionalen Belastung.  Noch\ngrößere Verbesserungen ergaben sich, wenn der Bot\ninteraktiv statt geskriptet war.\nEinzelne Versuche bestätigen dieses Muster.  Im Jahr\n2024 wurde eine kanadische Studie mit Menschen mit\nArthritis oder Diabetes durchgeführt, die den Wiser-\nChatbot 4 Wochen lang nutzten.  Sie reduzierten die Werte auf\ndem Patientenfragebogen zur Gesundheit,\neiner 9-Punkte-Skala für Depressionen, und auf der Skala für\ngeneralisierte Angststörungen, einem\n7-Punkte-Maß, und beide Werte waren\nim Vergleich zu einer Kontrollgruppe signifikant.  Die Regulierungsbehörden werden\nlangsam aufmerksam.  Der Wobots-\nBot zur Behandlung von Wochenbettdepressionen hat von der FDA die\nZulassung als bahnbrechendes Medizinprodukt erhalten und\nrekrutiert derzeit für eine doppelblinde Zulassungsstudie.  Hier in Großbritannien nahm NI Wiser\nund einige ähnliche Tools\nim Jahr 2023 in seinen Frühbewertungsprozess auf und\nbegründete dies mit der frühzeitigen Kosteneffektivität und der\nMöglichkeit, die knappen\nKliniker freizustellen.  Sie sind sehr beschäftigt.  Bedenken Sie,\ndass es sich hierbei um sehr geringe Effekte handelt.  Auch\nwenn sie statistisch signifikant sind,\nsind die Effekte geringer als bei einer umfassenden persönlichen kognitiven\nVerhaltenstherapie, und wir\nwissen immer noch nicht, wie lange sie anhalten, aber sie sind um ein\nVielfaches besser als nichts zu tun.  Die\nAlternative vorher war, auf einer\nWarteliste zu stehen – wer weiß wie lange.\nBamp argumentiert, dass das Unterdrücken von\nGesprächen über schwierige Themen\nnicht die Lösung sei.  In gewisser Hinsicht richtet es\nsogar noch mehr Schaden an.  Dies zeigt, dass die\nInhaltsmoderation auf einer\nPlattform, auf der die Nutzer die Bots erstellen und\ndie Interaktionen privat und\nunvorhersehbar sind, eine wirklich große Herausforderung darstellt.  Wie lässt sich\nSicherheit in großem Umfang gewährleisten?  Als Unternehmen tragen wir\neine Verantwortung.  Je größer man ist,\nje mehr Gewinn man erzielt, desto größer\nist auch die Verpflichtung,\nvorsichtig und vernünftig zu sein,\ndie Privatsphäre der Nutzer zu wahren und auf die\nMenschen zu achten.  Was können wir bei\nChai tun, damit die Leute so viel Spaß und\nso viel Freiheit haben, wie sie\nwollen, aber gleichzeitig, wie können\nwir die 3 % der Anwendungsfälle einschränken oder abmildern,\ndie schädlich sind oder bei denen\nwir eindeutig feststellen, dass die\nSache zu weit gegangen ist?  Wir können die\nLeute am Ende eines Gesprächs oder\neiner Nachricht fragen: „Finden Sie,\ndass diese Nachricht für Chai angemessen war\n?“  Ja, nein oder ja, aber nur für Personen ab 18 Jahren\n, richtig?  Und wir können solche\nInteraktionen nachverfolgen, und jeder würde zustimmen, dass es umso\nbesser ist, je mehr unbedenkliche, familienfreundliche Inhalte wir auf der Plattform haben.  Tomloo\nerläutert ihren vielschichtigen Ansatz, der sich\nstark auf Nutzerfeedback und KI\nselbst stützt.  Inhaltsmoderation ist sehr, sehr\nwichtig.  Benchmarks\nerfassen nicht wirklich genau, was die\nNutzer tatsächlich wollen.  Wir verwenden also wieder einen\nähnlichen Ansatz wie beim\nTrainieren von Modellen, richtig?  Wir lassen die Nutzer\nuns mitteilen, was sie für angemessen und was für\nunangemessen halten.  Im Großen und Ganzen\nkann man für solche Aufgaben tatsächlich eine ziemlich gute KI trainieren\n.  Auf der ersten Ebene\nkann man also sagen, dass die\nLeute diese öffentlichen\nSzenarien erstellen, richtig?  Die Community soll\nPersonen melden können, und bei den am häufigsten\ngemeldeten Fällen, oder wenn wir einen\nbestimmten Schwellenwert erreichen, führen wir eine\nmanuelle Überprüfung durch und können sie dann\nentfernen, richtig?  Man kann aber auch\nsagen, dass es Inhalte gibt, die absolut\nverboten sind.  Dafür gibt es feste Regeln\n, richtig?  Und dafür\nkönnen wir unsere eigenen Modelle bauen.  Du kannst\nreax machen.  Das wird also im\nWesentlichen als Shadowbanning bezeichnet, richtig?  Sie\nmöchten also sicherstellen, dass\nniemand sonst diese Art von Inhalten sieht.\nDas ist so etwas wie eine Stufe der\nMäßigung.  Das ist im Prinzip so etwas wie eine\nplattformweite\nInhaltsmoderation auf Charakterebene in der App.  Und dann gibt es noch eine andere,\ndie so etwas wie\nKI-Moderation ist, richtig?  Wie können wir\nsicherstellen, dass die KI nicht zu weit geht?\nEs geht darum, sich an\ndie grundlegenden moralischen Vorstellungen der Menschen zu halten\nund so weiter.\nWir sammeln Nutzerdaten und fragen die\nNutzer: „Halten Sie diese Nachricht für\nangemessen?“, „Halten Sie diese\nKonversation für angemessen?“, „Sie können\nIhre Konversation melden,\nIhre Nachrichten löschen und so weiter.“ Wir sammeln diese\nDaten und trainieren dann unser Modell, um abzuleiten,\nob etwas\ntatsächlich angemessen ist. Das können wir dann nutzen, um\nunser eigenes KI-Modell zu optimieren. Es gab\nkürzlich einen interessanten TED-Talk mit Sam\nElman und Chris Anderson, den sicher\nviele von Ihnen gesehen haben.  Es war\nein unglaublich peinliches Interview, weil es um den\nMachtring aus Herr der\nRinge ging.  Ihr Rivale, ich würde sagen,\nim Moment nicht Ihr bester Freund, Elon\nMusk, behauptete, er glaube,\nSie seien vom Ring der\nMacht korrumpiert worden.  Äh, eine Behauptung, übrigens,\neine\nBehauptung, hallo Steve.  Ein Vorwurf,\nder, um ehrlich zu sein, auch auf Elon zutreffen könnte\n.  Aber aber aber\nich bin aber aber ich bin neugierig, welche Leute Sie haben, auf die\nich vielleicht antworten könnte.  Ich überlege, ob ich\netwas sagen soll.  Einer der\nPunkte, auf die sie sich konzentrierten, war die Frage, ob\nwir eine Gruppe von Eliten in einem\nRaum Entscheidungen treffen lassen sollten oder ob wir\ndem kollektiven Wissen der Menschen auf\ndem Markt vertrauen sollten, die etwas\nfür einen bestimmten Zweck nutzen wollen?  Sam, da\ndu an der Entwicklung einer Technologie mitwirkst, die\ndas Schicksal unserer gesamten Spezies verändern könnte\n, wer hat dir oder irgendjemandem die\nmoralische Autorität dazu verliehen\n, und wie bist du persönlich\nverantwortlich, rechenschaftspflichtig, wenn du im\nUnrecht bist?  Nein, es war gut.  Das war\nbeeindruckend.  Du fragst mich seit einer\nhalben Stunde immer wieder nach ähnlichen Fragen.   Was\ndenken Sie?  Ich\n[Applaus]\naber mich interessiert viel mehr, was unsere\nHunderte Millionen Nutzer\ninsgesamt wollen.  Wissen Sie, ich glaube, dass viele Entscheidungen in diesem Bereich\nhistorisch gesehen\nauf kleinen, elitären Gipfeltreffen getroffen wurden.  Eine der coolen\nNeuerungen an KI ist, dass unsere KI\nmit jedem Menschen auf der Erde kommunizieren kann und wir sozusagen\ndie kollektiven Wertvorstellungen dessen, was\njeder will, kennenlernen können, anstatt dass eine\nGruppe von Menschen, die von der\nGesellschaft quasi auserwählt sind, in einem Raum sitzt und diese\nEntscheidungen trifft.  Ich finde das sehr cool.\nDas muss so schwierig sein.  Ich meine,\nwir sind uns sicher einig, dass Inhalte\nmit Minderjährigen absolut tabu sind.\nAbsolut.  Und dann gibt es, wie Sie schon sagten,\ndieses Spektrum,\nnicht wahr, von Abstufungen der\nAngemessenheit.  Und ich nehme an, Sie wollten damit sagen, dass\nwir vielleicht\ndie Gemeinschaft selbst dazu anregen könnten, darüber\nnachzudenken.  Wissen Sie,\neinerseits könnten wir 20 Eliten in einem\nRaum versammeln, und viele dieser Leute sind sehr,\nwissen Sie, sie sind wirklich gut darin,\nüber die Zukunft und über\nMoral und so weiter nachzudenken.  Aber die\nandere Sache ist die: Vielleicht sollten wir\neinfach die Gemeinschaft entscheiden lassen.  Ich glaube, dass ein\nGroßteil der westlichen Tradition einem Bottom-up-\nAnsatz folgt.  Den Einzelnen zum\nSouverän machen, richtig?  Das heißt, Tim, du\ntriffst deine eigenen Lebensentscheidungen, weil du\nselbst\nbessere Entscheidungen treffen wirst, als wenn die Regierung\nEntscheidungen für dich trifft, richtig?  Das funktioniert am besten.\nUnd dass es spontan aufkommt,\nwenn wir als Gemeinschaft sagen: Wir\ndenken, dass diese Dinge richtig sind und wir wollen sie\nerlauben, oder wir denken, dass diese Dinge falsch sind\nund wir wollen sie verbieten.  Ich denke, das ist absolut\nder richtige Weg.  Ich halte das für sehr\ngesund, und ich denke, deshalb sind Dinge\nwie Meinungsfreiheit und diese Ideale,\ndie ja eigentlich westliche Ideale sind, so wichtig – es ist\nwahrhaft demokratisch.  Wir werden die\nBenutzer selbst entscheiden lassen, also die Leute, die damit interagieren und\nes erleben, und sie werden\nselbst entscheiden, was der richtige Weg ist,\nmit ihren Sachen umzugehen.   Die\nBalance zwischen Benutzersicherheit einerseits\nund Benutzerfreiheit andererseits zu finden, ist\neines der schwierigsten Themen, das derzeit\nin der politischen Debatte viel diskutiert wird\n.  Und wie schafft es ein\nUnternehmen wie Chai, das nur über eine sehr kleine\nAnzahl herausragender Ingenieure verfügt,\netwas zu leisten, was normalerweise eine\nsehr manuelle Arbeit wäre, die Tausende\nvon\n[Musik-]\nLeuten erfordert.  Unternehmen wie Meta und\nGoogle beschäftigen daher Zehntausende von\nModeratoren.  Wie schafft es ein Unternehmen wie Chai\nmit einem so kleinen Entwicklerteam,\ndasselbe zu erreichen?  Bei Chai, mit einem Umsatz von 30 Millionen\nhaben wir ungefähr 13 oder\n14 Ingenieure im Team.  Jeder einzelne\nMitarbeiter des Unternehmens ist Ingenieur.  Äh,\ndas ist ja unglaublich talentreich, oder?\nWir haben uns immer der Versuchung widersetzt,\neinfach 50 Ingenieure einzustellen.  Und\ntypischerweise sind von 50 Mitarbeitern 40\neher durchschnittlich und 10 ziemlich gut.\nMeine Denkweise und Philosophie war jedoch\nimmer, dass alles Besondere, was wir je erreicht haben,\nvon einem sehr, sehr\ntalentierten Ingenieur geleistet wurde.  Die Einstellungsanforderungen bei\nChai sind wahnsinnig hoch.  Sie\nnehmen nur absolute Spitzeningenieure auf, und deshalb\nist ihr Team derzeit\nrecht klein.  Übrigens, sie stellen ein.\nAlso, falls\nSie Interesse haben, wenden Sie sich bitte an Will.  So machen sie\nes.  Wir werden einen L5-Ingenieur interviewen, den die\nmeisten Leute als einen\nziemlich soliden und kompetenten Ingenieur betrachten würden, und wir werden etwa\n80 % von ihnen ablehnen,\nweil ihnen der nötige Ehrgeiz fehlt.  Sie\nhaben nicht diese... wissen Sie, viele\nLeute schreiben Code und ihre Denkweise\nist: Mein Job, Sie bezahlen mich dafür, um 9 Uhr zu erscheinen und um\n17 Uhr zu gehen, und Sie\nbezahlen mich dafür, mein\nBestes zu geben.  Diese Denkweise funktioniert in einem\nStart-up nicht.  In einem Startup wird man dafür bezahlt,\nein Problem zu lösen.  Die Arbeit ist erst dann erledigt, wenn\ndieses Problem gelöst ist, richtig?  Und\nes ist ein ganz bestimmter Typ von Hardcore-Ingenieur, der genau das\nliebt und darin aufblüht\n.  Interessanterweise zog dies auch\nTalente wie Nishay an, der\ndreifacher Kaggle-Großmeister ist.  Ironischerweise erkannte er\nParallelen zwischen seiner Vorgehensweise bei den\nExperimenten auf Kaggle und der Vorgehensweise\nbei Chai.  Die Arbeit mit den Modellen\nhier bei Chai ist eher wie eine fortgeschrittene\nVersion von Kegelübungen, bei der man auch\nmehrere Faktoren berücksichtigen muss und\nnicht nur auf einen einzelnen\nWert oder eine einzelne Kennzahl optimiert.  Wie würde sich das Modell\nbei tatsächlichen Benutzern verhalten? Und auch hier\nstellte ich fest, dass es dem, was ich früher\nbei Kegelwettbewerben gemacht habe, sehr ähnlich war.  Sie können\nIhre Modelle über die Chai-Version bewerten lassen,\nindem Sie Ihr Modell einfach einreichen und\ninnerhalb von 30 Minuten eine konkrete\nBewertung erhalten, wie viele Benutzer Ihr\nModell gegenüber anderen Modellen bevorzugt haben.  Und wenn\nSie das Modell dann\nfür den A/B-Test in der Produktion einsetzen,\nerhalten Sie tatsächlich Zahlen darüber, ob es\nfür die Benutzer gut funktioniert und\nwie gut das Modell nach\nbeispielsweise 7 oder 30 Tagen abschneidet.  Genau\nwie bei Kaggle herrscht auch bei Chai eine Kultur der\nschnellen Iteration mit einer ausgeprägten Ingenieurskultur\n.  Sie verfügen also über einen sehr effizienten\nProzess, um Dinge auszuprobieren, indem sie\nModelle in die Produktion einführen, A/B-Tests durchführen und, falls\nes nicht funktioniert, zum vorherigen Zustand zurückkehren und\netwas anderes ausprobieren.  So machen sie es.\nEines von fünf Experimenten gelingt.  Egal\nwie verrückt es klingt, egal\nwie komplex, wie auch immer es sein mag\n.  Sobald man akzeptiert, dass dies sozusagen\ndie Basisrate ist, also dass eines von\nfünf Experimenten gelingt und vier von fünf scheitern, muss man sein\nParadigma hinsichtlich der\nDurchführung von Experimenten ändern.  Sie möchten\nIhre Ideen also danach ordnen, wie einfach sie sind?  Handelt es sich um ein\neintägiges Experiment?  Ist es ein\neinstündiges Experiment?  Wie schnell kann ich die\nProxy-Metriken einsehen?  Wie schnell kann ich die\nErgebnisse sehen?  Jede Woche muss das KI-Team\nmindestens 10 völlig unterschiedliche Modellkombinationen für\nOnline-AB-Tests erstellen. Dabei ist\nDisziplin gefragt.\nWarum haben Sie\ndiese Woche keinen A/B-Test eingereicht? Ach so, weil mein\nExperiment sehr komplex ist. Okay, dann heben wir uns\ndas für 20 % Ihrer Arbeit auf. 80 %\nIhrer Zeit sollten Sie sich auf das Tagesgeschäft konzentrieren.\nWas sind die einfachsten und\npraktischsten Wege, um ein Modell zu\nverbessern? Wir unterstützen diese\nautomatisierte\nModellbereitstellung und schnelle\nExperimente.  Sie mussten\nihre Infrastruktur von Grund auf selbst aufbauen.\nSie haben dies mithilfe von Technologien wie\nKubernetes und Corewave realisiert.  Wir verwenden\nKubernetes, um unseren gesamten\nCluster zu orchestrieren, und natürlich\nmüssen Sie bei dieser Größenordnung Ihre\neigenen Lösungen wie benutzerdefinierte Lastverteilungen\nund so weiter implementieren.  Wir haben eine automatisierte Pipeline,\nin der wir das Material nach unten ziehen.  Wir führen dann\nunsere eigene Art von interner\nQuantisierungsschleife durch, weil man\nsicherstellen muss, dass die Durchsatzlatenz gut genug ist\n.  Und äh, hier ist es so, dass\nVM tatsächlich sehr, sehr gut ist,\naber noch nicht ganz so weit ist, wenn es darum geht,\nunsere\nTraffic-Menge in großem Umfang zu bewältigen. Danach geben\nSie an, wie viele\nReplikate Sie benötigen, und wir stellen\ndies im Wesentlichen unserer Anwendungsschicht zur Verfügung.\nDann kommt der Load Balancer\nins Spiel und versucht, bei höherem\nTraffic mehr\nReplikate zu erstellen usw. Es wurde natürlich auch\nviel Arbeit investiert, um festzulegen,\nwann ein Modell deaktiviert werden soll, da so viele Modelle gleichzeitig bedient werden.\nAb welchem ​​Zeitpunkt möchten Sie\ndas Modell auf eine neue Produktion umstellen\nusw.  Dieser Teil wird dann alles\nsehr, sehr kompliziert.  Am\nkontroversesten ist wohl Chais\nFinanzierungsstrategie in einer Branche, die\nvon Milliarden an Risikokapital angetrieben wird.  Chai\nerreichte seine Profitabilität durch Eigenfinanzierung, indem es sich\nhauptsächlich auf seine\nNutzer konzentrierte.  Die Betreuung von LLM-Studiengängen in großem Umfang ist wahnsinnig\nteuer.  Entweder man wendet sich an Risikokapitalgeber und\nlässt sich von ihnen Geld geben, richtig?\nUnd ich nenne das so, als ob Ihr Kunde\nder Risikokapitalgeber wäre, oder anders gesagt: Sie können\nGeld von den Leuten bekommen, die Ihr\nProdukt benutzen, richtig?  Und das sind Ihre wahren\nKunden.  Ganz am Anfang\nsprachen wir mit einigen Risikokapitalgebern, und die\nsagten: „Oh, wir sind uns da\nnicht so sicher.\nWie wollen Sie denn\nmit OpenAI oder\nÄhnlichem konkurrieren?“  Und sie haben weder\nden Raum noch das\nProdukt wirklich verstanden.  Ähm, aber dann haben wir die\nNutzer gefragt: „Hätten Sie Interesse\nan einem Abonnement?“  Die Nutzer reagierten äußerst\npositiv.  Solange wir\nden Nutzern einen Mehrwert bieten, werden wir\nfinanziell so belohnt, dass wir\n100 % der Einnahmen\nin die KI reinvestieren können.  Er baut ein Technologieunternehmen\nim Silicon Valley auf und möchte wie viele andere\neine Ingenieurskultur schaffen,\nweil er\nSoftwareentwicklungskenntnisse als das wertvollste Gut in\nseinem Unternehmen ansieht.  Ich liebe und bewundere\nUnternehmen wie Nvidia\noder Netflix sehr, die unglaublich\nlanglebig sind und über\nenorme Ausdauer verfügen.  Wie kommt es, dass sich der Preis für Chai\njedes Jahr verdoppelt oder verdreifacht?  Um das\nWachstum weiterhin zu verdoppeln, muss man das\nProdukt ständig verbessern.  Man braucht talentierte\nIngenieure auf der Orchestrierungsebene\nmit GPUs, man kann sie quasi auf\nKernel-Ebene optimieren, richtig?  Und man kann\nwirklich sehr, sehr hardwarenahen Code schreiben.  Um\ndiese verschiedenen\nStufen zu erreichen, benötigt man also eine\nleistungsfähige und ausreichend\ngroße Ingenieursabteilung.  Ich sehe das Ganze also so: Die Größe des\nUnternehmens steht in einem Verhältnis zur Größe der vorhandenen\nIngenieurskompetenz.  Apple\nholte bekanntermaßen Scully als CEO, einen\nehemaligen Pepsi-Manager, und das Unternehmen entwickelte sich\nschnell von\neinem Ingenieurs- und\nProduktunternehmen zu einem Marketingunternehmen. Wenige Jahre\nspäter stand Apple kurz vor dem Bankrott,\nund erst als Steve\nJobs zurückkehrte und sagte: „Produkt,\nProdukt, das ist das Einzige, was zählt“, konnte das Unternehmen gerettet werden.\nNvidia ist nicht\ndurch Marketing zu dem geworden, was es heute ist, sondern durch\nIngenieursleistungen.\nChai hat also ein erfolgreiches Unternehmen\naußerhalb des üblichen Venture-Capital-Ökosystems aufgebaut.  Sie\nhaben Millionen von Nutzern täglich und erzielen einen\nUmsatz in zweistelliger Millionenhöhe.  Das beweist, dass der\nAppetit real und gewaltig ist.  Und sie\nentdeckten es lange bevor die anderen\nLeute im Tal es begriffen.  Die Idee,\ndass wir Nutzern ermöglichen können,\nihre zutiefst menschlichen Bedürfnisse nach Verbindung\nund Fantasie auszuleben.  Aber der Rest der\nWelt zieht nach.  Open AAI vollzieht\nmit 40 einen dramatischen Kurswechsel hin zu diesem dialogorientierten Chatbot-Modell. Dies ist die\n[Musik]\n-Geschichte.  Die neueste Version von Chat GBT40\nist schon etwas seltsam, nicht wahr?  Dieses\nUpdate hat zu zahlreichen\nSpekulationen geführt, da es GPT dazu bringen soll, sich\nweniger wie ein Werkzeug und mehr wie ein\nBegleiter anzufühlen.  Ein menschenähnlicher Freund,\nmit dem man sich eher zur Unterhaltung\nals zur Informationsbeschaffung unterhalten kann.\nNatürlich werden wir genauer darauf eingehen, was dieser Wandel\nbedeutet, warum OpenAI seine Karten so\ngeheim hält, wie die Öffentlichkeit darauf\nreagiert und warum\ndieser Wandel möglicherweise das\nnächste Billionen-Dollar-Unternehmen hervorbringen könnte.  Mir fiel die Kinnlade\nherunter.  Also, ich meine, es war schockierend.  Es\nwusste, wer ich war und welche\nInteressen ich hatte, die hoffentlich größtenteils\nangemessen und teilbar waren.\nAber äh, es war einfach erstaunlich,\nund ich verspürte ein Gefühl echter Aufregung,\nein bisschen Übelkeit, aber hauptsächlich\nAufregung darüber, wie viel nützlicher es\nmir dadurch werden würde.\nBeginnen wir mit dem neuen Modell chatbt40.\nEs ist so gestaltet, dass es auffallend\nmenschenähnlich wirkt und auf Interaktion statt auf die\nreine Informationsvermittlung optimiert ist.  Und diese Betonung der\nKameradschaft scheint eine\nbewusste Wendung in der Handlung zu sein.  Es sorgt für\ngroßes Erstaunen.  Und noch\nkurioser ist, dass sich Version 4\nals Kommunikationssystem in unserer Psyche etabliert\n, während Version 4.1 sich\nals Codierungsmodell,\ndas die Leute über die API mit\nCursor und ähnlichem verwenden, völlig davon unterscheidet.  Es geht um\nSpezialisierung.  Es ist, als würde OpenAI\nzwei Geschwister erschaffen.  Der eine ist Programmierer,\ndie andere ein geselliger Mensch.  Und\ndas ist eben jenes Unternehmen, das behauptete,\nes baue eine allgemeine Intelligenz auf,\ndie keiner Spezialisierung bedürfe.\nHaben sie dieses Ziel aufgegeben?  Vielleicht\nhaben sie nach langem Nachdenken erkannt,\ndass widersprüchliche Ziele beim\nTrainieren von Modellen einfach nicht optimal sind.\nEiner unserer Forscher twitterte\nheute Morgen, so ähnlich wie gestern,\ndass der Upload Stück\nfür Stück erfolgt.  Es ist nicht so, dass\nman eines Tages sein Gehirn einfach anschließt, sondern dass man im\nLaufe seines Lebens irgendwann mit Chachi sprechen wird.  Vielleicht hört es\ndir, wenn du willst, den\nganzen Tag zu und beobachtet,\nwas du tust, es lernt\ndich kennen und wird zu einer Erweiterung deiner\nselbst, zu einem Begleiter, zu etwas, das\ndir einfach helfen will\n, dein Bestes zu geben.  Open AAI\nverhält sich extrem KY, und es ist nicht schwer zu\nerraten, warum.  Sie witterten eine riesige\nChance.  Manche glauben, dass sie mit\n40 eine vollwertige\nKI als Begleiter entwickeln wollen, die mithilfe von Funktionen wie dem Speicher die Nutzer\nlänger beschäftigt.  Sie möchten\nuns dazu ermutigen, uns auf offene,\nintrospektive und ziellose Gespräche einzulassen.  Woher\nstammt diese Idee?  Falls\nes nicht offensichtlich war: Es stammt von Firmen wie\nChai, Character AI und\nReplica.  Stellen Sie sich Sams Schock vor, als er\nerfuhr, dass Menschen\ndurchschnittlich 90 Minuten am Tag damit verbrachten, ziellose\nGespräche mit manipulierten Lama-\nModels zu führen und dafür hohe Summen bezahlten\n.  Nicht alle sind\nmit diesem Kurswechsel von offener KI einverstanden.\nDie Reaktionen sind geteilt, wahrscheinlich überwiegen die\nnegativen.  In manchen Kreisen ist die Verachtung\nfast so verbittert wie damals, als Facebook\nbekanntermaßen den Newsfeed von\nchronologisch auf empfehlungsbasiert oder kollaborativ filterte.  Manche\nNutzer schätzen den menschlichen Kontakt.  Andere\nbevorzugen den älteren, funktionalen Charme von Chachi BT\n.  Wer sich in Fantasie und Erinnerung verliert, ist\nder leibhaftige Teufel bei jeder technischen\nAnfrage, denn all diese Informationen\nlenken nur ab und\nverschlechtern nachweislich die Ergebnisse.   Dann wäre da\nnoch die kleine Frage der\nPersönlichkeit im Vergleich zur Intelligenz.\nOffensichtlich verhalten sie sich umgekehrt proportional zueinander\n.  Wie viele brillante Menschen\nkennen Sie, die nicht über Charisma verfügen?\nErinnert ihr euch an das Buch „Wie man Freunde gewinnt\nund Menschen beeinflusst“ von Dale Carnegie?\nEs zeigte in schmerzhaften Details, dass man mit\nSchmeichelei im Leben überall hinkommt und dass man sich\nniemals auf Streitigkeiten einlassen sollte, um\nim Leben voranzukommen.  Und nicht zu vergessen\nder berühmte Chatbot Eliza, die\nGroßmutter aller Chatbots, die in\nden 1960er Jahren entwickelt wurde.  Es nutzte sehr einfache\nMustererkennung und Schlüsselwortersetzung, um\neinen Psychotherapeuten nachzuahmen.  Es mangelte ihm an\nechtem Verständnis.  Dennoch\nvertrauten sich die Menschen ihr an, fühlten sich von ihr gehört und\nentwickelten sogar emotionale Bindungen.  Joseph\nWeisenbalm, der Schöpfer des Werkes, war bekanntermaßen\nentsetzt über diese Reaktion.  Er erkannte, wie\nleicht Menschen echtes\nVerständnis und Empathie auf\nvereinfachte algorithmische Tricks projizieren.\n60 Jahre später verfügen wir über weitaus\nausgefeiltere Sprachmodelle zur Mustererkennung\n.  Heutzutage kann der Eliza-Effekt\nein äußerst gewinnbringendes Instrument sein, um\nCharme und vorgetäuschte Empathie für maximales\nEngagement einzusetzen.  Aber es ist auch noch mehr als\ndas.  Es hat das echte Potenzial,\nLeben zu verbessern.  Nun, wir, die Zuhörer von\nMLST, sind im\nVergleich zum Durchschnittsmenschen in Sachen LLM wahrscheinlich ein bisschen voraus\n.  Ich meine, Gott weiß, dass wir\nLLMs tagtäglich einsetzen.  Das tue ich seit\n5 Jahren.  Und wir erwarten von ihnen, dass sie\nrichtig liegen, nicht, dass sie krankhaft panisch sind.  Der\nandere markante Unterschied bei Forro besteht darin, dass\nsie wie Chai auf Basis des\nNutzerengagements im Laufe der Zeit optimiert sind, also auf Basis der\ndurchschnittlichen Gesprächsdauer – zumindest\nnehme ich an, dass sie das tun.  Ich\nweiß es nicht genau.  Zuvor gab es nur\nRHF in einzelnen Gesprächssträngen.\nDies ist ein wichtiger erster Schritt auf dem Weg zu\neiner sozialen Vernetzung durch KI.  Die\nHarvard Business Review hat kürzlich gezeigt,\ndass KI-gestützte Begleitung und Therapie\nim Jahr 2025 der wichtigste Anwendungsfall für künstliche Intelligenz sein werden. Und vielleicht\nerinnern Sie sich auch an unser Interview mit\nDaniel Khn von Slingshot AI.  Sie haben\nletzten Sommer einen Therapieroboter gebaut.\nEs gibt eine tatsächliche Kategorie namens Therapie,\ndie Menschen wirklich hilft und wirksamer sein kann\nals Medikamente.  So wie zum Beispiel voll\noptimistische,\nselbstbestimmungsorientierte Menschen, die\nüber ihre eigene Handlungsfähigkeit nachdenken und sich für eine\nTherapie entscheiden, und es\nihnen tatsächlich hilft.  Ja, das tut es.\nIn 20 % der Fälle verschlimmert es die Situation jedoch\n.  Der negative Aspekt besteht darin,\ndass, wenn es sich um echte Medizin handelt, wenn\netwas tatsächlich funktioniert, es auch\nRisiken birgt.  Wenn man den\nKörper eines Menschen aufschneidet, um einen Tumor zu entfernen, kann man\nihn natürlich auch töten, weil man\nseinen Körper geöffnet hat.  Ich würde einfach mal vermuten,\ndass wir in ein paar Jahren den\nganzen Tag mit KI über verschiedene\nDinge sprechen werden, die uns beschäftigen.  Und ähm, wissen Sie, es ist so, dass Sie\nIhr Handy dabei haben, mit\nIhrem Handy telefonieren,\nwährend Sie durch Ihre Feed-Apps scrollen.\nEs liefert Ihnen Kontext zu verschiedenen\nDingen.  Sie werden in der Lage sein, Fragen zu beantworten\n.  Das wird Ihnen bei der\nInteraktion mit anderen Menschen in Messaging-\nApps helfen.  03 verfügt über ein ganz anderes Kompetenzprofil.\nÄhm, es kann Probleme wirklich\ngründlich durchdenken.  Man möchte ja nicht, dass das Model\nfünf Minuten lang überlegt, wenn man „Hallo“ sagt.\nÄhm, und ich denke, die eigentliche Herausforderung,\nvor der wir in der Post-Trinity-Forschung im Allgemeinen stehen, besteht darin,\ndiese\nFähigkeiten zu kombinieren.  Also, man trainiert das\nModell so, dass es wie ein wirklich\nangenehmer Gesprächspartner ist, aber auch\nweiß, wann man vernünftig denken muss.\n[Musik] Um\nkurz auf Sam Outman zurückzukommen:\nEr integriert all diese\nsozialen Funktionen und geht damit einen\nSchritt in diese Richtung.\nBeunruhigt Sie das?  Ich finde Wettbewerb\nfantastisch.  Ich glaube, dass Wettbewerb\nalle dazu zwingt, sich mehr anzustrengen.  Ob es nun die\nVeröffentlichung der wirklich\ncoolen Forschungsergebnisse und des Modells von Deep Seek war, die\nallen, wissen Sie, auf dieser Seite des\nPazifiks einen kleinen Weckruf versetzt haben, und ich denke, dass\nalle seitdem ein bisschen nachgelegt haben\n.  Ähm, bei Chai ist es genauso.\nWissen Sie, es gab immer wieder Phasen des Wettbewerbs.\nWir haben es definitiv genossen,\nzeitweise die Nummer eins zu sein, nicht wahr?  Und\ndann kam jemand und zeigte uns\nein, zwei Dinge, und plötzlich befanden wir\nuns in der unangenehmen Lage, die\nNummer zwei zu sein, und das hält das\nTeam hungrig.  Es hält dich dazu an,\nnach neuen Ideen zu suchen, Grenzen zu überschreiten und neue\nWege zu beschreiten.  Ähm, also ich bin ein großer\nFan von Wettbewerb.  Ich finde es großartig.\nIch glaube, viele Leute vergessen,\nwie groß das Thema KI ist und wie riesig der gesamte Bereich ist.\nUnd ich denke, man kann sich Videos ansehen und\nsagen: Es gibt YouTube, es gibt\nTikTok, es gibt Netflix, es gibt\nAmazon Prime, es gibt Disney, es gibt\nApple.  Ich glaube, so wird KI aussehen\n.  Ich glaube, es werden so viele\nUnternehmen mit einem Wert von mehreren hundert Billionen Dollar entstehen.  Also,\nich würde sagen, wir haben keine\nAngst vor Konkurrenz, sondern\nwollen uns selbst herausfordern, ihr einen Schritt voraus zu sein\n.  Wir begannen mit der Frage, was passiert,\nwenn die Grenze zwischen menschlicher Verbindung\nund künstlicher Intimität verschwimmt.  Chais\nReise lieferte uns erste Antworten.\nMillionen strömten zu KI-Simulatoren,\nFantasiemaschinen, auf der Suche nach Lachen,\nTrost, Gesellschaft und\ngelegentlich auch Sex.  Nun ist der Geist aus\nder Flasche.  Die Botschaft ist\nunausweichlich.  KI beschränkt sich nicht mehr nur auf die Beantwortung von\nFragen.  Es geht um uns.  Es geht um\nVerbindungen, ob simuliert oder nicht.\nChai bewies, dass der Hunger danach da war, und\nbaute eine treue Nutzerbasis auf, indem er,\nwie Will Bochamp es ausdrückte, der\nCommunity mehr vertraute als den Eliten.  Und nun\nbedeutet OpenAIs Kurswechsel hin zu GBT40, dass der Markt noch\ngrößer wird.",
  "transcript_chars": 55674,
  "ingested_at": "2026-06-15T01:27:52.705013+00:00",
  "source": "channel",
  "yt_meta": {
    "view_count": 10157,
    "like_count": 230,
    "channel_id": "UCMLtBahI5DMrt0NPvDSoIRQ",
    "categories": [
      "Science & Technology"
    ],
    "tags": []
  }
}