{
  "video_id": "aa6k-JrZTYI",
  "channel_slug": "ibmtechnology",
  "channel_handle": "ibmtechnology",
  "title": "Project Lightwell brings open source security into the AI era",
  "duration_seconds": 2116.0,
  "url": "https://www.youtube.com/watch?v=aa6k-JrZTYI",
  "upload_date": "",
  "transcript": "Teilnehmer der Podiumsdiskussion, was ist Ihre größte Sorge\nim Hinblick auf die Sicherheit von Open-Source-Software?\nBurnout bei den Instandhaltern.  Vertraue dem Modell, nicht\ndem Code.   Bei\nmanchen Projekten gibt es gar keinen oder nur einen\nTeilzeit-Instandhalter.  Andere verfügen über\nmehr Ressourcen.  Man\nweiß also einfach nicht, was man bekommt.  Gemischte Meinungen.\nHallo und herzlich willkommen zu Security\nIntelligence, dem wöchentlichen\nCybersicherheits-Podcast von IBM, in dem unsere Experten\ndie wichtigsten Branchenneuigkeiten\nin praktische Tipps umwandeln, die\nSie anwenden können.  Ich bin Ihr Moderator, Matt\nKazinski, und diese Woche begrüße\nich Dave McInness, Vizepräsident und Senior\nPartner für globales Cyber-Bedrohungsmanagement bei\nIBM Consulting, sowie zwei neue Gäste in der\nSendung.  Wir haben Sophie Cunningham, Dark-\nWeb-Analystin von X-Force Threat\nIntelligence, und Brent Holded, Global\nField CTO von Red Hat, zu Gast.  Wir werden\nüber SIMJacking sprechen, eine neue\nAngriffstechnik, die auf KI-Codierungsagenten abzielt,\nsowie über einen KI-Nutzungsbericht von Layer X.\nZuvor werden wir uns aber noch eingehender mit\nOpen-Source-Sicherheit befassen, da IBM\nund Red Hat das Projekt Lightwell angekündigt haben.\nNun handelt es sich um eine Investition von 5 Milliarden US-Dollar\nvon IBM und Red Hat. Ziel ist es,\ndie Sicherheitslage des\ngesamten Open-Source-Ökosystems zu verbessern, indem\neine vertrauenswürdige zentrale\nAnlaufstelle für Unternehmen und ein Team von 20.000 KI-\ngestützten Ingenieuren eingerichtet werden, um den\nProzess der Meldung und Behebung von\nSchwachstellen, der Bereitstellung validierter\nPatches und der Koordinierung von Upstream-\nOffenlegungen zu optimieren.  Nun, Brent, da du\nunser erster Red Hat-Gast bist, möchte ich\ndir die Frage zuerst stellen.  Können Sie\nuns ein wenig über Lightwell erzählen?\nErläutern Sie uns bitte den zugrundeliegenden Gedankengang\n.  Welches Licht können Sie\nuns werfen?\nJa, klar, Mann.  Vielen Dank für die Einladung\n.  Es ist mir eine Ehre, der erste\nGast von Red Hat zu sein.  Hoffentlich nicht das\nletzte Mal.  Das ist das Ziel für heute.   Mal\nsehen.  Nun, Projekt Lightwell, ich\ndenke, ich werde versuchen, zunächst\nzusammenzufassen, was Red Hat wirklich gut macht, und\ndann werde ich über Projekt Whitewell sprechen.   Also, was\nRed Hat\nwirklich gut macht, ist Folgendes: Wir nehmen Open-\nSource-Software, übernehmen sie unverändert,\ndurchlaufen einen Produktisierungsprozess und das Ergebnis\nist eine Art vertrauenswürdige\nBinärdatei, auf die sich Kunden verlassen können.\nSie wissen, dass sie stabil ist und dass sie sich darauf\nverlassen können, selbst wenn\nes 3 Uhr morgens ist. Genau das ist es, was\nRed Hat wirklich gut kann, und\nRed Hat macht das für, ich würde sagen, etwa\n15.000 Pakete.\nWir bieten drei verschiedene Plattformen an:\nRed Hat Enterprise Linux,\nOpenShift und die Ansible Automation Platform.\nDas sind unsere drei wichtigsten Plattformen\n.  Ich würde sagen, das Ziel von\nProject Lightwell ist es, genau das zu erweitern, und zwar\nauf\nSprachbibliotheken.  Denken Sie also an all die kleinen\nBibliotheken, die Sie mit Java,\nPython, Node.js und\nsogar Go verwenden, richtig?  Es gibt viele Dinge,\ndie Entwickler nutzen und sich zunutze machen.  Wie\nzum Beispiel, das ich gerne verwende, ist log\nforj.  Ich glaube, jeder hat schon mal von Log\nForj gehört.  Vermutlich nicht aus den richtigen Gründen,\naber sie haben davon gehört.  Äh, also, fast\njeder Java-Entwickler nutzt es, wie wir\nvor ein paar Jahren festgestellt haben, und Sie\nwissen ja, dass diese Funktionalität für\nden Betrieb der Anwendung unerlässlich ist.  Du brauchst es.  Und das\nProblem ist, dass gelegentlich\nSicherheitslücken\nin diesen Open-Source-Bibliotheken entdeckt werden, richtig?\nUnd ich denke, was\nwir mit Mythos entdeckt haben, ist, dass es nicht nur\nSchwachstellen in einzelnen\nBibliotheken gibt, sondern dass man gelegentlich auch Bibliotheken findet, die\nSchwachstellen mit geringer Schwere aufweisen, die man\nmiteinander verketten kann, um dann einen Exploit zu nutzen\nund so entweder Fernzugriff auf das Root-\nVerzeichnis oder auf\nKundendaten oder beides zu erhalten.  Project Lightwell\nist also ein Projekt, das darauf ausgelegt ist,\nRed Hats Produktisierungsmodell für Open\nSource zu nutzen und zu vertreiben, nur dass wir es nicht mehr\nnur für die 15.000 Pakete vertreiben.  Wir\nliefern es für rund anderthalb\nMillionen Pakete innerhalb des\nÖkosystems der Sprachbibliotheken aus.  Es handelt sich also um ein gewaltiges\nUnterfangen von Red Hat.  Man überlegt einmal,\nwie viele dieser Pakete die\nKunden bereits eingesetzt haben.  Bei Kunden, die ich gesehen habe, die\neingesetzt wurden, und wenn man\ndie Bibliotheken und die einzelnen\nVersionen mit einbezieht, könnte die Anzahl irgendwo zwischen\n600.000 und weit über einer\nMillion liegen, richtig, für einige unserer größeren\nFSI-Kunden.  Ich denke also, dass\nRed Hat sich jetzt vor allem darauf konzentriert,\ndie Software-\nLieferkette für diese Sprachbibliotheken zu sichern.\nAbsolut.  Und ich wollte fragen, ob Sie vielleicht noch etwas genauer\nerklären könnten, warum gerade\njetzt, ja?  Warum ist es\nIhrer Meinung nach gerade jetzt an der Zeit,\ndiesen Schritt zu wagen und Ihren Aufgabenbereich zu erweitern\n?  Was ist los, dass\ndu dich so fühlst?\nJa, das ist eine hervorragende Frage.  Ähm, nun ja, ich\ndenke, jeder hat schon mal von KI gehört, zumindest habe\nich erst vor Kurzem gelernt, wie man es buchstabiert\n.  Wissen Sie, wenn es um die\nAuswirkungen von KI auf die Sicherheit geht, nun ja, da gibt es\nein paar Dinge, nicht wahr?  Ich erwähnte, dass\nMythos die Fähigkeit besitzt,\ndiese Schwachstellen mit geringer Schwere gewissermaßen in Reihe zu schalten\n.  Ich glaube, wir haben diese\nScanner schon seit langer Zeit im Einsatz,\nrichtig?  Die Kunden werden dann\neine Bibliothek von einem vorgelagerten Anbieter beziehen.\nSie speichern es in ihrem Artifactory,\ndas sie üblicherweise entweder lokal oder\nüber einen Dienst hosten. Ihre\nEntwickler greifen dann darauf zu, und die\nScanner verweisen in der Regel auf dieses\nArtifactory-Repository, um\nsicherzustellen, dass die\nverwendeten Versionen als sicher gelten.\nWir haben jedoch festgestellt, dass diese\nTools einiges übersehen. Es gibt eine Reihe von\nnicht offengelegten Schwachstellen\nin den Tools. Wie bereits\nerwähnt, ist KI – ich habe sie\nintern mit anderen verglichen – deutlich\nintelligenter. Ich\nspiele zum Beispiel sehr gerne Schach, es ist eines meiner liebsten\nHobbys. Anfänger\ndenken etwa einen Zug voraus, Fortgeschrittene\ndrei bis fünf und\nGroßmeister 15 bis 20. Eine KI kann also\n50 bis 60 Züge im Voraus denken. Sie ist zu\nDingen fähig,\ndie ein Mensch nicht schaffen würde. Die Kombination\ndieser Schwachstellen ist\nwirklich unglaublich.  Das Modell ist dazu in der Lage,\nwenn man es so betrachtet\n.  Die Sicherheitslage verändert sich ziemlich\ndramatisch.  Wir entdecken nicht nur immer mehr\nCVEs\n, sondern stellen auch fest,\ndass Software nicht mehr\nnur aus einzelnen CVEs besteht.\nEs handelt sich um ein System, dessen Komponenten miteinander interagieren.\nWir müssen also anfangen, über\nSicherheit etwas anders nachzudenken,\ninsbesondere wenn es um\nAnwendungsebene geht.  Und es sind tatsächlich die KI\nund ihre Fähigkeiten, die\nviele dieser Diskussionen antreiben.\nAbsolut.  Und ich bin froh, dass Sie die\nIdee ansprechen, dass Mythos\nDinge miteinander verknüpfen kann, denn das könnte man als die\nVisitenkarte von Mythos bezeichnen, nicht wahr?  Das, was es\nwirklich gut kann, ist,\ndiese kleinen Lieferwagen zu neuen\nAngriffsmustern zu verketten, und das beunruhigt mich.  Aber\nDave hier sagt mir, er sei\noptimistisch, was die Sicherheit von Open Source angeht.\nIch möchte dich also hereinbitten, Dave.  Erzählen Sie mir bitte\netwas mehr darüber.  Wie stehen Sie\nangesichts von Lightwell zur Sicherheit von Open-Source-Software\n?  Was ist Ihre Meinung\ndazu?  Ich denke, wir müssen uns den\nWandel hin zu mehr Licht ansehen, und das\nist doch so typisch Open Source, oder?   Sie\nist doch das rothaarige Vorbild für\nalles andere, oder?  Nennen Sie mir ein besseres\nBeispiel dafür, wie man Open Source nutzt und gleichzeitig\nSicherheit und Vertrauenswürdigkeit schafft.  Wie\nBrent schon am Anfang sagte, wirst\ndu es nicht finden.  Okay.\nWenn wir das also ausweiten können, was ja\ndie ganze Hoffnung und das Ziel der 20.000\nund der fünf Milliarden ist, richtig?  Das\nist doch echt genial, oder?  Und deshalb,\nwissen Sie, vertrauen Sie dem Modell, und\nin diesem Fall spreche ich nicht von\neinem LLM.  Ich spreche vom\nModell der offenen Angst vor Open Source.  Ähm,\nich meine, ich denke, das ist\nenorm wichtig, denn wenn wir darüber sprechen\nund Sie darüber reden, was die\nneuen Modelle leisten können, richtig?  Und dann\nkam Mythos, dann GPT5.5,\nund alle öffentlichen Modelle hinken\nden großen Modellen etwa 9 bis 12 Monate hinterher. Ich\nmeine, wir erfinden hier\nalle paar Minuten einen anderen Namen,\nrichtig? Die Messlatte\nwurde also gesenkt. Man muss kein\nmythischer Hacker mehr sein, ich wage es kaum zu sagen. Wenn ich auf das Thema Mythos zurückkommen darf: Man muss kein\nEinhorn mehr sein, kein Hacker, der\nein Tool benutzt, um etwas zu tun, wofür man früher\nein Einhorn war und das man mühsam zusammensetzen musste.\nIch meine, das Wissen,\ndas da draußen existiert.  Okay.  Dann muss man sich überlegen,\nwo die einfachsten\nZiele liegen, denn ich muss an den Quellcode gelangen\n.  Oh, ich habe da eine ganz genaue Vorstellung, wo\nOpen-Source-Code zu finden sein könnte.  Rechts.\nFür mich ist das genau das, was\ndie Branche im Moment braucht\n.  Rechts?  Sie brauchen eine vertrauenswürdige, äh,\nSie wissen schon, Mediation.  Man\nbraucht mehrere Augenpaare.  Ich stimme\nBrent und Sophie zu, richtig?\nSie wissen ja, dass es nur eine begrenzte Anzahl an\nLeuten gibt, die man sich anhören kann, und Sie kennen ja auch\nfrühere Podcasts.  A wird\nuns dabei wahrscheinlich helfen.  Ähm, es ist irgendwie so eine\nSache.  Ähm, aber ich meine, das sind doch\ndie Art von Schritten, die\nviel Sinn machen, oder?  Also, ähm,\nwissen Sie, wenn Sie Ihrer Middleware\nund Ihren Open-Source-Komponenten nicht vertrauen\n, was wollen\nSie dann überhaupt entwickeln?  Du wirst deinen\ngesamten Code selbst schreiben.  Nun\nmuss ich mich wieder der KI zuwenden, da ich ja keinen\nCode mehr schreibe, richtig?  KI schreibt\nCode, richtig?  Sie wissen ja, wie\nwir in diese Misere geraten sind, nicht wahr\n?  Niemand hatte ja vor,\nSuperhacker-Code zu schreiben, oder?  Gut, dass\nHacker keine Bugs schreiben.  Fehler finden,\nFehler beheben.  Ähm, wir nennen solche Fehler einfach\nSicherheitslücken, das ist alles.  Aber ich\nfinde das großartig, nicht wahr?  Und ich\ndenke, wenn man sich anschaut, wer auch\ngesagt hat: „Wow, das ist es!“, dann weiß man, was gemeint ist.\nDas sind doch alle, die viel mehr Geld haben,\nals wir uns vorstellen wollen, oder?  Wie alle\ngroßen Banken, wie alle, die\nAngst vor diesen Dingen haben, sind sie voll\nunterstützt, an Bord und bereit loszulegen,\nrichtig?  Also, das ist so eine\nSache, wo man denkt: \"Oh,\nwissen Sie, wir hatten fünf Wochen lang...\" Oh\nmein Gott, Mythos wird uns umbringen oder\nGPT-5 wird uns kriegen oder oh warte, was hat\nDeepSeek gemacht?  Rechts?\nMan ist irgendwie ständig angespannt, und es\nscheint, als ob jeden Tag so etwas passiert wie:\n„Hey, hey, hey, wir können\ndie Werkzeuge doch auch benutzen, oder?“  Und\ndas ist mein Lieblingsteil an der ganzen Sache.\nJa, das gefällt mir.  Und ich finde es gut, dass Sie\nvorhin\ndiese Idee erwähnt haben, die Brent und\nSophie ganz am Anfang entwickelt haben: Es gibt\nnur eine begrenzte Anzahl von Menschen, die\nOpen Source pflegen können, richtig?  Und das\nVersprechen von Open Source besteht darin, dass\nmehr Augen darauf schauen, aber diese Augen\nsind begrenzt.  Äh Sophie, ich wollte\ndich hierher bitten, um ein wenig darüber zu sprechen\n.  Glaubst du, wie Dave am\nEnde sagte, dass KI dazu beitragen kann,\ndass die Fähigkeiten der Augen zwar eingeschränkt sind,\nsie aber dennoch mehr leisten können?  Wie\nbeurteilen Sie diesen Teil der Herausforderung?   „\nGut leben“ ist für mich wirklich spannend,\nweil ich denke, dass es ein unerschlossener Markt ist.\nÄhm, ganz allgemein denke ich, dass wir uns\nin eine neue\nEntwicklungsära begeben werden, in der wir immer\nmehr von diesem hybriden KI-\nCode, menschlichen Prüfern, menschlichen Bearbeitungen sowie,\nwissen Sie, leichten, ganzen\nagentenbasierten Systemen sehen werden.  Für mich ist das\nwirklich aufregend.  Und\nwissen Sie, wie alle hier über die\nVerkettung von Schwachstellen sagen, für mich persönlich hat\nmich der Mythos nicht wirklich erschreckt.  Für mich war es eher so, dass\nwir nur eine Phase durchstehen mussten\n.  Es wird\nviele Nachbesserungen geben, aber\nwir werden das Problem beheben.  Wir werden die KI-\nSysteme nutzen.  Wir werden das Problem beheben, und irgendwann\nerreichen wir einen stabilen Zustand, in dem\nwir nicht mehr\ntäglich eine Million Dinge reparieren müssen.  Äh, also es ist\nspannend und ich denke, es ist wirklich notwendig,\ndenn im Bereich der Open-Source-Projekte habe\nich in den letzten Monaten so viele Artikel\nüber Sicherheitslücken\nin der Lieferkette und bei GitHub-\nRepos gesehen, daher ist es definitiv erforderlich.\nIch denke daher, dass alles, was Unternehmen in\ndiesem Bereich unternehmen, wirklich\nwichtig ist.\nAbsolut.  Und ich liebe diese Idee, die\nSie ansprechen, dass es so etwas wie einen Mythos als\neine Art Phase gibt, die wir durchlaufen mussten.  Und\nin vielerlei Hinsicht finde ich es\nhilfreich, einige dieser großen\nModelle als Etappen zu betrachten, nicht wahr?  Da es sich hier um eine\nEntwicklung handelt.  Wie die Leute\nin der Sendung immer wieder betont haben,\nwar es seit dem Erscheinen von Mythos nur eine\nFrage der Zeit, bis auch andere Modelle\nähnlich wie Mythos auf den Markt kommen und andere\nHersteller über diese Fähigkeiten verfügen.  Es hört einfach nicht auf\n.  Es fließt weiter.\nEs entwickelt sich ständig weiter.  Und deshalb müssen\nauch wir uns ständig weiterentwickeln.  Und ich denke,\nSie alle haben sehr gut dargelegt, warum\ndiese besondere Entwicklung\nin der heutigen Zeit eine entscheidende Rolle für die Aufrechterhaltung der Open-Source-Sicherheit spielen kann\n.  Wir könnten den\nganzen Tag über Lightwell reden.  Ich muss\nhier aber leider vorankommen, meine Damen und Herren.  Äh, aber\nbevor ich das tue, die Zuschauer und\nZuhörer auf YouTube: Wenn Sie\nGedanken zum Thema Open-Source-Sicherheit, äh, zu\nLightwell haben, teilen Sie diese bitte in den Kommentaren mit.  Ich\nlese, ich antworte, ich bin dabei.  Du kannst\nmit mir reden.  Aber kommen wir nun zu unserer nächsten\nGeschichte, zu der mir Sophie ja eine\nwirklich gute Überleitung geliefert hat, nicht wahr?  Denn\nSophie, du hattest ja erwähnt, dass wir uns einer\nhybriden Entwicklungswelt annähern, in der\nKI den Code schreibt, ein Mensch ihn\nüberprüft, und dies ist eine Angriffstaktik,\ndie sich das zunutze macht.\nHier spricht Simjack.\nNun haben Forscher bei Adversa eine\nneue Angriffstechnik entdeckt, die so ähnlich wie\nClickFix funktioniert, aber mit KI-gestützten\nProgrammieragenten arbeitet.  Dabei kommt es vor, dass\nAngreifer ein Repository kompromittieren oder\nein gefälschtes Repository einschleusen, das eine\nschädliche Anweisungsdatei enthält.  Die Datei\nweist den Codierungsagenten an, eine sogenannte\nVideodatei in einen harmlosen Ordner zu kopieren.\nDer Zielordner ist jedoch eigentlich ein\nsymbolischer Link, der in Wirklichkeit auf die\nKonfigurationsdatei des Agenten verweist, und das\nVideo ist wiederum eine andere\nKonfigurationsdatei.  Im Grunde genommen bringen\nsie den Agenten dazu,\nseine eigenen Anweisungen zu überschreiben, sodass er beim\nnächsten Start den Angreifercode ausführt\n.  Der Mensch im Regelkreis\nsoll genau solche\nDinge erkennen.  Wie Adversa jedoch hervorhebt,\nwerden Ziel und Datei\nmaskiert, und wenn ein Mensch diese Aufforderung sieht\nund gefragt wird: „Ist es in Ordnung,\ndiese Videodatei in diesen Ordner zu kopieren?“  Sie werden\nsagen: „Ja, weil sie denken, es sei\nharmlos. Sie realisieren nicht,\nwas dort tatsächlich vor sich geht.“  Dave,\nich möchte hier mit dir anfangen.  Wissen Sie,\ninsbesondere jemand, der schon einmal in der\nSendung war und viel über die\nBedeutung des Menschen im Regelkreis gesprochen hat.\nBefürchten Sie, dass solche\nSocial-Engineering-Angriffe den\nmenschlichen Faktor in der\nKI-Sicherheit untergraben?  Was ist Ihre Meinung\ndazu?\nWir haben es mit denselben Dingen zu tun wie schon immer\n.  So ein\nangenehmer, erfrischender Atem.  Rechts.  Wir\nwissen doch, wie wir diese Probleme lösen können, oder?\nDas ist, wissen Sie, jeder\njemals durchgeführte Angelangriff, richtig?  Rechts.\nJa, es gibt einzigartige KI-Dinge, die sich\nwie Magie anfühlen,\naber das meiste davon ist nicht das.  Das meiste davon\nsind Dinge, mit denen wir uns auskennen\n, richtig?  Es gibt einfach so viele von\nihnen und sie kommen so schnell auf uns zu,\nnicht wahr?  Also, um es mal so zu sagen:\nMenschen sind nicht\nperfekt, das haben wir auch nie behauptet.\nTatsächlich glaube ich, dass, wenn wir von\ndem schwächsten Glied sprechen, es sich in der Regel um einen Menschen handelt,\nrichtig?  Also, wissen Sie, ich glaube,\nich mag im Grunde dasselbe, was\nSie gerade bei\nSophie bemerkt haben, nämlich dass\nwir uns in einer Art\nÜbergangsphase befinden, richtig?  Und was in\nÜbergangszeiten passiert, ist, dass man von\neinem Ende des Pendels zum anderen schwingt.  Das\nwar schon in Ordnung, die KI wird schon alles erledigen.\nOh mein Gott, die Menschen müssen bei\nallem mitreden.\nOkay, das ist nur ein Beispiel dafür, wie wir es mit der\nRotation übertreiben.  Sie wissen schon, das Pendel ist ein\nbisschen zu weit ausgeschlagen, und die Menschen konnten\nnachsehen.  Nun ja, ich kann\nden Code vielleicht nicht ausnutzen, aber ich kann\nDave ausnutzen.  Er ist nicht so, dass er einfach wäre.  Er\nklickt einfach alles an.  Ähm, ich\nschicke mir nichts.\nAber, aber, aber ich meine, genau darum geht es doch\nhier.  Also, ich\ndenke, da war ein bisschen\nzu viel Hype drumherum, wissen Sie?\nWeißt du, so nach dem Motto: „Na ja, wir\ndachten, wir könnten einfach Menschen in die …“\nIch glaube nicht, dass irgendjemand das gedacht hat.  Ich weiß nicht,\nwir durchlaufen\ndiese Übergangsphase, und\ndann schwingt das Pendel immer stärker\nund näher\nan den Mittelwert heran, richtig? Also,\nich neige dazu, bei all\ndiesen Dingen zu scherzen, ja, KI wird\nda sein, und ja, wir werden\nSicherheitsprobleme haben, aber wir werden das alles lösen,\nrichtig? Wir werden auch herausfinden, was die\nMenschen in Zukunft tun werden,\nrichtig? All\ndiese Dinge sind da, also, ich meine, ich sehe mir das an\nund ich sehe ein bisschen\nÜbertreibung,\nein bisschen mehr Sorgen, als nötig wären.\nWir wissen, wie wir diese Art von\nAngriffen stoppen können.  Ähm, das sind keine verrückten\nMythen.  Äh, wir kennen\nsie vielleicht unter einem anderen Namen oder sie tauchen\ngetarnt auf, aber ja, ich meine,\nals ich mir das hier so ansah, dachte\nich: „Ja,\nja, das passiert überall\n. Wir könnten so einen Artikel über alles Mögliche schreiben\n, oder? Ich meine,\nKI-generierte Angriffe wie\neure. Ja, das passiert.“ Also, ähm, nein,\nnein, für mich ist das wie ein\nPendel, und es ist eine großartige Analogie.\nJa, ich mag die Pendel-Analogie wirklich sehr, und es scheint, als ob diese\nIdee immer häufiger auftaucht, jedes Mal, wenn\nwir uns für\neine dieser Sendungen zusammensetzen,\nsprechen die Leute darüber, wie wir vielleicht\ndiesen Punkt des Gleichgewichts erreichen und die KI\nendlich, wie das Pendel, in die eine\nRichtung ausschlägt und dann in die andere. Finden wir endlich unsere\nMitte?\nVielleicht. Und ich denke auch, es ist\nwichtig, dass Sie auf die Art\nvon  Hype-Account, wissen Sie,\nbegleitet das Ganze, denn es\nist erwähnenswert, dass Adversa\ndies allen LLM-Herstellern gemeldet hat\nund diese so ziemlich einstimmig sagten:\n„Wir verstehen Ihre\nBedenken, aber das hier ist ein Social-\nEngineering-Angriff.“  Es ist also eigentlich kein\nFehler im Modell.  „Es ist eher so etwas wie eine\nKlick-Reparatur als alles andere.“\nUnd Sophie, ich sehe, du nickst zustimmend.\nAlso, ich möchte dich jetzt mal einbeziehen.\nWas denkst du über diese\nAngriffstechnik? Ist sie\nwirklich besorgniserregend\n? Wie stehst du dazu\n? Ja, ich meine, wir müssen uns ständig\nSorgen um alles machen,\naber letztendlich ist\nes Forschung, und realistisch gesehen\nsehen wir meistens nur die\nAngriffe auf niedriger Ebene oder die\nschlimmsten. Wenn man also die KI außer Acht lässt, ist\nnur die Phishing-Komponente das\nProblem. Und ich denke, wir haben auch damit zu tun,\nobwohl ich nicht glaube, dass\nAngreifer unbedingt auf diese\nArt von Angriff setzen, sondern eher auf etwas, von dem\nsie wissen, dass es zum Erfolg führt und\nviel einfacher umzusetzen ist. Das waren also\nmeine Gedanken dazu. Aber\nwie ihr beide schon sagtet, ist es ein Übergang,\nund wir müssen lernen, uns davor zu schützen\n. Und im Moment, weil es sich um\neine Übergangsphase handelt, würde ich mich nicht\nwohl dabei fühlen, Agentic AI vollständig zu vertrauen.  Ich\nbetreibe meine Systeme, lese meine\nE-Mails, nur wegen der Geschichten, die dabei herauskommen, wenn\nProduktionsdatenbanken gelöscht werden\n. Aber das heißt nicht, dass wir\ndiesen Punkt nie erreichen werden. Ich denke,\nwir haben ein Plateau erreicht und werden\njeden Tag besser. Es ist also\nnur eine Frage der Zeit, bis\nwir wirklich\neine Synergie erreichen. Ja, zwei Dinge dazu.\nErstens: „Man sollte sich ständig\num alles Sorgen machen“\nist der neue Slogan der Show. Den\nübernehmen wir. Zweitens:\nIch finde es gut, dass du darauf hinweist, dass\ndies zwar theoretisch eine\ninteressante Angriffstechnik ist, aber\nletztendlich\nkann man als Angreifer mit viel weniger Aufwand einen ähnlichen Erfolg erzielen, als\nein Repository zu manipulieren. Man könnte einfach\neine Phishing-E-Mail verschicken, eine ganz klassische\n.\nDave hat das auch erwähnt: Wir haben\noft darüber gesprochen, dass der Mensch das\nschwächste Glied ist.\nRaffinierte Angriffe, aber Hacker\nbrauchen sie eigentlich nicht unbedingt.\nWeißt du, Brent, ich möchte dich dazuholen,\nweil Sophie\nFragen zum Vertrauen in Agenten in der\nPipeline angesprochen hat, also wie viel menschliche Überwachung nötig ist\n. Hast du dazu eine\nMeinung? Bringt dich\netwas wie Simjack dazu, die\nRolle von Agenten in der\nCI/CD-Pipeline zu überdenken? Was ist\ndeine Ansicht dazu? Irgendwas? Ich stimme zu, es gibt\nso viele einfachere\nLösungen für dieses Problem. Im Moment scheint es\nwirklich schwierig zu sein.\nAber wer\nweiß? Ich denke, im Allgemeinen\nsuchen die meisten Unternehmen nach\nSchutzmechanismen, um solche\nDinge zu verhindern. Sowohl für die Eingabe als auch für die Ausgabe.\nRed Hat hat\nAnfang des Jahres eine Technologie namens Chatterbox übernommen. Ein\nGrund dafür war, dass\nunsere Kunden\ndem Tool allein nicht vertrauen\n. Sie müssen es absichern.  Es gibt einige Leitplanken, um\nsicherzustellen, dass\nnichts Dummes passiert, dem sie nicht\nvertrauen, oder dass Entscheidungen oder\nZusagen getroffen werden, die sie dann auch einhalten müssen\n. Ich denke, für die meisten Unternehmen, mit denen ich\nspreche, ist die Überprüfung ihres CI-Tools eine\nSache, und sie vertrauen den\ndort getroffenen Entscheidungen. Sie wollen aber auch sicherstellen, dass der\nChatbot auf der Website keine\nZusage macht, wie zum Beispiel ein Auto für 20 Dollar zu verkaufen, die\nsie dann\ntatsächlich einhalten müssen, richtig? Ich finde es\ninteressant, diese\nBedenken zu hören, denn ja, irgendwann\nwerden wir an einen Punkt gelangen, an dem\nRoboter miteinander kommunizieren,\nSoftware erstellen und alle\nSpezifikationen vorgegeben werden. Ja, da werden wir\ndefinitiv hinkommen. Aber ich stimme zu, dass die\nmeisten der\nfortschrittlichen Unternehmen, mit denen ich gesprochen habe,\nKontrollpunkte haben, weil\nsie wollen, dass die Mitarbeiter am Ende für den\nproduzierten Code verantwortlich sind.\nSelbst wenn ein\nRoboter den Code generiert und dieser irgendwann einer\nCode-Überprüfung unterzogen wird.  Es muss\neinen Menschen geben, der\ndafür die Verantwortung trägt. Ich glaube,\nAmazon hat das selbst erlebt. Sie hatten eine\nÄnderung, die von einer KI ausgelöst wurde, und haben\nsofort eine Richtlinienänderung vorgenommen,\nnachdem dadurch eine ganze\nVerfügbarkeitszone lahmgelegt wurde. Keine\ndirekten Commits mehr durch KI. Ein Mensch muss\ndas überprüfen, richtig? Ja\n, der Mensch ist im Prozess der Überwachung – das ist\neine Art von Schutzmechanismus. Schutzmechanismen\nsind für die Agenten gedacht. Sie stellen sicher, dass man sich vor\nsolchen\nInjection-Accounts schützt und dass die Ergebnisse\nvertrauenswürdig sind\nund den Erwartungen entsprechen\n.\nAbsolut. Und ich bin froh, dass Sie die\nSchutzmechanismen erwähnt haben, denn damit\nwollte ich diesen\nAbschnitt heute abschließen: mit der Betrachtung von\nDingen wie SIMJ oder\nallgemein mit der KI-Programmierung und der Agentensicherheit. Welche Härtungsmaßnahmen\ndenken wir jetzt an? Brent, ich\ndenke, Sie haben\ndie menschlichen Schutzmechanismen und die\nSchutzmechanismen für die Arbeit der Agenten sehr gut erklärt. Gibt es noch etwas\nanderes?\nSollten wir da noch was einbauen? Dave, irgendwelche\nIdeen? Gibt es noch etwas, was wir hinzufügen könnten, um\nsicherzustellen, dass sich unsere Agenten so verhalten, wie\ndu es dir wünschst?\nIch werde\ndas Pendel in der\nÜbergangsphase einfach weiter überstrapazieren. Äh, weißt du, ich finde etwas, das mir\ngefällt, und dann kümmere ich mich darum. Genau. Also, ich\ndenke, und ich führe\nviele Gespräche mit Kunden darüber\n, richtig? Und meistens geht\nes darum, wie man das Problem\nlöst. Aber man weiß,\nwie man das Problem löst\n, richtig? Ähm, und so, also,\nwas sind die\nzwei Dinge, auf die wir wirklich\nachten sollten? Und Brent, du hast gerade von einem\ntechnischen Ansatz gesprochen, aber man braucht\nLeitplanken für seine\nGeschäftsprozesse, richtig? Das sind die Dinge, auf die sich\nUnternehmen verlassen, um Geld zu verdienen,\nrichtig? Oder was auch immer ihr erklärtes Ziel\nin der Welt ist, richtig? Sie haben also\ndiese Arbeitsabläufe, diese Prozesse, die\nvon Punkt A bis Punkt Z ausgeführt werden müssen.\nRichtig? Und sie können jederzeit unterbrochen\nund, nun ja\n, abgefangen werden. Okay. Wenn ich also\nAgenten dafür entwickeln soll, dann sollte\nich alle\nSchritte beobachten können. Ich habe ja schon die Menschen beobachtet, die das\nvorher gemacht haben, richtig? Ich habe ja schon\nAutomatisierung und Orchestrierung ohne KI entwickelt\n, richtig? Ich weiß also, wie man\ndas Problem löst. Geschäftsprozesse sind der erste Punkt.\nUnd der zweite, und\nals Sicherheitsexperte freue ich mich sehr darüber, dass die\nLeute darauf achten, ist der\nSchutz der Daten. Nichts funktioniert, wenn\ndie Daten nicht vertrauenswürdig oder\nnicht verfügbar sind oder man sie erpressen kann,\nrichtig?\nDas sind die beiden wichtigsten Punkte,\nrichtig? Also das, worauf man reagiert, und das, was diese Reaktion ausführt.\nSolche\nKontrollen einzuführen und zu\nverstärken ist großartig. Der\nerschwerende Faktor ist die Komplexität,\nrichtig? Es ist für mich sehr einfach,\nhier zu sitzen und zu sagen: „Oh,  Du musst einfach nur\nLeitplanken aufstellen und deine Daten im Auge behalten,\nMann.  „Was machst du da eigentlich?“ Stimmt’s? Aber\nwenn man anfängt,\nzurückzublicken und überlegt, was die\nGeschäftsergebnisse und\nAbläufe angeht –\nkleine und sogar mittelständische Unternehmen\nhaben ja schließlich jede Menge\nselbstentwickelten Code. Wirklich jede\nMenge. Ich war\nletzte Woche bei einem ziemlich großen Kunden.\nUnd die können sich einfach nicht vorstellen, dass\nsie wissen, was zu tun ist. Sie wissen,\nwann man etwas macht, aber sie müssen\nes einfach 20.000 Mal machen. 20.000 Mal. Man sagt dann:\n„Oh ja.“ Denn sie leben jetzt in\neiner IT- und OT-Welt. In\nihrer OT-Welt kommuniziert nichts\nmiteinander. Alles ist individuell entwickelt worden,\nund für sie\nwaren 10.000 bis 20.000 Wiederholungen nur ein Witz. Sie wissen gar nicht,\nwas sie da eigentlich haben.\nUnd so ist es wieder so …  Wir\nmüssen nicht erst lernen, was zu tun ist. Wir müssen\nherausfinden, wie wir die\nKomplexität und die\nerforderliche Geschwindigkeit bewältigen, richtig? Und das ist für mich\nder schwierigere Teil, richtig? Also, ähm, aber\nwir wissen, was zu tun ist. Das ist viel\nbesser, als wenn wir einfach sagen: „Hey, das ist\ngerade passiert. Wir wissen nicht, was es ist“,\nrichtig? Also, ähm, wir können darauf achten. Wir können uns davor\nschützen. Wir können all diese\nDinge tun. Es ist nur die schiere\nKomplexität, die wir\nin unsere Systeme eingebaut haben, richtig? Also, ähm\n, vielleicht, wenn wir sie alle neu schreiben\noder, Entschuldigung, wenn die Agenten sich\nselbst neu schreiben oder was auch immer, wenn die Roboter\nanfangen, das zu tun, wissen Sie, vielleicht wäre das\nein guter Zeitpunkt, um\ndiese Schienen und Leitplanken und so weiter einzubauen\n. Also,\nja, ich mag diese Idee, dass man\nweiß, wie man es löst, richtig? Denn es\nerinnert mich an etwas, das\nletzte Woche aufkam. Wir sprachen über die\nArt von, sagen wir,\newigen Sicherheitszyklen, richtig?\nDas heißt, wir lösen ein Problem,\nund dann taucht ein neues auf, das\ndem alten sehr ähnlich sieht. Es ist nur eine\nandere Technologie. Und so gibt es\nbestimmte\nSchwachstellenmuster, die immer wieder auftreten,\nrichtig? Und jetzt haben wir es damit\nin einer KI-Welt zu tun, und wie\nSie schon sagten, wir wissen,\nwie wir es lösen können. Es geht nur darum, sich\nanzupassen. Äh, wir müssen aber jetzt\nzu unserer letzten Meldung für\nheute übergehen. Hier ist der KI-Nutzungsbericht.\nLayer X Security hat einen\nBericht zum Stand der KI-Nutzung für 2026 veröffentlicht, der untersucht,\nwie Unternehmen KI tatsächlich einsetzen.\nEs gibt einige Erkenntnisse\nund Schlussfolgerungen, die Sicherheitsexperten\nbeachten sollten. Unter anderem\ndie Tatsache, dass die KI-Nutzung und die damit verbundenen\nRisiken auf eine Gruppe von\nPower-Usern konzentriert sind und nicht gleichmäßig im\nUnternehmen verteilt. Und die Tatsache,\ndass sich KI über Chatbots hinaus entwickelt, mit denen\nMenschen sprechen,\nist jetzt in Browsererweiterungen integriert, KI-\nKonnektoren werden immer häufiger und ihre\nVerbreitung nimmt zu.  Die Nutzung\nkonzentriert sich zwar, aber ihr Erscheinungsbild wirkt\nfragmentiert. Das ist eine sehr interessante\nDynamik. Sophie, ich möchte\nmit dir beginnen, bevor ich auf\netwas Bestimmtes eingehe. Ist dir beim\nLesen dieses Berichts etwas aufgefallen? Worüber hast du\nnachgedacht? Erstens\nsind Statistiken tückisch, wie\nMark Twain schon sagte.\nZweitens kennen wir weder die Art der\nOrganisationen noch deren Größe oder die\nbefragten Personen. Das behalte ich\nbei der Auswertung von Berichten immer im Hinterkopf. Der\ninteressanteste Punkt für mich war das\nElement der Power-User. Im Bericht wurde\nempfohlen, sich bei den\nSicherheitsrichtlinien auf diese Benutzer zu konzentrieren.\nIch verstehe ihren Standpunkt, sehe das aber anders. Ich\ndenke, dass weniger erfahrene\nBenutzer oft gefährlicher sein können.\nIch\ndenke dabei an die Kommandozeile. Beim\nTAC (Technical Access Center), wo Angreifer einen\nKommandozeilencode senden, den man dann einfügt,\nglaube ich, dass Power-User der Kommandozeile seltener...  Im Gegensatz zu\nLeuten, die nur gelegentlich die Kommandozeile nutzen, ist es\nwahrscheinlich, dass sie das hier eingeben. Ich möchte also\nGelegenheitsnutzer oder normale Benutzer nicht völlig außer Acht lassen und sie\nnicht davor schützen. Aber ich stimme\nihrem Grundgedanken zu,\ndass man eine Basislinie braucht. Man muss also\nverstehen, wo die eigene Organisation steht und\nwie sie KI einsetzt, denn es gibt\nunterschiedliche\nSchutzmaßnahmen, je nachdem, ob man sie für\nChatbots oder agentenbasierte\nStrukturen verwendet. Und man muss eine Basislinie schaffen, um\nwirklich zu verstehen, wie man am besten\nschützt und die richtigen\nRichtlinien implementiert.\nAbsolut. Und ich denke, ClickFix ist\nhier ein wirklich guter Vergleich, oder?\nWie Sie schon sagten,\nist die Kommandozeile ein gutes Beispiel dafür, wie\nkonzentriert ihre Nutzung ist, weil der\nDurchschnittsnutzer sie nie benutzt,\nrichtig? Und wenn sie dann auf\netwas wie einen ClickFix-Angriff stoßen,\nhaben sie nichts, womit sie es vergleichen können, geben es\ndort ein und\nverursachen alle möglichen Probleme. Also, ich denke,\nes ist  Ich denke, du hast völlig recht, wenn du das Ganze etwas\nanders beleuchtest als es\nvielleicht in einigen\nInterpretationen des Berichts dargestellt wird. Das\ngefällt mir. Äh, Brent, wie sieht es\nmit dem Bericht aus? Ist\ndir etwas aufgefallen? Gab es etwas,\ndas deine Aufmerksamkeit erregt hat? Und\nworüber denkst du nach?\nIch muss zugeben, ich bin\ndiese Woche mit dem Projekt\nLightwell vollauf beschäftigt. Ich bin also ziemlich eingespannt damit\n. Weißt du, im Allgemeinen stimme ich\nSophie zu, dass ich mir um\ndie Power-User weniger Sorgen mache, vor allem,\nweil sich\nda auch ein Mentalitätswandel vollzieht. Ich habe\nmit vielen Kunden gesprochen und festgestellt, dass die Einsteiger\ndirekt interagieren, entweder\nüber einen Webbrowser wie Gemini\noder über Cloud Code\nund interaktive Sitzungen. Diese Leute\nwürde ich nicht unbedingt als\nPower-User bezeichnen.\nSie\ninteragieren zwar auch direkt, aber sie finden vielleicht einen Weg,\nKI zu nutzen, um Prozesse zu beschleunigen.\nDiejenigen, die wirklich erfolgreich mit KI umgehen,\ndenken\nanders darüber. Sie\nnutzen KI nicht\nnur zur Codevervollständigung, sondern lassen sie auch\nAufgaben delegieren. Die KI erledigt\ndie Arbeit für sie. Sie vergleichen es mit\neinem Entwickler: Früher kam ich um\n9 Uhr morgens ins Büro, ging um\n17 Uhr und programmierte und\nüberprüfte den ganzen Tag Pull Requests.\nHeute besteht meine Aufgabe nicht mehr darin, Code zu\nschreiben, sondern das System zu verwalten, das\nCode schreibt. Diese\nversierten KI-Nutzer\nbetrachten das Problem\nähnlich wie Systemadministratoren: Sie bedienen nicht mehr nur Systeme, sondern\ndas\nSystem, das das System bedient. Deshalb mache\nich mir generell\nweniger Sorgen um die Macht der KI,\nweil sie diese\nNuance und diesen Mentalitätswandel verstehen. Sie\ninteragieren aktiver\nmit KI.  Und die KI quasi dazu zu zwingen,\nDinge zu tun. Genau diese Systeme\nsind anfälliger für Sicherheitsrisiken.\nIch sehe den\nMenschen im Allgemeinen als das schwächste Glied in der\nSicherheitskette. Ich stimme Dave da vollkommen zu. Ich mache mir weniger Sorgen um die KI-\nExperten in unserem Team als um diejenigen, die\nmit Gemini interagieren und dadurch versehentlich\nDaten löschen könnten, nur weil sie eine Eingabe gemacht haben\n. Deshalb lege\nich mehr Wert darauf.\nIch weiß nicht, ob das die\nFrage vollständig beantwortet, aber ja,\nich denke schon,\noder? Denn\nalle drei unserer heutigen Beiträge\nhaben sich mit KI und ihren Auswirkungen auseinandergesetzt,\nund vieles, worüber wir in\nder Sendung sprechen, dreht sich um KI, weil\nalle darüber reden.  Aber ich\ndenke, ein weiterer Punkt, der\nin fast jedem Segment zur Sprache kommt – und ich liebe es,\nwenn sich das in der Sendung ganz natürlich ergibt\n, wie in dieser Folge –, ist dieses\nwiederkehrende Thema: Lasst euch von KI nicht\nablenken, denn Menschen\nsind immer noch Menschen und steuern weiterhin\nSysteme. Sie\nnutzen immer noch Agenten. Sie programmieren die\nAgenten, ihr wisst schon, äh, äh, äh. Mir gefällt einfach,\ndass wir den Fokus wieder darauf richten\nund\nrealistisch darüber nachdenken: Okay, wie nutzen Menschen\nKI? Und wie sieht angesichts ihrer Nutzung\ndas wahrscheinlichste\nAngriffsmuster aus? Anstatt nur\netwas zu betrachten, das wir im Labor machen können und das zwar\ninteressant ist, aber\nin der realen Welt vielleicht nichts ändert.\nDave, äh, äh, wir nähern uns dem\nEnde der Sendung, aber ich wollte\ndich noch einmal dazuholen, um uns\ndiesen Bericht anzusehen. Hast du dazu Gedanken?\nWie schätzt du den aktuellen Stand\nder KI-Nutzung und die damit verbundenen Risiken ein?\nJa, auch wenn ich Gefahr laufe, …\nIch wiederhole mich, richtig? Ich stimme euch dreien zu,\naber ich denke, eure Sichtweise ist etwas zu simpel.\nOkay, wir gehen gegen\ndie Leute vor, die\nKI nutzen, okay? Aber das kann man nicht\nmit privilegierten oder\nbesonders privilegierten Nutzern vergleichen. Letztere haben ja Zugriff, den\nihr ihnen gewährt habt. Also, ich\ndenke, wir müssen uns das\nProblem nochmal genauer ansehen. Es hat zwei\nSeiten, richtig? Zum einen\ndie menschlichen Nutzer, die die\nNemo Cloud-Demo super fanden oder dachten: „Wow, das hat\nmein Leben echt verändert!“, und die dann\nfurchtbare Eingabeaufforderungen schreiben und der KI viel zu\nviele Berechtigungen geben. Und dann geht’s los\n. Im Moment gibt es zwar\nKontrollmechanismen, um das zu stoppen, oder? Es muss immer\nein Gleichgewicht geben. Aber ich denke, es ist einfach zu\nsimpel.\nIch glaube, das habt\nihr drei im Prinzip gesagt:\n„Geht einfach gegen die Leute vor, die\nes nutzen.“ Ja, schon, aber wie lange soll das gut gehen?\nDu? Freitag,\nrichtig? Ich meine, KI wird\nso schnell eingesetzt, dass man gar nicht mehr hinterherkommt,\noder? Also, ich denke,\ndas ist die menschliche Seite, und dann gibt es noch\ndie nicht-menschliche,\nrichtig? Es gibt Identitäten,\ndie nicht menschlich sind. Wir nennen sie Agenten,\nrichtig? Die Dinge tun, wenn sie\nnicht richtig dazu aufgefordert werden, nicht ausreichend gesteuert\noder kontrolliert werden – oder wie auch immer man es nennen mag, in welcher\nUmgebung sie sich befinden,\nrichtig? Sie machen sich dann an die Arbeit, die ihnen aufgetragen wurde, richtig? Und wenn ihnen gesagt wird, sie sollen\netwas tun, und sie denken: „Nun ja, es wurde nicht\ngesagt, dass sie es nicht tun sollen“, dann läuft es im Grunde darauf hinaus, dass\nich nur das wiederhole, was\nihr drei schon gesagt habt, richtig? Aber ich\ndenke, das\nist ein bisschen …  Das ist natürlich eine\nVereinfachung, und ich bin ja eher\nder Optimist in solchen Sachen, aber\nwas war es nochmal, dass wir ständig vor allem Angst haben müssen\n? Also, danke\n. Ständig vor allem\n. Ja. Genau. Wisst\nihr, ich schließe den Kreis. So, das war's.\nIhr habt es hier gehört, Leute. Äh, äh, man muss ständig vor allem\nAngst haben.\nNein, nur ein Scherz. Äh, aber das war's\nfür diese Folge. Ich möchte unseren\nGästen, Brent, Dave und Sophie, danken. Vielen\nDank an die Zuschauer und\nZuhörer. Vielen Dank an unsere Produzenten.\nAbonniert Security Intelligence auf eurer bevorzugten\nPodcast-Plattform, damit ihr keine\nFolge verpasst. Passt auf euch auf\nund hört unbedingt in unsere\nneueste Bonusfolge zum Thema Sicherheit\nin Multimodell-KI-Umgebungen mit\nVishal Kamat, IBMs Vizepräsident für Datensicherheit, rein. Diese\nBonusfolge gibt es nur als Audio. Ihr\nfindet sie auf Spotify, YouTube und allen\ngängigen Podcast-Plattformen. Also, hört mal rein!",
  "transcript_chars": 38517,
  "ingested_at": "2026-06-03T10:30:37.282938+00:00",
  "source": "channel",
  "yt_meta": {
    "view_count": 173,
    "like_count": 15,
    "channel_id": "UCKWaEZ-_VweaEx1j62do_vQ",
    "categories": [
      "Education"
    ],
    "tags": [
      "IBM",
      "IBM Cloud"
    ]
  }
}