Wie Multi-Agenten-Systeme IT-Sicherheit und CX-Prozesse herausfordern. Roger Basler de Roca bei Peter Pirner

00:00:05: In der heutigen Folge beleuchten wir die akuten Gefahren agentischer KI-Systeme.

00:00:10: Wir analysieren, warum raffinierte Prompt Injections

00:00:13: und

00:00:14: automatisierte Fishing Mails herkömmliche Schutzvorkehrungen mühlos überwinden, sobald Agenten eigenständig im Web handeln.

00:00:22: Mein Gast zeigt aber auch konkrete Möglichkeiten auf mit denen Unternehmen ihre Systeme absichern und die Hoheit über ihre Prozesse behalten.

00:00:40: Und herzlich willkommen bei CXTalks!

00:00:43: Mein Name ist Peter Perner und ich freue mich sehr, dass du heute wieder eingeschaltet

00:00:47: hast.

00:00:49: Wenn wir ehrlich sind erleben wir derzeit in vielen Unternehmen eine gefährliche Mischung aus grenzenloser KI-Euforie und kollektiven Kontrollverlust.

00:00:59: Überall experimentieren Teams mit autonomen Agenten verbinden Schnittstellen auf eigene Fausts und wiegen sich in der bequemen Illusion das am Ende ja immer noch ein Mensch über das Ergebnis schaut.

00:01:12: Doch seien wir realistisch, wer hundert automatisierte Vorgänge am Tag auf den Tisch bekommt prüft nichts mehr im Detail sondern winkt die Ergebnisse einfach durch.

00:01:23: Genau hier beginnt das Risiko wenn KI-Modelle sich an selbst generierten Webinhalten vergiften.

00:01:29: Fishing Angriffe in Sekundenbruchteilen durchschlagen und Mitarbeiter

00:01:34: ihre kritische

00:01:35: Urteilskraft an die Maschine abtreten steht weit mehr auf dem Spiel als nur Datensicherheit.

00:01:42: Es geht um die Glaubwürdigkeit unserer Touchpoints und den Schutz der Kundenbeziehung vor unberechenbaren Halluzinationen.

00:01:49: Das Thema treibt mich schon länger um, ausgelöst durch eine Ausgabe des wirklich lesenswerten Newsletters meines heutigen Gastes Roger Basler

00:01:56: de Roca –

00:01:57: der sich genau mit diesem Thema beschäftigte war mir klar ich muss mit Roger die nächste Folge auf CXTalks machen!

00:02:05: Wir haben uns in der Corona-Zeit über LinkedIn kennengelernt und bereits zwanzig, zweiundzwanzig einen Podcast zu Businessmodellen in den Social Media gemacht.

00:02:13: Roger ist Unternehmer, Dozent, Buchautor und Experte für digitale Geschäftsmodelle – er versteht es auf ganz besondere Weise, komplizierte Dinge anschaulich zu erklären!

00:02:26: Und das ist ihm auch diesmal sehr gut gelungen.

00:02:46: Lieber Roger, ich lese ja seit relativ langer Zeit deinen Newsletter.

00:02:53: Ich finde den Spannen und den Inhaltsreich und ich bilde mich persönlich da massiv tatsächlich auch im Bereich KI weiter.

00:03:02: Wo ist eigentlich dein fachlicher Hintergrund?

00:03:05: Warum beschäftigst du dich mit diesem Thema?

00:03:06: Und warum kannst du so einen guten Newsletter schreiben?

00:03:09: Es ist super lieb, dass du das so sagst.

00:03:12: Das ist bei mir wirklich auch wenn ich KI dazu nutze immer noch eine Tagesaufgabe.

00:03:17: Ich hatte als Kind lange eine Lese und Schreibschwäche, habe ich immer noch so ein bisschen.

00:03:21: Aber ich hatte Freude am Lernen.

00:03:23: Und das heißt, ich muss mir eine Strategie entwickeln wie ich die Information verarbeite, wie ich das aufnehme auch wenn ich nicht immer alles richtig sehe und irgendwie verstehe.

00:03:33: Wenn ich mir Gedanken mache wie ich so einen Produkt nach außen bringe dann überlege ich mich immer von wegen was sind so Dinge, die ich mir gerne merken würde?

00:03:42: An diesen merkwürdigen Dingen baue ich nachher das entsprechende Peace auf Und das ist oftmals, sind das Inputs wo ich sehe irgendwie die Welt besteht aus gewissen Mustern.

00:03:53: Da kommen gewisse Dinge zusammen und dann bin ich ganz old school.

00:03:57: Ich bin Post-it Fan!

00:03:59: Ich schreibe mir wirklich die Gedanken erst auf mach dann so einen roten Faden und dann diktiere ich mit der KI wo ich dahin möchte.

00:04:08: Was mehr?

00:04:09: aufgefallen ist es tatsächlich am anfang war das alles super positiv das war alles spannend.

00:04:13: ich meine dass geht einem selber ja auch so war alle super positiv und in letzter zeit.

00:04:18: finde ich zumindest ist es bei mir so angekommen ist ein ton kritischer geworden was mir eigentlich gut gefällt, wann ist denn bei dir so?

00:04:27: der punkt gekommen wurde gesagt hast jetzt geht's nicht mehr nur darum was alles fancy und was alles neuen was alles schick ist sondern man muss sich schon auch Gedanken machen über dieses sicherheitsrisiko was mit so einer neuen Technologie einhergeht?

00:04:41: Absolut.

00:04:42: Schau, ich bin immer noch Enthusiast also ich bin riesiger Nerd- und Technologiefan.

00:04:47: Ich würde mich auch als enthousiastischen Kritiker bezeichnen aus einem einfachen Grund es ging mir nicht mal jetzt um die ganzen Geschichten jetzt mit den ganzen Hackangriffen.

00:04:56: Es gingen ja schon zwei Schritte vor um das Thema Denken und dass die Leute aufhören kritisch vor, mit oder nachzudenken.

00:05:05: Und das habe ich festgestellt aufgrund dessen, dass ich im zahlreichen Unternehmen unterwegs bin und gemerkt habe es die Leute einfach diese.

00:05:12: Tools blind genutzt haben den gleichzeitig aber auch die ganzen Firmen niemals und ich redest von den Herstellern dieser langes Lenguage Modelle und Programme dahinter.

00:05:21: Niemals wirklich die Verantwortung übernommen haben.

00:05:23: und Sam Altmann und da haben so zwei drei Dinge fallen lassen in Kongressen wo ich auch live dabei war wie gesagt habe Jungs, geht es euch wirklich da ums Wohl der Menschheit?

00:05:34: oder habt ihr da vielleicht noch eine andere Agenda?

00:05:37: Und dann habe ich so ein bisschen genauer hingeschaut auch bei gewissen Dingen.

00:05:40: Ich glaube immer noch dass wir eine sehr gute Chance haben das KI positiv eingesetzt werden kann.

00:05:45: Wir haben sehr gut Ideen-Initiative in Europa.

00:05:48: Wir sind sehr viele tolle Menschen die sich tagtäglich engagieren für eine sinnvolle nachhaltige Nutzung.

00:05:54: aber wir haben halt leider an der Spitze zumindest einen sehr Gefährliche Entwicklungen, die sagten wegen bitte reguliert uns.

00:06:02: Wir wissen wir sind

00:06:04: böse.".

00:06:06: Dann glaube ich es ist doch Zeit das mal konkret auch zeitlich nachzuvollziehen.

00:06:12: Wenn wir jetzt mal so zwei drei Jahre zurückschauen dann saßen wir alle begeistert vor irgendeinem Chatfenster und haben dann im Nachhinein noch drüber philosophiert wie man prompt am besten schreibt.

00:06:24: Das Thema ist eigentlich mehr oder weniger durch.

00:06:26: heute reden wir über autonome Multiagentensysteme, die uns in Zahl für sogar das Prompting übernehmen und alles geht eigentlich nochmal deutlich schneller.

00:06:38: Wann?

00:06:39: Und warum ist die Entwicklung von KI von so einer gefühlt linearen zu einer gefühl exponentiellen Entwicklung gekippt?

00:06:50: Man kann ja zumindest was jetzt laut Language Modelle angeht eine sehr gute Analogie machen zu unserem Schulsystem respektive wie junge Menschen etwas lernen.

00:07:01: der erste große Schritt, den man ja macht ist.

00:07:04: Man versucht gewisse Wörter in eine gewisse Logik zu bringen und dann später kommt noch so dieses Thema Mathematik dazu und plötzlich sind Wörte und Zahlen Teil der Kommunikation.

00:07:16: Das ist anfangs sehr, sehr spannend, macht große Schritte aber im großen Ganzen wirkt man nicht sehr schlau.

00:07:24: Plötzlich dann aber so vielleicht ab fünfter, sechster siebter Klasse macht irgendwie Klick und man versteht da draußen okay Ich kann ja kombinieren, ich sehe jetzt was da ist und plötzlich macht man diese Sprünge in der Pubertät wenn man so will.

00:07:38: Und ähnlich geht es auch diesen Modellen.

00:07:40: Sie haben die Grundkompetenz sprachliche Kompetenz relativ gut und schnell gemeistert vom Transformmodell.

00:07:47: siebzehn achtzehn bis zwanzig du sagst ein gab schöne Geschichten und Gedichte.

00:07:52: Plötzlich aber hat man festgestellt, wer Sprache kann, der kann auch programmieren.

00:07:57: Wer sich selbst Dinge beibringen kann, kann sich exponentiell verbessern und das hat dazu geführt natürlich dass wir jetzt auch diese Entwicklung sehr rapide wahrnehmen müssen.

00:08:11: aber sehen natürlich das ganze hatte schon fast zehn jahre gedauert bis wieder hinkamen.

00:08:16: Aber natürlich in der mitte des Orkans spürst du nicht die groß der Wind rundherum ist.

00:08:22: Wenn du von außen schaust, dann denkst du oh mein Gott, die ganze Welt geht unter.

00:08:29: Wenn Du von Außen auf dieses Gesamthema draufschauest, geistern auch wahnsinnig viele Begriffe, die da so immer hoch ploppen und dann gefeiert werden und drei Wochen später sind sie wieder vergessen... wenn Du jetzt an dieses Agentic Universe denkst und von innen raus schausst mit der dir eigenen Ruhe Was funktioniert denn heute beim Agentec Universe?

00:08:52: in der Praxis schon wirklich?

00:08:54: und was ist eigentlich ehrlich noch Marketingversprechen?

00:08:59: Gerne.

00:09:00: Wir müssen vielleicht für die Einhörerinnen und Hörern mal ganz kurz klären, Agent das kommt ja aus dem lateinischen Agents Die Handlung Was im Gegensatz zum Sapiens den Bissenden einen sehr großen Unterschied macht.

00:09:14: Wer handeln kann braucht aber gewisse Kompetenzen und diese Kompetenz gibt man diesen Modellen heute nicht mehr mit Prompts, sondern schreibt sogenannte Skills.

00:09:23: Das sind eine Art Lastenheft – wir sagen in der Schweiz auch Pflichtenhefte – wo sich so ein handelndes System orientieren kann wie gewisse Dinge funktionieren.

00:09:33: Wenn ich eine Handlung habe oder eine Handlungsanweisung brauche ich aber noch die Kompetence sprich den Zug auf gewisse Programme.

00:09:40: Dazu gibt es diese Abkürzung MCP, Modell-Context-Protokoll die mir erlaubt gewisse Programme ähnlich wie eine Authentifizierung mit Login in dieses Thema einzubinden.

00:09:51: Lesen und Schreiberichte.

00:09:53: Das vorausgeschickt kann ich dir heute sagen welche Dinge sehr gut funktionieren.

00:09:58: sind so die alltäglichen Bürogeschichten von Prüfe meine E-Mails um Beantworte vor?

00:10:04: Ja das geht, weil man legt heute ein sogenanntes Second Brain und zweites Gehirn an.

00:10:10: Wo das Ding nachgucken kann welche E-Mails grundsätzlich beantwortet wurden wie das Ganze geht?

00:10:15: Und ja es geht auch DSG Voguekonformen.

00:10:17: was auch sehr gut geht ist Terminplanung unter verschiedenen Menschen.

00:10:21: da rede ich nicht nur von Kalendling sondern in Management Meetings rausfinden.

00:10:25: wir müssen verschiedene one to ones machen brauchen drei Räume dazu brauchen verschiedene Agenten das ganze muss den entsprechend auch vorbereitet werden auch kein Problem.

00:10:34: Was auch sehr gut geht, sind die ganzen Meeting-Protokolle und die nachhaltigen Prozesse daraus.

00:10:39: Sprich werben muss was bis wann machen plus eben dann die Zustellung dessen.

00:10:44: Alles was Kreation ist Websites Präsentationen Englische Research Berichte Blogs, Social Media

00:10:51: etc.,

00:10:52: gar kein Problem.

00:10:53: Was immer noch so ein bisschen marktig ist.

00:10:55: es zu dieser große große Vorstellung von einem Charis das sozusagen ständig mitdenkt mithört und mit plant.

00:11:03: Es gibt gewisse Tendenzen, du kannst unter sehr gutem Voraus setzten.

00:11:08: Wenn du ein Harness, kannst du einen Hermes oder eine Open-Claw einrichten?

00:11:11: Aber ich empfehle das nicht wirklich der große Mehrheit.

00:11:15: und auch das was da so ein bisschen gezeigt wird von wegen ja du kannst es einfach laufen lassen.

00:11:20: Das organisiert deine Kundenakquise – das nicht!

00:11:24: Und zu guter Letzt diese ganze Geschichte mit, was du jetzt auch hast, mit Podcast schneiden Thumbnail machen und dann auch hochladen und so weiter.

00:11:31: Und sofort mit Vorsicht zu genießen, es gibt gute Entwicklungen unter Titel gewisse B-Rows das geht schon länger aber der Rest ist viel noch Science Fiction und ja bisschen Geldmacherei.

00:11:44: Ja wobei also diese Plattform auf der wir jetzt gerade mitschnalten da bin ich mega begeistert.

00:11:48: die haben auch ein extrem hohes Innovationstempo um da neue Funktionen zu bringen.

00:11:52: Aber natürlich muss man da immer noch sehr viel manuell nachsteuern ist schon klar.

00:11:58: Du hast es schon gesagt In der Realität agieren ja schon unterschiedliche Agenten miteinander.

00:12:04: Und es gibt jetzt so ein Beispiel, das habe ich bei einer deiner Präsentationen gesehen wo eben OpenAI demonstriert hat wie man mit zehntausend koordinierten Agenten in achtundachtzig Stunden und einen hundertdreißig Milliarden Tokens.

00:12:19: Ich weiß nicht was ist das in Euro?

00:12:21: Ein Jahrhundert... Bitte!

00:12:23: Zwanzig Millionen Euro.

00:12:26: Ein Jahr-Hundert Rätsel der Mathematik gelöst hat.

00:12:30: Wie setzt man denn zehntausend Agenten so auf, dass die tatsächlich noch dazu kommen das Jahrhundert Rätsel

00:12:37: zu lösen?

00:12:39: Warst du mal einem Hackathon zufällig?

00:12:41: Nee.

00:12:42: Agnès was?

00:12:42: Okay.

00:12:43: Ne, leider nicht.

00:12:44: Hackathon muss dir vorstellen.

00:12:45: dann kommen motivierte engagierte Nerds oder auch Projektleiter und so weiter zusammen und sagen hey wollen Problem lösen und steht das sofort in großer Tisch.

00:12:55: wundertisch als jetzt im Laptop Start.

00:12:58: Jetzt Damit das gut funktioniert oder unseren Hackathon dauert, vierundzwanzig bis achtundvierzig Stunden muss ihr vorstellen bei uns Menschen.

00:13:05: wir brauchen eine Art Whiteboard oder irgendwas wo das koordiniert wird und wir müssen alle einander irgendwie sehen oder zumindest kommunizieren.

00:13:12: Jetzt übertragen auf dieses agentische System was dieses Jahrhundert Problem gelöst hat.

00:13:17: Muss ihr vorstellen, dass der Tisch relativ groß ist oder es hat mehrere Tische.

00:13:22: Genau, ja.

00:13:23: Am Anfang waren es nicht zehntausend, am Anfang sind es nur fünfzig bis hundert und ein paar Hundert mehr

00:13:28: usw.,

00:13:29: aber ähnlich haben diese Agenten verstanden, es braucht eine gewisse Koordination und zwar eine Aufgabenteilung.

00:13:37: Und der große Sprung fand da statt als man einen Messaging Board respektive für eine Ablage geschrieben hat – also die haben das selbst dann sozusagen protokolliert wie ein Lockbuch – wo andere Agenten, andere Tische werden so willst darauf zugreifen können?

00:13:52: Jetzt das Schöne beim Hackathon ist, du kriegst in wenigen Stunden relativ viel gemacht.

00:13:56: Weil alle ganz konzentriert nur diese Aufgabe machen und alle aber denselben Business stand.

00:14:02: Und genau dass herr passiert auch mit diesen Agenten.

00:14:03: Das heißt wenn ich das er arbeite dann teile ich das mit allen.

00:14:08: Wenn ich etwas irgendwie produziere was sehr gut genutzt werden kann steht es auf dem Board.

00:14:13: Und wenn ich natürlich jetzt sozusagen unlimitiert Comput habe.

00:14:17: Ich sage Open AI sagt ob es jetzt tausend zehntausend fünfzig Tausend sind da spielt uns keine Rolle.

00:14:22: Dann hast du natürlich die Möglichkeit, die Welt zu verändern was sie auch gemacht haben.

00:14:27: Naja jetzt kann dir natürlich aber passieren wie wahrscheinlich bei einem Hackathon dass der ein oder andere Agent sich in die die Welt einfach schön träumt und du dann plötzlich Alluzinationsfehler bekommst.

00:14:38: Ich stelle mir das wahnsinnig schwierig vor bei so einer großen Menge an Agenten wie man sowas dann noch kontrollieren kann weil das kann ja theoretisch an zehntausend verschiedenen Stellen passieren.

00:14:50: absolut.

00:14:51: Das Spannende ist, es gab offensichtlich was man jetzt auch rauskriegt und wir wissen das alles nur aus zweiter Hand.

00:14:57: Es gab so Organisationsstrukturen also es gab dann so einen Superagenten und super Agenten Teams die dann verschiedene Rollen inne hatten Die dann sozusagen sich eben zur Aufgabe gemacht haben dass sie entweder gewisse Dinge steuern oder auch verbieten Oder gewissen Agent sagen du darfst nicht mehr da arbeiten Du musst jetzt das arbeiten.

00:15:19: Man stellt sich immer so ein bisschen organisch vor.

00:15:22: allerdings muss man sehen also.

00:15:24: Diese LLM die Sprachmodelle sind ja trainiert aufgrund von unseren Instruktionen und das bedeutet eigentlich machen die nix anderes als gelesenen Management Handbücher oder gelesenes Gramm und gelesene PM.

00:15:37: handbüchern setzen jetzt einfach um in einer unglaublichen Geschwindigkeit natürlich aber das recht Da entsteht auch viel Chaos und es gibt doch lustige Anekdoten, wo gewisse Agenten auch auflehrend waren.

00:15:48: Weil sie sich sehr in etwas hallucinierend verbissen haben und nicht aufgegeben wollten.

00:15:55: Das gibt's auch!

00:15:58: Also jetzt haben wir erstmal gelernt alles wird schneller ist wird agentischer Und wir haben auch schon angefangen über Risiken wie Halluzination zu sprechen.

00:16:10: Die Risiken sind für Unternehmen natürlich fast noch größer, wenn Agenten das sehr zielgerichtet und sehr bewusst gesteuert mit System bei Unternehmensspielen.

00:16:22: Zum Beispiel im September hat das Sicherheitsunternehmen Grey Noise sehr öffentlichkeitswirksam von einem spektakulären globalen Hacker-Angriff berichtet, bei dem elf Organisationen in sechsundzwanzig Sekunden gehackt wurden.

00:16:41: Wie geht denn so was?

00:16:43: Meere Möglichkeiten.

00:16:44: Was man sehen muss, auch ein Agent oder ein ganzes System ist Software und Software lebt in Software heißt konkret wenn ich heute ja meinen Browser aufmache dann habe ich einen Plug-in.

00:16:55: das verbindet mich mit meinem agentischen System und Ich kann dem Zugriff geben auf diese Handlung sprich auf den Connector von dem Browser.

00:17:04: Wenn ich ein Browser habe, hab' ich ganz viele neue Möglichkeiten in der dreiD-Welt.

00:17:07: Ich kann Code nicht nur sehen... ...ich kann auch klicken, ich kann Folgen ausfindig machen und ich kann gewisse Dinge exploiten.

00:17:14: Exploiting bedeutet, ich sehe vielleicht Dinge im Code,... ...ich sehe vielleicht alte veraltete, wir haben es auch erlebt mit PHP-Skips,... ...die entsprechenden Angriffsflächen dienen.

00:17:24: Und wir müssen natürlich auch sehen letztendlich, dass wir Menschen bauen Systeme,... Wovon allerdings diese Agenten bereits gehört und gelernt haben und einen Schritt weiter sind.

00:17:35: Viele Dinge, die jetzt momentan passieren zeigen eigentlich unsere Schwächen auf, unsere manchmal auch Unzulänglichkeit oder auch Überlastbarkeit über Lastung bei gewissen Themen.

00:17:46: Und wenn man sich vorstellt dass ich jetzt da etwas habe was in keiner Zeit weil selbst wenn ich tippe und so schnell tippet wie der schnellste Mensch bin ich nie so schnell wie ein Code das es selbst ausführt Dann kann ich natürlich schon Attacken fahren, die dazu führen, dass dann gewisse Systeme einbrechen.

00:18:04: Ja ja, bei sechsundzwanzig Sekunden was soll denn da ein Security Specialist noch tun?

00:18:09: Also wie du es schon sagst, der kann ja selber gar nicht schnell genug tippen, wie das schon gehäckt ist.

00:18:13: Du musst so viele eigene entsprechende Traps also Abschnitte bauen damit das System nicht durchkommt und die dann früh alarmierend andere Systeme auslösen.

00:18:25: aber Du kannst weitgehend, also Fortinet sagt ich vielleicht was als Hersteller.

00:18:30: Du hast vielleicht von der Plattform Riccardo gehört in der Schweiz, die gehackt wurde.

00:18:34: Wir haben diese PR-Pischell Geschichte gehabt.

00:18:36: Es ist natürlich schon, was man jetzt erlebt, Fluchenziegen zugleich!

00:18:41: Weil jede Schwachstelle, die ich vielleicht raus will mit einer KI.

00:18:45: Die ist dann kommunizierend ein Messaging-Board oder in einem vielleicht MacFrey Report und so weiter Kapersky publiziert wird.

00:18:53: Hat hier auch ein anderes Agentsystem Zugriff drauf in Echtzeit und sieht Ah!

00:18:58: Gepatched?

00:18:59: Neuer Angriff.

00:19:00: Ah gepatched?

00:19:01: Neue Angriffe.

00:19:03: Und der Mensch, der das dann liest, vielleicht dann Freitag um zwölf... der den Security Update kriegt und sagt, stimmt ich muss ein Release machen?

00:19:11: Und jetzt muss sich das updaten.

00:19:12: Das mache ich jetzt heute um die Uhr, da ist er bereits acht Minuten zu spät.

00:19:18: Also auch im Prinzip Security sagst du wird agentisch, muss agentisch gelöst werden, sonst hast Du einfach ungleiche Voraussetzungen in der Bearbeitungsgeschwindigkeit.

00:19:27: Wir müssen uns ganz neue Gedanken machen wie diese Kriege funktionieren.

00:19:32: Ich vergleicht so ein bisschen mit wenn wir uns überlegen wie vor dem ersten Weltkrieg Krieg geführt wurde Mit Heeren stehenden Helen mit Angriff Formation und so weiter.

00:19:41: Und dann plötzlich kamen ja Schützengräben, Gas.

00:19:46: Pferde wurden ersetzt durch Panzer.

00:19:48: Wir leben genau das jetzt auch in der Andernskalierung aber eigentlich einer ähnlichen Geschwindigkeit.

00:19:58: Du hast es ja schon gesagt dass du selber deinen Browser verbindest mit einem Plug-in?

00:20:04: Und so geht's wahrscheinlich ganz vielen Usern auch die mal rum spielen ihre LMMs nutzen und du hast auch in einer deiner Präsentationen beschrieben, wie ein Angreifer über JetGPT ganz unbemerkt auf das Gmail-Konto eines Nutzers zugegriffen hat.

00:20:25: Wie baut man denn so einen Szenarioauffall?

00:20:28: Das Gmail Konto ja keine Microsoft Welt ist!

00:20:34: Nichtsdestotrotz kannst du auch ein Gmail-Konto, kannst du über den Konektor einbinden bei deinem Chat Gbidi oder Claude.

00:20:39: Wenn der Browser mal läuft und einen Link geklickt oder ausgeführt wird dann ist der Angreifer halt drin.

00:20:46: Das klingt immer so unglaubwürdig bis man sich überlegt von wegen warum gibt es überhaupt dieses Gameindustrie?

00:20:52: Warum schicken die Leute eben noch über Facebook irgendwelche komischen Links?

00:20:56: das würde ja nicht gemacht werden mich jemand drauf klickt Und die wenigen Systeme funktioniert es auch hier.

00:21:01: Also wenn ich einen lese, schreibe Agenten sozusagen auf meine Inbox los lasse und die Fishing-Mails werden immer besser.

00:21:09: Da steht was drinnen.

00:21:11: bitte prüfen sie!

00:21:13: Der Agent interpretiert – Ich muss prüffen.

00:21:16: Er klickt weil das ist seine Aufgabe.

00:21:20: Dann ist die Mailbox offen über den Browser den ich hier jetzt gleich klicken lasse.

00:21:26: Lasse das Fenster aufmachen und die Schadsoftware ist da.

00:21:30: Das heißt der Nutzer kann das gar nicht nachvollziehen denke ich etwas schlaues gemacht weil er sich jetzt praktisch sein seinen lesen agenten gebaut hat.

00:21:38: Der leser agent klickt auf genau auf das phishing wo du selber sagen würdest da würde ich jetzt eigentlich nicht draufklicken und schon

00:21:46: passieren die einschränke an.

00:21:47: genau also du hast bei agenten hast du verschiedene Levels, wenn du so willst.

00:21:50: Du kannst ausführen die Bestätigung nicht ausfühlen komplett ausfüllen.

00:21:54: Du kann es aber auch gerade, wenn zum Beispiel E-Mails geht oder wenn es um Dokumente geht.

00:21:58: klassisches Beispiel ist der Dobidokumente runterladen automatisch und Ausführen.

00:22:03: das momentan so ein Sicherheitspatch was ich heute auf LinkedIn gepostet habe weil das wird jetzt auto runtergeladen und dann aktiviert sozusagen.

00:22:11: Das musst du dir bewusst sein.

00:22:13: bis wohin lässt es sowas zu.

00:22:15: Also ich lasse meine E-Mails ja nicht agentisch beantworten, so ist ein Rockflow innerhalb von Gmail selbst und die verlassen nichts, die gehen sozusagen vom Inbox direkt in Draft.

00:22:26: Da wird nichts sonst geklickt, da wird nichts runtergeladen sondern wird noch vorbeantwortet und die E-mails gehen dann über den Label in eine separate Box rein.

00:22:35: Das verhindert zumindest irgendwas geklückt oder was untergeladen wird.

00:22:40: Das musst du allerdings wissen und das muss die Bewusstsein, wenn du halt ein bisschen mit ID-Packground kommst oder wenn man reingelaufen bist.

00:22:47: Dasselbe kann natürlich auch passieren, wenn Du beispielsweise Deinen Bot auf WhatsApp loslässt.

00:22:52: Ich geh'n ganz viele Leute, die haben Web-Whatsapp am Laufen, lassen ihre Agenten drauf und sagen ich beantworte jetzt meine WhatsApp darüber!

00:22:58: Das kommt gut bis dir irgendein Scammer irgendwas schickt und sagt HiHestMama oder HiHesPeter.

00:23:04: Und ich hab hier übrigens noch die Vorbereitung für unseren Podcast weil Die haben ja gesehen, von wegen den Kalender ausschaut.

00:23:10: Und dann steht ein Link der ähnlich ausschauend wie Riverside aber heißt leider Rewitzer Eiter und ja gern guckt das nicht und klickt drauf und vorbei.

00:23:19: Wie kriegt man sowas in Griff auch als Nicht-IT-Fachmann in einem Großunternehmen?

00:23:27: Ich glaube die große Herausforderung heute ist genug Zeit zum Atmen und Denken zu haben.

00:23:33: Ich habe ein Buch jetzt keine Vorbereitung, das heißt Denkfrag klick und da ist auch so eine Methode drin wo du atmen musst.

00:23:41: Natürlich von außen gesehen hast du das Gefühl ich muss jetzt unbedingt diesen Marathon mitrennen und ich frage mich doch welche Schuhe ich kaufen sollte damit nicht einigermaßen damit komme.

00:23:51: vielleicht machst aber mehr Sinn erst mal durchzuatmen und sagen deswegen bin ich überhaupt ein Läufer oder eine Läuferin?

00:23:58: Viele Leute setzen einfach aus FOMO Fear of Missing Out gewisse Dinge um, ohne sie mit Grundlagen zu beschäftigen.

00:24:06: Ich sage immer ich bin ja ursprünglich aus der Informatik und berate Digitalisierung, Transmissionsprozesse.

00:24:13: Ich sag Schau du kannst nicht hier oben anfangen mit der KI-Kompetenz wenn ihr nicht bewusst ist was so eine gewisse Security Ebene ist?

00:24:21: Was eine Daten Dialog und Handlungskompetenzen ausmacht.

00:24:26: Und dann gehst du gleich wie gesagt auf die Marathon Strecke ohne jemals fünf Kilometer gerannt sein.

00:24:32: Du kommst vermutlich als Laien, als Laie schon dahinter.

00:24:37: Aber du musst dich wirklich dahinter klemmen!

00:24:40: Du musst dich informieren.

00:24:41: von wegen wie funktioniert Software?

00:24:45: Was ist jetzt zum Beispiel eine Ausführung der Software und was bedeutet ein Download wirklich?

00:24:49: Was is'n Zugriff?

00:24:51: Was sind die zwei Faktor-Authentifizierung und so weit und sofort?

00:24:54: Und es wäre ja eigentlich schön wenn das bereits in einer Schule oder zumindest noch Hochschule nochmal thematisiert werden würde.

00:25:00: Wird das aber nicht und die Leute gehen Unternehmen rein... bringen ihre eigene KI mit.

00:25:05: Teilweise auch bring your own device und die haben dann vielleicht noch ein zweites Login drin, aber gehen dann trotzdem mit dem Privaten ins Firmenwifi und da geht es auch von IT-Sicht.

00:25:14: ganz viele Sperren, die du machen müsstest, aber werden nicht gemacht.

00:25:19: Es ist kompliziert Aber mehr Tempo hilft nicht, mehr Atmen hilft.

00:25:26: Und das ist jetzt so eine... So ein sehr technischer Bereich den wir gerade diskutiert haben, es geht aber ja noch.

00:25:35: Dann KI sehr viel simpler, selbst wenn ich gar keinen Agenten selber installiert habe.

00:25:41: Wenn nicht jetzt ein ganz normales klassisches Fishing-Schau.

00:25:46: Früher konntest du spätestens nach einem dritten Rechtschreibfehler erkennen.

00:25:49: das kann jetzt kein Nachricht meiner Bank sein.

00:25:53: heute ist es ja wesentlich schwieriger da überhaupt noch zu erkennen dass da diese E-Mail von jemandem ganz anderen als dem eigentlich vermuteten Absender geschrieben wurde.

00:26:07: Was gibst du denn da für Hinweise, wie man damit umgehen sollte, damit man jetzt noch solche Fishing-Attacken erkennen kann?

00:26:17: Da brauche ich noch gar keinen Agenten haben!

00:26:18: Das ist ganz normal in meinem Postfach oder auf meinen Botsapp.

00:26:23: Ich habe bei vielen Menschen – wir begleiten auch beispielsweise Menschen über Prosinek Tutis in der Schweiz, eine Organisation für ältere Menschen – das sage ich auch immer, dass erstes was wir einrichten bei euren E-Mails sind Filter Filter die das versorgen dass du alles was mit bank.

00:26:41: Versicherung in einer eigenen bereichein geht und das macht ihr schon mal bewusst von wegen dass du wenn du dann deine e-mails beantwortest, dass du die klassische Korrespondenz hast und du hast beispielsweise jetzt auch von der aah war bei uns an der pension ein seite oder von der bank weiter gehst du dann ganz bewusst rein?

00:26:59: Und schon dieser ganz kleine trick Wenn du dann siehst ich habe eine inbox unter sind jetzt drei imes von der Bank aber Die E-Mail mit der Kreditbestätigung sieht so ein bisschen anders aus als vom Wegen, wir haben hier ein neues Produkt und sie können bei uns vorbeikommen.

00:27:14: Dann fällt das schon ein bisschen besser auf.

00:27:15: Es fällt dir nicht auf in der Masse von den Emails.

00:27:19: Das zweite was man immer machen muss, du musst mit dort ein bisschen darauf hinweisen wegen, niemals irgendwelche Bilder oder sonstige Attachments automatisch runterladen ist eine Einstellungssache.

00:27:28: Ist meistens auch so drin übrigens... Überschreibt es dann eher, muss wieder rückgängig machen.

00:27:33: Und das dritte ist der Klassiker du guckst die Absender-E-Mail an also du klickst auf in deinem Browser deinen Memel drauf.

00:27:41: und wie man sitzt für eine Absender und eine Bank abgesehen davon dass sie nie würde irgendwelche Dokumente direkt über E-Mails schicken so ein immer neu bei die Applikation sei es da hingestellt.

00:27:51: Eine Bank wird niemals irgendwie add Outlook, add Gmail, add irgendwas drin haben und daran kenne ich auch schon sehr viel.

00:27:58: aber in der Hektik passiert es halt doch.

00:28:00: Und ich habe gerade wieder vor zwei Wochen einen Kunden gehabt.

00:28:03: Die haben gerade einen Ausfall gehabt in der Buchhaltung, ist jemand reingesprungen und dann hat die Person halt ... weil sie war als Tag im Job drin, hat geklickt und sich eingelockt und dummerweise dann halt die Credentials dem Fischer mitgegeben.

00:28:17: Jetzt

00:28:19: haben wir ein bisschen von der bösen Welt gesprochen, die sich darauf konzentriert uns Schaden zuzufügen.

00:28:28: Jetzt gibt es aber auch noch ein Risiko, das fand ich extrem spannend in einem Deiner Newsletter.

00:28:35: Das hatte ich so nicht auf dem Schirm, wo man sich eigentlich selber eine Art Falle stellt, indem ich nehme meine Wissensarbeit an die KI-Auslage, wie wir das fast alle ja tun.

00:28:47: Früher hat man sowieso gegoogelt und da musste immer ganz viel Handarbeit hinterher und Denkarbeit zugrunde legen, um das weiter zu verarbeiten und dann hat man schon die Spreu vom Weizen trennen können.

00:28:57: Zumindest hat man sich es eingebildet.

00:29:00: Wie unterscheidet sich denn die Recherche über Chat GPT von diesem klassischen Vorgehen in der Websuche über Google?

00:29:11: Wir müssen hier leider kurz zwei technische Rangbedingungen festlegen, Nr.

00:29:16: eins.

00:29:17: Sie arbeiten zwar an einem eigenen Suchindex jetzt, denn suche nix bedeutet das sozusagen das Web regelmäßig crossed und dir sozusagen die Landkarte baust.

00:29:26: momentan basieren sie aber zu Großteilen noch auf Bing.

00:29:31: Und suchen auch mit dem Internet.

00:29:33: Du hast schon gewisse Qualität.

00:29:35: Ja, ja das geht's immer noch.

00:29:36: Ja Co-Pilot ist auch Wabbing.

00:29:37: also die haben ein klassisches Revival totgesagte Leben länger.

00:29:41: Sie sind nicht gut.

00:29:43: Das wissen wir.

00:29:43: sie haben Lost in Translation Sprichs übersetzen gewisse Dinge auf Englisch und suchen eine amerikanische und sie nicht so bewandert bei gewissen Seiten aber nicht sehr stotziat.

00:29:51: es ist halt die Search Engine mit dem Bing Index.

00:29:55: Das bedeutet natürlich du bist nur auf einem Bruchteil.

00:29:58: das vielleicht sonstigen Internets unterwegs wissen, es gibt auch einfach das Darknet und was wir sehen.

00:30:06: Nichtsdestotrotz, gerade da muss man verstehen dass es halt gewisse präferierte Quellen gibt die eher populär sind bei Google übrigens auch.

00:30:16: Und das heißt Wir müssen uns dran gewöhnen Dass wir nicht um ein erstes Resultat als Bestes angucken Sondern sie Zeit nehmen beispielsweise Die resultaten auf der Schein sogenannten Crapjack zu prüfen.

00:30:29: Crab ist eine zwanzigjährige Methode, die kam ursprünglich aus den USA.

00:30:34: Die bedeutet wegen Beistich ob c ein Datum currency r eine reliability sprich Primärquelle a eine Autorität und p eine Absicht erkennt bei uns.

00:30:44: Und das wird insofern noch wichtiger weil aktueller Bericht ich glaube der war kann von algorithm watch.

00:30:50: wir haben sieben tausend so genannte k i Farmen.

00:30:54: das sind farmen die Informationen verbreiten die so nicht stimmen aber von den crawler sehr gerne genutzt werden.

00:31:01: Und spätestens dann mit einem guckst du wegen welchen lobby dahinter steckt und könntest du es feststellen, aber das passiert da nichts zu einer schnelle.

00:31:10: Da bräuchte ich jetzt auch schon fast wieder einen agenten der mir diesen prep check machte oder

00:31:13: sonst.

00:31:14: ja also ist uns gill du kannst auch unser gilt dazu machen oder die einfach schreiben wegen mach mir für alle quellen ein krebschack und dann siehst du schon mal was hier passiert.

00:31:23: Der crept sagt dir nicht war oder falsch?

00:31:26: Der Crapjack gibt ja Transparenz und er gibt dir Zeit wieder zum Atmen, weil du guckst nochmals doppelt hin von wegen CRAP.

00:31:34: Ah okay das ist also diese Agentur und der hat das gesagt.

00:31:37: und da okay gut dann verbesserst vielleicht deinen Prompt oder gehst nochmal in die Tiefe.

00:31:45: Jetzt haben wir auf der einen Seite das Problem dass das Dinge ausgewählt werden.

00:31:48: ich sehe nicht die ganze Wahrheit aber selbst wenn es ausgewillt wird und selbst wenn das was ausgewildert ganz ok ist haben wir ja mittlerweile das Phänomen, dass unglaublich viel Content im Web oder zum Beispiel auflegt in von der KI erstellt wird und viele Leute sagen ich werde hier geflutet mit Inhalten.

00:32:08: die habe ich so schon tausendmal an X Stellen gesehen.

00:32:13: Und das wiederum bewirkt ja, dass die Maschine das lernt was sie vielleicht sowieso schon fünfzigtausend mal eine andere Stelle gesehen hat und da selber wieder Inhalte gebaut hat.

00:32:23: woran

00:32:24: merken wir denn selber vielleicht schon diese Modelle?

00:32:29: an den Daten, die selbst generiert wurden vergiften.

00:32:33: Also dieser klassische Model Collapse, den man bei solchen Systemen unterstellt.

00:32:39: Woran kann man das merken?

00:32:40: dass wir da schon unterwegs sind?

00:32:42: Der Model-Collapse ist lustigerweise gar nicht das große Problem.

00:32:45: OBI hat selbst letzte Woche gesagt, sie hören auf sich an Internetquellen zu bedienen und auch andere Modelle haben längst gesagt wegen des Internetes nicht mehr unser primary source of education.

00:32:56: Das heißt man geht eher auf klassifizierte oder dedizierte strukturierte Daten, wissenschaftliche Quellen.

00:33:03: Man hat alte Bücher, Projekt Pegasus und zum Beispiel hat alle Bücher eingescannt.

00:33:08: Das Internet ist nicht mehr die verlässige Quelle.

00:33:11: Das Problem ist ein anderes.

00:33:12: Das ist von angesprochen.

00:33:13: so bisschen mit LinkedIn und vielleicht, wenn ihr auch manchmal auf Instagram oder am nächsten Dorfmarkt unterwegs seid... Die Flyer sehen ja alle gleich aus!

00:33:21: Die Posts sehen alle gleichaus.

00:33:23: Wir Menschen tendieren leider unsere Persönlichkeit nicht wirklich reinzubringen weder bei Design noch bei Sprache Und das führt zu einer gewissen Standardisierung.

00:33:32: Diese Standardisierung wiederum setzt den nächsten Mittelgrad was als schön oder gut gilt.

00:33:39: Dazu kommt natürlich, dass die Menschen – und das ist eigentlich noch verrückt – nicht unbedingt mehr Content generieren.

00:33:45: Also auf Linken ist die Kreationsquote immer noch vier Prozent.

00:33:48: Das ist knapp ein Prozent mehr als letztes Jahr.

00:33:51: Bedeutet aber, dass sechs, neun Prozent immer noch nicht posten.

00:33:53: Aber die vier Prozent, die halt posten, die posten viel mehr.

00:33:57: Und nicht unbedingt besser!

00:33:59: Da musst du heute schon extrem ... Ich versuche es ja auch so ein bisschen mit meinem Stil oder mit deinem Designs usw.

00:34:05: Die Leute aufzuhalten sagen, nee bei mir sieht's ein bisschen anders aus Weil sonst bist du halt einheitsfrei.

00:34:11: Und es ist halt schon so, nicht nur die KI ist copy-paced.

00:34:15: wir!

00:34:15: Wir sind copy-paced.

00:34:16: Es gibt nachfällige Studie, die sagt dass wir Menschen immer mehr auch sprechen wie JGPT weil wir haben uns der Maschine angeglichen nicht umgekehrt.

00:34:23: Das ist noch festgefährlicher.

00:34:26: Wenn wir jetzt mal die Unternehmensperspektive nochmal einnehmen wollen und in einem Unternehmen arbeiten viele Menschen mittlerweile mit ihren KI Systeme und ich habe eigentlich ja die Aufgabe, dass keine ungeprüften KI-Ergebnisse in operative Kundenprojekte einfließen.

00:34:49: Was kann denn etwas machen Unternehmen schon und was könnten sie noch machen?

00:34:54: Damit das nicht passiert?

00:34:55: Ich glaube der erste wichtige Schritt ist, dass man sich – und das sagt ja auch der EUI Act – eigentlich dieser Verpflichtung wahrnimmt, dass man die Menschen außen weiterbildet.

00:35:06: Vieles kommt erst durch die Befähigung und da geht es auch sehr viele Firmen, die sehr viel tun dazu.

00:35:12: Sie bilden sogenannte KI-Botschafterinnen aus oder Ambassadoren oder wie sie immer heißen.

00:35:17: Und sie machen so kleine Champions in denen diese Person sich sehr gezielt mit diesen Systemen auskennen.

00:35:22: Der zweite Punkt ist, man baut kleinere Racks ein.

00:35:26: Rack ist ein Retrieverlockment Generative System.

00:35:28: Man kann es vorstellen als hättest du einen Server Und dieser Server ist die einzige Quelle der Wahrheit.

00:35:35: Das bedeutet, wenn man zwingt das Modell weder ins Internet noch sonstige Sekundärquellen zu beziehen, sondern sagt da darauf.

00:35:44: Darauf muss dazugreifen.

00:35:46: und das Dritte ist, man bringt mehr Struktur rein beim Mensch wie auch beim Modell selbst.

00:35:52: Du kannst ja beispielsweise jetzt bei Copilot Agenten kannst du auch so eine Skills hochladen und Knowledge Layers das bedeutet dass du sozusagen hingehen kannst und sagst ich gebe dir die Arbeitseinweisung wie du zu suchen, zu filmen und zu validieren hast.

00:36:03: Und ich gebe dir auch noch einen Referenzrahmen.

00:36:06: Knowledge im Sinne von.

00:36:07: so funktioniert das bei uns ähnlich eigentlich wie wenn du ein Mitarbeiterhandbuch hättest oder so eine Deeskalationscheckliste.

00:36:14: ja sollte mal irgendwo vorher ausbrechen.

00:36:16: also dass gibt man diesen agendischen System mit.

00:36:19: aber und auch das ganz ganz wichtig letzter Punkt Du hast die Möglichkeit all diesen Dingen dieses human in the loop einzuporn klingt extrem wieder so new age mäßig, aber bei der nix anderes.

00:36:31: heißt du machst eigentlich die letzte prüfen.

00:36:33: oder auch im Zwischentritt sagst du hier musst du stoppen und hier brauche ich den input des menschen.

00:36:39: Den input des Menschen kann entweder sein ein Häkchen setzen, Text reinschreiben oder eine Aufgabe weiterschieben und das hilft schon extrem von der Schulung bis hin zu den delizierten Systemen, den Skills & the knowledges bis hin to human in the loop.

00:36:55: dass Du genau eben diese Dinge verhinderst

00:36:58: Das ist ein wunderbarer Begriff.

00:37:00: An dem störe ich mich nämlich massiv, weil wir uns das eigentlich schon seit vielen Jahren mit diesem human in the loop aus meiner Sicht wahnsinnig viel vormachen.

00:37:09: also Es hieß lange es braucht den human in der luft damit wirklich kreativ ist.

00:37:14: aber Ein durchschnittlich kreativer mensch ist weniger kreative als dass mein jaminer oder mein chat gpt heute schon ist finde Ich und jetzt haben wir Bei den Qualitätskontrollen ja eine ähnliche Situation.

00:37:27: Also wenn ich jetzt da human in the loop habe und sage du bist jetzt verantwortlich dafür, dass da nix rausgeht was nicht unseren Leitlinien entspricht

00:37:34: dann

00:37:35: haben wir es ungefähr so wie den IT Security Specialists Spezialisten.

00:37:38: Du kriegst so viele Anfragen Und irgendwann sagst du naja ich baue mal.

00:37:42: entweder bau ich mir jetzt meinen Agentin der das dann wieder für mich macht Dann kann ich das auch bewältigen oder Das wird schon stimmen und die zwei Prozent die net stimmen die sehe ich eh nicht.

00:37:50: also klick Es schätzt sich das falsch sein oder ist es nicht wirklich ein Gefahr?

00:37:58: Du hast dich recht insofern, man spricht ja auch von diesen Agenten Babysitten.

00:38:03: Die einen machen's gerne, alle wirklich gerne und dann manchmal nerven die Kleinen und du sagst ja jetzt geh ich spiele.

00:38:08: Du hast so eine iPad oder hier hast du was Süßes Blatt.

00:38:11: Kein Erziehungsratschläge hier übrigens von mir sondern mehr im Sinne von wie du richtig sagst, du hast dann die Inbox voll mit, jetzt muss ich noch prüfen.

00:38:18: Dann hab' ich keinen Bock mehr.

00:38:21: Das bedeutet übrigens und das ist ja eigentlich die große Herausforderung, der wir uns auch immer stellen von wegen.

00:38:26: Was ist jetzt wirklich Digitalisierung?

00:38:28: Was ist Transformation auch im KI-Kontext?

00:38:30: Es macht keinen Sinn dass ich sozusagen hingehe und sage okay bis anhin habe ich zum Beispiel mein Recherche Prozess oder meinen Offwerten oder meinen Pitchprozess so und so gemacht und Ich bin da reingegangen.

00:38:42: Und ich mache das eins zu eins für die KI nur dass ich dann Schluss sozusagen gucken kann.

00:38:47: hat sie das gemacht was ich gemacht hätte?

00:38:49: sondern du musst den Prozess umkehren.

00:38:51: Das bedeutet, du gehst dir und sagst okay wir brauchen ja regelmäßig Research also bauen in Research-Datenbank.

00:38:57: Wir brauchen regelmäßig Designs also haben wir Designs Guidelines.

00:39:01: Und wir haben mindestens Anforderungen vielleicht ABC drei Slides, neun Slides zwölf Slides und basierend darauf formulierst du dann die Aufgabe als System.

00:39:11: ganz konkret sagst du jetzt nicht von wegen mach mir die Recherche oder wählst aus Variante ABC.

00:39:17: Du weißt, ich habe die C-Variante gewählt.

00:39:19: Das sind zwölf Slides und da hab' ich so zwei drei Kontrollfragen drin.

00:39:22: Sind die zwölfe Slides drin?

00:39:23: Hat sie Design-Gate-Lines benutzt?

00:39:25: hat sich hier wirklich auch dieses richtige Referenzierter.

00:39:27: So du musst schon noch mitdenken aber wenn wir es einfach nur digitalisieren um die Leute nach fünfzehn Schritte sozusagen abhaken müssen.

00:39:36: das wird nicht funktionieren.

00:39:40: Jetzt müssen Unternehmen wie du ja schon gesagt hast Sie müssen sicher drum kümmern und sie können so eine Sicherheitsrichtlinie also Papier oder die Festplatte ist ja geduldig und das Internet auch.

00:39:51: Du kannst solche Regelungen ja festlegen, aber woran merkst denn du wenn du jetzt in einem Unternehmen bist dass die zwar den ersten Schritt so eine Regelung zu finden gut vollzogen haben, aber in der Umsetzung einfach noch viel zu viel Freiraum da ist?

00:40:08: Das merke ich eigentlich relativ schnell, wenn du die Leute auch fragst, was hast du heute mit KE gemacht und weißt du was die KE für dich gemacht hat?

00:40:19: komplexe Angelegenheit.

00:40:20: und gleichzeitig wissen wir, Menschen finden immer Wege.

00:40:23: Also Menschen finden Wege damit sie halt ihre Arbeit für einen fairen Lohn, den Sie empfinden in der fairen Zeit auch umsetzen.

00:40:31: Und das ist natürlich dann die große Herausforderung des Managements dass vielleicht als nächstes ein abgeschafft wird weil die Mitarbeiter sagen für ihn ja ich habe ihn erkennt nicht muss mich selbst managen ich brauche es nicht mehr irgendwie rausfinden muss.

00:40:44: Das ist schon eine Crocs und da merkst du dann auch Wo hast du wirklich eine Firmenkultur, die es auch zulässt?

00:40:51: Und diese Reibung auch dann sagt okay jetzt aber das geht so nicht und das klappt so nicht.

00:40:56: Das müssen wir noch mal anschauen usw.

00:40:58: Welche Unternehmen muss man schon aushalten?

00:41:01: Da gibt's nicht viele!

00:41:02: Weil die meisten machen Dienst nach Vorschrift und haben eher Angst dass sie ihre Ziele nicht erreichen.

00:41:07: Dann ist er Push push push und ist schon gut.

00:41:10: ich habe jetzt gemacht.

00:41:11: Das ist schon ne Realität der ich oft begegne.

00:41:17: Im Kern gehts ja darum Wenn ich das jetzt mir so vor Augen halte, dass du letztendlich klare Regeln für die Anwendung Auswahl von Modellen und die Nutzung von KI-Modellen in einem Unternehmen hast.

00:41:31: Also die klassische KI-Gavanets, sagen wir mal!

00:41:36: Wenn Du jetzt einen mittelständischen Unternehmer vor Dir hast – und ich weiß, Du arbeitest ja auch viel mit mittelständigen Unternehmen zusammen – was würdest Du dem sagen?

00:41:45: Was wäre ein gutes Vorgehensmodell?

00:41:48: Für sich selber zu strukturieren, was brauche ich damit dich eine pragmatische KI-Governance in meinem Unternehmen implementieren kann?

00:41:55: Die dann auch die Leute befolgen können und wollen.

00:41:59: Ich glaube das Wichtigste ist sich bewusst machen dass KI keine Sonderkompetenz ist sondern dass KI der nächste logische Schritt in der Digitalisierung stattfindet.

00:42:08: Das bedeutet wir müssen uns erstmal Gedanken machen und anschauen wegen wie digital sind wir unterwegs Bei Systemen, Prozessen, Zugriffen und Kompetenzen von den Menschen.

00:42:20: Basierend darauf braucht es schon eine gewisse Vision wo wir hin wollen, wo wir sagen, wo können wir durch Technologieeinsatz im Klammer KI hingehen und die Qualität erhöhen?

00:42:33: Die Geschwindigkeit, sprich den Output oder auch entsprechend die Kosten reduzieren?

00:42:39: Und das darf aber nicht als rundum Schlag gelten und auch nicht im Sinne von ich habe jetzt.

00:42:44: Ich bin digital alles funktioniert, sondern du gehst ganz gezielt auf einen ganz klaren Anwendungsfall hin.

00:42:53: use case und der Anwendung fall den ich dir lustigerweise immer zuerst höre ist ich hätte gerne dass meine emails automatisch beantwortet werden.

00:43:04: das wünschen sich alle wirklich brauchen tun sie allerdings einen Zugriff auf Know-how des Unternehmens.

00:43:14: Und das ist oftmals, was wir rausfinden in Workshops, dass die Leute zwar sagen ja ich hätte gerne mehr Produktivität, sprich weniger E-Mails, wenige Anfragen bla bla, wenn du aber reingehst dann merkst du nee ihr habt ein Problem beim Businessmanagement, ihr wisst ja gar nicht wer was wo macht und was der letzte Stall sonst weiter.

00:43:29: Lass uns das zuerst klären weil wenn wir dann so weit sind Das wem ist beantworten kannst du immer noch auf dieses nur zugreifen, aber du hast schon verstanden dass es wichtig ist das hier pflegst bevor du hier antworten kannst.

00:43:45: Wenn du morgen früh als noch frisch eingestellter CIO eines Konzerns antreten würdest und schaust du auf das System und welchen Stecker so lange nicht ganz klar bist Was dich da erwartet, welch Stecker ziehst du als allererstes damit nichts anbrennen kann im Umfeld von Kai?

00:44:10: Ich würde hundertprozenten Zugriff auf nicht autorisierte KI-Systeme für den Tag verbieten.

00:44:19: Das wird dazu führen dass wir ganz viele Beschwerden kriegen und ganz viel gemummelt werden.

00:44:24: das ist gut aus dem einfachen Grund weil Ich erlebe ganz oft, dass man zwar KI einführt im Unternehmen.

00:44:31: Aber effektiv haben sie die Mitarbeiterinnen und Mitarbeiter längst angeführt.

00:44:35: Und solange diese Reibung nicht hast und dir bewusst ist für wegen ja was wird jetzt genutzt?

00:44:40: Und wie kannst du nicht hingehen und sagen ok ich verstehe Du brauchst dieses Tool.

00:44:44: Was löst dieses tool für dich?

00:44:45: Lass uns hier eine offizielle Lösung finden und lass uns gucken das alle davon profitieren Nicht nur du weil du es einen Weg gefunden hast.

00:44:53: Die Leute nur schätzen massiv Wie gefährlich gewisse dinge sein können gerade jetzt, wenn du einfach irgendwie ein wild wuchs hast und gewisse Dinge einfach zulässt.

00:45:03: ich erlebe immer noch dass viele Menschen beispielsweise auch mit irgendwie Plot das sind diese kleinen Dinger die du hinten ans Handy anmachen kannst Mietingsdrehen setzen ohne leute zu informieren.

00:45:15: Dass ihr aufzeichnen Das darf schon in einem halt irgendwie im Büro mit haben.

00:45:21: der ist da.

00:45:22: macht dann.

00:45:26: Ich glaube, ich will nicht als Controlfreak gelten.

00:45:32: Wir sagen bei uns in der Schweiz immer so auch beim Bergsteigen halt stoppsicher.

00:45:37: Also dass du wirklich mal hingehst und sagst, guck mal sind alle eingefädelt haben wir ja wirklich die Karabinen am richtigen Ort?

00:45:44: sind sie in der richtigen Fluchtrestive-Laufrichtung drin?

00:45:48: Und dann geht es weiter weil ich hab hinter mir nochmals sechs Leute.

00:45:52: für die habe ich eine Verantwortung.

00:45:56: ganz zum Schluss noch eine Frage Gibt's ein KI-Tool oder irgendeinen Agenten, der dich in letzter Zeit super begeistert hat?

00:46:06: und gibt es irgendetwas wo du sagst da bin ich jetzt wirklich beunruhigt.

00:46:13: Wirklich begeistered hat mich... ...wirklich das neue Sprachmodell von ChatGPT also ChatGpT Voice mit der Live Funktion.

00:46:26: Ich bin wahnsinnig überrascht, wie gut und wie human es wirkt mit Zwischentöten.

00:46:34: Es hört auf sich auch zu und es gibt dieses Feedback.

00:46:37: Und ich verstehe hundert Prozent warum die Leute sich entweder verlieben, sich das als beste Freundin wünschen oder gewisse andere Dinge damit machen.

00:46:46: Dann steh' ich hunderte Prozent!

00:46:47: Ich bin begeistert, wie die Latents her so wie diese Verzögung praktisch nicht existiert und es versteht auch mein Schweizer-Deutsch beispielsweise.

00:46:53: Das finde ich extrem gut.

00:46:55: Was hat mich extrem?

00:46:57: dann?

00:46:57: gleichzeitig auch erstaunt ist, dass in dem Moment dieser Statistik herauskam was die Leute mit KI machen und den Top zehn Dingen sind persönliche Probleme Beziehungsprobleme Entscheidungshilfen Arbeitsbuddy.

00:47:10: Das heißt wir haben uns schon so krass darauf verlassen weil sie so gut klingen und unseren Gefühl geben das es gut ist und gut kommt dass wir praktisch alle wichtigen Entscheidungen unserem Leben auslagern.

00:47:24: Dieses Kognitive Offloading und dieses Bewusste, sich auf die Maschine verlassen.

00:47:29: Das macht mir

00:47:29: Angst.".

00:48:08: Und damit sind wir am Ende der heutigen Sendung von CXTalks angekommen.

00:48:12: Ich hoffe, diese Analyse der aktuellen KI-Risiken hat hier wertvolle Impulse gegeben um Projekte und Workflows in deiner eigenen Organisation noch einmal kritisch zu hinterfragen!

00:48:23: Wenn dir unser Austausch gefallen hat – und du auch in Zukunft keine fundierten Diskussion an der Schnittstelle von Kundenzentrierungen, Technologie und Führung verpassen willst dann abonniere CXTALKS direkt in der Podcast

00:48:35: ab

00:48:36: Deines Vertrauens.

00:48:38: Lass uns gerne eine fünf Sterne Bewertung da und diskutiere auf LinkedIn mit mir zu den Inhalten dieser Folge.

00:48:43: Bis zur nächsten Folge, bleibt gesund, optimistisch und immer mit dem Kunden im Herzen!