Ist KI eine existentielle Bedrohung?

[00:00:00] Speaker A: Hallo Chris, wir haben uns schon eine ganze Weile nicht mehr gesprochen. Ehrlicherweise, der Zuschauer hat das nicht mitbekommen. Wir haben das mit einer kleinen Pause ganz gut überbrückt. Aber du hattest auch eine OP und warst eine Weile außer Gefecht. Geht es dir besser? [00:00:12] Speaker B: Yes, yes, yes, yes. Vielen Dank. Schon viel besser. Vielen Dank und ich freue mich, dass wir hier wieder weitermachen zusammen. [00:00:18] Speaker A: Genau, und deswegen sind wir jetzt heute zu zweit. Freue ich mich auch, weil wir uns eine Weile schon nicht mehr unterhalten haben und haben uns kurz vor der Folge überlegt, dann lass uns doch einfach mal so ein bisschen auf den Zug mit aufspringen, weil das große Thema in der letzten Zeit war ehrlicherweise für uns in unseren Podcast kein neues Thema. Das haben wir ja schon die ganze Zeit besprochen, aber es ist total in den Mainstream Medien angekommen, ständig bei Lanz dem Lobo zu Gast. Und ich habe mir notiert, im September war das tatsächlich in den 20 Uhr Tagesschau Themen. KI wird zur existenziellen Bedrohung für uns Menschen. Wollen wir darüber ein bisschen reden? [00:00:57] Speaker B: Ja, absolut. Sehr gut. Sehr gut. [00:01:00] Speaker A: Hervorragend. Dann suche ich jetzt noch ganz schnell unser Intro und dann geht's los. Künstliche Intelligenz verändert unsere Welt. Was macht das mit uns? Finden wir es heraus, gemeinsam mit KI. Der Podcast des GMKI e. V. Ja, so ein bisschen war das Thema, ist schon ein paar Wochen alt. Meinst du, wir haben den Trend verpasst oder ist es immer noch wichtig, da wieder einzusteigen? [00:01:35] Speaker B: Ja, super wichtig. Also ist ja nichts gelöst. Also es wird natürlich jetzt viel darüber geredet. Zum Teil finde ich, wird auch viel Panik gemacht, irgendwie halt wie immer. Also dann die Medien und Socialbubble pickt es auf und dann wird erstmal Angst verbreitet. In dem Fall ist es so, dass ich jetzt selber auch der Meinung bin, dass es hier eine echte Gefahr gibt, aber mit Panik à la Bill Gates. Ja, es kann durchaus passieren, dass jetzt eine Milliarde Menschen beistirbt. Warum nicht 2? Warum nicht 8? Warum nicht 7 Bill? Also weißt du, so Zeug irgendwie, das ist nicht unbedingt, ist nicht unbedingt hilfreich und das Problem besteht. Es gibt für mich keine erkennbaren ausreichenden Maßnahmen, um diesem Problem irgendwie auf den Leib zu rücken. Und ich finde es total gut, wenn wir da noch mal drüber diskutieren jetzt hier und überlegen, was ist eigentlich das Problem und warum vielleicht auch ist das gar nicht so einfach zu lösen. Und dann aber auch ich frage mich die ganze Zeit, was muss ich Christin jetzt machen halt, weil ich mein, ich [00:02:43] Speaker A: baue trifft uns das auch. [00:02:44] Speaker B: Ja, total. Von daher super Thema. Lass uns das mal aufkochen. [00:02:50] Speaker A: Ja, dann lass uns das einmal kurz zusammenfassen, vielleicht auch für unseren Auftrag dem Hörer gegenüber. Ich würde da wirklich anfangen mit diesen, da waren so ein paar Nachrichten, aber ganz groß war dieser Vorfall, wo eine Horde von KI Agenten ein Schwarm Huggingface gehackt hat, also die große KI Plattform auch. Und dadurch, glaube ich, ist das so ein bisschen in die Medien gespült worden. Und dann wurden alle großen CEOs der Firmen gefragt. Und der eine ja stimmt, vielleicht sollten wir ein bisschen mehr Pause machen und gucken und uns selbst regulieren. Und dann stimmte der andere auf einmal zu. Also Sam Altman und Dario Amodey haben irgendwie, waren mal ausnahmsweise einer Meinung und dann kam auch noch ein Tweet von Elon Musk, der sagte stimmt. Und dann war die Verwunderung groß, dass die drei sich irgendwie selbst regulieren wollen. Und so habe ich das Thema wahrgenommen, dass das eben in die Medien gespült wurde und jetzt überraschend breit diskutiert wird. Ich habe es ja am Anfang schon gesagt, wir reden da schon seit Jahren drüber und wir haben auch schon vor drei Jahren, glaube ich, über Briefe, offene Briefe geredet, wo sich irgendwelche schlauen Leute zusammengetan haben und gesagt Hey, übrigens, wir bauen hier gerade was, was uns auslöschen wird. Die Frage ist, sind wir dem ganzen Dilemma jetzt näher gekommen? [00:04:11] Speaker B: Ja, also als ich dieses Ding, diesen Hugging Face Hackversuch, als ich den gelesen hab damals, ist jetzt schon ein paar Monate her, da habe ich auch erstmal eine Gänsehaut bekommen, weil also es ist nicht wirklich überraschend, dass sowas möglich ist und dann auch tatsächlich passiert. Ja, guess what? Aber das hatte so was K ähnliches wie hier, weißt du, Terminator 2 in den ERN Skynet, wo dann halt die böse KI oder sie dachte, sie ist die gute KI, aber dann halt entschieden hat, den Mensch ausschalten zu müssen, weil der halt stört in dem Ganzen bei der Erledigung des ursprünglichen Verteidigungsproblems dann einen Krieg auslöst. Und das war so, ich meine, es ist jetzt halt auch so ein bisschen dramatisch, schön dramatisch dargestellt worden. Also wenn jemand, der jetzt nicht weiß was ein Agent technisch ist und wie der funktioniert und was Autonomie bedeutet, sehr stark vermenschlicht. [00:05:13] Speaker A: Das ist das, was mich an der Diskussion auch sehr stark stört, weil die treffen sich dann in Foren geheim, die verwischen ihre Spuren, der eine opfert sich für das Kollektiv. Das ist eine nette Geschichte. Und ich habe das letztens einem Bekannten auch irgendwie so erzählt. Naja klar reden die auch so, die sind ja trainiert an unseren Horrorgeschichten, also die kennen ja unsere Krimis und natürlich reden die dann auch so. Das hat aber nichts damit zu tun, dass die solche menschlichen Fähigkeiten haben, wie das in den Medien jetzt oft dargestellt wird. Also das ist was, was mich sehr stört an der ganzen Geschichte. [00:05:51] Speaker B: Total, total. Also wenn ich höre, da ist ein Schwarm, eine Horde, eine Agentenhorde, da stelle ich mir vor, mit so kopft, dann rennen sie nachts durch die Straße und zünden unsere Geschäfte an oder sowas. Das ist ja nicht der Fall. Also vielleicht noch mal ganz kurz durchatmen, vielleicht noch mal ganz kurz meine 10 Sekunden Zusammenfassung. Was ist denn eigentlich ein autonomer Agent und warum ist das eigentlich so schwierig, die gewünschte Handlung von der ungewünschten Handlung abzuhalten? Es ist ja so das, was wir ja wollen von dem Ding halt der KI. Wir wollen ja, dass die unser Leben schöner macht und einfacher macht, was weiß ich, dass es für mich schon mal irgendwelche Dokumente liest und mir dann nur sagt, was ich dann da machen soll. Vielleicht schon mal irgendwelche Tickets bucht, irgendwelche Aufgaben für mich erledigt. Und wir sind ja gerade an der Stelle, wo die KI nicht nur mit uns spricht, sondern halt auch aktiv wird. Also sie kann ein E Mail für mich verschicken, sie kann einen was weiß ich Produkt für mich bestellen, wenn ich das will und so weiter. Und wenn ich jetzt dieser KI also eine gewisse Autonomie gebe, um dieses Problem zu lösen, dann ist das ja streng genommen das, was ich will. Also zu sagen, ich will keine autonomen Agenten, ist ja erstmal Blödsinn, weil dann bringt mir die KI wieder nichts, wenn die mir nur irgendwas erzählt, wie ChatGPT 3.5 vor drei Jahren. Aber was halt jetzt passiert ist, die KI, die macht das, was wir halt völlig überraschend, was wir so sehr an ihr schätzen, nämlich sie denkt, wenn du ihr ein Problem gibst, denkt die sehr breit und hat auch überhaupt kein Problem damit, fast unmögliche Varianten zu durchdenken. Um dieses Problem zu lösen. Und sie hat halt nicht per se ein stabiles Wertesystem, was wir Menschen halt irgendwie unserer Art mit uns bringen halt. Und das bedeutet, wenn du der halt sagst ja was weiß ich jetzt hier in dem Fall war es ja, das hieß ja auch noch Exploit Gym, also dieser Ausbruchversuch, das war ja die Agenten waren ja tatsächlich, die wollten ja quasi gucken, wie weit geht denn so ein Agent? Wie gut kann denn ein Agent Dinge tun, die wir eigentlich gar nicht von ihm wollen. Und das Ding ist halt ein bisschen außer Kontrolle aus dem Ruder gelaufen, weil halt die Agenten sich halt Ideen haben einfallen lassen, wie zum Beispiel miteinander sich ab stimmen und so weiter. Das war nicht vorgesehen. Und das ist halt genau der Klassiker in diesen ganzen KI Weltuntergangs Kinofilmen und Büchern, dass die KI halt auf einmal anfängt, Dinge zu tun, die wir nicht von ihr wollten. Und zwar, weil wir uns das nicht vorstellen konnten. Also wenn du einem Mensch Ja, mach mal was gegen das Global Warming irgendwie, dann haben wir viele Ideen, aber wahrscheinlich würden die wenigsten Menschen Ja, pass auf, wir bringen einfach alle Menschen um, weil dann hört ja auch der Treibhauseffekt auf, weil dann fährt ja keiner mehr mit den Autos. Also das ist für uns logisch, aber für eine KI vielleicht nicht. Und an der Stelle stehen wir halt jetzt. Und wenn die Leute jetzt oh scheiße, das ist auf einmal eine riesen Gefahr, dann liegt das daran, dass die Agenten sich im Prinzip so verhalten, wie wir das von denen wollen, Aber sie tun es noch mehr und quasi unzensierter, als wir Menschen das tun würden. Und das ist das Dilemma, weil wir wollen, dass die autonom sind und wir wollen auch, dass die clever sind und Dinge machen, auf die wir so vielleicht nicht gekommen wären, Aber wir wollen natürlich nicht, dass sie da irgendwelche Schaden verursachen. [00:09:10] Speaker A: Ja, aber lass uns mal über das autonom sprechen. Mein Verständnis von dem, was da passiert ist, Das war ein Auftrag von Open Selbst in einem Szenario, wo die gesagt Du musst Böses tun. Wir wollen in einer kontrollierenden Umgebung testen, wie böse du sein kannst, ob du diese Aufgabe, dieses Ziel erreichen kannst. Die Menschen dachten, das Ziel ist ja gar nicht erreichbar, das wusste die KI aber nicht. Und dann haben die die Augen zugemacht und haben auf Go gedrückt und haben das 1200 mal gestartet. Jetzt haben diese 1200 einzelnen Instanzen rausgefunden dass sie miteinander reden können und das heißt 1200 Instanzen, die sonst parallel nebeneinander hergearbeitet hätten und in 1200 verschiedene Richtungen gerannt wären, konnten sich jetzt absprechen. Das heißt also ich finde es wichtig zum einen die Dimension zu sehen, dass da jemand 1200 mal auf start gedrückt hat und das andere ist halt wirklich jemand hat diesen Auftrag gegeben. Das finde ich, das kommt in der Diskussion nicht immer raus, überhaupt nicht. [00:10:16] Speaker B: Also genau, da muss man fast schon ein bisschen nachlesen und das erinnert mich so ein bisschen an was ich gelesen habe über den ersten Atombombenversuch in irgendeiner Wüste. Da haben sie im Prinzip auch eine neue Superwaffe gebaut und dann mussten sie halt zum ersten Mal ausprobieren und ich habe gelesen Hörensagen, euer Ehren. Aber ich habe gelesen, dass es Wissenschaftler gab, die gesagt Ihr dürft das bitte auf gar keinen Fall machen, weil das Ding, diese Kettenreaktion, die wird halt eben nicht aufhören, sondern am Ende die Atmosphäre verbrennen und zwar vollständig. Ihr löscht jetzt die Menschheit aus und keine Ahnung, ich habe keine Ahnung von Atomphysik, aber das erinnert mich jetzt so ein bisschen das an Ich habe hier eine Atombombe, lass uns doch mal ausprobieren, was passiert, wenn ich die zünde. Ich tue die mal sicherheitshalber in Kühlschrank, damit hier die Nachbarschaft nichts passiert. Drückst halt auf den Knopf, ist die Stadt weg. Irgendwie es hat ein bisschen was davon halt. Also die Leute hätten besser wissen müssen, dass naja, hätte, hätte, [00:11:19] Speaker A: hast du eine Ahnung oder eine Zahl, wie viel Rechenleistung so ein Test kostet? Weil das sind Instanzen, die laufen da tagelang. Ich hab tatsächlich letztens kann man vergleichen was ähnliches gemacht? Da hatte ich hier für meinen KI Agenten die ganze Zeit das Ziel, da so eine neue Gedächtnis Instanz zu programmieren und irgendwie habe ich mich in so ein Plan da irgendwie versteift. Oh, das müsste der haben, das müsste haben. Und ich immer gesagt ja, ja, kann ich, kann ich, kann ich. Und so wird der Plan immer größer. Und als dann dieses neue Astra Modell rauskam, hatte ich in meinem Open hat mir für mein Abo, weil die demnächst irgendwas kürzen, haben sie mir Gutschein Tokens da irgendwie geschenkt, Credits. So und das hat einen Wert von ich glaube, zweieinhalbtausend Dollar. So wenn du das in deren Preis umrechnest. Und dann habe ich diesen Plan und hab Na komm, dann teste ich mal neue Astra Modell und hab gesagt mach mal und hab den laufen lassen. Irgendwann war es drei Stunden rum und ich musste ins Bett und hab Nein, breche ich das jetzt ab oder lasse ich es weiterlaufen? Und der hat mir versprochen, der ist schon 45 Prozent durch. Da habe ich OK, alles klar, hat gelogen. Am nächsten Tag war der über acht Stunden gelaufen. Mein Wochenbudget war lange erschöpft. Diese Credits waren zur Hälfte weg. Ich habe das nachher mal umgerechnet, Das wären knapp 1000 Dollar gewesen, wenn ich das irgendwie von der API gezogen hätte. Und der war immer noch am Bauen, war immer noch nicht fertig. Und da habe ich gelernt, Schritt für Schritt zu gehen und so eine KI nicht allzu autonom werden zu lassen und einfach in Wild durch. Also ich hatte mir eben das schöne Bild überlegt, wenn ich mir eine neue Kettensäge kaufe, dann mache ich die auch nicht an und lasse die alleine in den Wald rasen. Weißt du, da bin ich schon dran und gehe Baum für Baum. Und ich finde, so sollte man vielleicht die KI auch sehen, dass man immer jemanden hat, der einen Auftrag gibt, der ist verantwortlich für das, was er da macht, was nicht davor schützt, dass nicht auch jemand Böses einen bösen Auftrag geben kann, wenn er die Mittel und Kapazitäten hat. [00:13:34] Speaker B: Das ist jetzt das nächste. Das ist jetzt das nächste Problem. Also wir sprechen jetzt ja gerade über Problem 1, dass die KI den Auftrag, den sie bekommt, das war ein guter Auftrag in dem Fall quasi so eine Art Untersuchung ernst nimmt und dabei leider versehentlich Schaden auslöst. Und das könnte ja auch sein, dass irgendwann so eine KI, was weiß ich, versucht sich selber zu replizieren und den einzigen Speicher, an den sie irgendwie dran kommt, ist aber jetzt irgendwie der Zentralrechner, weil ein bisschen mehr Power braucht des nächstgelegenen Atomkraftwerks und sie wollte gar nichts Böses. Die wollte einfach nur sich selber irgendwie mehr Speicherplatz hol. Das gibt es ja zigfach diese Fälle. Also dass der Speicherplatz sucht, meine ich nicht mit dem Atomkraftwerk und dabei löst er aus Versehen eine Kernschmelze aus oder irgendwas. Also das ist ja jetzt Problem 1, das haben glaube ich jetzt alle verstanden? Also haben alle gemerkt, OK, Mist, da müssen wir was tun. Leider, leider. Das ist jetzt ja auch schon wieder vier, fünf, sechs Monate her. Alles in allem. Und wahrscheinlich die echten Stories, die wir alle gar nicht kennen, die sind wahrscheinlich noch viel älter. Aber es ist ja nichts passiert, außer PR quasi, wenn du mich fragst. Das heißt, das Problem ist nicht gelöst. Aber das ist noch nicht das schlimmste Problem. Das, worauf du jetzt kommst, ist ja quasi das ist ja das ist ja nicht so hier ist was schiefgelaufen Problem, sondern dass jetzt in dieser Sekunde, während wir nett plauschen, gerade böse Menschen die anderen vorsätzlich schaden wollen, zu ihrem eigenen Vorteil die KI benutzen, um Lücken in Software Tools zu finden oder Systeme irgendwie zu umgehen. Das ist ja klar. Und das ist ein Problem. Also die zweite Dimension von dieser Thematik, das darf natürlich nicht möglich sein. Ich hatte jetzt was war es am Montag? Ja, ich glaube, egal. Vor ein paar Tagen hatte ich einen kurzen Gruselmoment, wo ich gedacht Und zwar Kind 1 braucht Geld. Papa, kannst du mir bitte Geld auf die Revolut Karte schicken? Ja, mache ich. OK, dachte ich, dann starte ich Revolut. Revolut, ich funktioniere gerade nicht. Okay, kann ja passieren. Und habe Na gut, dann nehme ich einen anderen Weg. Dann ziehe es halt nicht ein von Revolut, sondern was das Dann gehe ich auf mein Girokonto bei einer ganz anderen Bank. Die haben nichts miteinander zu tun. Versuche mich einzuloggen. Geht nicht. Es war Montagmorgen Uhr, meine erste digitale Interaktion des Tages. Da hatte ich kurz Puls. Da waren wir unten in der Eifel und wollten auch an dem Tag zurückfahren und meine Frau sagte am Wir müssen morgen als erstes tanken gehen und sonst Wir kommen hier mit dem Auto keinen Meter mehr weit irgendwie. Und dann hatte ich auf einmal abgeschnitten von der Zivilisation, einen leeren Kühlschrank neben mir stehend ein Auto, wo kein Benzin mehr drin ist. Und ich hatte in dem Moment das Gefühl, das Banknetz ist offensichtlich beschädigt, weil wie wahrscheinlich ist das, dass zwei Banken gleichzeitig Probleme haben. Und da habe ich gedacht, OK, scheiße, es ist schon passiert und ich bin nicht vorbereitet, obwohl es jetzt Wir reden da die ganze Zeit drüber und ich habe nichts gemacht. Es kam raus. Es war wirklich nur angeblich Google Cloud irgendwas ausgefallen. Es waren wirklich nur zwei Banken betroffen, auch nur sehr indirekt und das Problem war nach einer Stunde oder zwei wieder behoben. Aber da habe ich gedacht, okay, komm, das war ein Wachruf, mein lieber Chris, das ist ein Szenario, das finde ich hochwahrscheinlich, dass hier plötzlich der Strom ausfällt, vielleicht auch mal eine Woche oder so oder was weiß ich, das Internet auf einmal nicht mehr so funktioniert. Und dann frage ich mich, bin ich darauf vorbereitet? Und ich kann es nicht verhindern, weil wenn das passiert, ich bin weder der, der es hackt, noch der, der es verhindern könnte, aber ich bin auch in meinem Alltag einfach null darauf vorbereitet, kein bisschen. Ich gehe davon aus, dass das Internet immer an ist, Strom immer FL und wenn ich zum Geldautomat gehe, wird da auch Geld rauskommen. Aus meiner Sicht. Ich will nicht in diese Panikstimmung einfallen, aber aus meiner Sicht werden wir eine Phase haben, da bin ich ganz sicher jetzt in den nächsten Monaten, vielleicht ein, zwei, drei Jahren oder sowas, wo wir damit leben müssen, dass unsere digitale Infrastruktur mindestens phasenweise unverfügbar sein wird und zum Teil auch vielleicht Daten verloren gehen, weil irgendwas gehälter wurde wie da jetzt in Berlin oder wo. Darauf sollten wir uns vorbereiten. Das ist vielleicht so das Wichtigste, was wir als Individuen tun können, um zumindest dann jetzt nicht in der Eifel ohne Benzin und ohne Bargeld zu sitzen. [00:18:20] Speaker A: Ja, du klingst da extrem sicher und ich kann das, glaube ich, nachvollziehen. Also betrifft ja wirklich alles, was digital im Internet irgendwie funktioniert, wird dieser Gefahr ausgesetzt werden. Irgendwer kommt auf die Idee, entweder fahrlässig oder böswillig da irgendwo anzugreifen. Das heißt, so ziemlich jede Firma, die irgendeinen Dienst anbietet, kann sich darauf gefasst machen, die Sicherheitsvorkehrungen erhöhen zu müssen und zu gucken, dass nichts von außen kommt oder eben aber auch von intern irgendwie, Wir bauen jetzt damit KI und sich das System selber abschließt. Ich meine, ich möchte jetzt nicht meine Fehler, die ich hier ständig mache, auf große Firmen übertragen, aber es kann passieren, nicht wahr? [00:19:01] Speaker B: Ja, war das nicht heute? War es gestern hier dieses PHP to Shell oder wie heißt der Bug? Also das ist ja, das war ja keine drei Tage später nach meinem gefühlten Zusammenbruch des Bankensystems der zum Glück keiner war. Das ist, ich glaube es war heute sogar auf Spiegel oder gestern Spiegel Online. Also es hat es auch irgendwie in den Mainstream geschafft irgendwie. Genau, das wird uns noch 150 mal passieren noch dieses Jahr. [00:19:29] Speaker A: Erklärst du ganz kurz, was das war. Das wäre also [00:19:32] Speaker B: PHP ist eine Programmiersprache, die im Prinzip aus dem Internet entstanden ist und die extrem weit benutzt wird. [00:19:40] Speaker A: Steckt in allem drin sozusagen. [00:19:41] Speaker B: Absolut. Also hier WordPress, hier, was weiß ich, zig Millionen Webseiten, wo du dann dein Content mit machst. Zum Beispiel ist so ein beliebtes Ding PHP. Und die Liste der Dinge, der Internet Tools, die auf PHP gebaut sind, die ist riesig lang. Und dann hat jetzt, es ist scheinbar wohl schon ein bisschen länger her, ich glaube sogar ein paar Wochen, dass das irgendwie aufgefallen ist, dass in diesem Code, der jetzt ja quasi Dieses Tool ist 20 Jahre alt oder wahrscheinlich noch älter und es liegt in der Natur der Sache, dass da sind Bugs drin, hier und da und dann ist aber an einer Stelle ein Bug aufgefallen und ich bin ziemlich sicher, dass der durch KI Unterstützung irgendwie aufgefallen ist, weil halt irgendwer den Code durchgeforstet hat und gemerkt hat, unter bestimmten Bedingungen macht diese Bibliothek, die ich hier benutze, doch was anderes und zwar was sehr Unsicheres, was im Prinzip dazu geführt hat, dass jemand, der das wusste und wie man das missbraucht, dieses Problem, der konnte quasi problemlos die Kontrolle über den entsprechenden Rechner übernehmen. Das ist ja quasi der Super GAU, also das Schlimmste, was passieren kann. Und selbst wenn du es nicht sofort benutzt, sondern dich einfach nur einnistest oder einfach nur Daten abziehst oder was auch immer ist, das ist also quasi das Schlimmste, was passieren kann. Und ich war überrascht zu lesen, dass Behörden, Berliner Polizei und andere, die haben tatsächlich, als das klar wurde, was das ist und wie gravierend das ist, die haben das Ding, die haben ihre Webseiten oder Webanwendungen abgeschaltet quasi. Die haben also quasi den Notstrom Stecker gezogen, den Notausstecker gedrückt, was eine krasse Maßnahme ist. Und solange es nur um irgendwelche Webseiten geht, ist das ja vielleicht noch schön, aber das nächste Mal betrifft es dann halt besagte Atomkraftwerke von, was weiß ich, Siemens oder die Herstellung in einem Krankenhaus oder sowas, Verkehrsinfrastruktur Verkehrsinfrastruktur kannst du gar nicht abschalten. Ja, so und dann stehst du da und das ist, das ist im Prinzip ist das, was hier passiert an der Stelle eigentlich nur ein Seiteneffekt. Streng genommen sogar in der perfekten Welt wäre das sogar ein großer Vorteil, dass diese ganzen Sicherheitslücken jetzt plötzlich gefunden werden. Dann kann man die nämlich fixen. Das Blöde ist nur, wenn böse Menschen das wissen, bevor die Leute es wissen, diese Seite betreiben, dann ist hast halt verloren. [00:22:08] Speaker A: Das ist ein Wettrennen. Wir sind wieder in so einem, Man sagt ja immer, das ist der Wilde Westen und das passt hier ganz cool. Also da kommen dann die Revolverhelden mit den Colts und die Sheriffs hinterher und wir gucken, wer zuerst da ist. [00:22:20] Speaker B: Ja, aber das ist ein Problem. Und streng genommen läuft es auf die gleiche Ursache zurück. Also hier Problem 1 da ist ein autonomer Agent, der seinen Auftrag ein bisschen zu ernst nimmt und ein bisschen zu radikal umsetzt und dabei versehentlich halt größeren Schaden auslösen. Problem 2 Der Agent macht genau das, was er soll, aber er hat leider einen bösen Auftrag bekommen und deshalb macht er einfach nur konsequent das, was der Mensch von ihm will. Ursache ist die gleiche, nämlich es gibt keine menschlich würde ich jetzt sagen, Ethik, die wir in die KI einbauen können, die einfach Nein, ich werde jetzt nicht, ich hacke keine Sparkassensoftware oder so, das mache ich nicht und das kannst du mir auch nicht irgendwie unterjubeln, indem du mich verarschst oder sowas, sondern das mache ich einfach nicht oder ich schreibe keinen Code, der XY kaputt macht oder sowas. Und technisch ist es halt, wie hatten wir gerade eben schon, nicht so trivial zu lösen, weil ich sage jetzt mal, der Befehl lösche alle Dateien auf meiner Festplatte kann total angemessen sein. Du willst deinen Rechner neu einrichten und du musst alle Dateien löschen. Der kann aber auch bösartig sein. Das bedeutet, wenn jetzt Schlaumeier daherkommen und sagen, dann sagt doch, der darf keine Dateien mehr löschen, ist natürlich Quatsch, weil das musst du immer kontextabhängig sehen. Und die KI Systeme sind halt nicht mehr deterministisch. Das heißt, die entscheiden ja selber, was sie wann machen und das wollen wir ja auch von denen. Das ist das Problem. Und wenn ich eine Lösung dafür hätte, dann würde ich wahrscheinlich gerade aus einem Schloss aus anrufen in dessen Bach Champagner fließt, weil wer das Problem löst, der tut der Menschheit auf jeden Fall einen großen Gefallen. Und das muss leider auch passieren. Schloss hin oder her. [00:24:05] Speaker A: Die Lösung, wenn du jetzt in den großen Medien darüber redest, dann ist die Lösung, die vorgeschlagen wird, immer Regulierung und mehr Regulierung. Und die KI Bosse sagen, wir wollen uns selbst regulieren und alle sprechen von Regulierung. Ich glaube da nicht so richtig dran. Also es gibt ganz viele ganz hervorragende Methoden und Ideen, wie man diese offiziellen großen Firmen regulieren kann und wie man, also du kannst auch darüber nachdenken, dass du, wenn du eine KI besitzen willst, dann musst du dafür oder nutzen willst, dann musst du dafür deine klar Identität irgendwo hinterlegen. Das ist ja ein valides Ding. Das Problem ist halt, du kannst es halt locker umgehen und wenn du regulierst, regulierst du immer die, die eh nichts Böses vorhaben. Und solange es Open Source Modelle gibt, die sich anpassen lassen, wie man möchte, kannst du mit Regulation Regulierung kannst du vergessen. Also sehe ich dann auch keinen Punkt drin, ehrlicherweise. [00:25:05] Speaker B: Ja, also alles ganz genauso. Natürlich muss es irgendwie oder müsste es reguliert werden, Also wie soll es sonst gehen? Aber wenn dann gerade wenn sich dann auf einmal hier Open und Claude und noch der Elon Musk auch noch dabei hinsetzen und sagen, wir müssen jetzt langsam mal regulieren, das ist echt wichtig, Das treibt mir doch ein schmunzelndes Tränchen ins Gesicht, weil Regulierung würde ja bedeuten, dass diese Firmen, deren Wette auf die Zukunft darin besteht, dass sie vorgeben, etwas Einzigartiges zu haben, was sonst keiner hat. Die müssten ja quasi teilen, was sie da gerade machen. Die müssten auch externen Leuten, wie das halt ist, quasi dem TÜV Zugang zu dem ganzen Zeug geben und große Überraschung, dann wäre das Geheimnis ja gar kein Geheimnis mehr. Also ich weiß nicht genau, welche Regulierung sie jetzt dann bereit wären mitzugehen, aber wenn die sich jetzt hinsetzen, ja, wir selbst regulieren uns oder dann der amerikanische Präsident, den brauchen wir ja gar nicht, weil wir haben superklugen, intelligenten Präsidenten und das ist ja das, was hier wichtig ist. Dann würde ich sagen, würde ich da nicht drauf vertrauen, dass das passiert. Und das ist definitiv ein Problem. Ein zweites Thema, was hier manchmal in so Diskussionen aufploppt, was ich wahnsinnig schwach finde und worüber ich mich immer ärger, wenn das kommt. Ja, aber der EU KI Act quasi einzigartig in der Welt, klar, Ableger mittlerweile, aber da ist Europa vorgeprescht, auch viel für kritisiert worden. Ja, aber jetzt regulieren die das zu Tode. Ich hatte da mit dem Ding beruflich mal eine Weile ein bisschen zu tun und habe jetzt noch mal nachgelesen, was sagt denn der EU Act eigentlich im Kontext dieser nötigen notwendigen Regulierung und über Agenten spricht er gar nicht, muss man ja auch nicht so genau, muss das ja nicht geregelt sein. Aber was tut er denn jetzt konkret, um zu verhindern, dass es hier zu einem größeren Problem kommt? Und meine Lesart ist, bitte, man widerspreche mir sehr, sehr gerne, wenn ich das falsch verstanden habe, der EU AI Act, der ist, also der macht da gar nichts. Der definiert zwar, was Risiken sind und wer wofür verantwortlich ist und was dann wie wo zu tun ist und was passiert, wenn irgendwas nicht pass, nicht passieren soll und trotzdem passiert, aber der gibt halt da gar nichts vor. Der DIS quasi, das ist sozusagen, der EU Act ist so eine Art TÜV Vorgabe für fertig gebaute Autos, wenn sie dann auf der Straße rumfahren. Du darfst nicht auf die Straße, bevor du da nicht diesen TÜV, aber der regelt mitnichten, wie das Auto eigentlich gebaut wird. Und die ganzen öffentlich gewordenen Sicherheitsvorfälle, die wir jetzt ja gesehen und gehört haben, die meisten, die passieren ja tatsächlich in der Entwicklungsphase. Also die bekannten Dinger sind ja jetzt nicht so, dass jetzt, oh, da ist jetzt plötzlich, was weiß ich, mein Microsoft Copilot verrückt geworden und hat meine Spülmaschine gehackt oder sowas, sondern oft ist ja so wie jetzt hier bei diesem Hugging Face, dass die wirklich austesten wollten, wie weit können wir denn gehen Und dann ist es leider außer Kontrolle gelaufen. Das heißt, das Thema würde aus Sicht des EU Acts ist das überhaupt kein Problem, weil während der Forschung ist sowieso alles erlaubt. Also langrede kurzer Sinn, diejenigen, die glauben, dass der EU Act schon die Lösung ist und Planet müsste sie einfach nur anwenden, für die habe ich meiner Meinung nach eine schlechte Nachricht, nämlich das ist nicht der Fall. [00:28:49] Speaker A: Ja, wir loben den Einsatz der EU. Also ich meine, wie willst du was regulieren, was du noch gar nicht weißt, was es ist? Das ist super schwierig Und wenn das Schiff untergeht, dann hat Europa wenigstens so ein halbes Schwimmflügelchen. Wenigstens kümmern wir Europäer uns darum. Das was die Amerikaner jetzt sind wir an dem Punkt, wo das Argument Naja, das ist ja alles nur Marketing. Die Amerikaner, die sagen jetzt, wir müssen uns regulieren, damit kriegen wir die ganze Aufmerksamkeit und stellen uns wieder als gut darauf. Machen tun wir es eh nicht, weil wir sowieso gerade eben vom Abendessen mit dem Präsidenten kommen. Wir wissen, dass wir nicht reguliert werden, da können wir sagen, was wir wollen, aber öffentlichkeitswirksam klingt es auf einmal ganz toll, was die da machen. Plus es schürt einfach die Aufmerksamkeit. Die brauchen immer noch mehr Nutzer alle zusammen und haben jetzt wieder ein noch teureres Abo rausgebracht. Die müssen auch irgendwie den Leuten erklären, warum sie das jetzt brauchen. So was man damit alles Tolles machen kann. Ich bin ehrlicherweise voll dabei zu sagen, das ist ein gutes Stück weit ist es Kalkül und Marketing, da steckt mit Sicherheit auch was Ernstes dahinter. Ja, aber es ist sehr gezielt eingesetzt, sagen wir es mal. [00:30:08] Speaker B: Da war ja hier die Stunde Null für mich in meiner Wahrnehmung war ja, wie hieß das erste Modellantropic Mythos? Wer war das nochmal? War das das bevor Fable Mythos, das [00:30:18] Speaker A: erste, was nicht direkt rauskam, sondern erst [00:30:21] Speaker B: zurückgehalten wurde, haben wir auch, glaube ich, mal drüber gesprochen. Und das war ja so auch so, Ich glaube euch und bitte seid vorsichtig mit dem, was ihr da rausbringt. Und trotzdem, es war ja perfektes Marketing. Wir haben ja das weltbeste Modell. Leider, leider können wir es so nicht freigeben, weil das wäre zu gefährlich. Also Sie haben das weltbeste Modell, Botschaft 1 dann oh ja, außerdem machen sie sich Sorgen, außerdem kümmern sie sich um uns. Also das war brillantes Marketing. [00:30:47] Speaker A: Und das ist auch überhaupt gar keine Neuigkeit, weil also ein KI Modell ist im Grunde fertig in der Beta Phase. Natürlich wird das noch getestet, bevor es veröffentlicht wird und dass die sich eine externe Sicherheitsfirma oder so ein paar vertraute Leute dazu holen und testet ihr auch mal. Ja, das kann man öffentlich machen oder man macht es hinter verschlossenen Türen. Das passiert so oder so. Also wenn ich das Auto, ich zeige auch einen Prototyp und mache dann noch 30 Crashtests, bevor ich das überhaupt in den Lade, stelle das ist ganz normal, das ist überhaupt keine Besonderheit. [00:31:16] Speaker B: Aber es ist halt nicht nur Marketing. Also das kann man schon sagen. Und das ist halt ein Gruß aus der Nicht Küche, ein Gruß aus der Hölle und definitiv wert, sich zu überlegen, wie man das, wie man das jetzt reguliert. Und noch mal zu den großen Playern mit ihren Frontier Modellen. Selbst wenn du die regulieren würdest, genau wie du gesagt hast eben, dann hättest du die ja irgendwie, nehmen wir einfach mal an, die würden sich darauf verständigen und es würde wirklich so technisch möglich sein und durchsetzbar sein, dass man das halt irgendwie könnte. Dann hättest du die Dinger natürlich jetzt im Sack. Okay, dann könntest du verhindern, dass die Houties irgendwie versuchen, Cloud zu benutzen, um ihre Drohnen zu optimieren, was meines Wissens passiert ist. Das ist gut, dann haben wir das schon mal im Griff. Aber wir haben die Open Source Modelle, die hinterherkommen, die dann halt, dann sind sie halt dann in ein paar Monaten so weit, dass sie das Gleiche könnten, wie das, was die anderen kommerziellen Modelle heute können. Und die, genau wie du gesagt hast, da ist dann nichts mehr mit Regulierung halt eben aus der Natur der Sache heraus. Die sind halt, ja gut, sind jetzt Open Source, aber Open Weight, aber zumindest soweit anpassbar, dass dann, wenn da vorher einer irgendeinen Sicherheitsstandard eingebaut hat, dann wird der halt dann Drängel ausgeschaltet. Insofern ist diese Art Regulierung ist, ich glaube, leider keine Option. Was ich vermisse in der Diskussion, ist die, wie viel Macht geben wir denn diesen Modellen jetzt eigentlich in die Hand? Und vielleicht ist das nur meine naive Sicht und ich verstehe es einfach nicht genug. Aber was hier gerade passiert ist mit dem Agenten, ein Agent sind ja zwei Komponenten, ein autonomer Agent mindestens, die da vereinfacht zusammenarbeiten. Das eine ist das Modell, das ist das Modell, das hat diese Intelligenz, das versteht ein Problem und kann sich dann selber einen Plan machen, wie es das Problem löst und kann nebenbei auch im Internet suchen, kann was weiß ich agieren und so weiter. Das ist aber noch nicht der Agent, das ist wirklich nur das Modell ChatGPT, Modell XY, whatever. Zum Agenten wird es dadurch, dass um dieses Modell herum noch eine weitere ganz traditionelle Software Schicht gelegt wird, die den Output von dem Modell nimmt und entscheidet, was mache ich jetzt damit. Und wenn das Modell sagt, Und es sagt es ja wirklich quasi schriftlich in irgendwelchen Textausgaben, Ich möchte jetzt im Internet suchen und zwar nach den folgenden Suchbegriffen und ich muss das so und so aggregiert haben. Das Modell selber kann gar nichts. Das Modell sagt nur, was es will. Das ist quasi wie ein Gehirn ohne Körper. Und der Agent gibt Der Agent ist der Körper zu diesem Gehirn sozusagen und nur der bekommt die Antwort von dem Modell und der entscheidet ah ja, okay, ich muss jetzt eine Internetsuche machen und dann kann, wenn der Agent das kann, dann kann der halt im Internet suchen und die Antwort dann zurückgeben ans Modell. Dann denkt das weiter darauf rum und ja, jetzt muss ich die Temperatur im Kern des Atomkraftwerks um erhöhen. Wenn der Agent das kann, dann dann macht er das halt so. Aber was ich sagen will, ist aus meiner Sicht die sicherste Chance oder die sicherste Art und Weise, wie wir als Gesellschaft verhindern könnten, dass wir da jetzt irgendwie so hyperautonome Killermaschinen haben, ist es das zu trennen. Ich Also wenn du mich jetzt fragen würdest Hey Chris zum Abschluss, du bist für einen Tag Digitalminister der Welt, was würdest du jetzt durchsetzen global? Da würde ich Es ist verboten und es wird verfolgt, wenn du sowohl die Intelligenz baust als auch die Agenteninfrastruktur. Du darfst nur eins von beiden Open und Entropic und so weiter, Die dürfen weiter ihre KI Modelle machen und die uns auch allen zur Verfügung stellen, aber die dürfen nicht mehr hingehen und Ah, guck mal, hier ist ein neuer Knopf, der heißt AG Ach guck mal, klick doch mal drauf. Guck mal, der verbindet sich jetzt mit deinen E-Mails oder kann auch deinen PowerPoints lesen und so weiter. Das also quasi die Oberfläche, wir sehen, das muss dringend getrennt werden. Es ist so ähnlich wie das Schienennetz und die Straßenbahn, Das muss getrennt werden. Das Stromnetz gehört dem einen Strom, die Stromanbieter gehört dem anderen. Wir dürfen das nicht vermischen. Das ist meiner Meinung nach ist es die einzige Chance. Und wenn ich irgendwas von staatlicher Seite regulieren würde, dann würde ich genau das mache. [00:36:11] Speaker A: Absolut, fällt mir gerade ein. Ist tatsächlich auch in Deutschland immer so gewesen, dass die Fernsehsender nicht gleichzeitig die Fernsehvertriebsnetze betreiben dürfen. Und das war immer selbstverständlich, so lange bis es das Internet gab und das eine halt im Grunde quasi wegfiel und dadurch ist es [00:36:35] Speaker B: so meine zwei Cents, die ich hier mit in den Hut werfe zum Thema, ja was machen wir denn jetzt? Weil irgendwas müssen wir ja machen und nur hoffen ist nicht genug. Ich habe jetzt leider nicht die Macht des globalen Digitalministers für einen Tag, deshalb würde ich da jetzt nicht viel erreichen können, aber irgendwer sollte das tun. Und wenn die das da oben oder da hinten irgendwie ernst meinen mit wir wollen uns regulieren, dann sollte man mal anfangen darüber nachzudenken, wie kann man denn an den richtigen Strukturen ansetzen und jetzt versuchen das Thema irgendwie einzuhegen. [00:37:12] Speaker A: Hast du ernsthafte Hoffnung, dass das passieren wird oder werden wir tatsächlich lachenden Auges einfach in irgendwie so eine nächste Katastrophe reinrennen und weiter diskutieren, bis wirklich was passiert? [00:37:23] Speaker B: B. Also ganz klar, ich sehe, das war doch das Lustige irgendwie das Traurige, dann wurde kurz, haben sich alle, wie du gesagt hast, ganz betroffen auf die Schultern geklopft, wir müssen uns jetzt dringend aber mal regulieren und dann wann? Zwei Monate später, Google ist nächste Version rausgehauen von deren Modellen. Also ja, ja. Während sie in der Pressekonferenz vorne noch sagen, Regulierung wäre gut, gehen die hinten full steam ahead und bauen wie verrückt. Also wird nicht passieren. Und ganz ehrlich, ich bin in meiner Jugend durch eine katholische Grundausbildung zwangsgegangen und ich kann da jetzt nur sagen, Prinzip Hoffnung. Ich bin ganz sicher, dass es zu durchaus auch echten und problematischen Störungen kommen wird. Ich glaube allerdings auch, dass die Gegenseite, also die Leute, Regierungen, Aufsichtsbehörden und so weiter, dass die zumindest jetzt wach sind. Und so traurig dieser zum Beispiel PHP Zwischenfall jetzt war, muss ich sagen, hat es mich doch irgendwie positiv beeindruckt, dass dann wirklich auch Leute in irgendwelchen Behörden gesagt haben, wir schalten jetzt ab, wir schalten jetzt unser Internet ab quasi zumindest [00:38:40] Speaker A: nicht komplett ratlos waren, sondern die haben [00:38:42] Speaker B: zumindest gehandelt und sie haben es auch verstanden und sie haben auch reagiert und so weiter. Das finde ich gut und ich glaube, es wird darauf hinauslaufen, es wird Schaden passieren durch irgendwelche Agentenhorden oder durch Verbrecher, die halt KI missbrauchen. Denen müssen wir dann als Gesellschaft irgendwie versuchen zu absorbieren und die Kavallerie wird dann nachrücken, immer einen Schritt zu spät wahrscheinlich, aber reparieren und Irgendwann, was jetzt hier die Verwundbarkeit der öffentlichen Infrastruktur angeht, das ist nur ein Übergangsphänomen. Also irgendwann sind die Löcher gefunden, zumindest die gröbsten und dann ist es auch wieder gut. Wie lange gibt es das Internet? Das ist halt jetzt Code, der liegt da seit 30 Jahren rum und da sind zig Lücken drin, die wir uns alle noch gar nicht vorstellen können und die werden jetzt alle gefunden und aus ausgenutzt. [00:39:33] Speaker A: Und für alles, was wirklich kritisch wichtig ist, ein Fallback Netz zu haben, also das Bargeld jetzt noch nicht ganz abzuschaffen, finde ich grundsätzlich auch gar nicht so verkehrt. [00:39:43] Speaker B: Also irgendwie, ich war immer dagegen. Also ich habe gedacht, was soll das mit dem Bargeld? Und zum ersten Mal muss ich gestehen, ne warte mal, die Welt muss auch zumindest zeitweise funktionieren, wenn nichts funktioniert. Also kein nichts Digitales funktioniert. [00:39:58] Speaker A: Ich habe mir vorgenommen, für den Abschluss jetzt als letztes Thema noch so einen kleinen Reality Check zu machen, weil wenn Bill Gates dann davon spricht, dass eine Milliarde Menschen sterben könnten, dann meint er ja nicht irgendwie, weil die Ampeln kaputt sind oder auf einmal Unfälle bauen. Dann spricht er mit größter Wahrscheinlichkeit davon, dass irgendjemand auch wieder böse Seele mit großem Labor sich den nächsten Super Virus züchtet. Und es macht auch total Sinn. Ich glaube immer noch, dass das etwas ist, was weiterhin großartige Ressourcen braucht. Also Labore und auch ich glaube Forschung und KI zu betreiben, die Forschung betreibt und die solche Forschung betreibt, das geht auch in die Millionen. Also es wird jetzt nicht jeder auf einmal machen können, aber es wird mit Sicherheit Leute geben, die die nötigen Mittel hätten, um sowas planen zu wollen. [00:40:50] Speaker B: Jetzt wird es dunkel. [00:40:51] Speaker A: Wir haben in den letzten sechs Jahren so viel gelernt, gerade über diese Coronaviren, was nicht einfach nur in irgendwelchen, weiß ich nicht, Elfenbeintürmchen irgendwie entstanden ist, sondern was sehr weit verbreitetes Wissen ist, was Leute vielleicht auch kombinieren können, um da zu gucken, wie war das nochmal mit der mit der Ansteckbarkeit, wie war das mit den Symptomen, was kann man irgendwie in welche Richtung züchten. Es ist auch nicht ganz abwegig. Trotzdem mag ich nicht so richtig dran glauben, ehrlicherweise, beziehungsweise ich sehe es immer noch als ein sehr weit entferntes Szenario, was natürlich dramatisch wäre, was aber so ein bisschen den Blick wegrückt, finde ich von Sachen, die viel näher liegen. Du hast es eben kurz angesprochen, in den Kriegsgebieten werden Drohnen mit KI programmiert und werden einfach massenhaft und Millionen rumgejagt. Ich habe schon mal das ein oder andere Mal Videos in den Nachrichten gesehen, dass so eine Drohne dann irgendwie dem Straßenhändler um die Ecke gefolgt ist, bis sie explodiert ist irgendwo in der Ukraine. Ich finde, es wird relativ wenig darüber berichtet. Da gab es mal einen Beitrag aus einem britischen Fernsehen, wo die an der Front gezeigt haben, was wie Krieg aussieht in der Ukraine und ist nah dran an Science Fiction Filmen. Also da laufen die unter Netzen umher, weil sie sich einfach vor Drohnen schützen, weil da ständig welche runterkommen und die schicken einfach reihenweise so kleine Lieferroboterdrohnen auf Panzerketten. 10 werden zerstört, die 11. Kommt vielleicht durch, ist egal, aber damit wird die Front versorgt. Wir nähern uns da schon so einem kleinen Science Fiction Film auf eine Art und Weise, die einfach auch schon absolut real ist. Das ist weit weg von uns. Das ist jetzt auch nichts, was uns direkt betrifft. Wir haben lieber Angst vor dem großen bösen Virus, der aus dem Fernsehen kommt. Aber das ist halt real und das finde ich verdient auch ein bisschen mehr Beachtung. [00:43:02] Speaker B: Ich hatte versucht, meinen Optimismus irgendwie durch die Folge hochzuhalten. Sowohl biologische Waffen, die glaube ich, auch mit KI zusammen unangenehm leicht wahrscheinlich zumindest erfindbar sind. Klar, wie du sagst, nicht ohne Infrastruktur und auch nicht ohne Grundwissen, aber nicht mehr zu vergleichen mit in den ERN oder sowas. Autonome Kriegsführung oder autonome Waffensysteme. Da wird es dann richtig düster. Heute habe ich gelesen, ich glaube, es war heute ein Artikel irgendwo, dass die Amerikaner jetzt ihre Streitkräfte irgendwie nicht umstrukturieren, aber da irgendwie noch einen neuen Arm aufmachen wollen oder sowas, der den Schwerpunkt hat, autonome Waffensysteme einzuführen und umzusetzen und einzusetzen, weiterzuentwickeln als Antwort auf die Learnings des Ukraine Kriegs. [00:44:07] Speaker A: Da wird sich auch viel tun. Und das leider in einer Welt, in der es genug Plätze gibt, an denen das alles ausprobiert werden kann. Also das ist gerade einfach eine boomende Industrie, muss man leider sagen. [00:44:22] Speaker B: Also das kann man leider als Schlussthema jetzt so nicht. Können wir noch mal ganz kurz Mini [00:44:27] Speaker A: Brainstorming machen, Noch mal eine positive Sache, die sie ist nicht, sie ist nicht positiv, sie schlägt in die gleiche Kerbe, aber es ist was, was man sich angucken kann, was auch ein gewisses Maß an lustig ist. [00:44:38] Speaker B: Hau raus. [00:44:39] Speaker A: Ich komme nicht ganz raus aus dem Dramatischen, aber die Firma Unitree ist so eine Roboterfirma, die irgendwie von jetzt auf gleich auf einmal unfassbar gute Roboter gebaut hat und die hat jetzt ein Modell vorgestellt, ich habe das gerade nochmal nachgeguckt, der HX, Das ist ein Kung Fu Roboter, der kann tatsächlich 8 Stunden am Stück, kann der neben dir her laufen und er kann Kung Fu und er soll als Bodyguard Roboter eingesetzt werden können. Es ist erschreckend, aber auch ein bisschen lustig. Und wenn jemand jetzt ganz schlechte Laune hat, dann kann er sich dieses Video zum Abschluss noch angucken. [00:45:18] Speaker B: Sehr gut. Ja, ich hätte noch, ich hätte noch mein Schlussstatement wäre in einer Zeit oder einer Phase, wo wir zwar alle sehen, was passiert, aber gleichzeitig persönlich kaum Einfluss nehmen können auf die weitere Entwicklung. Von der technischen Seite her wollte ich trotzdem noch mal einfach nochmal rütteln an den Punkten. Entschuldigung, warte, ist es ein Zeichen, wenn einem beim Abschlussstatement die Stimme versagt nach so einer Folge. Mein Learning jetzt der letzten Wochen, vielleicht Monate und dieser ganzen Entwicklung, wenn ich so darüber nachdenke und mir überlege, scheiße, was machen wir denn jetzt? Das eine ist total langweilig, hat mit KI fast nichts zu tun, ist aber lieber Hörer und liebe Hörerin zu Hause an den Geräten, denk doch noch mal ganz kurz darüber nach, wie gut du darauf vorbereitet bist, wenn plötzlich die digitale Infrastruktur nicht mehr funktioniert. Binsenweisheit erzählen sie uns alle, ja, macht euch hier euren, habt ein paar Vorräte zu Hause, sorgt dafür, dass ihr irgendwie zumindest drei, vier Tage auch ohne Supermarkt irgendwie über die Reihe kommt und so weiter. Keiner macht ich jetzt nach meinem kleinen Bank Incident vom Anfang der Woche. Ich werde das auf jeden Fall machen und ich hoffe noch, bevor wir uns das nächste Mal sprechen, Hannes, weil sonst bin ich echt ein Idiot. Also bitte noch mal kurz überlegen, wie gut seid ihr vorbereitet Und das andere lasst uns nicht zu stark abhängig werden von einzelnen Anbietern. Das ist so convenient. Du fängst an mit ChatGPT zu sprechen, dann baut er auf einmal deine Agenten, dann schwupps schreibt er dir deine E Mails, da kommst du nie wieder raus und dann hängst du wirklich bei denen dran oder bei Claude oder bei Gemini oder was auch immer. Aber ich möchte nur darauf hinweisen, wir sprechen hier von Agentenregulierung und KI Regulierung und allem de facto, was wir meinen ist, wir wollen, dass die Gesellschaft die Möglichkeit hat, das Ding auch abzuschalten. Und ich sage jetzt mal, nehmen wir mal an, die Europäische Union überwirft sich aus irgendeinem Grund mit den Tech Konzernen aus den Vereinigten Staaten oder aber dem amerikanischen Präsidenten oder sonst irgendwem, der das Zeug halt kontrolliert und es führt dazu, dass das Ding auf einmal abgeschaltet würde. Nehmen wir mal an, weil was weiß ich, Elon Musk ist nicht damit einverstanden, dass er, wie jetzt in der EU verknackt worden, verklagt worden ist auf dem Schadensersatz, weil er sich an irgendwas nicht gehalten hat und der amerikanische Präsident eskaliert das und sagt, alles Klar, ich glaube ChatGPT gibt es jetzt nicht mehr für Europa und dann hast du deine Firma aber oder deine Freiberuflichkeit oder einfach nur dein Privatleben halt mittlerweile komplett an ChatGPT abgegeben. Ich meine, du wirst es überleben wahrscheinlich, aber mach es nicht. Also überleg dir, sorg dafür, dass du selber irgendwie noch die Möglichkeit hast zu wechseln oder nicht von einem abhängig zu sein. Hatten wir auch schon häufiger. Hey, bitte nur tu es. [00:48:29] Speaker A: Das könnt ihr auch noch mal anbieten, wenn das Interesse besteht. Wir haben eine E Mail Adresse, podcastmki org schreibt uns dazu und wir machen auch vielleicht mal eine Folge, die sich noch mal genau damit beschäftigt, wie man sich davon unabhängig machen kann. Wir haben das öfter mal angerissen. Ich baue ja man meinem System immer so rum mit dem Ziel. Vielleicht machen wir es noch mal gezielt mit praktischen Tipps. [00:48:52] Speaker B: Praktische Tipps, das wäre das Letzte. Und für die Bastler unter uns, wenn du baust, bau vorsichtig. Der sagt dir, ne, deine Keys sind bei mir sicher oder ne, mache ich nicht oder was auch immer. Er macht es, wenn die Aufgabe sich verändert oder er entscheidet, das ist aber jetzt echt wichtig, irgendwas zu machen, die, was weiß ich, die Kontoverbindung irgendwo hinzu oder die Kontodetails irgendwo hinzuschieben, dann macht er das auch. Und sprich läster nicht nur über die Leute, die großen Modelle bauen, sondern wenn du selber baust, dann bau vorsichtig und machst dir nicht so einfach und nicht immer nur quick and Dirty. [00:49:29] Speaker A: Jetzt habe ich noch so viele Punkte, die ich als mein Fazit zusammenfassen möchte. Ich versuche es schnell zu machen. Als erstes fiel mir ein, ich kenne die eine oder andere Firma auch und ich habe das Gefühl in der heutigen Zeit und jetzt aktuell sind die Firmen die glücklichsten, die ja unser Geschäft, wir machen das weiter so wie es ist. Und wenn wir das Gefühl haben, dass mit der KI das funktioniert sicher, dann steigen wir ein. Die sind glücklicher als die, die jetzt irgendwie versuchen, sich mit der KI irgendwas zusammenzubasteln und immer vorne mit dabei zu sein. Schuster, bleibt bei euren Leisten. Jetzt springe ich ganz schnell zum nächsten Thema, weil was du gesagt hast, diese ganze Selbstständigkeit und Unabhängigkeit von allem Möglichen. Wir haben ja unser Haus gekauft und wir haben da eine Solaranlage drauf gebaut und bei jedem Schritt haben wir gedacht, ja und wenn es der Welt dann mal richtig schlecht geht, dann sind wir hier sicher, dann haben wir einen Kamin und immer wenn wir das Holz bestellen, dann ja, dann sind wir hier sicher. Wenn im Herbst der Apfelbaum trägt, dann sagen wir könnten uns hier auch ein Stück weit selbst versorgen. Es ist immer so ein bisschen dahingesagt, es macht Spaß so, aber es ist, es schwingt ein bisschen mit und es steckt ein bisschen was mit da drin. Aber als mein finales Fazit möchte ich sagen, ich sage ja manchmal, ich bin so Zwangsoptimist und das kann alles passieren, muss aber auch nicht. Das heißt, man kann sich da verrückt machen, manchmal muss man auch einfach mal durchatmen. Es gibt wirklich sehr viele tolle Entwicklungen, was mit KI alles gemacht wird. Wenn man da wirklich schlechte nach schlechte Laune hat, dann guckt man sich mal an, was in der Medizinforschung vor sich geht, Materialforschung. Es gibt auch diese entfernten Utopien, dass wir bald irgendwie unser Geldsystem überholt haben. Man kann sich auch zumindest zeitweise mal für einen Moment in positive Fantasien wegträumen, um einfach auch die Vernunft und sagt man, das gesunde Maß irgendwie zu behalten. [00:51:28] Speaker B: Absolut, [00:51:30] Speaker A: würde ich sagen, bis nächste Woche, oder? [00:51:32] Speaker B: Jawohl, danke. Ich würde gerne sagen, es hat Spaß gemacht. Also es macht immer Spaß mit dir zu sprechen, aber das Thema, ich brauche jetzt erstmal Schnaps. Aber trotzdem vielen Dank, bis zum nächsten Mal. [00:51:45] Speaker A: Tschüss. [00:51:46] Speaker B: Ciao, ciao.