Episode Transcript
[00:00:00] Speaker A: Hallo Uli, wie geht's dir?
[00:00:02] Speaker B: Ja, geht so, geht so. Hatte schon bessere Tage, aber ja, es läuft.
[00:00:07] Speaker A: Irgendwie haben wir es heute alle schwer. Wir haben schon zwei Absagen, deswegen machen wir auch das Thema nicht, was wir eigentlich heute machen wollten. Und wir zwei beiden übrig gebliebenen, wir machen jetzt einfach eine sehr spontane Folge, oder? Los geht. Also über KI reden kann man ja immer. Was treibt dich gerade so um, was KI angeht?
[00:00:26] Speaker B: Ach, mich treibt eigentlich immer dasselbe Thema um.
Das ist die Privatsphäre, beziehungsweise, also das fängt an mit der Privatsphäre, aber das Thema, dass wir halt, dass alle unser Wissen, unsere Arbeitsabläufe, unsere Gedanken alles in die KI kippen und die KI also halt irgendwann übernehmen wird. Und ich frage mich, wo das aufhört, wo das aufhören kann, ob wir irgendwie zur Besinnung kommen, ob wir überhaupt zur Besinnung kommen müssen und so weiter und so weiter. Das sind die Fragen, die mich die ganze Zeit beschäftigen.
[00:01:04] Speaker A: Mega spannendes Thema. Lass uns ein bisschen drüber reden. Was ich noch habe, ist, passt bisschen dazu tatsächlich, weil ich habe mir die Apple Keynote WWDC angeguckt und die haben ja jetzt irgendwie Siri auch zur KI gemacht.
Da geht es auch ein bisschen um Datenschutz und um das, was Apple mit all deinen Daten macht. Die kennen dich nämlich auch sehr, sehr ausführlich und schließen dich auch ein. Ach, das wird eine runde Folge, oder?
[00:01:29] Speaker B: Schauen wir mal.
[00:01:31] Speaker A: Probieren wir es.
Künstliche Intelligenz verändert unsere Welt.
[00:01:36] Speaker B: Was macht das mit uns?
[00:01:39] Speaker A: Finden wir es heraus, gemeinsam mit KI.
[00:01:42] Speaker B: Der Podcast des GMKI e. V.
[00:01:49] Speaker A: Ja, du hast schon recht. Also eigentlich sammeln diese großen Konzerne ja wirklich alle unsere Daten. Alles. Also von Bewegung, Einkaufsverhalten, Suchverhalten, persönliche Dokumente, die in irgendwelchen Drives und Clouds liegen, Fotos, wie wir aussehen, Gesundheitsprobleme, die wir mit ChatGPT diskutiert haben.
Also es gibt eigentlich nichts, was wir nicht mit denen teilen. Schon krass.
[00:02:18] Speaker B: Also da muss man ja, also ich meine, das machen wir ja schon seit zwei Jahrzehnten oder länger. Also das meiste, was du da aufgezählt hast mit Google, mit einem bloßen Google Account und Google Drive und der ständigen Google Suche, also die wissen ja schon unglaublich viel. Und dann kommen die ganzen Apps dazu, wo du die Themen schon gesagt hast. Hier und da schütten wir unsere Daten rein. Also mein Problem ist immer, also wenn das alles in einer Hand landet und alle Daten eben verknüpft werden, dann bist du sowas von transparent und gläsern und deshalb auch, und das ist dann die ultimative Angst, die ich habe. Also beeinflussbar auf eine Art und Weise, wie es ja noch nie da gewesen ist.
[00:03:05] Speaker A: Ja, vor allem, also jetzt das Neue ist ja, dass so eine KI das halt alles komplett auswerten kann und im Grunde dich komplett digital nachbilden sozusagen.
Ein virtueller Klon von dir selber, der dem Konzern sagt, was du eben wohl am liebsten als nächstes machen würdest.
[00:03:26] Speaker B: Genau, genau. Und dadurch einfach, die wissen genau meine geheimsten Wünsche und zwar noch mal tausend, jetzt mal tausendmal besser, als es ohnehin schon der Fall war, wenn du halt bei Google und Apple und Co.
Warst. Und wir sind ja alle irgendwo irgendwie da drin. Also und jetzt mit der KI, was man da wiederum, ist ja auch so unglaublich nützlich, diese KI, nur du musst eben auch deine Sachen preisgeben und das treibt mich rum. Was ist mit dir? Was ich auch mal gerne gerne dich fragen würde, was vielleicht ansatzweise hier reingehört, ist eben, inwieweit du mit Open Claw, also Automatisierungen oder was auch immer für Tools du da verwendest, Automatisierungen gemacht hast und dabei drauf geachtet oder eben dann nicht drauf geachtet hast, was für Informationen wo rumschwirren.
[00:04:20] Speaker A: Das ist also bei mir persönlich ist Datenschutz so ein Thema, wo ich echt stiefmütterlich mit umgehe. Also ganz oft ist es mir so zu lästig, auf Datenschutz zu achten, weil ich dann nicht so schnell die tollen Sachen alle ausprobieren kann und da bin ich relativ schmerzfrei. Das heißt also zum Beispiel mein, wo war ich, Google Maps Verlauf oder sowas oder mein Amazon, was habe ich alles gekauft Und ob das dann andere Werbepartner sehen oder so, ist mir eigentlich relativ egal. Ich finde den Tausch von einem, ich nenne es jetzt erst mal anonymen Kundenprofil, also quasi wer Werbung machen will, will ja mir Sachen verkaufen und dass die mich so gut wie möglich als Werbekunden analysiert haben und mir deswegen das zeigen, was ich als nächstes kaufen soll, das nehme ich in Kauf für eben all das, was ich digital lebe. So, das gehört halt irgendwie für mich dazu und da habe ich jetzt kein größeres Problem mit. Klar, wenn es um eigentlich ehrlicherweise habe ich nur ein Problem, wenn es bei mir ums Geld geht. Also wenn irgendwie ich das Gefühl habe, da könnte jemand an mein Konto oder an meine Kreditkartendaten oder sowas drankommen. Da habe ich wirklich ein arges Problem mit. Ob jetzt, jetzt habe ich letztens eine Nachricht gekriegt, mein Benutzerpasswort von irgend so einem, ich glaube von Spiegel oder FAZ, wo man dann Kommentare schreiben kann, sei kompromittiert und ich soll das bitte ändern.
Ist mir doch egal, ob sich jemand bei der FAZ einloggt und entweder in meinem Namen was schreibt oder meine Kommentare liest. Also deswegen ändere ich kein Passwort. Das ist mir nun wirklich sehr, sehr egal. Also da gibt es so Abstufungen und meine Grenze ist naiverweise oder einfach ignoranterweise sehr, sehr tief. Aber trotzdem habe ich mich gefreut, das war ja Deine Frage bei OpenCloud, oder ich bin inzwischen auf einen anderen KI Agenten umgesprungen, der heißt Hermes können wir mal in Anfolge besprechen.
Aber da bin ich total froh, dass die Daten, die ich da jetzt irgendwie hin und herschiebe, also die Dokumente, die erstellt werden und alles, dass ich die auf einer lokalen Festplatte habe und dass ich da dran komme und dass die nicht irgendwo in der Cloud sind und wenn ich dann aber irgendwann mal den Anbieter wechsel, dann ist es weg und so, sondern da finde ich es hauptsächlich auch einfach wieder praktisch, dass es zentral gespeichert ist und dass ich selbst ohne KI mal dran komme und ohne Abo.
[00:06:56] Speaker B: Genau das Thema verfolgt mich eben auch lange und da habe ich jetzt auch mit Freddy und Chrissy auch drüber gesprochen, die ja leider heute nicht da sein können.
Und zwar eben, wie es halt laufen muss in Zukunft, ist irgendwie, dass das Modell austauschbar ist und deine Daten sind eben bei dir lokal gespeichert und das muss ja auch für das Unternehmen interessant sein, dass es nicht auf irgendwelchen Servern irgendwo gespeichert ist, das ganze wissen, die noch nicht mal in deiner Jurisdiction irgendwie sind, sondern du willst das ja im Haus haben, das Ganze. Und dann kann man eben lokale Modelle, kann man auf die Daten zugreifen lassen, man kann die vielleicht anonymisieren lassen mit irgendwelchen noch lokalen, kleineren Modellen, wenn man dann damit Anfragen macht, wo man die Daten eben nicht preisgeben will, dass man dann eben anonymisierte Anfragen im Internet macht, also natürlich die KI im Hintergrund und so weiter und so weiter. Also man muss die Zukunft muss hybrid sein in gewisser Weise. Und ja, ich dabei darum mit Open Web UI und OLAMA und so weiter, steckt da aber noch genauso in den Kinderschuhen wie von Panom paar Monaten noch, als wir schon mal darüber gesprochen haben.
Und das ist ein riesen, das ist alles ein Riesenthema. Aber vielleicht kannst du erklär noch mal
[00:08:23] Speaker A: ganz kurz, wie du das jetzt aufgesetzt hast. Also ein OLAMA Modell ist ja nun nicht das größte aller Modelle. Es ist ein offenes, ein Open Source Modell, was man lokal laufen lassen kann, aber das läuft nicht auf dem Taschenrechner. Also du hast da schon auch einen Computer für.
[00:08:38] Speaker B: Ja, ja, richtig, richtig. Also Ollama ist jetzt nur der Host sozusagen. Ich kann mir die Modelle da halt in dem Olama Auswähl, ob das jetzt Quen ist oder Gemini oder eben GPT OS oder was auch immer, das kann ich dann immer aussuchen, auch je nach Task sozusagen.
Wo ich das aussuche, ist eben Open WebUI. Das ist halt so ein Interface wie ChatGPT, aber noch sehr viel, also ich sag mal komfortabler oder man kann einfach mehr Parameter schrauben, man kann Projekte da einrichten und so weiter und so weiter.
Und man kann das sehr viel detaillierter machen als bei ChatGPT.
Das erfreut mich und das ist sehr interessant. Und ich kann dann im Hintergrund auf meine Knowledge Base, also mein Wissen zugreifen, was alles diese Markdown Files sind, also Textdateien.
Das läuft dann in Obsidian. Ich glaube, das ist auch ein sehr verbreiteter Stack, verbreitetes Setup Obsidian mit Open WebUI und Ollama. So diese drei Komponenten, die braucht man dann. Und dann hast du eigentlich, ja, dann kannst du schon mal mit deinen Daten ein bisschen reden und du kannst auch eben unterschiedliche Modelle nehmen, modelle nehmen, auch online modelle halt, also kannst auch dann mit ChatGPT verbinden. Das habe ich noch nicht gemacht, weil diese Daten mir immer noch zu heilig sind bzw. Ich muss erstmal wissen, wie ich das dann jetzt und da komme ich eben an meine Grenzen bzw. An die zeitlichen Grenzen, um mich damit zu beschäftigen, Also die Daten so aufbereiten oder so teilen und unterteilen, dass die lokalen Modelle wissen, worauf sie zugreifen können, nämlich auf alles dann und die Online Modelle aber auch nur einen bestimmten Kontingent haben zum Zugreifen. Solche Sachen halt. Damit beschäftige ich mich da gerade.
[00:10:33] Speaker A: Ja, und das ist fürchterlich zeitaufwendig, hast du gerade erwähnt, geht mir genauso.
Und vor allem ist es halt alles so ein bisschen zusammengebastelt. Ich habe also bei den Sachen, die ich mache, nicht das Gefühl, dass ich das jetzt irgendwie schon konsequent und gut auf zwei Füße stelle und dann jahrelang so benutzen werde. Das habe ich immer mir irgendwie vorgenommen.
Und inzwischen ist aber irgendwie auch der Wechsel so oft und hier und hin und da her, dass es irgendwie schwierig ist. Aber da finde ich, da hilft dann auch so eine so eine Basis zu haben. Weißt du, was ich jetzt gemacht habe, was ich glaube ich sogar ziemlich schlau finde? Ich habe, also diese agentischen Datenbanken, will ich es jetzt gar nicht nennen, aber das, was quasi deren Brain ist im Hintergrund hast du ja gesagt, das sind diese Markdown Files, die im Grunde wie so eine Pyramide sich auffächern. Die eine Datei verweist auf die nächsten und so kann die KI da relativ schnell durchziehen und das wird dann halt eben irgendwie lokal gespeichert oder so. Ich habe das jetzt mit einem neuen Satz Regeln und einem tatsächlich zweiten Google Account, den ich noch hatte, so gemacht, dass dieser Google Account der KI zur Verfügung steht. Und ich habe wirklich ein ausführliches Regelwerk dann gemacht. Die haben natürlich alle so Transferfähigkeiten zu Google Drive und wenn die KI auf das Google Drive zugreift, dann geht sie auch erst in ein Readme File und weiß dann auch da, wie sie das zu verwerten hat. Also im Google Drive habe ich geschrieben, das ist eine Mensch Maschine Arbeitsraum und da gehören jetzt keine Protokolle rein, da gehören keine Markdown Files rein, weil Markdown Files kannst du in Google Drive nicht so richtig öffnen. Speicher das alles als, ich habe es sogar als docx gemacht, damit ich das nachher noch backupen kann und achte darauf, dass du das irgendwie ordentlich machst und achte darauf, dass da keine unnötigen Dateien drin liegen, weil ich das eben als Mensch auch lesen will. Ich hätte es gerne übersichtlich und das funktioniert jetzt so gut, dass ich damit arbeiten kann, dass ich die Dateien sehen kann und mich damit zurechtfinde. Dass aber auch der KI Agent darauf zugreift und damit arbeiten kann und ich jetzt eben einen zweiten KI Agenten, das lag einfach daran, dass ich die Hardware umgezogen bin und im Moment arbeiten beide parallel in dem Google Drive mit mir zusammen und das funktioniert überraschend gut. Und wenn jetzt ein KI Agent abschmiert oder vielleicht sogar der von Google selber, ich glaube Spark soll der heißen, wenn der bald kommt, der wird auf mein Google Drive zugreifen, der wird die erste Datei lesen und wird verstehen, was ich mir da vorstelle und was er nicht machen darf. Also ich bin eigentlich ganz zufrieden damit, muss ich sagen.
[00:13:16] Speaker B: Sparks, das ist dann das Pendant zu Cowork oder Cloud Cowork und so weiter.
[00:13:22] Speaker A: Ja, noch ein bisschen. Also ja, schon, das wird so der KI Agent von Google, der natürlich überall schon drinsteckt, logischerweise. Google ist halt einfach das meiste Universum Ökosystem und ich glaube so von der Idee her ist der vielleicht eher vergleichbar mit dem, was Open Claw oder dieser Hermes Agent sein soll, nämlich überall ansprechbar in allen Google Produkten und kennt das ganze Universum im Grunde genauso wie das jetzt Apple auch vorgeschlagen hat.
So das ganze iPhone ist quasi von einer KI gedeckt und ist quasi in einem System und die KI kennt das alles.
[00:14:03] Speaker B: Ja genau, da musst du vielleicht von der Keynote ein bisschen was erzählen, aber da sind wir ja jetzt, jetzt sind wir wirklich im Science Fiction halt angekommen. Also man kann sich jetzt komplett nur noch mit seinem Telefon unterhalten, man muss schon gar keine Apps mehr aufmachen oder irgendwie sowas.
Die können alles machen, was du normalerweise mit den Apps machst, ob es jetzt einkaufen ist, Urlaub buchen oder dies.
Also ja, unglaublich, wo sind wir gelandet? Also vor 20 Jahren war das noch alles mega Science Fiction und plötzlich sind wir mittendrin.
[00:14:35] Speaker A: Ja und bald haben wir wirklich das Gerät, was einfach alles um dich herum machen kann, was vielleicht auch dann einfach mit deinem Haus sogar verbunden ist, mit deinem Pulsgerät und überhaupt. Und das ist eigentlich überhaupt keine Fantasie mehr. Das ist so.
Also Google waren so die ersten, wo du einfach wusstest, okay, dieses ganze Ökosystem, wenn das eine KI kontrollieren kann, alter Schwede, dann bist du ganz schön weit.
Und also was ich jetzt von dieser Apple Keynote mitgenommen habe, ist tatsächlich, dass wir alle die ganze Zeit gedacht haben, Hast du ein iPhone?
[00:15:10] Speaker B: Ne, ich hab Android, Ah ja, OK.
[00:15:13] Speaker A: Die ganze Zeit gedacht haben, Apple hat es verschlafen mit der KI, Apple hat kein eigenes KI-Modell und Apple ist viel zu spät und die verlieren jetzt ihre Kunden und gehen den Bach runter, so ein bisschen klang da diese Weltuntergangsfantasie und Apple hat eigentlich immer schon Apple Sachen gemacht, nämlich gewartet, bis es perfekt ist und es dann so veröffentlicht. Ich will jetzt nicht sagen, dass diese Apple KI, diese neue Siri auch nur ansatzweise perfekt aussieht, aber zumindest das, was sie vorgestellt haben, geht weg von dem, was wir bis jetzt gemacht haben, nämlich so, okay, das sind die neuen krassen Modelle, das ist irgendwie das GPT 5.5 oder das Opus oder das Mythos, was es jetzt gibt, das ist bei Apple gar nicht so.
Ich musste das eben noch nachgucken, was da überhaupt im Hintergrund läuft.
Das sind halt so kleinere eigene Apple Modelle, die auch teilweise dann on device laufen, also auf dem iPhone selber, die aber in Verbindung mit den anderen KI Modellen irgendwie laufen. Du konntest da immer schon irgendwie ChatGPT mit anbinden, die haben auch mit Google zusammengearbeitet und Gemini eingebaut.
Am Ende steht da vorne maximal noch irgendwie Siri, aber eigentlich das iPhone und es ist so in deinen Alltag integriert wie möglich und dieses ganze neue Modelle und irgendwelche Agenten laufen im Hintergrund und das ist irgendwie arg technisch, das hat Apple so ganz rausgestrichen und macht es halt, wie Apple so typisch ist, wirklich so komfortabel wie möglich die KI zu benutzen. Und alles, was wir bis jetzt irgendwie die letzten dreiig Folgen hier im Podcast diskutiert haben, tritt da total in den Hintergrund. Und als ich das gesehen habe, habe ich, also war das für mich auch wieder so ein kleiner Aha Moment zu sagen, so ja, dieses komische Rennen nach dem besten Modell und das, was wir uns alles hier zusammenbasteln und ich baue mir hier mein tolles System und so. Natürlich wird das irgendwer wie Apple oder Google bald besser machen. Also ich mache mir die Mühe, viele Sachen zu lernen für mich und meinen meinen Spaß. Aber also die Vorstellung, dass ich mit meinem Krückensystem dann irgendwann glücklich arbeite, wenn Apple mich da dreispurig überholt hat, weiß ich nicht. Am Ende werde ich wahrscheinlich doch wieder umschwenken und auf das zurückgreifen, was irgendwie Google mir bietet, weil das ist das Universum, wo ich eh am meisten drin stecke.
Jetzt sind wir wieder bei deiner Weltuntergangsfantasie vom Anfang, also dieses ganze Datenschutz, jetzt haben wir den Kreis geschlossen.
Hast du was mitbekommen von Apple? Hast du von der neuen?
[00:17:46] Speaker B: Ne, gar nichts. Mich würde auch interessieren, wie sich das denn manifestiert in dem Telefon. Also was haben die denn da gezeigt? Vielleicht mal ganz kurz das darstellen, damit der Zuhörer das auch noch weiß, worum es denn da geht, weil du sagst, das ist so anders als die anderen
[00:18:02] Speaker A: Oder meinst du einfach tatsächlich sehr, sehr versteckt? Also das Offensichtliche ist, du kannst oben diese Dynamic Island, glaube ich nennen die das. Das, was um die Kamera rum ist, ist so ein schwarzes Ding und das kann sich dann aufploppen und wenn du das jetzt runterziehst wie so ein Tropfen, das sieht echt ganz cool aus, dann kommt da so ein KI Eingabefeld.
Aber ansonsten ist das Ding tatsächlich einfach in dem Handy versteckt. Kennt quasi alles, was auf dem Handy und im Apple Ökosystem ist. Und im Grunde merkst du es gar nicht, dass da eine KI ist. Eigentlich brauchst du keinen direkten KI Knopf oder App oder irgendwas, sondern jede Funktion ist für dich da irgendwie so integriert, dass es echt schlank ist und unauffällig. Und Apple hat eigentlich keine KI als Produkt, sondern sie sind immer noch das Produkt iPhone und das ist halt jetzt ein KI Device.
[00:19:01] Speaker B: Aber was ändert sich denn dann mit der Interaktion mit dem Telefon? Also was ich mir vorstelle ist, dass es dann wirklich alles nur noch sprachgesteuert ist. Antworte auf die WhatsApp, das und das,
[00:19:12] Speaker A: mache die Einstellungen so und so.
[00:19:14] Speaker B: Also ja, läuft das so?
[00:19:17] Speaker A: Ja, die Perspektive ist ja, das hat Apple so jetzt noch nicht vorgestellt, aber irgendwann wirst du halt eben den Inhalt generiert bekommen, den du sonst irgendwo in der App aufgemacht hättest. Das wäre für mich der logische nächste Schritt. Das ist einfach das nächste Betriebssystem. Und auch da ist Apple natürlich weit vorne. Etwas wird, wo du keine Apps mehr drauf hast, sondern wo du einfach nur noch Schnittstellen zu Anbietern hast. Und wenn du dein Handy Wann kommt der nächste Bus? Dann baut dir das quasi gerade eine Anzeige und zeigt dir das so an, Dann musst du nicht mehr in irgendeinen Maps oder irgendwas reingehen.
[00:19:53] Speaker B: Ja, ich bin mal gespannt. Ich bin mal sehr gespannt. Aber wir müssen wirklich nochmal auf der Frage rumdenken, wo führt das denn alles hin? Also man ist ja komplett dann einem Unternehmen schlicht und einfach nur ausgeliefert. Also und das Unternehmen, das kann ja wirklich, ich meine, solange die alle gut sind, solange die alle nur ihren Profit im Auge haben, dann geht es ja noch, würde ich sagen. Aber was ist denn, wenn, also das ist schon kritisch natürlich, aber was ist denn, wenn die mal, wenn da so ein trump mal ins OpenAI oder Anthropic Office reingeht und sagt, so Leute, wir bauen jetzt mal ein paar mehr Stimmen hier oder weiß der Geier was oder andersrum. Also ich meine, die haben ja dann sogar die Präsidenten im Griff und ganze Nationen im Griff. Also man wird halt einfach so manipulierbar. Ist uns das egal? Also mir nicht.
Vielleicht mache ich mir zu viele Gedanken darüber. Vielleicht just go with the flow. Shut up, go with the flow.
Also mich würde ja auch schwer interessieren, was denn jetzt, Also Hörer, die von KI wirklich eigentlich noch wenig Berührungspunkte haben, würde mich interessieren, was die überhaupt davon verstehen, sozusagen, was wir hier sagen und ob die überhaupt so was auf dem Schirm haben, oder? Weil ich bin immer wieder verblüfft, so viele Leute treffe ich die ja, Ne? Also ja, ChatGPT wollte ich mir auch mal installieren, da muss ich mal reingucken und so Sachen. Also die haben wirklich überhaupt noch keine Berührungspunkte und das sind Leute wie du und ich und das wundert mich schwer und das gibt mir immer wieder aufs Neue sozusagen die Aufgabe, die Leute an die KI ranzuführen, damit die wissen, was auf uns zukommt, wie auf der einen Seite unglaublich nützlich das Ganze ist und auf der anderen Seite, wie unglaublich gefährlich das ist.
[00:21:46] Speaker A: Weißt du, was mir gerade einfällt? Das müssen wir eigentlich mal machen. Eine Folge, in der wir jemanden einladen, haben wir bestimmt jemanden, einen Bekannten irgendwo, der eben noch relativ unbedarft mit KI ist und vielleicht auch Fragen hat und irgendwie Sachen gehört hat. Ich denke jetzt an meine Mutter nicht, dass ich meine Mutter gerne in den Podcast einladen würde.
So jemanden werden wir uns suchen, werden den in den Podcast einladen und werden mal wirklich die Fragen rausziehen, die Leute fragen, die sich noch nicht so viel damit beschäftigt haben.
[00:22:20] Speaker B: Ja, ja, ja, super, das machen, oder?
[00:22:28] Speaker A: Ja, ich meine, ansonsten, weiß ich nicht. Bleibt mir vielleicht noch irgendwie zu sagen, wie ich mit dem ganzen Thema umgehe, weil die Fragen, die du da zum Schluss aufgeworfen hast, man weiß es ja nicht. Also es sind so Ängs, kann alles so kommen.
Auf der anderen Seite gibt es so ein paar Erzählungen, dass die KI uns in ein besseres Leben führt und keiner muss mehr arbeiten und so ist ein bisschen anderes Thema. Aber es ist immer diese Schneise von weiß man was kommt, nee, wie geht man damit um?
Ich nenne mich ja dann immer Zwangsoptimist. Also weil wenn ich mich nur mit den negativen Sachen beschäftigen würde und auch irgendwie Journalist wäre, der darüber berichten würde die ganze Zeit und immer nur das Negative hören würde, ich hätte ja schon keine Lust mehr drauf.
Ich ignoriere manchmal auch absichtlich die schlechten Nachrichten und den Datenschutz zum Beispiel und sage, ach komm, was soll schon passieren? Ich probiere das jetzt einfach mal, weil es ehrlicherweise auch ein bisschen mehr Spaß macht, als sich die ganze Zeit so zu sorgen. Das ist kein Rat, den ich jetzt an die Hörerschaft gebe. Das ist wirklich ein bisschen meine Naivität oder meine Trotzigkeit auch manchmal und manchmal auch meine Ungeduld. Aber das ist so das, womit ich da zumindest in dem Thema gut zurechtkomme und freue mich dann immer, wenn es dann auch ab und zu mal gute Nachrichten gibt.
[00:23:59] Speaker B: Ja, du hast alles recht, du hast hundertprozentig recht. Wir müssen auf jeden Fall positiv bleiben und man kann sich nicht nur mit dem Negativen beschäftigen. Wir haben ja auch, glaube ich, eine Folge gebracht, wo man nur positiv gemacht werden sollte, die ist schon veröffentlicht. Ach, bin ich nicht dabei.
[00:24:16] Speaker A: Ja, da haben wir, das war ganz, da habe ich das genauso erzählt, dass ich immer versuche, das Ganze einfach auch mal positiv zu sehen, weil es einfach manchmal auch die Sache leichter macht.
Die einfachen Leute sind ja manchmal auch die glücklicheren Leute.
[00:24:34] Speaker B: Ja, aber man kann nicht nur mit der rosaroten Brille halt rumlaufen. Also man muss mit beidem sich auseinandersetzen.
[00:24:40] Speaker A: Deswegen bin ich froh, dass ich im Podcast immer gegen Parts habe, das Positive
[00:24:46] Speaker B: als Schwung nach vorne und das Negative, um es abzuwenden.
[00:24:52] Speaker A: Ja, aber wie gehst du denn jetzt mit deinen ganzen Sorgen und Ängsten rund um KI um?
Verbirgt dir das die Laune an KI oder bist du da motiviert, das zu lösen?
[00:25:07] Speaker B: Ich bin motiviert daran zu arbeiten, mit vielen Leuten darüber zu reden und das mache ich auch.
Aber es hält mich, ich muss sagen, es hält mich schon. Also meine Angst, muss man ja sagen, es ist ja geradezu eine Angst dazu, viele Informationen preiszugeben, hält mich natürlich auch zurück, die hundertprozentig effizient zu benutzen. Die KI, also das ist ganz klar, da habe ich ganz klare Einbußen, sage ich mal, die muss ich halt anders lösen.
Also wenn es zum Beispiel um irgendwelche Verkaufsverträge geht oder irgendwie sowas, ja, das lade ich nicht einfach mal in ChatGPT hoch, wenn dann überhaupt nur absatzweise oder anonymisiert oder irgendwie sowas, weil ich keine Böcke habe, dass jetzt ChatGPT auch noch weiß, wenn es um größere Anschaffungen geht oder sowas, was denn da jetzt, wie viel Kohle denn zum Beispiel im Spiel ist und solche Sachen halt. Also wie gesagt, ich bin da sehr, sehr vorsichtig und daher schränkt mich das ein. Aber um Gottes willen, ich denke immer, was ist die Alternative oder wie war es vor der KI und so musst du das auch alles selber lesen und selber dich da durchkämpfen und dir Gedanken dazu machen. Jetzt theoretisch den Vertrag da hochgeladen, dann sagt, ja, ja, sieht ganz gut aus, guck dir mal den Absatz an, dann guckst du dir den an und dann hast du das alles nicht in drei Stunden durch, sondern in einer Viertelstunde durch.
Riesenvorteil. Aber ich bin sehr vorsichtig da nach wie vor und deshalb interessiere ich mich so für diese lokalen Stack, also lokale Installation und Setup von den KI Modellen, weil dann kann ich da sehr unbehelligt einfach meinen Vertrag hochladen oder was auch immer und mich mit der KI dann darüber unterhalten.
Da muss man auch ganz klar sagen, das habe ich vorhin nicht gesagt, die sind natürlich schon schlechter, also das ist schon ätzend, weil die sind nicht so ganz gut im Feedback und man muss doch noch mal ein bisschen genauer lesen und man darf nicht so sehr darauf vertrauen, was sie da sagen. ChatGPT ist das schon echt, hat da Riesensprünge gemacht in den letzten Jahren, also die Offline Modelle auch, aber sie sind halt echt noch hinterher und das merkt man, wenn man mit denen offline chattet. Und vorhin hattest du gefragt, ich habe hier so eine RTX 4090, also eine ziemlich fette Grafikkarte und da passt so ein quantisiertes 30 Milliarden Weight Model halt ganz gut drauf und da kann man sich auch flott mit unterhalten und die sind auch nicht ganz unschlau, aber auf jeden Fall doch noch hinterher und selbst mit so einer großen Kraka merkt man das auch noch.
[00:27:45] Speaker A: Ja, das Schöne ist, dass die Modelle natürlich irgendwann auch immer besser werden und irgendwann auch sind auch die Open Source Modelle an einem Punkt, wo man sie für den Alltag total frei benutzen kann. Also die großen Modelle, GPTs und wie sie nicht alle heißen, werden immer besser sein, da gehe ich davon aus. Oder zumindest noch sehr lange Zeit besser sein. Aber für eben lokale Textverarbeitung, glaube ich, kommen wir bald an einen Punkt, wo es dann hilfreich und nützlich ist. Und dann ist wirklich die Frage, wenn man die Chance hat, und ich glaube auch, dass durch KI dieses Tor in die Open Source Welt, in die lokale, selbstgebaute Welt leichter wird. Man muss sich immer noch mit beschäftigen, so wie wir das auch machen und man kommt wirklich auch an Grenzen, so wie wir das tun.
Aber wenn du einen lokalen Agenten mit einer Kommandozeile irgendwie installieren kannst und danach erklärt der dir, wie du ihn weiterentwickeln kannst, dann ist es irgendwie auch schon cool. Ein bisschen ist es ja auch wie so ein kleines Tamagotchi, was man hier auf dem Laptop hat.
Und das ist vielleicht einfach der gute Teil. Also Leute, ihr müsst euch damit beschäftigen. Das geht nicht einfach so, weil einfach so geht nur das, was Apple und Google euch anbieten.
Aber wenn man sich ein bisschen damit beschäftigt, dann kommt man auf jeden Fall irgendwann an den Punkt, wo man sich bei allen Datenschutzbedenken was zusammenbasteln kann, was so die eigenen Bedürfnisse wahrscheinlich befriedigt und was einem ein bisschen die Sicherheit gibt, wenn es lokal läuft.
So würde ich jetzt mal einfach positiv aus der ganzen Nummer versuchen rauszukommen, oder?
[00:29:22] Speaker B: Genau, genau. Und für vielleicht die Hörer und Hörerinnen, die wirklich noch nichts mit KI gemacht haben, also die müssen ja nur sich Bewerbungen entweder. Genau, ja, kommt in den Podcast, die sollten sich auch damit beschäftigen, die sollten dann einfach mal ChatGPT oder Claude oder eins von den anderen installieren als App auf Mandy oder so und mal anfangen damit rumzumachen. Und dann kann man diese KIs ja eben fragen, wie läuft das denn mit lokaler KI und was ist das überhaupt und warum und so weiter. Also wenn man erst mal nur einmal sowas installiert hat, dann kann man sich da ja mit unterhalten und das Ding erzählt einem ja dann, was geht und was nicht geht. Und noch mal ganz kurz zu dem, was du vorher gesagt hast, dass die Modelle von den großen Unternehmen halt immer vorne sein werden. Also Es gibt ja jetzt auch viele, unter anderem der Christian hat mir auch gesagt, die sagen also, dass der Gap is getting narrower, also die Offline Modelle sind halt, kommen immer näher an die, sagen wir mal ganz salopp, Online Modelle ran.
Und deshalb, weil ja auch halt das Wissen der Welt ist ja begrenzt. Also ich meine, irgendwann werden die ja auch nicht unbedingt mehr größer werden müssen, auch in Parametern nicht. Wir sind ja schon bei Trillionen jetzt, also Milliarden meine ich.
[00:30:54] Speaker A: Das ist übrigens was, was ich noch mal ganz bewusst gelernt habe, entschuldige, unterbreche, aber das Wissen der Welt steckt da inzwischen drin. Das, was die neuen Modelle jetzt schlauer macht, ist tatsächlich länger nachzudenken. Und dieses Mythos Modell kann jetzt irgendwie noch wieder länger nachdenken, noch mehr Tokens draufschmeissen, noch mehr Rechenleistung, bis es irgendwie Probleme zerknobelt hat sozusagen. Und das ist tatsächlich das, was im Moment die Intelligenzsprünge viel ausmacht.
[00:31:23] Speaker B: Eben genau. Also es heißt ChatGPT 5.5, also das heißt jetzt nicht, dass das jetzt ein anderes, ein anderes Modell ist. Das hat immer dieselbe Basis wie 5.4 oder 5.2 oder weiß der Geier was.
Aber genau, es werden so Feintuning Geschichten gemacht, es wird halt im Ökosystem rumgemacht, um das besser zu machen, Die ganzen Rack Modelle da außen drumherum und so weiter, das wird besser gemacht. Also es ist nicht das eigentliche Modell selber, was jetzt schlauer und besser wird, sondern die ganze Infrastruktur und ja, und das, was du gesagt hast halt, also ja, irgendwo gibt es halt so eine Art natural ceiling sozusagen. Also irgendwann werden die auch nicht mehr besser oder wissen mehr oder sowas, sondern die kriegen dann vielleicht ein bisschen mehr Fähigkeiten drumherum und so weiter und werden dadurch besser. Und das kann dann lokal auch eben besser repliziert werden vielleicht wahrscheinlich hoffentlich.
[00:32:19] Speaker A: Ja, jetzt also abschließend nochmal, das ist das, was Apple ja macht. Die haben einen relativ kleines lokales Modell, was ganz, ganz tief da drin steckt. Übrigens kannst du das auch nur mit dem neuesten, allerneuesten iPhone machen, habe ich gehört. Also das iPhone 16 wurde vermarktet mit jetzt irgendwie Apple Intelligence ready. So jetzt ist die Apple Intelligence ready und das Gerät ist schon outdated, also das funktioniert nicht mehr. Herzlichen Glückwunsch.
Aber ja, also genau, die haben ein kleines lokales Modell auch auf dem Handy, was ausreicht, um eben alles, was auf dem Handy zu sortieren ist, zu sortieren.
Und das wird uns dann auch helfen. Genau, was uns auch hilft, das haben wir jetzt heute angesprochen, ich muss das jetzt noch mal ein bisschen als Werbung hinten dran schieben, ist nämlich viel drüber zu reden und sich damit zu beschäftigen. Das kann man ganz besonders gut beim GMKI, nicht nur hier im Podcast, sondern auch bei den Veranstaltungen. Da haben wir nämlich demnächst eine Veranstaltung auch über KI Agenten. Das wird, glaube ich, sehr, sehr spannend. Ich muss da irgendwas vortragen.
Nein, ich werde also von dem, was wir hier besprochen haben, auch einiges da vor Ort besprechen und die Daten findet ihr auf unserer Webseite. Ansonsten wie immer, bitte schreibt uns doch an podcastmki org und auch gerne, wie ihr diese relativ spontane Folge fandet.
Und ansonsten hören wir uns dann nächste Woche wieder, oder Uli?
[00:33:51] Speaker B: Ja, genau, so machen wir es. Kann ich nur unterschreiben. Und vielleicht, ich weiß ja nicht, wann die Folge hier rauskommt, aber wir sind ja auch, wir sind ja sehr eifrig im Hintergrund, an der neuen Community zu arbeiten und an der neuen Webseite. Also ich hoffe, wir werden in den nächsten Wochen da ein bisschen was veröffentlichen können.
[00:34:11] Speaker A: Also in dem Sinne, bis dahin, Tschüss.
