Die weibliche Sicht auf KI: Wer gestaltet unsere Zukunft?

[00:00:00] Speaker A: Wenn wir hier im Podcast immer über KI reden, dann reden wir auch ganz oft über die KI Blase und das KI Business und die ganzen Tech Bros, das Silicon Valley, was da irgendwie große Geschäfte macht und uns das verspricht, was zukünftig unser aller Leben verbessern wird. Aber das sind alles Jungs, das sind alles Männer, die da irgendwie an den großen oberen Positionen stehen, zumindest zum ganz großen Teil. Und wir haben uns vorgenommen, hier beim GMKI auch mal ein bisschen die andere Seite zu gucken bzw. Zu sehen, dass wir nicht nur immer über Männer und mit Rennmännern reden red, sondern eben auch über eine weibliche Perspektive. Und wir haben uns gefragt, ich habe mich gefragt, gibt es auf KI noch mal eine ganz andere Sicht, eben aus weiblicher Perspektive. Und dafür bin ich total froh, dass ich aus dem Game KI zwei KI Expertinnen hier habe. Das ist einmal die Stefanie. Hi. [00:00:47] Speaker B: Hallöchen. [00:00:48] Speaker A: Nicaro ist auch da. Hallo. [00:00:50] Speaker C: Hi. Hi. [00:00:52] Speaker A: Ja, war für mich eigentlich immer klar, dass ich das Thema unbedingt mal machen wollte und natürlich unbedingt mit euch beiden. Und ich bin heute total gespannt, ob ich vielleicht auch einfach noch mal neue Perspektiven zum Thema KI, allen möglichen Richtungen kriegen kann. Was erwartet ihr von dem Podcast heute? [00:01:09] Speaker C: Ja, cool. Hannes, ich finde es super gut, dass wir dieses Thema heute hier mal rannehmen, sage ich mal, weil ich finde, es passiert noch viel zu wenig. Es gibt zwar jetzt doch die ein oder andere Dame, die da immer stärker auch in die Präsenz tritt, aber es wird einfach doch viel zu wenig diskutiert. Und ich finde, es ist mehr als wichtig, weil es gibt viele, viele Punkte, die vielen Leuten auch, glaube ich, gar nicht so bewusst und deswegen freue ich mich heute da mal drüber zu sprechen. [00:01:39] Speaker B: Geht mir ganz genauso. Also habe ich quasi genau das Gleiche, was Caro jetzt gesagt hat. Also die Sicht, eben diese allgemeine Betrachtung auf feministische KI, was macht das aus, was haben wir, Schlagwort wie Bias und so weiter. Also wir haben einige Themen mitgebracht, über die wir sprechen werden. Bleibt dran, es wird interessant, glaube ich. [00:02:03] Speaker A: Ja, das wird eine ganze Menge an Themen. Wir gucken, dass wir da irgendwie mit einem halbwegs roten Faden durchkommen. Ich freue mich drauf. Ich mache mal ein Intro. [00:02:11] Speaker C: Künstliche Intelligenz verändert unsere Welt. [00:02:14] Speaker B: Was macht das mit uns? [00:02:16] Speaker C: Finden wir es heraus, gemeinsam mit KI. Der Podcast des GMKI e. [00:02:21] Speaker B: V. [00:02:27] Speaker A: Unsere Ansage ist auch weiblich, immerhin. [00:02:30] Speaker C: Stimmt, das ist auch schon direkt ein Thema, da können wir sofort einsteigen. [00:02:36] Speaker A: Als allererstes möchte ich euch beide mal fragen, also als jetzt ganz platt gesagt, als Frauen in dem doch eher technischen Thema, wie seid ihr zum Thema KI gekommen und was hat euch daran fasziniert? Wo ist da euer Anpack? [00:02:51] Speaker C: Ja, also bei mir ist das Thema kam eigentlich so ein bisschen einfach aus Neugier heraus. Ich bin ein super neugieriger Mensch. Deswegen habe ich, als diese ganzen Themen kamen, also nicht sofort mit dem ersten Aufkommen von ChatGPT, aber relativ schnell angefangen, mich da so ein bisschen auszutesten. Ich komme eigentlich nicht aus dem technischen Bereich, sondern komme aus einem ganz anderen Bereich, nämlich eigentlich Fashion, Industrie Management und danach Startup Building. Aber da hat man natürlich auch ganz schnell gemerkt, dass auch da die KI Systeme einem so ein bisschen weiterhelfen können, wenn man vielleicht auch Personalnot hat und so weiter. Und so habe ich mich da so ein bisschen ran getestet, ausprobiert, aber bin dann ganz schnell zu dem Punkt gekommen, dass ich gemerkt habe, das ist ja doch irgendwie auch eine recht emotionale Kiste und bin dann schnell wahrscheinlich in die weibliche Perspektive gerückt und habe mich gefragt, was macht das eigentlich emotional mit der Menschheit und was macht das? Was verändert sich eigentlich gesellschaftlich, gemeinwohltechnisch? In welche Lebensbereiche kommt das rein? Und ja, so bin ich da auf verschiedene Art und Weise eingestiegen, also sprich First User oder einer der ersten Nutzer bestimmt in meinem Bekanntenkreis gewesen, aber auch jemand, der sich sehr breit mit der ethischen und gesellschaftlichen Perspektive beschäftigt hat. Und ich glaube, davon braucht es recht viel und die meisten tun das nicht. [00:04:21] Speaker A: Ja, und du hast ja auch ein Buch geschrieben, das war auch gar nicht irgendwie technisch mit der KI auseinandergesetzt, sondern eben, kann man sagen, emotional mit der KI auseinandergesetzt. Also das Zwischenmenschliche eben habe ich jetzt auch als etwas wahrgenommen, was ich als weibliche Perspektive sehen würde, den Blick eben aus dieser Richtung auf die KI. Oder irre ich mich da? [00:04:44] Speaker C: Ja, total. Mir ging es halt in dieser Auseinandersetzung. Es war halt eine sehr nahbare Auseinandersetzung, weil ich einfach mich gefragt Hey, was passiert denn, wenn Menschen anfangen, sich mit diesen Tools auf so einer recht menschlichen Art und Weise zu unterhalten, auseinanderzusetzen und da eventuell auch in den privaten Dialog gehen, Daraus sind Fragen entstanden, die ich dann mit der KI selbst diskutiert habe. Und das ging sehr stark, war sehr, sehr spannend, weil das war für mich selbst ein Selbstvers und ein Experiment, weil ich einfach wissen wollte, was sagt die KI zu diesen Fragen, die ich ihr stelle. Und da haben wir sehr intensiv, ich und Mika, so heißt sie in dem Buch, über diese gesellschaftlichen Entwicklungen und auch emotionalen Themen gesprochen. Und ja, das waren zum Teil mit Sicherheit auch an mancher Stelle weiblich geprägte Sichtweisen. Aber ich meine, das ist immer ein bisschen schwierig zu sagen, was ist jetzt weiblich, was ist männlich, über welches Gender sprechen wir überhaupt? Und ich glaube, es ist halt wirklich, ich komme zu dem Schluss, es ist dieses mehr Gemeinwohlorientierte im Vergleich zu dem, was ich eben angesprochen habe, im Moment so stark sieht und was mir persönlich und ich weiß nicht, ob das mir persönlich als Frau besonders Angst macht. Ich glaube nicht. Ich glaube, das geht genauso vielen Männern so, die sich mit dieser Thematik auseinandersetzen, ist halt die Schnelligkeit. Und es ist dieses Machtgetriebene und Effizienz profitorientierte Einsetzen und Development der KI und vor allem die Schnelligkeit, die damit einhergeht. Und ich habe manchmal das Gefühl, hey, sollten wir an mancher Stelle nicht einfach mal auf die Bremse treten, noch mal ein paar mehr Fragen stellen und nicht so rennen? Und das macht mir an mancher Stelle Angst, weil auch wenn man das politische Geschehen auf dieser Welt im Moment sowieso schon sehr männlich dominiert betrachtet, gerade meines Erachtens glaube ich, dass es da gut tun würde, die ein oder andere Frau mehr an, ich sag mal, an der gestalterisch technischen Seite sitzen zu haben. [00:07:01] Speaker A: Ja, Steffi, siehst du das ähnlich? Weil ich meine, ich weiß, dass du auch mit deinem Chatty um einiges persönlicher redest, aber geht es darüber hinaus? Also wie siehst du auch KI, wie [00:07:13] Speaker B: siehst du das Also noch, wo komme ich her? Also weil diese Brücke, die ist auch, glaube ich, im Visuellen eben auch prägend oder auch wichtig zu betrachten, aus dem Grafikdesign kommend und dann in 22 das erste Mal mit Journey ausprobiert und dann dachte ich nach einer kurzen Verzögerung, ähnlich wie du es auch Caro beschrieben hast, am Anfang dachte Die Bilder gefallen mir nicht, was soll ich ich damit anfangen beruflich? Und dann ging das aber ganz schnell, als ich erste Ergebnisse gesehen habe und boah, das ist Hammer, das ist toll, ich kann mir irgendwas ausdenken. Und je nachdem, wie ich das beschreibe, kommt ein cooles Bild bei raus. Und dann ist mir natürlich relativ schnell aber auch aufgefallen, was für ein Bias dahinter steckt. Zum Beispiel, wenn man genderneutral in dem Sinne, im Englischen prompted a teacher, a CEO, whatever, dann war das in der Regel weiße Männer. Also es war eben da schon extrem auch dort männerdominiert. Die Ergebnisse sind natürlich ein Stück weit auch dann Spiegel der Gesellschaft, weil es ist natürlich im Zweifel auch so, dass wir immer noch prozentual gesehen mehr Männer in irgendwelchen Führungspositionen haben. Aber ja, aber wie gesagt, wenn man es jetzt auch noch weiter generiert und das Bild sich dadurch auch noch mal verstärkt, ist das ja eine ganz gefährliche Entwicklung. Also insofern bin ich da dankbar um die Menschen, die sich ganz besonders irgendwie mit auseinandergesetzt haben in den letzten Monaten. Einer von ist Eva Gengler mit ihrem Buch Feministische KI Asche auf mein Haupt. Ich habe es selber noch nicht gelesen, aber ich kenne sie persönlich und sie leistet eine hervorragende Arbeit zu dem Thema. Um die Frage aber jetzt noch mal zu beantworten, ich unterschreibe auch mal wieder das, was Caro sagt, wahrscheinlich, weil wir beides Frauen sind. Ich finde auch dieses, man muss immer vorsichtig sein, aber mit der Verallgemeinerung, aber ich sage mal Männer und Macht dominiert. Es gibt gewisse Ausdrücke, die so sagen, wie soll ich das jetzt, wie soll ich das jetzt politisch korrekt ausdrücken? Also ich glaube, Frauen häufig sind etwas vielleicht eben gesamtgesellschaftlicher, wohlwollend vielleicht unterwegs, wie du es gesagt hast, Caro, nicht ganz so machtversessen und eben, ja, und deshalb einfach ein bisschen vielleicht konstruktiver und weniger eben mit diesen Ellbogen. Und das ist jetzt, finde ich, durch diese ganze KI und Tech Bro Geschichte noch mal wie so ein Brennglas. Und ja, es macht mir auch Angst, ehrlicherweise. [00:10:04] Speaker C: Ja, und ich finde, da ist auch wichtig, vielleicht mal für die Zuhörer, die sich damit noch nicht so richtig beschäftigt haben, mal, wenn du überhaupt mal schaust, die reine Nutzung, also wie viel Frauen Frauen im Vergleich zu Männern, wer nutzt KI? Da wird ein Riesenunterschied oder der wird kleiner, aber der liegt immer noch zwischen 16 bis, ich glaube, über 20 Prozent mehr Unterschied, dass Männer mehr KI nutzen als Frauen, dass Frauen sich deutlich langsamer daran trauen aus verschiedensten Gründen, die vielleicht dazu führen. Aber also das heißt weniger Frauen nutzen KI, weniger Frauen arbeiten an KI, weil weniger Frauen, also in den technischen Berufen, die ja häufig auch die Treibenden da sind, auch wenn du heute kein Tech Bro mehr sein musst, um KI zu machen und KI mitzugestalten. Aber trotzdem sind diese Berufe häufig männerdominiert. Und was häufig, und das führt dazu, dass alleine die Nutzung, also du musst dir überlegen, wer nutzt KI und wie nutze ich KI? Das heißt, wenn viel mehr Männer KI nutzen, trainieren auch viel mehr Männer unsere KI Systeme mit ihren Fragen, ihren Antworten und so weiter. Und das stößt auf die sowieso schon biaslastige. Und Bias, also heißt in dem Sinn Verzerrung der Daten, die bereits schon in den Trainingsdaten der KI drin sind. Weil ich sage immer, wenn ich mich mit Leuten unterhalte oder auch in meinen Trainings oder in in den Schulungen, die ich auch für Jugendliche oder Eltern gebe, du musst dir überlegen, die ganzen Daten, die im Internet und die in der KI drinstecken, alle Bücher, die das ja auch im Moment ein Riesenthema, die zerrissen werden und gescannt werden und in der KI landen, das sind ja Jahre, Jahre, jahrelang, wo ein ganz anderes Machtverhältnis oder Geschlechterverhältnis noch war, als es jetzt in einer viel kürzeren Zeitspanne unseres menschlichen Daseins ist. Und dieser Bias, die da drin ist, der muss ganz bewusst rausgearbeitet oder damit muss gearbeitet werden oder es muss dir zumindest bewusst werden, damit das Prompting, die Fragestellungen so sind, dass du diesen Bias da halt in Teilen rauskriegst. Aber ich frage mich, wenn immer mehr Männer diese KI Systeme trainieren, die Daten deutlich männlicher geprägt sind, verstärkt es natürlich jetzt wieder gewisse Machtverhältnisse, die vielleicht schon so langsam im Aufweichen waren, sich jetzt aber wieder verstärken. Und da gibt es ja auch intensive Diskussionen drum. [00:12:55] Speaker A: Also du meinst, wir trainieren im Grunde, also wir entwickeln uns als Gesellschaft nach vorne, trainieren aber quasi rückwärts und dadurch machen wir uns ein Werkzeug, was uns zumindest in unserer fortschreitenden Entwicklung gar nicht so hilfreich sein kann. Ich bin jetzt in dieser Folge so ein bisschen in der glücklichen Situation, dass ich mich so ein bisschen dumm stellen kann und euch einfach fragen kann, ist es das, was dann auch gemeint ist, wenn man von feministischer KI spricht, dass man eben genau gegen solche Entwicklungen und Vorgänge aktiv arbeiten muss. [00:13:27] Speaker C: Ja genau. Also feministische KI sind ja verschiedene Themen, die da gefordert werden, aber wichtig sind halt, dass diese Machtverhältnisse deutlich bewusster ausgeglichen werden, dass also die Repräsentanz von Frauen oder sage ich mal, unterschiedlichen Gendergruppen repräsentiert wird, dass Daten dahingehend untersucht, offengelegt werden auch und dementsprechend auch eine Verantwortlichkeit auf Seiten der Institutionen wie OpenAI und Co. Hier erwartet werden oder gefordert werden und das halt auch diese unsichtbaren Verhältnisse, die im Hintergrund ganz klar da sind, auch offengelegt werden. Also ein ganz wichtiges Beispiel zum Beispiel auch ist, es ist ja nun so, dass zum Beispiel ganz viele unsichtbare Arbeit, die zum Training der KI notwendig ist, aber deutlich geringer entlohnt oder auch, sage ich mal, geringeren Stellenwert hat, gar nicht so sichtbar ist. Zum Beispiel Datenannotation. Also das heißt die Menschen, die irgendwo meistens in Ländern sitzen, ich sag mal Afrika und Co. Die sich tagtäglich hunderte von Datensätzen oder Bildern etc. Angucken und bewerten müssen, okay, ist das X, ist das Y und einordnen müssen, das sind zum Beispiel total oft Frauen, die das so während ihrer Care Arbeit machen und so weiter, Super wichtige Arbeit, aber das wird überhaupt nicht sichtbar gemacht. Das ist nicht da auch das ist eine gewisse Art von Wertschätzung oder einer Bewusstsein, dass Frauen da sind und mitarbeiten. Aber die dürfen halt dann machen, die die Datenannotation dürfen, aber nicht so richtig an den größeren Hebeln mitdrehen, wo dann halt Wertediskussionen und die wirklichen Basispromps der Systeme und so weiter gestellt und geschaffen werden. Und das ist eine ganz wichtige zentrale Komponente und halt Nachhaltigkeit, Verantwortung, Sichtbarkeit und dann auch, wenn Dinge auftauchen, auch ein Mitbestimmungsrecht. Also da kommen wir jetzt ganz schnell auch zu so Themen wie, ich weiß nicht, ob ihr davon gehört habt, aber es ist ja ein Riesenthema gewesen, zum Beispiel in HR Thematiken, dass wenn Automatisierungen eingebaut sind im Thema HR, also Bewerbungen gehen ein in großen Unternehmen, viele Bewerbungen, wo dann Automatisierungen und KI Systeme eingebunden sind, um Vorentscheidungen zu treffen. Das heißt, es wird gehen 100 Bewerbungen ein, die KI scannt die aufgrund von einer gewissen Datenbasis oder von Regeln, die ihr vorgegeben sind und filtert raus, das sind die ersten die rausfallen und am Ende guckt sich der Personaler, der da sitzt, vielleicht noch 20 an. Also die Zahlen sind hier fiktiv, aber da war es ganz klar. Also da gab es Untersuchungen, ich meine, es war sogar Amazon, bei denen das war, dass Frauen an vieler Stelle benachteiligt wurden aufgrund von Bias, weil die KI aufgrund von ihren Datenbasis gelernt ne, für diese Art von Job ist ein Mann deutlich besser geeignet und hat dann entschieden ne, aufgrund dieser Datenlage fallen die und die und die und die Personen raus. [00:17:19] Speaker A: Das sind Dinge aufgrund der Vergangenheit und der Statistik. Meinst du, dass in der Vergangenheit In den letzten 50 Jahren haben ja 80 Prozent Männer gearbeitet, also denkt die so soll es doch bitte bleiben. [00:17:30] Speaker C: Ja, absolut. Das sind Datenbasis, auf denen sie lernt. Also die Schlussfolgerung, Ich kann dir jetzt nicht genau diesen Fall erklären, aber es ist so, dass es deutlich stärker, je höher der Job angelegt ist in einem Unternehmen, das heißt, je seniorer der Job war oder ist, umso häufiger war das in der Vergangenheit so, dass diese Jobs von Männern belegt wurden. In den letzten Jahren haben wir als Frauen stark dafür gekämpft, auch in höhere Führungspositionen zu kommen und da eine deutlich stärkere Repräsentanz zu haben. Aber in der Vergangenheit war es einfach so und es ist ja heute noch so, wenn wir mal ehrlich sind, dass diese Jobs häufig von Männern belegt werden. Und da war es halt so, dass in so Ausschreibungen, die automatisiert für solche Stellungen Anstellungen dann auch ausgewählt haben, auch dementsprechender Bias drin war, der dementsprechend auf diese Auswahlkriterien sich ausgewirkt hat. Und das sind Themen, die dürfen nicht sein und die müssen offengelegt werden. Und da muss man dann auch die Möglichkeit haben, finde ich, wenn diese Automatisierungen in Bewerbungsprozessen eingesetzt werden. Erstens finde ich, wäre es fair zu wissen, dass das so ist und zweitens mit welchen Auswahlkriterien und wie das funktioniert, weil es de facto belegt ist, dass da Benachteiligung ist. Genauso wie mit Gehalt. Wenn du die KI gefragt hast, was kann ich in so einem Job verlangen und sagst, ich bin eine Frau alter XYZ und würde gerne mich für den und den Job bewerben. Was ist die Gehaltsvorstellung? Und dann kriegst du Gehaltsvorschlag, der in vielen Fällen niedriger ist, als wenn du als Mann die KI fragst. [00:19:20] Speaker B: Also halten wir fest, die gläserne Decke es gibt sie, also auch die KI gläserne Decke, wobei ich ja ganz ehrlich sagen muss, diese Vorauswahl durch KI getrieben, also wir bewegen uns hier auf etwas zu, dass gewisse Menschen, die sich dann da bewerben, im Zweifel, also wenn alle irgendwann alles mit KI sowieso und durch KI machen lassen können, dann bin ich ja immer wieder bei dem Endresultat. Dann kommt es eigentlich ja nur noch auf den Menschen an sich an, auf die Soft Skills und so weiter Und passt der ins Team, weil ja, also dann haben irgendwie, weiß ich nicht, 10 den gleichen Abschluss, wie auch immer, und dann wird dann irgendwas ausselektiert. Also ich finde das irgendwie unsäglich, ehrlicherweise, weil gerade Informationsbeschaffung heutzutage, ja, ich muss Grundwissen mitbringen, aber ich weiß auch nicht, ich finde das irgendwie schräg. Ja, man kann ein bisschen was vorselektieren vielleicht, aber irgendwie, ich glaube, kann mir nicht vorstellen, ich mag mir nicht vorstellen, dass das irgendwie immer so die besten Ergebnisse bringt, ehrlicherweise mit der KI HR Vorauswahl, oder? [00:20:26] Speaker A: Also es gilt ja grundsätzlich für jede Firma. Ich will noch mal zurück auf die KI Branche und die Jobs da. Ich habe hier Zahlen rausgesucht. Also wir haben in der KI Industrie grob 22 bis 30 Prozent Frauen, allerdings im Machine Learning und akademischen Forschungsbereich, also dem vielleicht doch eher noch was technischeren Bereich, sind es nur 12 bis 18 Prozent ungefähr. Die Quelle hier ist Women in Tech Network. Ist es was, also ich meine ihr beide, und wir kennen das auch ein bisschen vom GMKI, da sind wir auch weniger Frauen. Ist es dann doch was, wo die weibliche Sicht eher so ein bisschen Angst vor der Technik hat? Also ist das ein Klischee, dass man sagen kann, Computer, diese ganzen MINT Fächer, das ganze Technische, das ist weniger was für Frauen und deswegen ist das hier bei KI zumindest in diesem technischen Bereich auch so? Oder ist das gar nicht, ist es überholt? [00:21:24] Speaker B: Also das glaube ich, ist zumindest in der Generation nach uns überholt. Also das ist so mein Eindruck. Da habe ich das Gefühl, gerade mit diesen MINT Geschichten, da wird sehr viel gemacht, wenn ich auch selber schon irgendwie Vorträge gehalten habe, auch eben wie du, Caro, irgendwie in Schulklassen oder hier im AI Village, da habe ich das Gefühl, ne, da wird schon deutlich mehr darauf hingearbeitet, dass das zu einem Ausgleich eher kommt. Ich glaube, es ist vielleicht so ein bisschen unsere Generation vielleicht, die noch mehr, also ja, in so einer, ja, aus [00:22:04] Speaker A: der tradition heraus vor 20 jahren dann von Papa gehört, ja super, mach du mal Mechanikerstudium. [00:22:12] Speaker B: Ja, und vielleicht dann doch auch noch eher dann eben eine Zeit lang Mutterrolle so. Also ja, ich glaube schon, dass das so ein bisschen damit einhergeht, ist so mein Empfinden. Wobei ich ja, das ist natürlich, ja, in meiner AI Bubble sind mittlerweile ja so ganz viele tolle Frauen und alle engagieren sich, Katha, Melanie, Barbara Lampe und so weiter, Also auch gerade im Kreativbereich und so, da habe ich ganz, ganz viele tolle Frauen um mich rum und das ist wunderbar. Ja. Und ja, wir müssen alle daran arbeiten, dass das irgendwie noch deutlich mehr anzieht. Natürlich. Also jetzt vereinsseitig sehen wir so langsam aber sicher einen Zuwachs an Frauenteilnehmenden. Das ist ganz schön, bis aufs letzte Grillen Sommerfest, da waren glaube ich auch nur Micha und ich, aber ja, das muss definitiv mehr werden. Caro, was sagst du? [00:23:08] Speaker C: Ja, also ich glaube, ich finde das eine ganz spannende Frage, weil ja, das stimmt, wenn wir im GMKI unsere Events haben, dann ist es deutlich männlich geprägt. Wir sind so ein bisschen, Unser Algorithmus bei LinkedIn und Co. Hat uns dazu geführt, dass wir jetzt ein riesen Netzwerk an Frauen in AI haben. Deswegen fühlt sich das für mich auch anders an, dass da unheimlich viel sich bewegt, glaube ich aber auch. Und das ist auch ehrlicherweise was, was ich in meinem Bekanntenkreis, ich weiß nicht, wie es euch da geht, aber schon beobachte, dass es schon auch echt viele Frauen gibt, die das interessiert und die, wenn sie einmal angefangen haben und ich glaube, das ist der entscheidende Punkt, dass sie anfangen und sich trauen, einmal damit auseinanderzusetzen. Und dann sind es oft die Frauen, die schneller vorangehen, ist zumindest so, wie ich es bei mir sehe, die dann deutlich stärker manchmal in die Nutzung kommen und aber auch wieder deutlich stärker anfangen, Dinge zu hinterfragen, auszuprobieren, zu machen und breiter zu sehen. Ist zumindest bei mir so. Was ich glaube, was auch ein Punkt ist, ist, dass du, dass das beruflich ein Ding ist. Ich meine, es ist ja schon auch immer noch so, dass Frauen jetzt in unserem Alter, die, die jetzt joblich vielleicht nicht so eingespannt sind oder nur geringfügig oder mehr Care Arbeit machen zu Hause mit Kindern, Die sind natürlich unterrepräsentiert, die nutzen das vielleicht so ein bisschen im Privaten, aber nicht so strategisch beruflich. Die sind dann wahrscheinlich die, die eher andere Themen sprechen. Aber ich glaube mittlerweile, also zumindest in meinem Bekanntenkreis, kann ich da nicht mehr so einen Riesenunterschied feststellen. Was aber super spannend war, ich hatte jetzt Anfang der Ferien, haben wir so einen KI Workshop für Jugendliche, so einen zweitägigen Workshop gemacht, den wir Future Skills genannt haben. Und am zweiten Tag haben wir so ein bisschen mehr auch in die Zukunft geguckt und gesagt, hey, was macht das eigentlich gesellschaftlich und wie können wir Visionen zusammen kreieren und wie können wir mal weiterdenken, so unter diesem Motto weiterdenken. Und es war total spannend an den zwei Tagen, weil Das waren alles 13 bis jährige Kinder, ich glaube, wir waren 20 knapp. Und die Mädels hatten da schon einen, die hatten viel mehr Ängste, die haben schon als Mädels deutlich stärker weitergedacht schon vor dem Workshop und kamen schon mit viel mehr Fragen. Die sind eher rausgegangen, haben gut, dass wir drüber gesprochen haben, aber die machen sich viel mehr Sorgen, die die denken viel mehr darüber, okay, was macht das denn mit uns, was macht das mit der Welt, als die Jungs das thematisiert haben. Und ich glaube, das ist genau dieser Punkt, dass dieses Gefühl, dieses Weiterdenken, was macht es gesellschaftlich, das ist das, wo wir am Anfang schon waren. Das kommt viel stärker über die Frauen. Die Diskussionen laufen auch häufig viel stärker in diese Richtung als bei Männern. Da laufen die Diskussionen häufig dann ins Betriebswirtschaftliche oder ins, mit denen rede ich viel mehr über Business und wie optimiere ich Prozesse und und und. Mit den Frauen redet man sofort viel stärker über die ethischen Themen. [00:26:40] Speaker B: Aber ich glaube, da wäre meine Theorie, weil natürlich auch die jungen Mädchen, und das ist ein ganz, ganz großes und ganz schlimmes Thema, eben diese sexualisierte Gewalt, Deepfake, das kriegen die ja viel schneller mit in den Medien. Und ich glaube, das ist etwas, oder könnte ich mir vorstellen, dass das so den Stein ins Rollen bringt, so nach dem, okay, das ist hier mit KI ist das möglich und das dadurch natürlich auch erstmal, okay, das macht mir jetzt Angst und so weiter. Also oder also das Spiel definitiv mit [00:27:14] Speaker A: rein, oder da hast du wahrscheinlich in der Schule also wirklich die unverbindlichste oder direkteste Feedback. Hast du davon was mitbekommen In der Schule war das schon Thema, auch bei wie alt waren die Kinder? [00:27:27] Speaker C: Die waren zwischen 13 und 15? Also das Thema war auf jeden Fall Thema, weil wir es auch total zum Thema an einer Stelle gemacht haben, weil uns das auch echt wichtig war, ihnen mitzugeben, dass heute ganz andere Themen möglich sind mit ihren Bildern, weil die sind ja alle total online und auf Snapchat, Social Media und Co. Unterwegs, unterschiedlichsten Portalen. Und da muss ich allerdings sagen, dass vielen die Ausmaße dessen, was Deepfake ist und was möglich ist und wie stark das eigentlich verbreitet ist und wie stark du das eigentlich nicht erkennst an mancher Stelle und wo es überall genutzt wird, das war denen noch gar nicht so bewusst, wie es ihnen dann, glaube ich, nach dem Seminar bewusst wurde. In diesen ersten Ängsten ging es vor allem um so Sachen wie Zukunftsängste, Jobs, Jobgeschichten, auch so Themen wie, ja genau, gerade dieses müssen wir dann alle nicht mehr arbeiten und haben wir alle dann nur noch KI Freunde und werden noch einsamer. Solche Themen. Aber das Deepfake Thema ist natürlich auch ein Riesenthema. Das macht, da muss ich ehrlicherweise sagen, das macht mir als Mutter und auch als Frau echt Angst, weil das Thema sexualisierte Deepfakes, also ich meine sexualisierte Gewalt in sozialen Medien, das ist schon lange Thema, aber auch ehrlicherweise fast zu wenig Thema. Aber das hebt sich natürlich jetzt auf ein komplett anderes Level. [00:29:04] Speaker A: Kannst du das ganz kurz einmal erklären jetzt auch für, dass wir alle wissen, warum da KI so ein Problem letztendlich ist. [00:29:12] Speaker C: Ja genau, weil, also ich meine, mit KI hast du natürlich jetzt brutalst andere Möglichkeiten. Jeder theoretisch von uns kann mit einem Prompt und einem Foto, was er hat, kann er theoretisch ein sexualisiertes Deepfake erstellen. Dafür brauche ich keine großen Kenntnisse mehr, dafür brauche ich keine riesen Photoshop oder sonstigen Bildbearbeitungsprogramme, sondern das macht die KI, wenn es eine KI ist, die es macht, auf Knopfdruck. Und da gibt es schon genug Stories oder Beispiele, von denen wir hören, im Großen sowie im Kleinen, wo das auf massivste Art und Weise zugenommen hat. Ich meine, man kann den Fall Colín Fernandes vielleicht hier noch mal nennen, den haben wahrscheinlich alle mitbekommen. Da ging es ja auch um ähnliche Themen. Es ist einfach so, Oder zum Beispiel eine Geschichte kann ich erzählen, die in einer Schule, wo ich jemanden kenne, passiert ist, wo ein Junge aus allen möglichen Fotos, die er von Snapchat oder von Mitschülerinnen und so weiter hatte, Deepfakes gemacht hat und die Mädchen nackt abgebildet hat und gepostet hat und riesen Bibliotheken hatte und so weiter. Und das sind Kinder, aber das sind auch auch eine große Anzahl und da gibt es auch Zahlen zu meistens männliche Nutzer, die hier ganz, ganz intensiv aktiv sind und gerade auch so Darknet und verschiedenste Plattformen. Der Zuwachs mit KI an diesen sexualisierten, mit KI erstellten Bildern von theoretisch realen Personen oder auch nicht realen Personen, die sexualisiert dargestellt werden und teilweise das auch auf wirklich brutalste Art und Weise, das nimmt massiv zu. Und da gibt es im Moment aktuell noch recht wenig Handhabe und wenig Möglichkeiten, sich dagegen zu schützen oder zu wehren. Ich meine gut, in Europa haben wir jetzt den KI AI Act oder AI Act, der theoretisch vorschreibt, die Fake zu kennzeichnen, wenn ich sie veröffentliche, was aber [00:31:37] Speaker A: in der WhatsApp Gruppe wenig ausmacht. [00:31:42] Speaker B: Ja, das hebelt sich aus. Ich meine, die Personen erstellen ja Deepfakes, um zu schaden und werden sie natürlich definitiv nicht kennzeichnen. Also das ist klar, du musst eine Grundlage haben, um es dann im Zweifel rechtswirksam angehen zu können. Aber ja, schwierig. Ich meine, Grog auf Ex Herrn Musk, ich meine, hat mit Grog Tool und kann es dann mit einem prompt Frauen ausziehen sozusagen. Das ist ja auch so eine Sache gewesen. [00:32:12] Speaker A: Also Grog ist eine komplett unzensierte KI, die einem Nutzer jeden Wunsch erfüllt sozusagen. [00:32:19] Speaker B: Ja, genau. [00:32:21] Speaker C: Das heißt, da kann ein Nutzer theoretisch ein Bild hochladen und sagen, ja, mach mir da ein sexy, nackiges Foto draus und dann wird der Mensch, der dort abgebildet ist, ausgezogen. Bitter. Das darf es eigentlich so nicht geben. [00:32:36] Speaker A: Das Schlimme daran ist, glaube ich, Gelegenheit macht Diebe. Und wenn du wirklich gar keine Hürden mehr hast, dann hast du auch gar nicht mehr die Zeit, über deine Konsequenzen oder über deine Handlungen nachzudenken, weil du so schnell schon dem ersten Impuls folgen kannst und dadurch Leid zufügen kannst, bevor du dir irgendwie Mühe damit machen müsstest. [00:32:54] Speaker B: Da habe ich mich mit Christian, unserem Vereinsgründer sozusagen, auch schon mal bestimmt vor einem Jahr oder so drüber unterhalten. Ich weiß gar nicht mehr, was genau der Auslöser war. Also es ging eben um das Thema, genau ich als Frau kann ich irgendwie abgebildet werden Und da sagt er nur so lakonisch, weißt du, Steffi, ganz ehrlich, also die Frage ist nicht ob, sondern wann, weil im Zweifel, wir sind alle fakeable und genau die Frage ist eben wann, weil im Zweifel wird gefühlt sowieso jeder zweite und ja, also es reicht ein Foto, wir haben alle, ja, oder viele haben vielleicht einen Stimmschnipsel schon irgendwo, es ist einfach extrem gefährlich und ja, und auch da, ja sehr häufig wird sowas durch oder von Männern erstellt. [00:33:49] Speaker A: Was sind eure Wünsche als Frauen? Also wem sollte man da zuallererst oder am heftigsten in den Hintern treten, dass da irgendwas passiert? Plattformbetreiber, die Politik, die KI Firmen, Plattformbetreiber, [00:34:00] Speaker B: knallhart und zwar so knallhart. Und wenn sie das Ding schließen müssen, egal was, da muss jemand sitzen oder eine KI, wer auch immer, der das reguliert. [00:34:12] Speaker A: Also findet ihr das bezeichnend, dass die Person, die bei Anthropic dem so für sich selbst am sichersten und am korrektesten KI Firma, ein Personality Alignment Team haben und der Chef oder die Chefin von dem Team ist eben auch eine Frau. Seht ihr das als sogar vielleicht notwendig, dass da jemand sitzt, der eben genau diese weibliche Perspektive mit da reinbringt? [00:34:37] Speaker B: Amanda Askel ist das unbedingt, unbedingt ist ganz wichtig, also um da genau eben an den Kern zu gehen, also dass es von vornherein von beiden Seiten bzw. Vielleicht eher zwei Drittel, ein Drittel Frauen mit bedacht und angesehen werden und beurteilt werden und entsprechend die strategische Ausrichtung, also wie gehen wir überhaupt damit um, muss ganz früh und ganz oben anfangen in dem Sinne. [00:35:10] Speaker C: Ja, ich glaube, das ist essentiell wichtig, weil ich finde, du hast es auch, du siehst es ja immer wieder auch an diesen Diskussionen und ich fand, man hat es auch, ich komme da mal zurück auf diesen Fall mit Colleen Fernandes, das auch wieder gesehen. Ich glaube, es ist wichtig, die unterschiedlichen Perspektiven reinzubringen, weil ich weiß nicht, ob ihr das auch so erlebt, aber auch selbst wenn es um solche Themen geht und du diskutierst im Freundeskreis, ist es häufig zu sehen, dass Männer das gar nicht so empfinden. Die denken auch nicht so darüber nach oder denken nicht so weit oder denken nicht weiter. Was macht das vielleicht mit? Klar, wenn ich da irgendwie sonst was für ein Bild erstelle, sollten Sie hoffentlich drüber nachdenken. Aber grundhaft ist es diese Perspektivenvielfalt, die ja grundhaft wichtig ist in einer Erstellung von einem ausgeglichenen und fairen System. Und genau das braucht es halt auch an den richtigen und wichtigen Stellen, an Entscheidungspositionen, die für diese Plattform zuständig sind, für die Sicherheit von uns allen und von uns Frauen zuständig sind und die die Regeln und Datenbasis und alles, was dazugehört, mitgestalten und mitbestimmen. Und deswegen halte ich es für essentiell wichtig und das ist ein Riesenthema. Also die Studienlage, also was das angeht, die Deepfake Pornografie und sexualisierte Gewalt im Netz, da ist die Studienlage total eindeutig, dass die überwältigende Mehrheit der Opfer sind Frauen und die absolut überwältigende Mehrheit der Täter sind Männer. Und da gibt es noch und noch Studien zu. Und das ist da finde ich ja, da sind es Einmal muss es Gesetze geben, die es teilweise nicht gibt. Und es liegt in der Verantwortung der Plattform, das sicherzustellen, dass das nicht passiert. Aber es passiert nicht. Also da muss ich ehrlicherweise sagen, das ist auch so ein Punkt wie viele andere in dem KI Thema, wo ich mich immer Warum nicht? Warum passiert das nicht? Und das ist wahrscheinlich Hannes deshalb, weil nicht genug Frauen mit an den entscheidenden Stellen sitzen, weil sonst wäre es anders, [00:37:31] Speaker B: die ja jetzt durch die KI HR Geschichte auch vielleicht weiterhin gar nicht überhaupt da hochkommen. Ich finde es in dem Fall Colín Fernandes extrem bezeichnend, dass sie ja schon deutlich früher angefangen hat, sich damit auseinanderzusetzen und an die Öffentlichkeit auch zum Teil zu gehen. Und es lief so unterm Radar und erst als rausgekommen ist, dass es der prominente Ehemann himself quasi ist. Jetzt muss ich mal fragen, gibt es schon ein Urteil? [00:38:03] Speaker C: Ne, hier gilt nur immer noch die Unschuld. [00:38:04] Speaker B: Unschuldsvermutung. Genau. Insofern ja, Vorsicht. Ja, aber dann wurde das auf einmal ging das ja durch die Decke. Also es braucht dann ja auch doch wieder irgendeine Art von Prominenz oder wie auch immer, dass das überhaupt gesehen wird. Also es wurde ja vorher schon Steffi, [00:38:24] Speaker C: ist es auch wieder, ich meine, ist es auch wieder in der Versenkung verschollen? Also mir fehlt an diesen Stellen einfach die Tatsache, dass was passiert. Und Hannes, deine Frage Genau, richtig. Und deswegen ist es so wichtig, dass es mehr Frauen gibt, weil an diesen Stellen, die mitentscheiden dürfen, es gibt zu wenige und deswegen stimmt das Machtverhältnis da nicht grundsätzlich politisch nicht und auch in der Gestaltung und in der Entwicklung der KI Systeme oder der KI Plattform. Und das ist meines Erachtens und das ist auch das, was die feministische KI fordert, dass das ausgeglichen ist, ist und dass die Datenbasis da ausgeglichen ist und dass dafür Sorge getragen wird von allen Seiten. Und da braucht es mehr Frauen, die sich da stark machen, mehr laut machen und es braucht vor allem mehr Aufmerksamkeit, weil das Bewusstsein dessen, dadurch, dass da auch wenig drüber gesprochen wird, ja auch gar nicht in der breiten Gesellschaft überhaupt nicht ankommt. Die meisten Leute, mit denen sich darüber unterhalten, sie machen sich überhaupt gar keine Gedanken darüber. Den ist gar nicht bewusst, wenn sie so ein System nutzen, dass da überhaupt eine Verzerrung drin sein kann. Und da fängt es an. Es fängt an, das Bewusstsein dafür zu kreieren. Durch das Bewusstsein dessen entsteht eine Forderung oder ein Einsetzen dafür. Und das sorgt hoffentlich dafür, dass immer mehr Frauen sich da an der einen oder anderen Stelle dann auch aktiv dafür einsetzen. Und genau das braucht es parallel dazu, dass es eigentlich von den Plattformen selber kommen müsste. Aber ich meine, das haben wir an vielen anderen Stellen auch gesehen, dass es nicht kommt. Das denke ich mal, können wir noch lange warten oder ich hoffe es nicht zu lange, aber ich mache mir da wirklich Sorgen. Das ist genauso ein Thema wie jetzt die Meta Glases oder gibt es ja jetzt auch schon von anderen Firmen. Das ist auch so ein Ding, wo ich immer wieder mich frage, man spricht ja häufig, haben wir ganz am Anfang gesagt, manchmal fragt man, können wir nicht einfach langsamer machen oder sollten wir nicht an der einen oder anderen Stelle noch mal anhalten und noch mal fragen, was bringt es, wem bringt es was und was verändert sich dadurch? Und das sind so Themen. Und auch mit diesen Glases. Ich meine, ich hatte jetzt neulich einen Busfahrer, der so ein Ding anhatte, da habe ich mich gefragt und als ich mit dem gesprochen habe, habe ich gemerkt, der hat so ein Metaglas an und habe ich mich gefragt, also war mir in dem Moment egal. Aber du weißt ja nicht, wer alle diese Dinger jetzt anhat. Die konnte auf Mallorca kannst du die sogar schon im Outlet kaufen und dann hast du so eine Meta Brille an, kannst alles filmen, was du willst. Und da gibt es auch schon ja genug Analysen, die zeigen, dass die Datenbasis oder die gefilmten Bilder, die da sind, eben nicht alle sensible Inhalte schwärzen, je nachdem wie der Blickwinkel ist oder wie das Licht einfällt und so weiter und so fort. Das sind so Sachen, wo es gibt, wir gehen einfach einen Schritt zu schnell. Es gibt keine Regel oder es gibt keine ethischen Rahmenbedingungen, bevor wir diese Dinge auf die Gesellschaft hinausschieben. Und das sehe ich als extrem kritisch. [00:41:43] Speaker A: Ne, wir sind fast schon wieder am Anfang. Genau, das ist nämlich auch das, was ich wahrnehme, das, womit ich auch eingestiegen bin, Dieses KI Rennen und dieses Skrupellose immer weiter vielleicht durch eine weibliche Perspektive in Entscheidungspositionen einfach positiv beeinflusst werden kann. Oder jetzt mal ganz sachlich gesagt, geht es ja heutzutage ganz viel um die Qualität der Daten, die in so einer KI sind. Und da gehört einfach dazu, dass das ausgewogen ist in alle Richtungen und eben auch in eine ausgewogene weibliche Darstellung. [00:42:14] Speaker C: Absolut. [00:42:15] Speaker B: Also gegen diese Brillen muss ich auch sagen, ich finde es unsäglich. Das ist wieder das Gefühl von Machtlosigkeit. Wenn ich noch das Gefühl, weißt du, wenn jemand ein Handy auf mich hält, dann habe ich ja noch zumindest das Gefühl, dass ich denke, Mama, der folgt mir mit dem Handy, dann kann ich das sehen und kann im Zweifel einschreiten. [00:42:33] Speaker A: Mehr Chance, ihm das aus der Hand [00:42:34] Speaker B: zu schlagen oder so. Genau, aber das habe ich bei der Brille eben gar nicht mehr. Und das ist für mich übergriffig. Du hast gar keine Handhabe mehr, das zu stoppen, weil du es einfach schon gar nicht mehr mitbekommst. [00:42:47] Speaker A: Was meint ihr? Wollen wir zum Schluss noch mal ein bisschen Werbung auch noch mal wieder für den GMKI machen? Weil, wie gesagt, wir sind auch ein relativ männlicher Club. Ihr beide seid dabei und ich finde, das ist jetzt Zeit für einen Aufruf, einfach noch mal, wenn wir Hörerinnen haben, zu erklären, warum man denn vielleicht auch einfach bei uns wundervoll über KI diskutieren kann, lernen kann, auch als Frauen aus weiblicher Seite. [00:43:12] Speaker C: Ja, unbedingt. Also wir brauchen mehr Frauen. Ihr habt ja eben gehört, Steffi war mit Micha alleine beim Grill Event zum Sommerfest und sonst auch sind wir wirklich immer in einer kleineren Zahl. Also wir würden uns riesig freuen, wenn da draußen KI begeisterte Frauen sind oder auch wenn ihr noch gar nicht hingeguckt habt. Kommt, wir fangen, es ist egal, du brauchst keine Vorkenntnisse, du musst noch nichts wissen, du musst nur neugierig sein und Lust haben, mal mitzudiskutieren, auszuprobieren, dich mit spannenden Themen, Themen zu beschäftigen und dann schaut mal auf unsere Seite und da würden wir uns doch total freuen, wenn die ein oder andere Frau mehr in unsere schöne, liebe, nette, offene Runde kommt des GMK und die stetig wächst. [00:43:57] Speaker A: Genau, wir haben nämlich jetzt auch auf GMKI Org eine Community, da könnt ihr euch ganz unverbindlich und kostenlos anmelden und im Grunde auch mit uns chatten und Themen und Fragen stellen. Da würden wir uns sehr freuen. [00:44:11] Speaker B: Ja, absolut. Ich glaube, es ist auch gerade in dieser ganzen digitalen KI Transformation wichtig, sich eben wirklich in echt wieder zu treffen. Also dieses Netzwerken wirklich mal abseits auch vom Rechner und so, ist total wichtig. Und was ich, ja, es ist natürlich mein oder mit auch mein Verein, unser Verein, Aber was ich einfach so gut finde, ist, dass wir wirklich so viel abdecken. Also diese Bandbreite von dem, was wir abbilden, das ist ja nicht, dass wir mal vielleicht mal Toolabende haben im Sinne von einer Prompt Challenge, wo dann spielerisch quasi mal so ein Tool vorgestellt wird. Wir setzen uns ja wirklich in allen Belangen oder Bereichen damit mit KI auseinander, im Guten und manchmal auch wie im Schlechten oder Überfordernden. Und ich glaube, dieses Regulativ, also das ist total wichtig und das, glaube ich, gibt der Verein ziemlich gut mit, weil er auch nicht profitgetrieben ist und so. Da steht keine Firma dahinter. Das sind alles nur Menschen, die da irgendwie mit weitergehen wollen und irgendwie gucken wollen, okay, was machen wir jetzt damit? Und das, glaube ich, ist ein ganz schöner, befreiter Ansatz einfach. [00:45:20] Speaker A: Ja, und eben nicht nur über Technik reden, sondern eben auch über alles, was KI mit uns macht, mit der Gesellschaft macht, mit unserem Miteinander macht. Wie gesagt, die weibliche Perspektive ist da dringend gebraucht und gerne gesehen. [00:45:34] Speaker C: Und ich glaube, wenn ich noch eine Sache sagen darf, muss ich unbedingt noch loswerden, denn ich glaube, wir merken das in unserer und das spüre ich so extrem. Und jetzt kommt noch mal ganz knallhart die weibliche Perspektive. Ich glaube, dass unsere Welt im Moment viel mehr weibliche Energie braucht und weibliche Energie kann ja von allen Seiten an Geschlecht kommen, aber wir brauchen viel mehr Wohlwollen, wir brauchen viel mehr Gemeinschaftsdenken, wir brauchen viel mehr diesen Blick auf, wie müssen wir es eigentlich gestalten, damit wir in dieser Welt zukünftig noch glücklich, gesund und nachhaltig zusammenleben können. Und deswegen ist die weibliche oder sage ich mal Care oder wie auch immer du es nennen willst, Perspektive auf unsere grundgesellschaftliche Entwicklung, aber auch auf die Entwicklung von KI extrem wichtig. Und das war mir noch wichtig zu [00:46:29] Speaker A: sagen, da möchte ich überhaupt gar nicht mehr widersprechen. Das sehe ich nämlich absolut genauso. Und damit danke ich euch für diese Folge. Das war wirklich spannend und hat sehr viel Spaß gemacht. Ich freue mich schon aufs nächste Mal. Bis dahin. [00:46:42] Speaker C: Ciao, ciao, Bis bald.