Heilsversprechen, Macht und Wahrheit - mit Fabian Mrongowius

00:00:04:

00:00:06: Herzlich willkommen zu einer Kurzfolge des Yid Podcasts, heute von der Republika.

00:00:12: Der Festival für die digitale Gesellschaft in Berlin findet ihr jedes Jahr statt und ich sitze hier zusammen in einem kleinen luftdichten Kabin.

00:00:21: So fühlt sich das alles an!

00:00:22: Ganz heiß mit Fabian Mrongovius.

00:00:26: Hallo

00:00:27: Hallo, schön dass ich da sein kann.

00:00:29: Ja, freu mich sehr hier zu sein!

00:00:30: Dass das so spontan auch klappt ja wunderbar.

00:00:33: Danke an dich auch an deine Spontanität.

00:00:35: Ganz nicht so spontane war, dass du hier eine KI-Kirche aufgebaut hast?

00:00:38: Das war schon länger geplant.

00:00:40: wie kam es dazu?

00:00:41: Richtig, also tatsächlich wie es dazu gekommen ist... Ich habe mir vor einem Jahr überlegt, dass es eigentlich mal ein Ort braucht oder ne Art... Kunstwerk oder irgendwie einen Gegenstand, um eben zu diskutieren was die großen Tech Bros bzw.

00:01:00: also die großen CEOs von eben KI-Unternehmen eigentlich so sagen und wie das eigentlich im Zusammenhang steht damit dass sie einerseits so die Apokalypse herbei beschwören und andererseits auch die ganze Zeit neue KI Modelle vorantreiben beziehungsweise veröffentlichen.

00:01:13: Das ist eine Art Glaube an die KI.

00:01:16: da ist und dachte ich okay das braucht irgendeine Form.

00:01:18: Und dann kam die Republikan immer da und habe mich super drauf gefreut.

00:01:22: Und genau, dann habe ich mich irgendwie ... Dann kam diese Idee, eine Kei-Gerche zu machen.

00:01:27: Du bist jetzt in einem großen Saal, wo du an einer kleinen Ecke so abgehängt einen Raum hast?

00:01:32: Man kommt rein und links und rechts ist wie Beichtsstühle!

00:01:36: Da kann man dann so eine kleine Weltkugel aufgräben, ob man glaubt das sind wir verdammt oder verloren.

00:01:43: Oder sind wir gut als Menschheit?

00:01:44: Da lässt du drüber abstimmen.

00:01:46: Genau, da glaube ich noch an die Menschheit.

00:01:48: Das Motto dieses Jahr der Republik ist ja auch Never Gonna Give You Up und das habe ich dann so ein bisschen verlängert in Never Gonna give you up humanity Fragezeichen.

00:01:56: Also geben wir dann die Menschheit auf oder sind wir schon verloren?

00:02:00: Und ich glaube auch dieser Frage widme ich und bin ja ganz erstaunlich, weil es mir wahrscheinlich wegnehmen dürfen.

00:02:06: Aber im Moment ist fifty-fifty!

00:02:07: Wir haben's noch in der Hand.

00:02:08: Es ist deutlich weniger dystopisch zumindest hier durch die Besucher als... Boah,

00:02:12: fifty-Fifty finde ich schon dystopische.

00:02:14: Ich hätte jetzt eher Hoffnung erwartet aber vielleicht ist das auch.

00:02:18: Also ich habe auch extra die gute Seite, ne ja die letzte Infotafel gebracht.

00:02:21: Man muss schon ein bisschen weitergehen um die Menschheit zu verdammen aber vielleicht liegt es auch daran.

00:02:26: Der

00:02:26: Arsch-Hasche-Instinkt findet die Finderung auf jeden Fall.

00:02:30: Ja was du da hast sind Kirchenfenster und da sind dann Elon Musk drin oder einen Abendmahls.

00:02:36: Gemälde mit Donald Trump, das kennt man ja jetzt schon und seinen Tech Bros.

00:02:41: Zitate von Peter Thiel und Sam Altman.

00:02:44: Und also ein neurer Link von Musk behauptet ja dass Menschen mit Maschinen ganz gut gepaart, damit wir nämlich die Singularität, die KI auch verhindern können, die Menschheit übernimmt.

00:02:54: oder Peter Thil bekämpft das Alter als Krankheit so solche Sachen zeigst du da auf?

00:02:59: Genau wenn man KI reguliert dann beschwören wir den Antichristen herauf sagt Peter ja auch Der Peter.

00:03:05: Man kennt's, der Herr Thiel genau.

00:03:08: Ich mein Trump ist einfach nur der wirtschaftliche und politische Macht und hilft dann diesen Leuten ins Amt weil sie bauen zusammen den Staat ab und benutzen eine religiöse Ideologie die das Transhumanismus um das zu machen.

00:03:20: Du hast jetzt eigentlich ne katholische Kirche genommen als KI-Kirche, weil da ist Beitspiel drin, das haben wir in den evangelischen nicht.

00:03:27: Wieso hast du das gemacht?

00:03:29: Also jetzt zu den Beitstühlen.

00:03:30: tatsächlich, da gab es noch mal die ursprüngliche Idee.

00:03:34: Einfach was aus.

00:03:34: ein paar Auflagen gab hier auf der Republik her, da wir vielleicht in einem großen Raum bin, in dem eben kein Sound genutzt werden darf.

00:03:41: Habe ich ja eine visuelle Ausstellung gewählt und auch ein visuelles Ausstellungsformat grundsätzlich genau.

00:03:47: Gab's aber dir das Ganze auch nochmal zu erweitern?

00:03:50: Also einmal so, die gefährliche Echo-Bubble und eben auch den virtuellen Beichtstuhl.

00:03:55: Da die KI natürlich unglaublich vergebend ist uns gegenüber, also uns als Mensch.

00:04:00: Egal was man der beichtet, selbst die schlimmsten Sachen dann okay das ist schön dass du es erzählst, dass deine arbeiten willst.

00:04:07: Deine Ehrlichkeit ist ganz wunderbar.

00:04:09: Dann merken wir also auch dieses sag ich mal leicht perfide und dass er sehr schwer zu kontrollieren is.

00:04:14: Die leicht perfidere Programmierung dieser Latch Language Modelle, die ja in keinem Fall einer Persönlichkeit entspricht oder keiner... einer Empathie, die tatsächlich da ist.

00:04:21: Sondern die eben auch algorithmisch programmiert worden ist.

00:04:25: Das ist einerseits ganz spannend und andererseits ist ja die Frage, is TKI denn eben vergeben?

00:04:28: Also sie erscheint uns vergebend aber sie ist natürlich in ihrer Logik als Maschine oder auch eine Entität, die wir erzeugen.

00:04:36: wenn wir sie auf der Erde erzeugt würden wäre sie natürlich und das anzunehmen was man, wenn man das wissenschaftlich betrachtet überhaupt nicht vergebent sondern es würde wahrscheinlich mit uns um unsere Ressourcen kämpfen und das sind eben so die typische Leimenprobleme.

00:04:50: Also wenn eine Ameise auf uns schaut, dann versteht ihr natürlich nicht was wir mit ihr tun.

00:04:55: Wenn wir irgendeine Straße bauen, auf die drauf treten oder so, dann haben wir gar nichts Böses im Schilden, sondern für die Ameis ist es natürlich ganz schlimm, was da passiert

00:05:02: dass die Dystopie, die aber aufgebaut wird.

00:05:04: Dass wir die Ameise sind und die KI ist dieses große Wesen?

00:05:07: Genau also das kann es sein ja!

00:05:09: Und ich finde das aus zweierlei Sicht ganz ganz spannend weil da sind natürlich ganz viele Widersprüche einerseits in diesen möglichen Theorien und das liegt natürlich daran, dass wir sehr schwer einschätzen können bei der Technologie, die sich so schnell entwickelt.

00:05:21: Da gibt's ganz wenig Forschung zu.

00:05:22: Es gibt ganz viel ethisch-moralische Fragestellungen Aber sagen mal auf der Ebene der Regulierung gibt es dann nur wenige Theorienen Die meisten davon sind sehr alarmierend, also auch aus wissenschaftlicher Sicht.

00:05:35: Die eben davor warnen, Case-Systeme zu bauen die einen hohen Grad von Autonomität haben.

00:05:39: deswegen auch gerade dieser Einwurf von der da richtig schon mit ihren Masken und Neurolink dann möchte das eher vereinen.

00:05:45: er inszeniert sich dabei auch als jemand der natürlich das anders gestalten möchte.

00:05:49: Und eben aber auch andererseits und das untersuche ich so ein bisschen ist da nicht auch eine riesige Gefahr dahinter die Welt so zu inszenieren dass eben das ist so ne Art Gott gibt ja oder so eine Distopie, weil das führt ja häufig zur Chaos.

00:06:02: Das führt dazu dass wir glauben unsere Demokratie ist nicht mehr wehrfähig und es führt auch zu einer Art Gefühl, dass wir keine Kompetenz haben im Kompetenzverlust und den nutzen natürlich gerade die großen aus dem Silicon Valley entsprechend aus da sie dann andere Anbieter ausschließen aus der Markt und die sagen natürlich Wir können in dieser dystopischen Welt in dieser Gefälschung können wir besonders gut agieren.

00:06:24: Also mir kommt es einfach sehr dualistisch vor, dass auf der einen Seite diese Angst zu erzeugen und dann so sagen und hier ist euer Hals versprechen.

00:06:31: Ja

00:06:31: genau, ja genauso ist das sehr gut zusammengefasst.

00:06:34: Ich hatte den Eindruck und weil wir haben uns gestern länger kurz darüber unterhalten du bist katholisch aufgewachsen hast dich aber da rausentwickelt und befreit sozusagen weil dieses Halsversprechen ... nicht glaubst, wenn es mit Missbrauch zu tun hat.

00:06:51: Also wenn es missbräuchlich eingesetzt wird, zu sagen du musst daran glauben damit du heil ist.

00:06:56: Das ist deine Kritik daran.

00:06:57: gibt's was wo du sagst?

00:06:59: das würde ich mir eigentlich von Religionsgemeinschaften aber auch hier es ist Politik und Wirtschaft ja die dass sie das gleiche nutzen eine Ideologie die sagen dieses Regieren mit Angst einerseits.

00:07:10: die katholische Kirche hat das mit der Hölle gemacht.

00:07:17: Was wäre das, was du sagst, was dienlich wäre?

00:07:19: Weil deine Kritik dient ja dazu etwas sichtbar zu machen.

00:07:22: Das ist eine sehr spannende Frage.

00:07:23: also die Frage ist quasi was ich mir von den Religionsgemeinschaften wünsche auf der Welt

00:07:28: von Politik, von allen Menschen.

00:07:30: Von allen die Macht und Einfluss haben anstatt dass sie eine Ideologie aufbauen, Menschen dazu missbrauchen also das sie mit Angst steuern weil das ist ja meiner Meinung nach das was du da aufzeigst wir werden davon angst gesteuert damit wir etwas damit wir uns gewünscht verhalten.

00:07:45: die große masse

00:07:45: sehr sehr spannende frage gar nicht natürlich gar nicht unkomplex.

00:07:48: ich glaube häufig unterlegen die mächtigen menschen der welt auch bestimmten sachzwängen die ein die sich einfach daraus ergeben wie die welt in der sie agieren aufgebaut ist.

00:07:56: es sind alle teile eines großen Spiels und agieren ja meistens wenig alleine.

00:08:00: Und die Regeln, warum sie so agieren wie sie agieren, liegen ja meist an größeren systematischen Ursachen.

00:08:05: also ob es jetzt Kapitalismus oder Patriarchate oder wie auch immer sind.

00:08:08: Die kommen natürlich jetzt gerade in dem Thema KI besonders zur Geltung und da kommen wir auch grade so... Ich fürchte mich immer vor den Nutzen dieser ganz großen Worte ne?

00:08:18: Patriarchat und Kapitalismus und Imperialismus und Neo-Imperialismus usw.

00:08:24: Aber das sind natürlich schon Häufige Kritikpunkte.

00:08:26: Ich glaube, heute auf der Republik haben wir zum Thema zurückgekommen und auf der Stage Eins hat Karen Howe die großen Kei-Unternehmen mit dem British Empire verglichen oder mit einfach generell imperialistischen Systemen.

00:08:38: Und ich glaube an dieser Stelle wenn ich mir da was wünschen darf dann lassen wir mal die ganzen Tech Bros außen vor und kümmern uns um die Institutionen vielleicht für dich und mich bei dir, dann sage ich mal bei dir Kirche und sage immer bei mir europäische Politik vielleicht.

00:08:51: Was ich mir von denen wünscht würde Natürlich wünsche ich mir einerseits für die Menschen, dass wir sozusagen mal die A.I.

00:08:57: literacy oder das Verständnis von KI erhöhen damit wir auch nicht so entmündigt sind weil uns wird gerade ganz viel auch so Magie versprochen und ganz viele... AI ist in everything.

00:09:06: ja dann wird es wahrscheinlich auch wenn die KI-Blase platzt und dann sind auch wieder alle enttäuscht und alle gehen wieder weg davon.

00:09:11: aber Da bleibt trotzdem für niemanden große Erziehung dahinter oder Bildung.

00:09:16: irgendwie funktionieren eigentlich dieses System.

00:09:17: Also da wünschen wir schon, dass wir uns mehr technisch damit befassen.

00:09:20: was können die eigentlich?

00:09:20: Was können sie nicht?

00:09:21: Weil das demystifiziert die und dann können wir auch sagen was wir wollen, was wir nicht wollen.

00:09:25: Ich glaube von der religiösen Weltgemeinschaft würde ich mir wünscht okay also wenn die einerseits einfach loslässt von all ihren institutionellen Forderungen und von dieser realpolitischen wirklich Machtausübung die Sie auch hat in die sehr sehr problematisch finde wo ich ja auch kein großer während der Kirche bin, wenn ich das hier in diesem Podcast sagen darf.

00:09:41: Auf große Macht voll große Verantwortung?

00:09:43: Ja

00:09:43: genau!

00:09:44: Also wenn man die wahrnimmt, ja die große Verantwortung und da zumindest sagt okay wir treten also einfach nur für einen Ökominisch gesehen auch.

00:09:49: Wir treten für den Frieden ein.

00:09:50: Der ist sehr viel erreicht aber wenn man das auch mit echten Konsequenzen tut dann finde ich das erstmal begrüßenswert stecke ich nicht so drin und vielleicht von der europäischen Politik von uns in Europa haben wir eigentlich eine riesige Chance.

00:10:02: gestern war ich bei dem anderen Quiz hier auf der Republikan und da hieß es Pressefreiheit.

00:10:07: In was glauben Sie, in welchem Land gibt es Presse-Freiheit?

00:10:10: Und da wurden einfach also globalen Menschen dazu zu diesem Thema befragt und die meisten Menschen haben tatsächlich ausschließlich europäische Länder genannt, die in den Top ten oder top zwanzig Listen waren.

00:10:19: Das fand ich sehr, sehr erstaunlich!

00:10:21: Und war darüber auch... Einerseits war das natürlich trauriger, wir kämpfen natürlich dafür presseweit sein aber ist auch schön.

00:10:26: Ich glaube wie als Europäer gerade die Chance wird es sehr schwer zu sein diese KI-Modelle nachzubauen in der Größe und ich glaub dass müssen wir gar nicht.

00:10:34: Aber wir leben gerade wie die Welt wird, die entrückt weiter.

00:10:38: Die alte Weltordnung ist irgendwie vorbei und wir müssen jetzt zusehen dass wir eine art europäische Souveränität hinbekommen Und ich glaube wir sind sehr pluralistisch Wir haben sehr unterschiedliche Meinungen und sehr unterschiedlichen Staaten und ich glaube durch vielleicht auch diese externen Mitrohung also wohl die USA die quasi für uns kein verlässlicher Partner sind als auch vielleicht Russland oder vielleicht auch China oder andere Fliehkräfte.

00:10:59: aus dem politischen Art können wir uns eigentlich darauf besinnen, was uns stark macht und könnte auch Kaisysteme entwickeln die zu uns passen.

00:11:06: Und eben nicht so dystopisch sind.

00:11:07: das würde ich mir glaube.

00:11:08: ich wünschen dass mehr zu machen zumindest europäische Souveränität zu erzeugen.

00:11:12: Ja und es ist auch ein bisschen deine eigene Mission du gibst auch Kurse glaube ich um Leuten da so ein bisschen beizubringen.

00:11:17: So KI und was ist das eigentlich?

00:11:19: Also du machst dem

00:11:21: Menschen ein großes Wort.

00:11:23: Mischen ist immer einfacher auf Englisch.

00:11:25: Dann würdest

00:11:26: gehen oder dann nehmen wir deine Mischen.

00:11:28: Ja, macht natürlich Spaß Menschen KI beizubringen und ich bin ja auch selber so ein bisschen befangen.

00:11:33: Also das Arbeiten damit ist sehr interessant, es ist sehr spannend.

00:11:37: Inwiefern müsst du befangen?

00:11:39: Ich sehe schon die technischen Möglichkeiten, die das Ganze hat.

00:11:42: Und da ist natürlich ein riesiger Paradigmenwechsel.

00:11:44: Also ich bin sehr autodetaktisch unterwegs und mache halt sehr viele Dinge auch selber und merkt dann natürlich was man damit alles machen kann.

00:11:50: Und das ist schon sehr verführerisch, ja?

00:11:53: Aber da auch einen gesunden Abstand zu gewinnen, damit gut umzugehen dass man eben sich nicht blind drauf verlässt seinen eigenen Kopf so zu trainieren diesen Muskel aufzubauen.

00:12:01: Okay wenn technisch mal irgendwas nicht funktioniert warum funktioniert es nicht da halt reinzugehen sich das anzugucken?

00:12:06: okay Was liegt der Technische eigentlich hinter?

00:12:08: Das macht mir viel Spaß.

00:12:09: Es macht mir auch viel Spaß das Menschen beizubringen und dann eben die Tools die man hat und zur Auswahl kritisch zu unterfragen auch der Nutzung

00:12:16: Wenn man dich buchen möchte, das kann man glaube ich.

00:12:18: Wo findet man dich?

00:12:19: Also man findet mich natürlich ganz einfach auf LinkedIn Fabian Rungovius da.

00:12:23: für das ganze sehr seriöse Business sage ich mal also alles zu Beratungen ob dass jetzt Promptworkshops ist oder Grundlagen zur KI etc.

00:12:31: Und für natürlich so Themen wie Fake News, da habe ich so ein BellaBad Museum gemacht.

00:12:34: Wo man die Geschichte des BellaBads interaktiv aufmachen kann oder eben die KI-Gerche dann tatsächlich auf Instagram mit der Very Serious Business Agency.

00:12:43: Das ist nämlich so mein Label, mit dem ich sehr, sehr ernste Themen versuche und Spaß hierunter zu bringen.

00:12:47: Deswegen eben very serious business.

00:12:50: Das hört sich sehr gut an!

00:12:51: Danke schön, das kommt alles natürlich in die Show notes.

00:12:53: Also

00:12:54: meldet euch sehr gerne bei Fabian Mron-Govius.

00:12:57: Schwieriger Nachnamen für dich.

00:12:59: Bleibt da hoffentlich im

00:13:01: Kopf genau.

00:13:02: Danke schön dafür und bis zum nächsten Mal auf Wiederhören!

00:13:08: Ich

00:13:34: finde außerdem ein neues und erstes Buch.

00:13:36: Mein Gott, warum mache ich das überall, wo es Bücher gibt?

00:13:39: Momentan hupe ich bei Instagram besonders eine Seite ab Brandeins Und da gibts super viele coole.

00:13:44: cool zu post zum Thema Kommunikation.

00:13:48: Das mag ich sehr.