Herzlich willkommen zu dieser neuen Episode unseres Podcasts Triebwerk. Heute senden wir wieder hier aus dem Engelmuseum in Engelskirchen und ich habe heute auch wieder einen Gast dabei. Dieser Gast ist für mich heute ganz besonders, das ist Martin, Martin Erlewein. Den habe ich, ich glaube, vor vielen Jahren in Düsseldorf kennengelernt. Ich habe mitbekommen, dass du bei den oder bei einer Big-Four-Gesellschaft gearbeitet hast. Wir haben uns mal zum Essen getroffen, ich weiß gar nicht mehr, irgendein Asiate war es und da hast du erzählt, du bist auch lange in, lange relativ, in Asien unterwegs gewesen, hast den Eindruck dargesammelt.
Das hat mich total begeistert von dir als Mensch und jetzt bist du ja nicht nur Mensch, sondern du machst ja auch einen Beruf, wo du in Leidenschaft aufgehst und das ist, du bist Rechtsanwalt, du kennst dich mit dem Thema KI, Marketing aus, Urheberrecht, wenn ich es richtig im Kopf habe und das Verrückte ist, du machst auch noch Kabarett und spielst Gitarre auf Bühne. Ja, hallo David, erstmal herzlichen Dank für die Einladung und vielen Dank, dass wir zu dem spannenden Thema KI gleich uns unterhalten können. Nee, ich mache nicht Kabarett, also Kabarett, da macht man sich, glaube ich, auf der Bühne nackig. Das wäre falsch.
Ich mache ein bisschen Stand-up-Comedy, also wer mir da folgen würde, jetzt mache ich auch noch Werbung für sowas. Ich bin bei Instagram bei Euer Erle, also Erle, der erste Teil meines Nachnamens. Das mache ich nicht so häufig, weil ich habe ja beruflich, bin ich ordentlich eingebunden und ja, ich spiele auch Gitarre, das ist jetzt ein bisschen eingeschlafen, also tatsächlich war ich auch häufig auf der Bühne mit der Gitarre, aber durch Corona ist bei vielen das ja zum Erleben gekommen. Ja, das verstehe ich. Irgendwie ein witziger Einstieg, also eigentlich wollten wir uns über das Thema Recht und künstliche Intelligenz unterhalten und dann komme ich ja von Kabarett, wie auch immer ich darauf komme, tatsächlich dann zu dir und diesen Themen, die du da hast.
Hör mal, ich weiß auch nicht wieso, aber erzähl mir doch mal, wie kommt man denn zu diesen unterschiedlichen, lass mich das sagen, Fähigkeiten? Also auf der einen Seite was völlig Trockenes, würde ich jetzt mal annehmen, also Rechtsanwalt sein und auf der anderen Seite, ist das dann Ausgleich oder wie ist das, wie stelle ich mir das vor? Ausgleich weiß ich nicht, ich glaube auch ein bisschen Ergänzung, also den Beruf des Juristen, also das Studium, das habe ich schon sehr bewusst gewählt, weil die Arbeit mit Menschen, mit Themen und so weiter, das sprang mich auf jeden Fall an, also es hätte auch Journalist werden können.
Und bühnenmäßig, ich glaube, ich habe den Josef schon im Krippenspiel meines Kindergartens gegeben, also da bin ich sowieso affin, ich stehe sehr gerne vor Menschen und freue mich auch, wenn es denen gefällt. Ich glaube, das war damals als bei uns in Düsseldorf, das war bei einer großen PA-Agentur, da hast du auch auf der Bühne gestanden. Das hat man hat man gemerkt, doch, damals schon. Das müsste gewesen sein, das ist schon ziemlich lange her. Ja, das ist richtig, genau. Und dann auf einmal, und das das hat sich jetzt einmal, ich meine, du bist ja auch schon öfters bei uns, unseren Konferenzen gewesen, hast da ja auch viel über Recht gesprochen und dann dachte ich mir, vielleicht auch ein interessanter Gast, da hast du gesagt, bist auf jeden Fall dabei, weil es ja gerade passt, Künstliche Intelligenz.
Genau, ja. Wie schätzt du das eigentlich gerade ein? Also ich meine, das ist echt, das ist ein Riesenthema, Trendthema und irgendwie finde ich nach den letzten, ja, Tagen kann man sagen, aber auch Monaten, weltverändernd, oder? Also ist jetzt nicht nur die Frage des Rechts, sondern ist ja auch die Frage der Gesellschaft, des Menschens, so ein bisschen dahinter. Ja, definitiv. Also die KI, so sehe ich das, entwertet die menschliche Arbeit, ganz einfach dadurch, dass die halt alles, was ja aus Kunst, Literatur und sonstigen Fähigkeiten innerhalb der letzten aufgezeichnet, in irgendeiner Form aufgezeichnet worden ist, saugt die in sich rein und kann es dann halt entsprechend wiedergeben.
Also von Intelligenz zu sprechen ist ja immer so eine Sache, also es gibt verschiedene Definitionen von Intelligenz, aber das, was KI halt auf jeden Fall kann, ist eine unglaublich überzeugende Art der Reproduktion. Und ja, du hast recht, das sind nicht nur rechtliche Aspekte, das sind auch soziale. Also gerade gab es einen Gastkommentar von Bill Gates in der FAZ und er hat das recht gut differenziert mal ausgeführt. Das ist einer, der hat schon ziemlich viel Geld verdient, der muss nicht unbedingt Werbung machen wie die anderen. Das heißt also, der Einfluss der KI auf den Arbeitsmarkt, den merken wir ja jetzt schon und das ist erst der Anfang.
Und wenn sich das so weitergeht, dann müssen wir natürlich auch drüber nachdenken, wenn Arbeitsplätze verloren gehen, wie sieht es dann mit unseren Sozialsystemen aus, wie sieht es dann mit der Demokratie und so weiter aus. Das heißt also, so tiefgreifende Auswirkungen wie hier angedeutet werden, das kommt alles noch. Und Sam Altman hat ja auch die KI schon vor einem Jahr oder zwei Jahren mit einer Atombombe verglichen. Und jetzt, wir hatten gerade in Vorbereitung darüber gesprochen, in den letzten Tagen kam ja die Meldung, dass da halt gerade die Entwickler von den KI- Modellen, sowohl bei Entropic als auch bei OpenAI, im Grunde sehr, sehr pessimistisch sind, wenn die Entwicklung so weitergeht.
Die betteln gerade um Reglementierung. Also das ist ja klar, die würden jetzt von sich aus natürlich sagen können, wir schränken einfach die Fähigkeiten unserer KI ein, aber die stehen ja im Wettbewerb. Das heißt, die brauchen jetzt noch jemanden, der ihnen sagt, bitte an der Stelle müsst ihr irgendwo mal dort die Bremse ziehen. Und bei der derzeitigen politischen Situation, gerade in den USA, ist das schwierig. Jetzt, wenn wir dann den AI-Act dazunehmen, aus europäischer Sicht, der kratzt da ja nur dran. Also das ist ein netter erster Aufschlag. Stopp, an der Stelle. Du haust ja direkt raus und hat das Gefühl, du könntest da ganz viel zu sagen.
Eigentlich ging es ja erst mal um dich. Eigentlich haben wir gerade über das Thema nicht Kabarett, sondern eben halt auf der Bühne stehen, Spaß haben, das Leben genießen, den Martin kennenlernen, dass er auch Rechtsanwalt ist. Und dann sind wir nach Düsseldorf und jetzt warst du schon direkt, du warst genau da tief drin, wo wir nachher auch darauf einsteigen wollen. Vielleicht passend dazu, um die Menschen so ein bisschen abzuholen. Du sagst, da kommt ja viel Änderung auf uns zu. Künstliche Intelligenz verändert uns. Sehe ich auch in unserer Branche. Sagen sie nur nicht. Sie sind eher ruhig, alle um mich herum. Also so meine Gespräche mit vielen Menschen um mich herum.
Die sagen alle ja, also KI ist interessant. Aber was wir ja alles nun mal müssen, was sich nun mal zunächst nicht ändern, ist Steuerbezahlen. Und du kommst ja auch vor allen Dingen aus dem Steuerbereich. Du kennst dich damit ja auch aus. Hast auch mal, wenn ich das richtig sei, in einem MDAX-Unternehmen als kaufmännischer Angestellter gearbeitet. Du kennst also, wenn ich das richtig wiedergegeben habe, nicht nur die Paragraphen. Und durch künstliche Intelligenz und dein Interesse im Rechtsbereich zu diesem Thema, wo wir gleich darauf einsteigen wollen, kennst du ja auch die Unternehmerrealität. Und das ist halt auch für unsere Zuhörer interessant.
Also das heißt, die einen haben unfassbar Angst vor KI. Die anderen haben noch überhaupt keine Berührung damit. Die Dritten müssen einen Führerschein machen. Die Vierten kloppen einfach alles in die KI, was geht, damit nur ihr Arbeitsalltag erleichtert wird. Und irgendwo ist alles ein Stückchen Wahrheit. Jetzt wollen wir noch mal zurückgehen auf das Thema. Ich muss mich erst mal korrigieren. Also ich war natürlich niemals kaufmännischer Angestellter. Also ich habe ja immerhin zwei juristische Staatsexamina. Habe dann noch obendrauf gesetzt das Steuerbeiratsexamen. Ich bin Fachanwalt für Steuerrecht. Und in der Funktion war ich bei zwei MDAX-Unternehmen, unter anderem.
Ich war dann auch mal Geschäftsführer einer kleinen Untereinheit, die sich mit Intellectual Property beschäftigt hat. Und jetzt bin ich halt Kanzleiinhaber, Kanzlei Erlewein. Und das fließt alles zusammen. Und dann kam halt mit der DSGVO ein neues Rechtsthema, das mich auch angesprochen hat. Das war ja damals eine riesen Aufregung. Also alle hatten eigentlich zwei Jahre Zeit, sich darauf vorzubereiten. Nur keiner hat es gemacht. Und als es dann scharf geschaltet wurde 2018, da standen alle ohne Hosen da. Du meinst Datenschutz? Datenschutz, richtig, genau. Und über das Thema bin ich dann reingerutscht. Und habe dann über das Thema halt meine Mandantschaft gefunden, gerade im Bereich Online-Marketing, E-Commerce.
Und so hat sich das alles entwickelt. Und wie gesagt, inzwischen bin ich auch Fachanwalt für IT-Recht. Das heißt also, die ganze Bandbreite, alles was mit Computern, Daten und so weiter zu tun hat, das landet bei mir auf dem Schreibtisch. Urheberrecht, Markenrecht. Das hast du gerade alles ja, haben wir ja schon angerissen. Richtig, aber jetzt sagst du vor allen Dingen KI-Veränderung, Bill Gates, da hast du ja aus der Pistole geschossen, alles einmal auf den Tisch gepackt, was so relevant ist. Kurz zum Thema und passt auch dazu. Ich hatte vor ein paar Wochen ein Telefonat. Ein Kollege rief mich an, der zugegebenermaßen etwas älteres Semester ist.
KI ist ja für viele immer noch Neuland. Ich meine, Deutschland ist, Digitalisierung ist ja immer noch Neuland. Aber der rief mich an, völlig aufgeregt. Ich glaube, Ende Anfang August, wann war das, kam der neue EU-AI-Act. Alle wussten plötzlich nicht mehr, was sie tun sollen. Sie ließen plötzlich die Stifte fallen, Tastatur fallen, hätte ich beinahe gesagt. Ich mache nichts mehr mit künstlicher Intelligenz, das ist gefährlich. Also in diesem Fall, das war wirklich das Telefonat, wo ich ein bisschen grinsen musste. Natürlich einerseits auch, dass das absolute Verständnis hatte, weil wir in unserer Medienwelt natürlich auf der einen Seite erst mal ganz viel Sichtbarkeit für ein Thema machen, Clickbaiting betreiben und sagen auf der einen Seite gefährliche neue Welt oder schöne neue Welt, je nachdem, welche Definition man einholen möchte oder welche Meinung man einholen möchte.
Und auf der anderen Seite natürlich die Möglichkeiten, sich komplett neu aufzustellen, eben weil du ja aus diesen Fachbereichen neben dem rechtlichen auch noch Unternehmeridentität hast oder auch kennst. Ja, aber wie geht denn jetzt nun mal ein normaler Mensch, der nicht jeden Tag am Rechner sitzt und irgendwelche Marketing-Texte schreiben muss oder der sich mit Conversion-Optimierung, wie ich jetzt, oder Suchmaschinen-Optimierung, wie werde ich bei Google findbar oder diesen ganzen Kram. Lass mich das mal so ab, wirklich so bezeichnen. Wie geht denn ein normaler Mensch damit jetzt um, der einfach nur hört, ich arbeite in einem Unternehmen, ich muss den KI-Führerschein machen, habe sowieso eigentlich wenig Ahnung, Chat-GPT, die normale Version.
So, jetzt soll ich da keine E-Mail reinhacken, also so leicht verständlich. Und jetzt kommt der EU-AI-Act und der sagt, du, du, du, wenn du das jetzt machst, dann hast du ein ganz großes Problem. Wie hole ich den ab und wie bringe ich den jetzt wieder, ich will nicht sagen in Spur, ich finde das den falschen Begriff, sondern wie bringe ich den wieder zum Denken zurück, in eine Ruhe zurück, damit er wieder handeln kann? Ja, also dass der AI-Act dieses Jahr in Kraft getreten ist, ist nicht ganz richtig. Der ist 2024 schon in Kraft getreten. Was jetzt passiert ist, war am 2. August, da ist unter anderem der Artikel 50, das AI-Act, scharf geschaltet worden und bei dem geht es um Transparenz.
Das heißt also, man weiß ja oder der EU-Gesetzgeber hat zur Kenntnis genommen, dass KI in der Lage ist, Dinge vorzutäuschen. Zu manipulieren. Zu manipulieren, dass man halt mit Menschen zu tun hat. Also Stichwort Deepfakes, das ist natürlich was ganz Neuanlegendes. Heute Morgen im Radio, auf dem Weg hierher, war zum Beispiel ein Werbespot eines großen Lebensmitteldiscounters, der war mit einer KI-Stimme gesprochen und seit dem 2. August muss der dann den Disclaimer voransetzen, KI generiert. Tut er auch. Also ganz hektisch so KI generiert und dann kommt die, ja. Und die anderen Transparenzanforderungen, die es da gibt, ist halt, also ich muss erkennen, wenn ich dort mit dem Ergebnis von KI konfrontiert bin, das mir vorgaukeln könnte, dass ich es mit einem Menschen zu tun habe, dann muss das gekennzeichnet sein.
Also das ist Deepfake. Das heißt Ton, Bild und Video muss entsprechend gekennzeichnet sein. Okay, Frage an der Stelle. Jetzt bin ich in LinkedIn unterwegs. Jetzt gibt es natürlich viele, die sagen, ich habe keinen Bock, Inhalt zu schreiben, ist ja so anstrengend. Dann gibst du der KI, die du vielleicht so ein bisschen geschult hast, dem Agent, gibst du so ein bisschen Inhalt, Stichpunkt halt, ich mache mir einen Text raus, den kopiere ich, füge den ein und muss ich das kennzeichnen bei LinkedIn, Facebook oder sonst wo? Ja und da gibt dann natürlich auch wieder der entsprechende Artikel Auskunft und zwar musst du dann kennzeichnen, wenn du KI generierte hast, die veröffentlicht werden und für die Öffentlichkeit von Interesse sind.
Also bei Werbetexten ist es ja meistens nicht so wahnsinnig interessant. Es sei denn, du hast zum Beispiel irgendwelche Aussagen über Gesundheit, also irgendwelche Gesundheitsversprechen oder sonst was, die dann halt von so einem Deepfake mir nahegelegt werden, Entschuldigung, also der Text, der mir sowas nahelegt, von wegen diese Präparate sind besonders hilfreich oder sonst was, das ist von öffentlichem Interesse oder kann von öffentlichem Interesse sein. Es gibt das AI-Office, das wissen viele wahrscheinlich gar nicht, das ist eine Untereinheit unter der EU-Kommission und die beschäftigt sich gerade damit, diesen AI-Act mit Leben zu füllen, also wenigstens mal Guidelines rauszugeben, an welcher Stelle muss ich denn kennzeichnen und wie muss ich eigentlich kennzeichnen?
Das finde ich deswegen interessant, weil ich in den letzten Monaten mich auch sehr viel mit der EU beschäftigt habe. Das sind ja viele gute und viele schlechte Dinge, das müssen wir einfach mal so festhalten. Das ist auch mal Auslegungssache, subjektiv. So jetzt sagt die EU das erste Mal, wir geben dir ein AI-Act, damit wir wissen, wie wir mit dieser Thematik umgehen. Ich glaube, viele haben sich gedacht, oh Gott, die melden sich jetzt schon wieder zu Wort und eigentlich glaube ich gar nicht mal dran, dass das so gut ist. Und jetzt kommt aber raus, das hast du ja eben schon mal ausgepackt, dass wir eben darüber nachdenken müssen, dass künstliche Intelligenz unser gesamtes Leben in einer Art verändert, die wir noch nicht kennen.
Das heißt also, unter Umständen, ich meine, das ist auch noch ein Generationsthema, ich hatte das in der letzten Folge über Generation Z gesprochen, die sich am liebsten, ja ich sag mal, auf ihre Art und Weise selber prägen möchte und einen eigenen Geist entwickelt, was erstmal für eine Generation gut ist, aber natürlich für einen gewissen Teil Unternehmer sagt, oh Gott, das ist vielleicht auch anstrengend, wenn ich die eben halt fördern und fordern muss, aber es ist halt auch Veränderung, die sein muss. So, jetzt nutzen die künstliche Intelligenz, weil sie sich mit allem sehr einfach machen wollen. Jetzt kommt auf der anderen Seite eben so ein Guideline seitens der EU, der sagt, ja pass mal auf, also eigentlich, ich stelle mir jetzt gerade fest, KI ist auch gefährlich für uns, deswegen geben wir jetzt dir mal vor, wie du dich damit auseinanderzusetzen hast, sei es jetzt zum Beispiel der Führerschein, sei es jetzt zum Beispiel die Handlung, wie KI vielleicht künftig nicht mehr genutzt werden soll oder von der anderen Seite eigentlich, was ich viel wichtiger fände, wie geht denn eigentlich so ein Wissenschaftsteam bei Entropiq, OpenAI damit um, können die sich vielleicht auch mal an Dinge halten und vielleicht auch die AI im Zaum halten?
Ich glaube, wir können uns halt einfach nur nicht vorstellen, dass es vielleicht gar nicht geht, weil die AI selber was will. Das sind jetzt ganz schön viele Fragen, die du gestellt hast. Ich habe ja noch keine richtige gefragt, ich habe erstmal nur Aussagen hingesetzt. Ich ziehe da jetzt einfach mal die Fragen raus. Fangen wir erstmal bei dem tatsächlich Händelbaren an. Also wir haben ja zwar den KI-Act, aber wir haben auch immer noch den Datenschutz. Das heißt also, KI-Anwendung ist dann auch immer zu spiegeln, mit dem darf ich das eigentlich, weil ich verarbeite ja Daten. Also habe ich eine Einwilligung dafür oder habe ich ein berechtigtes Interesse dafür?
Das sind solche Sachen, die muss man sich fragen. Ansonsten ist man halt, auch wenn die KI als solches vielleicht in dem Augenblick nicht so kritisch ist oder auch gar nicht kritisch ist, also der AI-Act macht ja so eine Risikobewertung von das darf gar nicht bis zu das ist eigentlich, naja. Aber das kann ja kein Mensch, weil erstens wissen die das vielleicht gar nicht. Das können die Menschen, weil das steht ja im AI-Act drin. Ja, aber wer liest sich das denn durch? Ja, die entsprechenden Behörden. Ja, ja, aber eigentlich müssten ja das die Menschen im Unternehmen durchlesen, oder? Also diejenigen, die KI-Modelle entwickeln.
Ja. Und diejenigen, die KI-Systeme entwickeln. Ja. Zum Beispiel du. Die wissen ja auch, dass sie dann entsprechende Dokumentationen machen müssen und sich auch das Risiko vor Augen halten müssen. Was kann ich mit der Sache hier eigentlich anrichten? Und dann der Blick in den AI-Act zu sagen, wo stehe ich denn? Welche Pflichten habe ich denn? Das ist ja möglich. Für den Unternehmer ist es ja so, der muss seine Mitarbeiter einfangen. Also das ist ja so. Ein Mitarbeiter ist, ich sage es jetzt mal provokant, fast Herr Merz folgend, Mitarbeiter sind faul. Ja, also wenn ich eine Aufgabe habe, ich sage, das ist Satire, was ich gerade mache.
Wie gesagt, ich mache Stand-up-Comedy auch. So, aber natürlich geht die Tendenz da, so sich die Arbeit leicht zu machen. Das auf jeden Fall, egal ob faul oder nicht. Das heißt also, der Mitarbeiter ist unter Umständen bereit, einfach mal so das Umsonstmodul, die kostenfreie Version von JGPT da zu nutzen. Dann haut er irgendwelche personenbezogenen Daten rein und hat vielleicht noch nicht mal abgestellt, dass diese Daten dann für das Training des KI-Modells verwendet werden. Das heißt also, er hat Daten da reingespielt, die gehen in die USA. Frage, darf er das? Dann werden die im KI-Modell in irgendeiner Form verarbeitet.
Frage, darf er das? Das heißt also, die Verarbeitung, die da personenbezogene Daten betreffend stattfindet und die sich der Unternehmer unter Umständen zurechnen lassen muss, weil es ist ja sein Mitarbeiter, der da handelt, die geht unter Umständen an der DSGVO schonmals vorbei. Egal, ob der AI-Act da irgendwas zusagt oder nicht. Das heißt also, der Unternehmer muss denen schon Vorgaben machen. Der muss sich selber Gedanken machen, mit welchen Tools darf denn mein Mitarbeiter arbeiten und dann muss er den dann auch entsprechend da aufbinden. Der AI-Act sieht vor, dass ich als Unternehmer bei meinen Mitarbeitern KI-Kompetenz schaffe.
Das heißt also, das Thema muss auf jeden Fall aufgegriffen werden und für uns alle ist es okay. Stopp an der Stelle. Ja, das verstehe ich alles, aber ich glaube, wir werden da tatsächlich nicht wirklich abgeholt, finde ich. Wir werden deswegen nicht abgeholt, weil auf der einen Seite brauchen wir eine Art wilden Westen, damit wir uns erst mal entwickeln können in eine gewisse Richtung. Ich habe das ja selber. Ich berate Unternehmen, die sagen halt, wir haben mit AI jetzt mal was gemacht, mit künstlicher Intelligenz und die tippen dann irgendwas in Chat-GPT ein und geben mir dann plötzlich, ja mach das so. Und dann sage ich so, nein, warum sollte ich?
Ja, weil ich da meine, natürlich sagen die Leute dann natürlich nicht, dass sie das aus Chat-GPT haben, aber es kam nachher raus, war dann der Verlauf und es war eigentlich nur die Spiegelung von der Meinung eines Unternehmers zu einem Thema und auf der einen Seite finde ich das gut, weil er versucht, sich selber zu challengen. Jetzt spiegelt KI natürlich am Anfang, wenn ich es nicht richtig schule und erzählt dann irgendeinen Mist, der vielleicht nur zu 50 Prozent stimmt. Kann ich jetzt nicht beurteilen, aber er muss es ja auch erst mal ausprobieren. Er muss ja auch erst mal verstehen, wie das Ganze funktioniert.
Da muss ja erst mal dieser Aha-Effekt kommen. Das heißt, natürlich braucht er Rahmen, in dem er sich bewegen kann, damit rechtlich kein Schaden genommen werden kann, wie zum Beispiel eine E-Mail-Adresse, die ich dann da einsetze. Auf der anderen Seite dann natürlich irgendwann später zu sagen, okay, jetzt müssen wir als EU oder vielleicht einfach mal als Deutschland definieren, das ist der Rahmen, in dem wir die KI auch benutzen können, ohne dass irgendjemand um uns herum Schaden nimmt, sei es durch Deepfakes, sei es durch falsche Anwendungen, sei es durch Datenversand. Ich finde das gut mit dem Thema EU-AI-Act. Eben, ich glaube, vorher hätte ich gesagt, ja, lass uns doch einfach den Wilden Westen erst mal überleben.
Wir müssen ja erst mal schauen, wohin wir gehen. So, und jetzt kommt die Aussage von Jacob Coxon, der aufgehört hat, die KI könnte uns, ich weiß nicht, ob es wirklich könnte war, aber ich könnte einfach mal vermuten, bis 2030 als Menschheit töten. Das war die klare Aussage. Vor ein paar Tagen ist ein anderer Forscher ausgestiegen, der das Gleiche gesagt hat. Und wenn man Steven Bartlett, das ist ein anderer Podcaster aus Amerika, so ein bisschen verfolgt, der hatte auch jemand, der war von OpenAI, der hat, wenn man aufmerksam zugehört, hat Pausen gemacht im Gespräch, um nachzudenken, was er sagt, weil er, Steven, das eigentlich eher ungeschnitten zeigt.
Und er hat genau das Gleiche mit anderen Worten gesagt. Das heißt also, es ist schon wichtig, dass wir einen Rahmen stecken, sonst passiert wirklich irgendetwas, was wir nicht mehr beherrschen können. Also, ich denke dann immer an Terminator. Also, für die jüngere Generation, da geht es dann um Roboter, die dann irgendwie die Menschen umbringen in einem Film. Also, ganz kurz gesagt, das war damals mit, ich, wer war, war das nicht Arnold Schwarzenegger? Wer war das? Können wir beim Thema bleiben, David. Ja, das war Arnold Schwarzenegger. Der erste Teil war Anfang der 80er und dann. Ja gut, aber die jüngere Generation wüsste es nicht, aber das ist so ein bisschen, man guckt sich einen Film an.
Liebe jüngere Generation, guckt den Film, der ist schon ganz nett. Ich würde euch den Film Minority Report mit Tom Cruise ans Herz legen. Da geht es noch ein bisschen weiter. Da ist auch eine Sache, da sind ja diese Begabten, die da in diesem Teich liegen oder in diesem Becken liegen. Könnte auch die Matrix sein. Die ahnen dann Verbrechen voraus, die in Zukunft geschehen. Das könnte man tatsächlich auch mit KI machen. Und wenn man sich zum Beispiel anguckt, wie in China KI eingesetzt wird, nämlich mit Gesichtserkennung, mit dem ganzen, ich mache hier ein Profiling von A bis Z, dann sehe ich natürlich auch Menschen, die irgendwelche Verstöße schon begangen haben und vielleicht eine Tendenz zeigen.
Das heißt also, das ist gar keine Zukunftsfiktion mehr. Ja, stopp, da muss ich rein, weil China ist gar nicht so schlimm, wie uns suggeriert wird. Das kann ich direkt von vornherein sagen. Das können wir beide, glaube ich, nicht beurteilen. Ja und nein. Also ich habe mit Unternehmen genau auf Basis dessen gesprochen, weil wir schon mal ein Interview hatten mit einem Kollegen, der das gesagt hat. Es gibt tatsächlich gewisse Profilings, das ist richtig, aber es ist nicht so schlimm, wie uns es erzählt wird. Das ist das eine. Ich muss das vielleicht aus Vorsichtigkeit so sagen. Die zweite Sache ist, ich bin jetzt schon ein paar Mal in Katar gewesen, aus persönlichen Gründen, und da ist das genauso.
Also Katar sorgt natürlich auch durch gewisse Kontrollen dafür, dass eben halt kein Blödsinn getrieben wird. Ich glaube, dass sehr viel Gutes dahinter steckt. Die Voraussetzung, selbst bei künstlicher Intelligenz und bei der Nutzung solcher Systeme, ist doch immer, wer hat den Hebel in der Hand und wer nutzt es für was. Und da darf man auch sagen, dass hier in NRW wir bereits Palantir einsetzen, um gewisse Kriminalitätsstatistiken in den Griff zu bekommen. Lass mich das mal so definieren. Das heißt ja im Hintergrund, ich würde es so formulieren, das heißt aber, es ist ja der Fakt, geht bei mir ja sofort die Grundrechtsfrage hoch.
Aber die will ich ja hier jetzt nicht stellen. Ja, die muss aber gestellt werden. Also die beiden Beispiele China und Katar, da reden wir über Autokraten, Systeme, wenn nicht sogar Diktaturen. Wir leben jetzt hier aber in einem Rechtsstaat, der immerhin ein Grundgesetz hat und in dem stehen Grundrechte. Das stimmt. Also Palantir, ja es ist richtig, Palantir wird von der nordrhein-westfälischen Polizei, ich weiß nicht in welchem Bereich, eingesetzt. Das sieht die KI aber auch, also der AI-Act sieht tatsächlich vor, dass auch wenn zum Beispiel Realtime-Gesichtserkennung verboten ist und auch diese Vorahnung nach dem Motto, der könnte mal straffällig werden.
Was ist denn das? Also mir wird vorgeworfen, du könntest nächste Woche jemanden umbringen, ohne dass irgendwas auf dem Tisch ist. Ja, da bist du wieder bei dem Film. Nein, nein, nein, das ist genau der Ansatz, den hier auch der AI-Act wählt. Also aufgrund meines Profiles, ich bin halt mit allen möglichen Datenpunkten dort erfasst und dann wird dann ein Persönlichkeitsbild gebildet oder sowas. Dann wäre es doch auch naheliegend zu sagen, das ist ein Gefährder, den sperren wir einfach mal vorsorglich weg. So und dann sind wir mit der Demokratie durch und deshalb sieht natürlich der AI-Act auch entsprechend vor, dass das nicht sein kann.
Und auch der Parlamentäreinsatz, der ist dann ja zur Aufklärung und unter Umständen auch schon zur entsprechenden Fahndung und solche Geschichten. Aber das muss von den Gerichten freigegeben werden. Das ist ein ganz anderes Feld als das, was hier vielleicht in China. In Asien ist es nicht so ungewöhnlich, dass du in den Laden reinkommst, dann wirst du gescannt und wirst du halt entsprechend gerastert nach dem Motto, du bist ja gut ein Asiate, mit dem Geschlecht, das und das Alter. Ich weiß nicht, was noch für Datenpunkte da erheben und auswerten, aber dann kriegst du auf Displays schon die entsprechende passende Werbung.
Da träumen wir hier nur von, das ist nicht möglich. Ja und das finde ich irgendwie auch gut, weil wir uns das Menschsein ja vorbehalten wollen. Martin, wir können glaube ich jetzt noch und ich merke, das ist eine total angeregte Diskussion. Mir ist es wichtig, dass wir, ich finde das echt richtig spannend, nur wir müssen halt so ein bisschen auf die Zeit achten und ich merke, dass wir das auf jeden Fall noch mal wiederholen sollten, um zusammenzukommen. Wie sieht der Stand zum Beispiel nächstes Jahr aus? Hat sich da was verändert? Kannst du von deiner Seite aus in kurzen Sätzen vielleicht einen Tipp an unsere Leser geben, was sie jetzt machen sollten?
Ja, also je nachdem, was die Leser, Zuhörer und Leser, Zuschauer, Leser, wer auch immer, also die Konsumenten unseres Inhalts hier, je nachdem, was sie tun, müssen die sich mehrere Gedanken machen. Also die sollten erst mal eine Aufnahme machen, an welcher Stelle habe ich denn überhaupt KI- Berührungspunkte und dann auch, mit welchen Daten gehe ich eigentlich um. Und selbst, wenn ich solche großen Bezahlsysteme wie Claude oder OpenChatGPT oder sowas irgendwo einbinden will, das geht tatsächlich auch datenschutzkonform. Also es geht ja darum, sind die Systeme in den USA oder sind die zum Beispiel das KI-Modell selber in Frankfurt bei der Telekom gehostet?
Da gibt es auch diese Variante. Das heißt also, dass die Produkte, die man hier sich ranzieht, also nicht einfach nur, ich gebe da OpenAI ein, ChatGPT und dann haue ich da irgendwas rein, sondern man sollte sich halt Gedanken machen, was tue ich da? Und wie gesagt, man sollte, wenn man Mitarbeiter hat, denen auch die entsprechenden Vorgaben machen, weil das ist auch für die besser. Ja klar, Sie wissen es auch, wollte ich gerade sagen, Sie wissen es vielleicht nicht. Weil sonst laufen die abends aus deinem Büro raus und denken sich, heute habe ich hier einen arbeitsrechtlichen Verstoß begangen. Na ja gut, sie wissen es ja vielleicht im ersten Moment gar nicht.
Wir sind ja Menschen, wir fangen ja an. Also ich kenne genug Leute, die versuchen, anständig zu sein und zwar rund um die Uhr. Und wenn die dann verunsichert sind, dann ist das auch nicht gut fürs Arbeitsklima. Also die brauchen da auch jemanden, der ihnen das vorgibt. Und ansonsten würde ich sagen, Ruhe bewahren. Also bei den kleinen Sachen zu den Deepfakes und zu den generierten Inhalten. Es ist zwar so, dass ich als Nutzer, als Betreiber eines KI-Systems, also nehmen wir mal an, ich generiere da immer meine Newsletter mit sowas. Dann kann ich erstmal davon ausgehen, okay, da muss ich jetzt nicht reinschreiben, KI generiert.
Aber da sind vielleicht irgendwelche Bilder noch drin. Dann muss ich es reinschreiben? Nein, da muss ich es auch nicht reinschreiben, sondern dann ist die Pflicht nämlich beim Anbieter. Das heißt, der Systemanbieter muss sicherstellen, dass diese Inhalte, das ist irgendwann ein Bild oder eine Tonspur, ja nur wenn klar erkennbar ist, dass es kein Mensch ist, die müssen gekennzeichnet sein. Und zwar nicht unbedingt offensichtlich, sondern maschinenlesbar. Da gibt es dann halt verschiedene Ansätze. Das führt jetzt zu weit. Und dann muss ich auch überprüfen, ob mein Anbieter denn seinen Pflichten nachkommt. Weil ich könnte mir gut vorstellen, dass da ein Haftungsdurchgriff erfolgen kann.
Also der AI-Act sieht auch Bußgelder vor und bei Verstößen ist es nicht so abwegig zu sagen, da könnte der Wettbewerber dann auch auf die Idee kommen, eine Abmahnung zu schreiben. Also das, was bei der DSGVO am Anfang so wahnsinnig hoch gepusht worden ist, das will ich jetzt gar nicht so hoch aufhängen. Aber bei der DSGVO ist inzwischen auch klar, es gibt Verstöße, die sind auch abmahnfähig. Okay, das sind genau die Themen, die wir, glaube ich, beim nächsten Mal vertiefen können. Martin, zum Abschluss würde ich dir noch eine einzige Frage stellen, die jetzt nichts mit künstlicher Intelligenz zu tun hat und auch nichts mit Rechtsfragen und auch nichts mit Kabaretten.
Also du musst doch nicht über den Tisch rutschen. Ich bin kein Fußballfan. Nein, die Frage stelle ich jedem meiner Gäste. Und zwar, wer bist du ohne deine Position und ohne deinen Namen? In kurzen Sätzen. Ich bin jemand, der sich im Laufe seines Berufslebens, glaube ich, sehr, sehr verändert hat, ich hoffe, zum Besseren weiterentwickelt hat, der seinen Job deshalb mag, weil ich Probleme lösen darf mit anderen Leuten zusammen. Das heißt zwar immer, der schlimmste Feind des Anwalts ist der Mandant, aber ich habe zum Glück fast nur Nette. Muss er jetzt sagen. Und ja, was bin ich sonst noch? Ich bin Vater, ich bin kreativ.
Also das habe ich gemerkt, das weiß ich auch. Martin, ich danke dir dafür, dass du heute hier Gast gewesen bist und ich wünsche mir, dass du noch mal wiederkommst, weil wirklich dieser Diskurs auch, ich habe ja nicht so viel Ahnung, was das Thema Recht und KI betrifft wie du, das hier auch für unsere Gäste, Zuschauer und Zuhörer bereitzustellen, ist eine tolle Sache. Danke noch mal an der Stelle. Und wenn ihr wollt, dass solche Gäste, solche Menschen in unseren Podcast kommen, dann lasst auf jeden Fall ein Abo da und dann wisst ihr das nächste Mal Bescheid und bekommt weiterhin solche tollen Gäste zur Verfügung gestellt.
Ich bedanke mich fürs Zuhören, Zuschauen, wo auch immer du Podcast Triebwerk jetzt gefunden hast und freue mich auf das nächste Mal.