Mareike Donath
Liebe Hörerinnen und liebe Hörer, herzlich willkommen zu einer weiteren Podcast-Folge vom digitalen MV. Im Vorfeld unserer großen Digital-Convention der NØRD 2024, vom 29. Bis zum 30. Mai in der Hansemesse Rostock, tauchen wir heute ein wenig ab in die Welt der Informatik und Digitalisierung. Welche Rolle spielt eigentlich die Informatik beim digitalen Wandel und wie wird sie selbst von der digitalen Transformation geprägt? Welche, auch ethische Verantwortung tragen Informatikerinnen und Informatiker eigentlich in diesem digitalen Zeitalter? Mein Name ist Mareike Donath und ich bin die Leiterin der Stabstelle Digitaler Wandel im Innenministerium des Landes Mecklenburg-Vorpommern und ich habe mir heute Frau Professorin Alke Martens von der Universität Rostock eingeladen. Alke Martens ist Professorin für Praktische Informatik und Didaktik der Informatik. Alke, schön, dass du da bist, aber stelle dich doch gern selbst einmal kurz vor.

Alke Martens
Hallo Mareike, danke für die Einladung. Ich freue mich ganz doll, heute hier zu sein. Ich bin Alke Martens. Ich bin Professorin für Praktische Informatik und Didaktik der Informatik an der Universität Rostock. Ich bin Institutsdirektorin und Studiendekanin zurzeit und habe noch ganz, ganz viele andere Ämter. Aufsichtsrat vom digitalen Innovationszentrum zum Beispiel, ne, Mareike? Ich bin alleinerziehende Mutter von zwei Kindern, die noch nicht Flügge sind und habe außerdem noch einen großen Hund zu Hause. Das heißt, mein Plan ist nicht nur arbeitsmäßig extrem voll, er ist auch privat sehr voll. In meiner Freizeit schreibe ich Romane, habe einen privaten Podcast, mache Coachings. Also Langeweile gibt es bei mir überhaupt nicht. In Rostock bin ich tatsächlich schon seit dem Jahr 2000, also richtig, richtig lange. Ich bin damals als Doktorandin mit meiner Doktermutter Professor Uhrmacher hierhergekommen von Ulm, aus dem Forschungsfeld Künstliche Intelligenz und Modellbildung und Simulation und ich habe quasi Stunde eins KI mitgemacht schon. Bin dann hier aber sehr schnell auch in die Lehrerausbildung gegangen, vor allen Dingen deswegen, weil Mecklenburg-Vorpommern das Land der Informatik-Lehrerausbildung Nummer Eins ist, sozusagen. Also wir sind diejenigen, die im Lehrplan Informatik ab der fünften Klasse inzwischen verankert haben. Das ist bei uns ein enormer Gewinn. Das heißt also, ich bilde ganz normale Informatikerinnen und Informatiker aus und Lehrerinnen der Informatik und Lehrer der Informatik. Das ist so ein bisschen das Berufsprofil, Forschungsprofil und Ziel ist bei mir vor allen Dingen aus dem Bereich künstliche Intelligenz, Bereich intelligent unterstütztes Lehren und Lernen. Das heißt, wenn wir so digitale Lehr-und Lernsysteme haben, können wir den Computer dazu nutzen, das bestmöglich an die lernende Person anzupassen. Ich arbeite aber vor allen Dingen in den letzten Jahren massiv auch in der Ethik der künstlichen Intelligenz. Ich bin da so ein bisschen über meinen, ich sage es mal so vorsichtig, Dauergemecker über den Umgang mit Datenschutz, über den Umgang mit Modellvorstellung und so weiter. Habe da auch einige aktuelle Vorhaben, die das Thema auch im Land noch weiter vertiefen sollen. Und natürlich alles, was so mit Didaktik zu tun hat, das fällt auch alles auf meinen Schreibtisch.

Mareike Donath
Alke, ein enormer Blumenstrauß. Es hört sich so leicht an, an was du alles arbeitest. Ich würde mich freuen, wenn wir die eine oder andere Blume, den einen oder anderen Gegenstand, noch mal rausnehmen. Und gerade wo du gesagt hast, KI der ersten Stunde, wie sah das aus? Womit hast du dich da befasst? Und jetzt sind es 20 Jahre später. Da ist unheimlich viel passiert sein. Ganz klar, aber wie muss man sich Stunde eins vorstellen? Was waren so deine täglichen Themen rund das Thema KI?

Alke Martens
Na ja, angefangen hat das Ganze ja noch viel früher. Ich habe im Studium an der Uni Hildesheim noch keine künstliche Intelligenz gehabt. Wir haben sehr viel theoretische Informatik gemacht und ich habe mein Studium auch im Anwendungsgebiet Medizin vor allen Dingen verortet. Das heißt, da ging es vor allen Dingen um medizinische Bildverarbeitung, medizinische Informationssysteme, medizinische Dokumentation. Eins der ganz frühen Projekte während meines Studiums war gewesen, dass Krankenwagenfahrerinnen, Krankenwagenfahrer in Papier Bögen ausfüllen, wenn sie einen Patienten oder eine Patientin in die Klinik bringen. Und das ist natürlich erstmal sehr ruckelig in dem Wagen, dann dauert das relativ lange und das ist auch sehr unerfreulich, wenn dann bei der Übergabe in der Klinik erst noch dieses Papier von A nach B geschoben, gelesen und entziffert werden muss und so weiter. Und da gab es noch keine Handys und nichts. Also gab es schon, aber hatte kein Mensch. Da haben wir dann ein Formular erstellt, wo man einfach draufklicken konnte. Das war keine KI, aber heute fällt es in eine Ecke, die sehr wohl von KI mit bearbeitet werden kann. Ich bin dann an die Universität Ulm gegangen in einen Lehrstuhl von Professor Henke. Da war vor allen Dingen künstliche Intelligenz Thema und wir haben vor allen Dingen damals auf der Basis von wissensbasierten Expertensystemen gearbeitet.

Das bedeutet, wenn wir uns die Welt der künstlichen Intelligenz angucken, dann haben wir – ich sage das jetzt mal ganz, ganz stark vereinfacht – zwei große Felder. Das eine sind Verfahren, die mathematisch getrieben werden, wo also wie zum Beispiel bei dem ChatGPT-Programm, ganz vereinfacht gesagt, ein Statistik, ein Statistisches Verfahren für eine Wortwahrscheinlichkeit in der Folge gibt. Das heißt, das, was im Computer ist, sind tatsächlich dann nur noch Zahlen. Die andere Art, und das war die, mit der wir angefangen haben, waren Verfahren, die mit Fakten und Regeln arbeiten. Das heißt, man hat zum Beispiel medizinische Fakten, so was wie „Schnupfen, Husten, Heiserkeit, spricht mehrheitlich für eine Erkältung. Das ist dann Erkältung als Diagnose. Solche Systeme gibt es tatsächlich schon seit den 1970er Jahren und die sind eingesetzt worden um das Lernen zu unterstützen. Und das kann man sich dann so vorstellen, dass die lernende Person an einem Rechner sitzt, einen zum Beispiel medizinischen Lehrfall bekommt. Also Frau Müller sitzt vor ihnen und die Augen laufen ganz doll und „Was machen Sie jetzt? Und dann kann diese Personen verschiedene Sachen auswählen. Und der Scham dabei ist, dass wir ganz stark etabliert haben, das Lernen aus Fehlern. Das bedeutet zum Beispiel, solange man eine bestimmte Frage nicht gestellt hat, ist noch nichts falsch.
Also ein Mensch mit einer Blinddarmentzündung, braucht natürlich den Blinddarm, diese Diagnose, Blinddarmentzündung zu bekommen. Die Diagnose ist so lange richtig, bis man diesen Patienten gefragt hat: Haben Sie denn Ihren Blinddarm überhaupt noch? Und der Patient sagt dann nein. Und in dem Moment wird die Diagnose natürlich falsch. Das heißt, wir haben versucht, das sehr, sehr realitätsnah aufzubauen und haben das auch ganz hervorragend geschafft. Diese Art Systeme sind heute noch in einer ähnlichen Struktur in der Entwicklung. So was Ähnliches haben wir jetzt auch in den folgenden Exzellenzinitiative Projekten wieder vor. Das heißt also, das Feld, ist nicht geschlossen. Wir arbeiten aber natürlich zunehmend mehr auch mit diesen sogenannten neuronalen Netzen. Das sind diese mathematisch basierten Verfahren. Und da kommt jetzt auch die Ethik sehr stark rein: Wollen wir wirklich alles, was wir können? Natürlich können wir in dem Computer Emotionen abbilden, so wie wir sehr krass mechanistisch Emotionen beschreiben. Das heißt dann aber nicht, dass der Computer Emotionen hat. Jetzt müssen wir uns aber überlegen, was passiert mit Menschen, die mit diesem Computer arbeiten und den Eindruck haben, dieser Computer hat Emotionen. Das ist so, als wenn man dem alten Herrn der Abend sein Auto noch mal poliert, bevor er es in die Garage fährt, dann sagt: „Dein Auto hat keine Gefühle.”

Der würde das glatt abstreiten. Und wenn wir dann an den Punkt kommen, wo wir Maschinen so gebaut haben, dass Menschen damit nicht mehr zurechtkommen, dass es Maschinen sind – und das haben wir teilweise schon erreicht. Dann, finde ich, wird das wirklich heikel.

Mareike Donath
Ich denke, beim Zuhören, ich wäre sozusagen jetzt kurz nach meinem Abitur und überlege, was ich mache. Da hätte ich echt Lust, zu euch zu kommen, mich damit zu zu setzen und zu studieren. Wie muss man sich ein Studium dann bei dir vorstellen?

Alke Martens
Also zum einen, für alle Leute, die jetzt zuhören, die so ab der zehnten Klasse sind, geht mal auf die Seite Juniorstudium. Es gibt von der Universität Rostock ein Angebot, wo Schülerinnen und Schüler ab der zehnten Klasse verschiedene Fächer an der Universität Rostock quasi echt studieren können. Das heißt, es gibt Vorlesungsaufzeichnungen. Das Ganze wird begleitet in Kleingruppen durch Tutorinnen und Tutoren. Das sind erfahrene Studierende aus der Uni. In einigen Fächern kann man sogar Leistungsscheine erwerben, die man später in Rostock an der Uni auch anerkennen lassen kann. Also für alle, die irgendwie das Gefühl haben, „Wow, Informatik ist eine coole Sache, ich kann mir überhaupt nichts darunter vorstellen, schnuppert rein, hört euch die Vorlesung an. Super, super, spannend. Ich bin zur Informatik gekommen wie die Jungfrau zum Kind. Ich hatte eigentlich nach dem Abitur so gepflegt, mal absolut keine Ahnung, was ich machen soll. So wirklich gar nicht. Ich habe dann irgendwie gedacht: „Okay, machst du Medizin? Und dann habe ich mich aufs Medizinstudium beworben, hätte auch einen Studienplatz gekriegt und habe dann irgendwie mich mit Leuten unterhalten, mit den Eltern von Freundinnen und Freunden unterhalten. Da waren sehr viele Ärzte dabei und Ärztinnen. Und dann habe ich gedacht: Oh Gott, willst du wirklich so arbeiten?
Und damals gab es noch Tierversuche im Medizinstudium. Da hatte ich ein riesig großes Problem mit gehabt. Es ist so gar nicht meins, das geht gar nicht. Ich rette sogar Regenwürmer von der Straße. Und dann habe ich herumgesucht und herumgesucht und habe dann am Ende festgestellt: Okay, es gibt da was ganz komisches, von dem ich überhaupt nicht weiß, was es ist: Informatik mit Nebenfach Medizin. Und da hatte ich dann quasi so ein bisschen Medizin drin. Dann habe ich in Hildesheim angefangen zu studieren. Es hilft natürlich, wenn man Mathe kann. Ich war jetzt nicht so die Leuchte in Mathe, es hat mir nicht geschadet. Endete dann damit, dass ich nach einem Jahr alle Medizinscheine hatte, weil mir das extrem leicht fiel und keinen Informatikschein und dann dachte ich: Das ist jetzt doof? Damit ich das richtig beurteilen kann, muss ich noch mal weitermachen. Und dann habe ich wirklich einen Narren an dem Fach gefressen und das hat mich massiv geformt in die Richtung, dass es ein unglaublich interdisziplinäres und unglaublich analytisches Fach ist. Wenn man bei uns durch diese Schule der Informatik sozusagen geht, dann wird man im Geiste geformt und geschärft. Man wird eine Art Super-Analytiker. Das heißt, man kann Systemzusammenhänge sehr schnell erkennen, man kann sehr schnell Strukturen erkennen, man kann sehr schnell zugrunde liegende Eigenschaften von Situationen oder Dingen erkennen.

Und das ist im Grunde das Herzstück der Informatik, die Basisstrukturen erkennen, herausarbeiten und sie dann natürlich in irgendeinen Formalismus gießen, in irgendeine Programmiersprache gießen und das Ganze dann zum Laufen bringen. Und das hat einen ganz eigenen Zauber. Es ist ein bisschen eine Kunstwelt natürlich, aber es ist auch sehr charmant. Habe ich dich jetzt abgeschreckt, Mareike?

Mareike Donath
Überhaupt nicht, überhaupt nicht. Die Faszination dafür beginnt ja auch schon viel früher. Ist ja das Tolle, dass ihr sozusagen Multiplikatoren ausbildet, die ebenfalls schon früh in der Schule das Feuer legen, sich damit auseinanderzusetzen, einfach auch zu hinterfragen lernen: Was nutze ich da für eine Anwendung, dass seh ich bei meinen Kindern auch. Dieses, wo kommt Information her? Wie geht man damit um? Wir sind Vorreiterland. Hast du kurz erwähnt. Beschreibst du, warum?

Alke Martens
Also das, was wir gehabt haben. Ich habe ja hier verschiedene Stationen gehabt. Dann war ich einige Jahre in der Pädagogischen Hochschule Schwäbisch Gemünd. In Baden-Württemberg ist es noch so, dass dieses universitäre System für Lehramt geteilt ist in das, was hier Gesamtschule heißt, da eben Haupt-und Realschule an der PH studiert wird und dann Gymnasial an der Universität und zum Teil an der PH noch. Diese Struktur haben wir in Mecklenburg nicht und ich habe bereits als Juniorprofessorin hier die Lehramtsausbildung mitverantwortet und da bin ich bereits in ein weiches Nest gefallen, weil es schon aus der DDR kommt, hier die Informatiklehrerausbildung gab. Und wenn wir aufs Bundesgebiet schauen, wir haben bei uns im Flur so eine wunderbare Grafik hängen und da steht so: Wo haben wir Informatik? Wo haben wir Informatik nicht? Und es ist tatsächlich so, dass Mecklenburg-Vorpommern mit der Informatik ab Klasse 5 im Lehrplan eine Vorreiterrolle hat. Also Sachsen ist noch sehr weit, Bayern ist noch sehr weit. Alle anderen Bundesländer bauen das jetzt auf. In den letzten Jahren sind dort vielfach Professuren für Didaktik der Informatik geschaffen worden. Für andere Lehramtsfächer gibt es sogenannte Rahmenpläne, die das Land immer vorgibt, gemeinsam natürlich mit den Fachdidaktikern und den Bildungswissenschaftlerinnen und Bildungswissenschaftern.
Für Informatik gab es solche Rahmenpläne per se erstmal nicht vom Land, sondern es gab von der Gesellschaft für Informatik eine Empfehlung, die als Rahmenplan genutzt wurde. Man kann sich vorstellen, in den 70er Jahren war überhaupt noch nicht klar, was Informatik als universitäres Fach sein soll. Entsprechend ist es eben auch nicht klar gewesen, was soll jetzt in der Schule gelehrt werden? Und es gab eine Zeit lang die Idee, dass unbedingt in den Schulen Programmieren gelernt werden muss. Und wenn die Schülerinnen und Schüler dann Programmieren lernen, das haben wir dann etwas später, also wir, die Kolleginnen und Kollegen, da war ich noch nicht im Dienst, etwas später erkannt: Das ist ein großes Problem. Beispielsweise habe ich in meinem Studium Modular und Lisp und Small Talk gelernt. Das sind Sprachen, die benutzt heute kein Mensch mehr. Und Ähnliches passiert natürlich auch in der Schule. Die Frage kam dann: Was wollen wir denn vermitteln? Dann haben wir eine Zeit gehabt, wo wir gesagt haben, wir wollen vor allen Dingen das objektorientierte Denken vermitteln, weil es in der Informatik so eine Art Paradigmenwechsel war zu diesem objektorientierten Denken. Und das kann man sehr gut vermitteln anhand von Textverarbeitung und Tabellenkalkulation.

Mareike Donath
Also objektorientiertes Denken? Ich glaube, das musst du noch einmal erklären.

Alke Martens
Wir haben in der Informatik früher so gearbeitet, dass wir den Problem Anfang genommen haben und dann das Problem bis zum Ende durchgearbeitet haben. Und jetzt kann man sich vorstellen, wenn wir zum Beispiel da drinnen eine Wurzel ziehen müssen, innerhalb dieses Problems. Ich meine jetzt nicht die Zahnarzt Wurzel, sondern die mathematische Wurzel. Wir fangen an und wir hören auf und irgendwo müssen wir auch das Wurzel ziehen Problem  lösen. Hat die Informatik relativ früh schon erkannt, das ist ja blöd, weil Wurzel ziehen ist ja immer das Gleiche. Das heißt, wir haben das outgesourct und haben gesagt: „Okay, wir haben jetzt hier so eine kleine Bibliothek, mit der kann man Wurzel ziehen. Und hier ein Stück Source Code, mit dem kann man das machen, hier ein Stück Source Code, mit dem kann man das machen. Und in dieser Welt ist es so entstanden wie so ein Puzzle, dass man im Grunde immer kleine Objekte zusammen packt und dann aus diesen kleinen Objekten ein Bauwerk macht, was dann ein Source Code ist. Also man programmiert heute nicht mehr so, dass man bei A anfängt und bei Z aufhört, sondern man programmiert so, dass man sagt: Okay, hier ist ein Buchstabe, hier ist eine Zahl, hier machen wir ein Wort. Das Wort taucht immer wieder auf, das können wir wieder benutzen. Und so hangelt man sich durch. So wie man in einer Textverarbeitung zum Beispiel sagt: Färbt das Wort ein oder Färbt den Absatz ein oder Färbt den Satz ein, dann gibt es immer solche Objekte, die man einfärben kann. Weißt du, was ich meine?

Mareike Donath
Total. Die Strategie dahinter ist ja ähnlich, ob ich jetzt klassisches Projektmanagement habe oder agiles Projektmanagement, wo ich sage: „Ich hangel mich jetzt von Problem zu Problem, ohne sozusagen das gesamte Projekt aufzusetzen, wie auch immer. Oder man sourced bestimmte Dinge aus, was du auch im Unternehmen ja machst. Was ich ja so spannend finde, sind so viele der Kenntnisprozesse. Es ist ja das Rad irgendwie nicht neu erfunden, sondern man bedient sich seiner Umwelt, was man erlebt und ist ja ganz viel, was bei euch entsteht und möglicherweise umgekehrt, was bei euch entstanden ist, zu sagen, warum nicht auch transformieren in die Alltagswelt?

Alke Martens
Um das noch mal zu beenden von dem Lehramtstudium her: Die erste Welle war Programmieren lernen, die zweite Welle war Objektorientierung und jetzt sind wir immer mehr dahin gekommen und das ist jetzt das, was wirklich bei uns an der Uni entstanden ist. Der Lutz Helmich, mein Mitarbeiter Dr. Helmich, hat zusammen mit dem Land einen neuen Rahmenplan entwickelt und in diesem neuen Rahmenplan geht es zum Beispiel darum, algorithmisches Verstehen bei den Schülerinnen und Schülern zu trainieren. Wir möchten die Schülerinnen und Schüler darin schulen, dass das, was sie dort benutzen, ein mechanisches Gerät ist. Also es ist keine höhere Macht, sondern es ist ein Algorithmus, den man analysieren kann. Und es ist sehr, sehr wichtig zu erkennen, dass dieser Algorithmus eben auch von bestimmten Leuten mit einer bestimmten Idee entwickelt worden ist. Ich muss jetzt gar nicht von TikTok oder Social-Media-Kanälen anfangen. Wenn dahinter Algorithmen sind, die Menschen mit einer bestimmten Zielrichtung programmiert haben, dann müssen Kinder in die Lage kommen, das zu verstehen, was ein Algorithmus ist und was es bedeutet, dass sie sich quasi diesem Algorithmus unterwerfen, also dass sie die Dinge tun, die der Algorithmus – jetzt vermenschliche ich das sogar – der Algorithmus selber will überhaupt nichts, sondern das tun, was die Menschen die den Algorithmus geschaffen haben von ihnen wollen, was sie tun.

Mareike Donath
Es ist eine Regel, die irgendwie aufgestellt wird und wonach gehandelt wird und wo liegt es mit deinem Handeln in dieser Regel?

Alke Martens
Genau. Das ist gerade ganz witzig. Es gibt eine politische Aktivistin, die neuerdings in Instagram leicht bekleidete Bikini-Reels, also so kleine Mini-Filmchen, reinstellt, ihre politischen Statements loszuwerden. Und das tut sie deswegen mit Bikini, weil der Instagram-Algorithmus insbesondere Bikini-Bilder extrem oft abspielt und auch sehr stark nach vorne in die Listen spielt. Also ich weiß nicht, wer es nicht kennt: Man kriegt jeden Tag neue Beiträge, man kriegt permanent neue Beiträge und der Algorithmus sucht immer aus von dem, was er glaubt, was zu dir als Nutzerin oder dir als Nutzer passt. Und die Welt mag schlecht sein, aber Frauen in Bikini laufen einfach in diesem Algorithmus. Das ist immer der Klassiker. Die Algorithmen sind von Männern geschrieben, überwiegend. Das muss man einfach mal so sagen: Wir haben einen sehr, sehr geringen Frauenanteil im Studium. Und das gilt nicht nur für Rostock, sondern das ist weltweit. Noch mal,  Appell an alle Schüler:innen, insbesondere sich damit zu engagieren.

Mareike Donath
Und letztlich gestaltet man irgendwie auch die Welt mit. Das heißt, mit jedem Tun, mit jedem Unternehmen, wo man sitzt und was dort etwas programmiert, gestaltet man. Das darf man, glaube ich, egal, wie komplex der Schritt erscheinen mag sagen. Da sind wir genau bei dem Thema ja Datenethik, wovon du schon gesprochen hast. Was versteht man unter Datenethik und wo ist es tatsächlich die Herausforderung, auf die man schauen muss?

Alke Martens
Also Datenethik selber ist wirklich ein ganz, ganz großes Feld. Ich schließe jetzt mal von der Erklärung aus: Diese Themen, die was zu tun haben mit Datensicherheit, die gehören nämlich auch dazu. Also sowas, was die Datenschutzgrundverordnung, die SGVO regelt, das ist ein Bereich. Datensicherheit ist ein anderer Bereich. Diesen Bereich klammere ich jetzt mal aus. Das, was extrem oft gesehen wird in diesem Thema Datenethik und das, was eben auch so ein prominentes Thema ist, ist, wenn ich viele, viele, viele, viele Daten sammle, dann kann ich automatisiert in diesen vielen Daten bestimmte Muster, bestimmte Wiederholungen erkennen. Und wenn ich diese Wiederholung erkennen kann, dann kann ich versuchen zu sagen, diese Wiederholungen haben eine bestimmte Aussage. So weit, so neutral. Das ist ja jetzt erst mal nicht schlimm. Wenn ich jetzt aber zum Beispiel sage, ich mache jetzt mal so ein schönes reißerisches Beispiel von der Straße: Ich nehme einen Kassenautomaten. Keine Sorge, es passiert in dieser Form wahrscheinlich nicht, aber es könnte theoretisch passieren. Ich nehme einen Kassenautomaten. Also bei einem Supermarkt. Ich sage: Meine Kasse. Nehme die Daten von den Personen, die bezahlen, verbinde sie mit den Daten von den Dingen, die sie einkaufen und melde das Ganze der Krankenkasse.

Das ist jetzt, wie gesagt, ein reißerisches Beispiel, aber wenn dann die Krankenkasse beispielsweise Analysen fährt, wo drin steht: Okay, Frau Martens hat heute Rotwein, Kartoffelchips und Zigaretten gekauft und möchte dann ein halbes Jahr später gerne eine Behandlung wegen einer Darmentzündung haben, und dann sagt die Krankenkasse: Ja, nein, das sehen wir jetzt nicht ein. Wenn die sich so ungesund ernährt, dann machen wir das nicht. Das ist natürlich jetzt Fiktion, aber es ist technisch möglich. Das war aber jetzt der Grund dafür, warum wir in der Datenethik auch sagen, es ist nicht erlaubt, alles zu sammeln. Erster Punkt: Es ist nicht erlaubt, alles auszuwerten. Und dann gibt es noch diesen schönen, kleinen Zusammenhang zwischen Korrelation und Kausalität. Und der Unterschied ist einfach: Es gibt manchmal Sachen, die korrelieren miteinander. Das heißt, sie sehen so aus, als stünden sie miteinander in Verbindung,  haben aber keine Ursache-Wirkungsbeziehung. Wie zum Beispiel: In den USA wurde festgestellt, dass die Anzahl der Selbstmorde gleichermaßen steigt wie die Stunden ausgestrahlter Filme mit Richard Gere. Das hat keine Kausalität, das hat nichts mit miteinander zu tun. Oder in Mecklenburg-Vorpommern: Der Rückgang der Heringspopulation ist eins zu eins korreliert mit der Arbeitslosenzahl. Das ist natürlich auch totaler Bullshit, die beiden Zahlen haben vermute ich mal nichts miteinander zu tun.

Da müsste man jetzt Wirtschaftswissenschaftlerinnen und Wirtschaftswissenschaftlerinnen befragen,aber das sind Dinge, die in meiner Welt relativ weit voneinander entfernt sind. Wenn man also jetzt Ursache und Wirkung auf einmal zusammen packt, dann hat man Aussagen getroffen und behauptet dann auch, man kann die maschinell belegen, diese Aussagen. Das heißt, sie sind nicht individuell geschaffen, sondern quasi maschinell geschaffen. Und damit versucht man zu begründen, dass sie eine höhere Aussagekraft haben. Das ist natürlich wirklich fatal. Es geht aber dann noch weiter. Zum Beispiel im Bereich Jura gibt es diese sogenannte Sphären-Theorie, die unterscheidet die öffentliche Sphäre, die Sozialsphäre, die Privatsphäre und die Intimsphäre. Und da haben wir ein ganz, ganz großes Problem. Das geht jetzt wieder den Schutz von Persönlichkeitsrechten. Wenn zum Beispiel eine junge Frau tatsächlich wenn ich Bikini filme in Instagram postet und die dann runtergezogen werden und verfälscht werden und wieder repostet werden, das ist sehr schwer, dem juristisch beizukommen. Oder eben auch, wenn jemand das dann runterzieht und privat zu irgendwelchen Ferkeleien nutzt, dann ist das sehr schwer, das zu schützen, bis hin dazu, dass es unmöglich ist. Das heißt, im Prinzip ist es so, dass die Privatsphäre sehr stark geschützt ist, dass man aber in den letzten Jahren beobachten konnte, vor allen Dingen durch die Zunahme von Social Media, dass die Privatsphäre quasi kleiner geworden ist.

Also sehr viel mehr Leute haben weniger Wahrnehmung dafür, was jetzt privat ist und was nicht privat ist. Zum Beispiel die Bilder von den eigenen Kindern haben in Instagram überhaupt nichts zu suchen. Das wissen viele Leute nicht, dass auch das Kind ein Recht am eigenen Bild hat und dass es deswegen eigentlich nicht erlaubt ist, auch von den Erziehungsberechtigten, Bilder von den eigenen Kindern, die das ja noch nicht beurteilen können, in irgendwelchen Social-Media-Kanälen zu posten. Das ist ein zweites, sehr, sehr großes Feld: Diese Aussagekraft von Daten. Was machen wir mit den Daten? Dürfen wir alles sammeln? Dürfen wir alles auswerten, was wir bekommen? Ja, es ist in unserer Zeit so eine Art Hamstermentalität entstanden, was Daten angeht. Es werden wie verrückt Daten gesammelt, häufig sehr kopflos. Und dann wird versucht, aus diesen kopflos gesammelten Daten irgendeine Art von Information zu generieren. Und da wird es dann heikel. Wenn die Informationen dann Konsequenzen haben, ist das sehr schwierig.

Mareike Donath
Lass uns einmal die andere Seite der Medaille anschauen: Das Sammeln von großen Datenmengen, sei es im medizinischen Bereich, sei es im Bereich der Rechtsprechung oder auch der Netflix-Account, der wohl weiß, was man gerne schaut. Aus diesen Datensammlungen kann auch ein echter Mehrwert entstehen. Wie siehst du diesen Konflikt?

Alke Martens
Der Konflikt ist per se unlösbar. Also es gibt eigentlich drei Welten: Das eine ist ein wirtschaftliches Interesse oder kommerzielles Interesse. Dann gibt es ein Interesse des Volkes, sozusagen, also ein Individualinteresse, und es gibt ein wissenschaftliches Interesse. Und es gibt jetzt zum Beispiel für KI folgende Prinzipien für die moralische Nutzung von einer Arbeitsgruppe in Amerika entwickelt, von einem Herrn Professor Floridi, der sagt, zum Beispiel bei der Entwicklung einer künstlichen Intelligenz, ganz egal, ob die jetzt datengetrieben oder wissensgetrieben ist, da gibt es diese Punkte, dass man überprüfen soll: Ist das Ziel dieser künstlichen Intelligenz etwas, was ein Wohltun auslöst? Also gibt es einen Benefit davon, der wirklich deutlich sichtbar ist? Oder ist es quasi nur in Anführungszeichen ein monetäres Interesse von einer Firma? Gibt es deutlich nachgewiesen den Nichtschaden, also in Englisch heißt es dann Non-Maleficence, gibt es ganz deutlich zu erkennen, die Möglichkeit, diese Software so zu gestalten, dass sie keinen Schaden anrichtet. Also Schaden bedeutet in diesem Moment auch, dass keine Personengruppen diskriminieren definiert werden, dass keine Personengruppen benachteiligt werden. Wenn ich jetzt zum Beispiel Bewerbungsverfahren automatisiere mittels einer KI, was im Prinzip jetzt gar nicht so schwer ist, weil das wären ja immer die gleichen Sachen abgefragt und im Prinzip könnte die KI mit so einem Schema draufgehen, das wäre ehrlich gesagt für die Informatik nicht mal ein KI, sondern es wäre einfach nur ein Schemavergleich: Wer passt entsprechend der alten Daten in das Prinzip?

Dann hat das den Nebeneffekt, dass immer nur solche Leute wieder eingestellt werden, wie die, die auch schon vor zehn Jahren, als man die die Daten angefangen hat zu sammeln, eingestellt werden. Das bedeutet zum Beispiel, dass man in der Regel Menschen mit anderen Hautfarben diskriminiert, dass man Menschen diskriminiert, die weiblich sind, dass man Menschen diskriminiert, die vielleicht als Männer lange Haare haben und so weiter und so fort. Das heißt, alle, die bis jetzt nicht im Schema waren, was den Datensatz angeht, auf dem trainiert wurde, die werden dann weiterhin diskriminiert. Und genau das möchte so eine nach diesen moralischen Prinzipien entwickelte KI natürlich nicht. Dann geht es das Prinzip der autonom Ökonomie, was bedeutet: Darf ich nach wie vor eigene Entscheidungen treffen oder muss ich mich zum Beispiel den Entscheidungen des Computers unterwerfen? Und was passiert in dem Fall? Wir nehmen mal den KI-gesteuerten Operationsroboter und den Arzt oder die Ärztin die dann eingreift und sagt: Nein, das mache ich jetzt anders, die hat einen Grund dafür. Ist das noch möglich oder geht das gar nicht? Ist der Mensch so weit raus oder hat der Mensch auch so viel verlernt, dass er das nicht mehr kann? Dann geht es natürlich Gerechtigkeit.

Agiert so eine KI gerecht? Das hat was auch mit dem Nichtschaden zu tun. Und es gibt auch einen Punkt, den ich auch sehr wichtig finde, ist die Erklärbarkeit. Ist nach wie vor möglich, dass das, was dort passiert, wirklich auch erklärt werden kann? Und das ist jetzt zum Beispiel so, dass bei vielen der textgenerierenden KIs, die jetzt so unterwegs sind, ganz viele Dinge nicht mehr hundertprozentig erklärt werden können. Also warum hat die KI das so gemacht? Das ist bei neuronalen Netzen sehr schwer, das zu erklären, weil man das nicht nachvollziehen kann. Und diese Aspekte Die sind in der Summe so, dass man sagen kann: „Ja, wir können diese Entwicklung nicht aufhalten, aber ich hoffe natürlich jetzt als Ethikerin, dass wir Weichen stellen können. Ich sage es mal etwas pathetisch: Es war sicherlich nicht die schlechteste Idee, Atomspaltung zu erfinden, aber es war sicherlich keine gute Idee, das in Atomraketen dann einzubauen. Und genau so ein Dilemma haben wir bei der KI auch. Also der Schaden, den KI anrichten kann, der ist subtiler, den sehen wir nicht gleich Das ist nicht so wie eine Bombe, die alles kaputt macht. Aber diesen schleichenden Schaden zu sehen und ihn rechtzeitig einzudämmen, finde ich, ist die Aufgabe von den jetzt erwachsenen Menschen, die jetzt heranwachsenden Menschen, also die Kinder in eine Welt zu entlassen, die sie selber noch beherrschen können und wo sie nicht von den Partikularinteressen von wenigen Machthabern der Digitalisierung sozusagen dann gesteuert werden.
Ich habe mich jetzt gerade erwischt. Ich habe Machthabern gesagt. Tatsächlich ist das eine sehr männlich dominierte Welt. Es gibt da vergleichsweise wenig Frauen in den oberen Machtringen. Natürlich sind auch Machthaberinnen gemeint. Also wer da ein wirtschaftliches Interesse hat, der hat momentan den Finger an der Macht oder die hat den Finger an der Macht.

Mareike Donath
Alke, ich freue mich darauf, dass wir über Nutzen und Gefahren von KI und das große Thema Datensammlung und auch im Namen der Nerd sprechen werden.

Alke Martens
Grundsätzlich, es geht ja dabei nicht nur KI, sondern es geht ja generell die Digitalisierung und es ist subtil. Die meisten Menschen, die ich kenne, benutzen WhatsApp. Und sie haben damit einen Vertrag unterschrieben, der bedeutet, dass alles, was sie in WhatsApp reinstellen, Fotos, Texte und so weiter, dass das alles genutzt wird von den dahinter stehenden Konzernen. Sehr, sehr viele Menschen und gerade junge Menschen nutzen TikTok und Instagram. Ich habe viele Jahre immer wieder Aufklärungen gemacht über Datenschutz und Datennutzung in Schulklassen. Fünfte, sechste, siebte, achte Klasse. War interessant, weil ich habe angefangen in der achten Klasse und dann wurde das immer früher, bis ich irgendwann in der fünften Klasse war, also über die Jahre sozusagen. Und es gab tatsächlich an der Schule, in der ich das sehr gerne gemacht habe, dann häufig von den Kindern einen Aufschrei. Das hieß dann: Wir können WhatsApp nicht mehr benutzen. Wir finden das ganz schlimm. Wir wollen nicht, dass unsere Daten freigegeben werden. Wir finden das ganz fürchterlich. Und dann gingen die nach Hause und sagten ihren Eltern: Wir möchten jetzt alternative Angebote nutzen. Und die Eltern sagten: Nein, dann können wir Oma nicht mehr erreichen. Oder Nein, das kann Opa nicht.

Und manchmal konnten es die Eltern auch selber nicht. Das heißt, diese Energie der Kinder ist dann total verpufft an der Realität quasi gescheitert und es hat am Ende keiner was anderes genommen. Also das ist das, was ich meine mit dem Subtilen in den Alltag hinein wandern, in den Alltag hineinrutschen. Und das ist dann gar nicht KI, sondern das ist einfach nur Daten erzeugen, die dann in den Konzernen benutzt werden, wieder – es ist so fast wie bei Momo von Michael Ende: Gib mir die Daten, ich mache eine Software. Mit der Software erzeuge ich ein Produkt, das dich noch mehr dabei hält, das noch mehr von deiner Aufmerksamkeit bindet, das dich noch mehr im System fesselt und – und das finde ich kritisch – dich am eigenen Nachdenken hindert, sondern dir einfach nur beibringt: Hier ist der Maßstab, danach hast du dich auszurichten. Wie gesagt, nicht KI-Thema, sondern ein Thema, da gehört KI mit rein in das Feld. Das ist aber das große Feld der Digitalität oder der Digitalisierung.

Mareike Donath
Dieses Bewusstsein für diese Themen, sei es Datenschutz und natürlich auch sehr relevant für die Unternehmen, das Thema Cyber Security. Da spielt ja alles rein. Wie kann man da ein Bewusstsein schaffen und da noch dranbleiben bei diesem stetigen Wandel im Bereich der Technologien?

Alke Martens
Na ja, also ich kann da einen Appell dran stecken, und zwar mehrere Appelle sind das eigentlich. Das eine ist, wir brauchen dringend Menschen, die diese Techniken beherrschen, also Menschen, die Informatik studieren und aus ganz eigenem, uneigennützigen Anlass, weil ich eben auch Gleichstellungsbeauftragte bin, möchte ich nicht nur den Appell rauslassen an die Jungs, die sowieso den ganzen Tag am Rechner hängen. Es gibt sie wirklich, sondern eben auch an die Jungs, die nicht den ganzen Tag an den Rechner hängen und vor allen Dingen natürlich an die Mädchen, weil die Art und Weise in der Informatik zu denken, Probleme zu lösen, vernetzt zu denken, ist insbesondere eine Mädchensache und das geht irgendwie immer wieder unter. Ich weiß nicht, warum. Am Ende kommt immer bei raus: Ja, das ist Mathe und Programmieren und das ist Jungszeug. Nein, das stimmt nicht. Es ist Kommunikation und vernetztes Denken und das ist Mädchenzeug. Das heißt, wir haben nur dann eine gute Welt, wenn wir beide Geschlechter und alle Kompetenzen innerhalb dieser Domäne vereinigen, indem wir ganz stark interdisziplinär arbeiten. Und was ich ganz essentiell finde, ist, dass wir Erwachsenen sehr, sehr klar darin werden, uns zu überlegen, nicht vor Begeisterung was wir alles können, auch alles zu tun, sondern dass wir uns sehr genau überlegen: Was wollen wir? Was ist das, was wir wirklich, wirklich wollen? Was ist das, was wir in Bezug auf Wohltun, Nichtschaden, Autonomie, Gerechtigkeit und Erklärbarkeit wirklich, wirklich in unsere Welt integrieren wollen. Und das hat sehr, sehr viel zu tun, auch mit Demokratie, mit demokratischem Denken, mit demokratischer Teilhabe. Und was mir auch ein großes Anliegen ist: Wir haben nach wie vor in unserer Gesellschaft eine sehr, sehr große Digital-Spaltung zwischen den Menschen, die überhaupt keinen Zugänge haben, insbesondere die Älteren, die zunehmend mehr abgehängt werden. Und dann ist es vielleicht auch die Aufgabe der jüngeren Generation, den Älteren bei dem Benutzen des Handys zu helfen oder bei dem Benutzen des Fernsehers zu helfen, was für viele ältere Menschen, so 70 plus, plus, 80 plus, plus, wirklich, wirklich ein Problem ist. Wenn ich jetzt da einen Schnitt mache und sage, das ist der Job für uns Ältere, mehr Begeisterung für dieses Fach, auch für die Digitalität auszurufen, dann ist die Frage: Was ist das, was wir den Kindern dann beibringen müssen. Die Kinder sind schon in dieser digitalen Welt am Aufwachsen und in Schweden geht man zum Beispiel jetzt dahin, die iPads aus den Schulen wieder rauszuholen und wieder Bücher reinzupacken, mit Sinn und mit Verstand. Und das ist auch was, was ich wirklich propagieren würde, weil das, was am Ende wir den Kindern vermitteln müssen, ist: Fühlt eure Emotionen, steht zu euren Emotionen, fühlt euren Wert, spürt nach, was löst eine Kommunikation bei eurem Gegenüber aus? Und das ist jetzt hier schon fast eine Predigt. Es ist aber tatsächlich so, dass wir uns darauf besinnen müssen: Was macht den Mensch im Menschsein aus? Was ist die Essenz des Menschseins? Und wenn wir das herauskristallisieren können, dann müssen wir das unseren Kindern vermitteln Und dann kann uns am Ende, so science-fiction-mäßig, auch die Digitalität nicht schaden, weil an und für sich ist es ein großartiges Werkzeug, was wir da an der Hand haben, lästige Sachen zu vereinfachen.

Mareike Donath
Vielen Dank, Alke, dass du die Zeit genommen hast für unseren Podcast vom digitalen MV und dafür, dass du uns mitgenommen hast auf eine kleine persönliche Zeitreise und die Einblicke auch in deine Forschungsarbeit. Liebe Hörerinnen und liebe Hörer, ich lade Sie ganz herzlich ein. Diskutieren Sie mit uns auf unserer großen Convention zum Thema Digitalisierung der NØRD 2024, vom 29. Bis zum 30. Mai in der Hansemesse Rostock. Wir laden Sie ein zu einem umfassenden Erfahren von Wissen, Austausch von Lernkurven, Inspiration und Networking im Kontext der digitalen Entwicklung und Transformation in Mecklenburg-Vorpommern und natürlich auch darüber hinaus. Alle Informationen zur NØRD, zum Programm, mit den verschiedenen Speaker-und Workshops, Impulsvorträgen und Co. All das finden Sie in den Shownotes verlinkt und unter digitalismv.de.
Ich freue mich, wenn wir uns Ende Mai in Rostock sehen.
Herzlichst, Ihre Mareike Donath.