{"id":10084,"date":"2023-04-10T16:32:50","date_gmt":"2023-04-10T15:32:50","guid":{"rendered":"https:\/\/frank-vohle.de\/?p=10084"},"modified":"2023-04-11T10:08:33","modified_gmt":"2023-04-11T09:08:33","slug":"ki-und-frieden","status":"publish","type":"post","link":"https:\/\/didaktikbuero.de\/?p=10084","title":{"rendered":"KI und Frieden?!"},"content":{"rendered":"\n

Ostern gilt gemeinhin dem Frieden. Aber so ganz will dieses Jahr keine Friedenstimmung aufkommen. Zu viel Unstimmigkeit und Elend in der Welt. Neben den bekannten Gro\u00dfbaustellen (Krieg, Hunger, Klima, Unterdr\u00fcckung etc.) treibt mich dieses Jahr das Thema KI um. KI und Frieden? Ja, dass w\u00e4re kein schlechtes Begriffspaar, w\u00e4re da nicht eine klaffende Leerstelle. Zu dieser Leerstelle passte ein Podcast<\/a> von Gunter Dueck<\/a> und Normann M\u00fcller: KI trifft auf gesunden Menschenverstand<\/em>. Angeregt durch einen kleinen Kommentarwechsel<\/a> (auf LinkedIn) mit Herrn Dueck sind drei grunds\u00e4tzliche Fragen entstanden, auf die ich eine Antwort versuche.  <\/p>\n\n\n\n

Meine erste Frage ist: Was unterscheidet den KI-Ansatz von bisherigen \u201eTools\u201c?<\/strong><\/p>\n\n\n\n

Normalerweise m\u00fcsste man jetzt definieren, was KI \u201eist\u201c. Das f\u00fcllt B\u00e4nde und f\u00fchrt nicht zur Kl\u00e4rung. Ich konzentriere mich also auf mein Vorverst\u00e4ndnis und eine Prognose: Das jetzige (erlebbare) Potenzial von ChatGPT (einer massentauglichen Spielart von KI) wird sich qualitativ ausweiten (vgl. GPT-4<\/a>) Bisherige Werkzeuge in der Bildung (Taschenrechner, Internet, Mikroskop) hatten alle eine bestimmte Funktion: Der Taschenrechner hilft mir, komplizierte Rechenroutinen zu umgehen, das Internet hilft mir, Wissensbest\u00e4nde aus entfernten Datenbanken zu nutzen, und das Mikroskop hilft mir kleine Objekte zu sehen, die ich mit blo\u00dfem Auge nicht wahrnehmen kann. Der Anthropologe Arnold Gehlen hat die Technik \u2013 allgemein gesprochen \u2013 als Mittel der Organverst\u00e4rkung, des Organersatzes und der Organentlastung charakterisiert. Organverst\u00e4rkung und Organentlastung sind gute Gr\u00fcnde, warum man Technik in der Bildung einsetzen sollte, nat\u00fcrlich auch nur dann, wenn der Einsatz des Taschenrechners nicht dazu f\u00fchrt, dass man die \u201eIdee des Rechnens\u201c nicht versteht; man muss also unterscheiden zwischen einer Prozesseffizienz und einer didaktischen Funktion. Nicht alles, was mich entlastet, ist didaktisch sinnvoll!<\/p>\n\n\n\n

Unbestreitbar ist, dass KI-gest\u00fctzte Angebote (wie z.B. ChatGPT) vordergr\u00fcndig und unmittelbar AUCH Entlastungs- und Verst\u00e4rkungsfunktionen \u00fcbernehmen, deshalb st\u00fcrzen sich alle offenherzig darauf: Schreiben von Hausaufgaben, Erstellen von Liebesbriefen, Entwerfen von Designvorlagen, also alles, was man nicht kann oder schwer ist, wird per Klick bestellt. \u00dcbrig bleibt, den \u201eRohentwurf\u201c mehr oder weniger nach eigenen Vorstellungen zu \u201epersonalisieren\u201c. Klingt verf\u00fchrerisch gut, oder? ABER: Sieht man, dass KI gest\u00fctzte Angebote sowohl auf der Ebene der Zahlen, auf der Ebene der Sprache und auf der Ebene der Modellierung (drei Weisen der Episteme) belastbare und originelle Ergebnisse in kurzer Zeit f\u00fcr jedermann und jederzeit liefern, dann l\u00e4uft der Einsatz in der Bildung Gefahr, dass diese Technik \u2013 um mit Gehlen zu sprechen \u2013 zum Organersatz f\u00fchren kann. Die Menschen verlernen (deskilling) oder lernen gar nicht mehr die Basisoperationen, sondern nur noch \u201eh\u00f6here Kompetenzen\u201c, wie prompting etc. Ist H\u00f6he ohne Basis m\u00f6glich? Zudem: Rechnen, Sprache, Modellierung sind nicht nur Erkenntnisverm\u00f6gen, sondern \u201eWelt- und Selbstzug\u00e4nge\u201c. Hier steht das in Gefahr, was wir Identit\u00e4t (Wie ich mich als besonderer Mensch stabilisiere) nennen, graduell zumindest.<\/p>\n\n\n\n

Meine zweite Frage ist: Tragen wir f\u00fcr den Bereich \u201eBildung\u201c eine besondere Verantwortung?<\/strong><\/p>\n\n\n\n

L\u00e4sst man die obige Antwort unwidersprochen, dann erw\u00e4chst daraus unmittelbar eine Verantwortung genereller Art: Es geht zun\u00e4chst darum, zu begreifen, dass die Einf\u00fchrung von KI in der Bildung hohe Implikationen darauf hat, was genuiner Bildungsauftrag ist: Menschen bilden und Menschen darin unterst\u00fctzen, sich zu bilden! Und genau das f\u00fchrt uns dringlicher und radikaler als fr\u00fcher zu der Frage: Was wollen wir in Zukunft als sch\u00fctzenswert \u201emenschlich\u201c gelten lassen? Was sind leitende Werte, die eine Grenze zwischen menschlich und nicht-menschlich markieren? Wie lassen sich diese Werte gegen\u00fcber KI-gest\u00fctzten Methoden aller Art operationalisieren? Mit welchen Institutionen (z.B. Gesetz oder Markt) wollen wir den Grenzverkehr sch\u00fctzen? Ist der Staat in der Lage oder willens eine steuernde Verantwortung zu tragen (vgl. Interessensdilemma bei der Erstellung der KI-Richtlinien f\u00fcr die EU) oder ist ein System von verteilter Verantwortung mit St\u00e4rkung der lokalen Verantwortung (in Schule, Hochschule, Betrieb) vielversprechender? Wie auch immer hierauf die Antworten aussehen, mit einer \u201evollst\u00e4ndigen Umarmung der KI im Bildungsbereich\u201c machen wir etwas, was man sich bei der Einf\u00fchrung von neuen Impfstoffen (Achtung Analogie) nicht trauen w\u00fcrde: einfach machen, ohne Sicherung, Eingriffe in die DNA, in die Gesundheit des Menschen.  <\/p>\n\n\n\n

Meine dritte Frage ist: Welche ethischen Werte bieten mir \u201eprovisorische Leitlinien\u201c f\u00fcr ein unternehmerisches Experimentieren\/Entscheiden\/Handeln?<\/strong><\/p>\n\n\n\n

Werte sind f\u00fcr uns Ghostthinker handlungsleitend. Warum? Wir haben schon mal einen gr\u00f6\u00dferen Auftrag eines Waffenherstellers zur Unterst\u00fctzung eines Lernszenarios abgelehnt, weil der Auftrag gegen unsere Werte versto\u00dfen h\u00e4tte. Werte sind also (knall)harte Ausschlusskriterien, nix Weiches. Was ist nun mit dem Thema Werte im Kontext von KI? W\u00e4hrend der Auftragsabsage an die Waffenindustrie zum damaligen Zeitpunkt f\u00fcr uns eindeutig richtig war (man sieht aber im Russland-Ukrainekrieg wie schnell die Eindeutigkeit schwindet oder aus gr\u00fcn olivgr\u00fcn wird), ist es mit der KI \u201eambivalent\u201c: Wir k\u00f6nnen unsere Video-Annotationstechnologie, die wir zur Handlungsreflexion und  gegenseitiger Verst\u00e4ndigung einsetzen, ganz wunderbar durch maschinelles Lernen erg\u00e4nzen und dadurch den sozialen Austausch f\u00f6rdern oder Betreuungsprozesse durch automatisiertes Feedback effizienter machen. Wir k\u00f6nnten aber auch \u201enein\u201c sagen zu all dem und auf \u201erich relationship\u201c setzen, auf menschliches Feedback im Zeitalter der \u201eAutomatisation\u201c und damit auf eine KI-freie Zone, die dann attraktiv wird, wenn einem aus jedem Video \u201eKunstwesen\u201c einwandfreie Antworten liefern und sich Kunden angewidert (wegen eines \u201eGef\u00fchls\u201c) abwenden. Oder wir setzen auf eine Mischung aus Menschen und KI, wie immer die im Detail aussehen mag. Und bei all diesen M\u00f6glichkeiten (hier drei Blickrichtungen), ist zu fragen: Welche Werte, welche ethischen Leitlinien, m\u00f6gen sie auch provisorisch sein, sollen uns leiten? Richten wir unsere Leitlinien danach aus, was sich am Ende verkaufen l\u00e4sst? Oder verkaufen wir \u00fcberhaupt nur etwas, WEIL wir von etwas \u00fcberzeugt sind, WEIL wir ein wertebasiertes Produkt haben?<\/p>\n\n\n\n

Wahrscheinlich gibt es in Zukunft einen Markt f\u00fcr alle drei Blickrichtungen: (a) Kunden, die den aller besten Service und Antworten f\u00fcr geringes Geld haben wollen, egal wo es herkommt, Kunden, die eine KI-freie Lernumgebung aus \u00dcberzeugung wollen und Kunden, die ein Optimum aus Verantwortungs-, Partizipations- und Transparenzwerten (wir sind die Guten) mit Nutzungswerten (will viel und leicht lernen) und angemessenen Kosten haben wollen. Diese drei Fragen und die Antwortsuche werden uns bei Ghostthinker noch weiter auf Trab halten.<\/p>\n\n\n\n

Schlie\u00dflich treibt mich noch ein ganz anderes, bisher vielleicht nur implizit genanntes Thema: Die weltumspannende Aktivit\u00e4ten rund um KI in allen (!) Sektoren (Finanzen, Staat, Produktion, Dienstleistung, Bildung etc.) mit fast unbegrenzten Finanzmitteln verl\u00e4uft in der Struktur eines \u201esozialen Dilemmas\u201c: Jeder Einzelne (Person, Organisation, Staat) will seinen individuellen Nutzen maximieren (Erfolgsmantra) und genau das f\u00fchrt auf der Ebene des Kollektivs und der Weltgemeinschaft zu irreparablen Sch\u00e4den. Schnell einsichtig wird das beim Thema Klima \u2013 jeder ein SUV, weil\u2019s praktisch ist, insgesamt stehen wir aber im Stau (kurzfristig bl\u00f6d) und sch\u00e4digen langfristig das Klima (langfristig Katastrophe). Man kann das auch in der KI-gest\u00fctzten Finanzindustrie studieren, wo Maschinen Finanzstr\u00f6me von Aktienfonds und ganzen Volkswirtschaften optimieren (wollen wir alle), ohne dass der Mensch noch kapiert, was da vor sich geht, ohne dass der Mensch den Stecker ziehen kann (will keiner). Das Wesen der KI besteht im Kern darin, \u201echaotisch\u201c zu sein, nicht transparent. Darin liegen das Wohl und Wehe. Sorge macht der Umstand, dass keine Institution in Sicht ist, die das Thema KI auch nur in irgendeiner Weise reguliert. Ohne Regelung aber ist alles m\u00f6glich.<\/p>\n","protected":false},"excerpt":{"rendered":"

Ostern gilt gemeinhin dem Frieden. Aber so ganz will dieses Jahr keine Friedenstimmung aufkommen. Zu viel Unstimmigkeit und Elend in der Welt. Neben den bekannten Gro\u00dfbaustellen (Krieg, Hunger, Klima, Unterdr\u00fcckung etc.) treibt mich dieses Jahr das Thema KI um. KI und Frieden? Ja, dass w\u00e4re kein schlechtes Begriffspaar, w\u00e4re da nicht eine klaffende Leerstelle. Zu […]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[69,697,190,696,296,698,574],"class_list":["post-10084","post","type-post","status-publish","format-standard","hentry","category-allgemein","tag-bildung","tag-dilemma","tag-ethik","tag-frieden","tag-ki","tag-regeln","tag-verantwortung"],"_links":{"self":[{"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=\/wp\/v2\/posts\/10084","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=10084"}],"version-history":[{"count":3,"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=\/wp\/v2\/posts\/10084\/revisions"}],"predecessor-version":[{"id":10087,"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=\/wp\/v2\/posts\/10084\/revisions\/10087"}],"wp:attachment":[{"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=10084"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=10084"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/didaktikbuero.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=10084"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}