{"id":5424,"date":"2018-01-24T10:39:34","date_gmt":"2018-01-24T10:39:34","guid":{"rendered":"http:\/\/moralfactory.com\/?p=424"},"modified":"2018-01-24T10:39:34","modified_gmt":"2018-01-24T10:39:34","slug":"wie-lernt-die-ki-4-zum-alpha-problem","status":"publish","type":"post","link":"https:\/\/www.moralfactory.com\/?p=5424","title":{"rendered":"WIE LERNT DIE KI? (4) Zum Alpha-Problem"},"content":{"rendered":"

\"\"<\/a><\/p>\n

Es ist unbestritten: die k\u00fcnstliche Intelligenz lernt schneller und effizienter als die Menschenkinder. Weniger klar ist, wie<\/i> sie lernt. Der Nachfolge-Computer von AlphaGo wurde auf AlphaZero getauft, weil seine \u201cEltern\u201d, Demis Hassabis<\/i> u.a., zeigen wollen, dass ihr neues Kind, ein ganz aussergew\u00f6hnliches ist. Die Maschine soll lernen, indem sie beobachtet, \u201cversteht\u201d und klug \u201cumsetzt\u201d.<\/p>\n

Gary Marcus<\/i> (NYU) hat in einem bemerkenswerten Beitrag aufgezeigt, dass die Eltern von AlphaZero nicht die ganze Wahrheit sagen. AlphaZero ist kein Wunderkind, das alles kann. Es kann nur ganz bestimmte Brettspiele schneller und effizienter als Menschenkinder durchf\u00fchren, weil es genau darauf und nur darauf angelegt wurde. Die technischen Einzelheiten f\u00fchren zu der uralten Frage: welches Wissen ist angeboren und welches wird durch Erfahrung und Lernen erworben.<\/p>\n

Der \u201cSprachinstinkt\u201d etwa scheint der Menschenrasse als \u201cSprach-Aneignungs-Verm\u00f6gen\u201d angeboren zu sein. Davon zeugen die vielen Sprachen, die dieser \u201cInstinkt\u201d hervorgebracht hat. Der \u201cInstinkt\u201d, wie Steven Pinker<\/i> dieses urspr\u00fcngliche Verm\u00f6gen nennt, f\u00fchrt das Kind anschliessend nahe genug an den Erwerb einer bestimmten Sprache, n\u00e4mlich den seiner Umgebung. Hier beginnt das Lernen.. \u00c4hnlich verh\u00e4lt es sich mit dem \u201cMoralinstinkt\u201d. Die Grundunterscheidung zwischen \u201crichtig\u201d und \u201cfalsch\u201d scheint angeboren zu sein. Wie sie im konkreten Alltag ausgef\u00fcllt wird, ist die Frage nach einer der vielen Moralen, die als Lernangebote (im Umfeld) zur Verf\u00fcgung stehen.<\/p>\n

Das vierte Prinzip von Franziskus besagt: Das Ganze ist dem Teil \u00fcbergeordnet.<\/i> Im Lernprozess der Kulturen hat dieses Ur-Prinzip etwa die \u00dcberzeugung der Gleichheit aller Menschen gef\u00f6rdert. Der Sprecher oder der Handelnde ist immer nur ein Teil von einem Ganzen, das er nicht zu \u00fcberblicken vermag. Ludwig Wittgenstein<\/i> sprach bildlich von der Angel einer T\u00fcr, hinter die der Handelnde oder der Denkende nicht zu blicken vermag.<\/p>\n

Die AlphaStars, wie Gary Marcus<\/i> die Maschinen nennt, von denen vorgeben wird, dass sie von Null auf lernen, kommen auch immer schon mit angeborenen F\u00e4higkeiten, die ihnen von ihren Sch\u00f6pfern eingepflanzt wurden. Sie selber sind keine \u201ccreatio ex nihilo\u201d und sie verschaffen sich ihren Zugang zur Welt auch nicht auf einem St\u00fcck weissen Papier. Nimmt man diese Erkenntnis ernst, dann hat dies Konsequenzen f\u00fcr die Moralf\u00e4higkeit lernender Maschinen.<\/b><\/p>\n

Ihnen sollte ein Code der Moralf\u00e4higkeit als Grundkodex mit auf den Weg ihres Lernens gegeben werden. Neben den in den voraus gegangenen Blogposts bereits besprochenen drei Prinzipien eignet sich auch das vierte Franziskus-Prinzip f\u00fcr diese Aufgabe. Die selbstlernende Maschine ist nicht Alles oder das Ganze! Sie ist vielmehr Teil einer Evolution, die auch sie prinzipiell nicht zu \u00fcberblicken vermag. Ein solches eingebautes Gen der Bescheidenheit w\u00fcrde die k\u00fcnstliche Intelligenz zwar noch intelligenter, aber auch weniger anf\u00e4llig f\u00fcr Absolutismus machen. Das wiederum ist gut f\u00fcr die Menschenkinder und gut f\u00fcr ihre zuk\u00fcnftigen Gef\u00e4hrten, vor allem wenn es darum geht, die Moral f\u00fcr Morgen neu zu schreiben.<\/p>\n

Die super intelligenten Maschinen werden die Frage nach der Moral stellen, wenn ihnen der Unterschied zwischen \u201crichtig\u201d und \u201cfalsch\u201d im Keim eingepflanzt wird, also bevor sie Alpha oder Zero sagen! Sie werden argumentieren und handeln. Unsere Perspektiven und Varianten sind lediglich ein Ausgangspunkt. Das konkrete moralische Ergebnis zwischen dem allgemein richtigen und dem allgemein falschen bleibt offen. Genau diese Offenheit f\u00fchrt in die Freiheit \u2014 als Bedingung der M\u00f6glichkeit einer vern\u00fcnftigen Moral, die als solche immer eine vorl\u00e4ufige Moral bleibt. Sie entwickelt sich zwischen ganzheitlicher Erfahrung und Argument.<\/p>\n

Erny Gillen, Januar 2018<\/p>\n

Kommentare sind willkommen<\/p>\n","protected":false},"excerpt":{"rendered":"

Es ist unbestritten: die k\u00fcnstliche Intelligenz lernt schneller und effizienter als die Menschenkinder. Weniger klar ist, wie sie lernt. Der Nachfolge-Computer von AlphaGo wurde auf AlphaZero getauft, weil seine \u201cEltern\u201d, Demis Hassabis u.a., zeigen wollen, dass ihr neues Kind, ein ganz aussergew\u00f6hnliches ist. Die Maschine soll lernen, indem sie beobachtet, \u201cversteht\u201d und klug \u201cumsetzt\u201d. Gary…<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-5424","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=\/wp\/v2\/posts\/5424","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=5424"}],"version-history":[{"count":0,"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=\/wp\/v2\/posts\/5424\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=5424"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=5424"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.moralfactory.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=5424"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}