Das schwarze Loch der Technologie – zweite Folge
BLOG: Gedankenwerkstatt
die Psychologie irrationalen Denkens
In der ersten Folge habe ich die Idee der sogenannten technologischen Singularität vorgestellt. Sie wird besonders vom KI-Forscher Ray Kurzweil propagiert. Er behauptet, dass die technologische Entwicklung immer schneller voranschreitet und sich irgendwann sozusagen selbst überholt.
- Der Physiker und Science-Fiction-Autor Vernor Vinge oder der Schriftsteller Charles Stross sehen das ähnlich, aber sie koppeln das Auftreten der Singularität an die Erschaffung der ersten übermenschlich intelligenten Computer. Solche Maschinen, so argumentieren sie, können sich selbst optimieren und würden deshalb ihre Intelligenz in sehr kurzer Zeit unerhört steigern. Und dann, ja dann gehört ihnen die Erde. Was sie aber mit den Menschen anstellen werden, ist nicht vorhersehbar. Der Mensch würde vielleicht in einem selbst gegrabenen schwarzen Loch verschwinden, der technologischen Singularität.
- Mit dieser Graphik möchte Ray Kurzweil belegen, dass der technische Fortschritt sich ständig beschleunigt und bis spätestens 2030 ein dichter Hagel von Erfindungen den Beginn eines technologischen Utopia einleitet. Das sehen aber keineswegs alle Wissenschaftler so (ich übrigens auch nicht). Der Biologe PZ Myers verreißt die Idee in seinem Blog. Kurzweil habe willkürlich Schlüsselereignisse und Erfindungen zusammengesucht, damit sie in seine Graphik passen, führt er aus. Dem kann ich nur zustimmen: Eine durchgängige Regel für die Aufnahme bestimmter Punkte in die Graphik ist nicht erkennbar. Ein Beweis oder auch nur eine Faustregel für die stete Beschleunigung der Erfindungsrate läßt sich daraus nicht ableiten. Vielleicht, so gibt Jürgen Schmidhuber zu bedenken, ist die Beschleunigung der Erfindungsrate auch nur eine Illusion der menschlichen Wahrnehmung. Könnte nicht ein Gelehrter um 1525 ebenfalls zu dem Ergebnis kommen, eine technologische Singularität stünde unmittelbar bevor? Schließlich dauerte es von der Erfindung des Buchdrucks (ca. 1444) bis zur Entdeckung Amerikas (1492) viel länger als von Kolumbus’ erster Reise bis zur Reformation (ab etwa 1517). Die stete Beschleunigung der Ereignisse wäre in der Tat kaum zu leugnen.
- Andere Autoren bezweifeln die Beschleunigung grundsätzlich und halten sogar eine Verlangsamung oder einen Stillstand des technologischen Fortschritts für unausweichlich. Warten wir es also ab. Der Kognitionsforscher Edward Boyden vom MIT bezweifelt die These, dass die Erschaffung hyperintelligenter Computer zu einer Singularität führen muss. In einem Beitrag für die Zeitschrift Technology Review schrieb er, statt einer Singularität mit rasanter Entwicklung könne auch ein Fixpunkt entstehen, an dem alles zum Stillstand kommt. Nicht nur die Intelligenz, auch die Motivation muss stimmen. Und schließlich könnte eine Hyperintelligenz so viele Handlungsalternativen entwerfen, dass sie sich nur schwer entscheiden könnte. Vielleicht verfiele sie sogar in eine völlige Starre, während sie ununterbrochen darüber nachdenkt, welche ihrer endlos vielen Optionen sie verfolgen soll.
- Sie sehen: Bei genauerem Hinsehen ist die Idee der Singularität keineswegs zwingend. Was den Befürwortern wie ein schwarzes Loch erscheint, könnte auch einfach ein blinder Fleck in ihrer Wahrnehmung sein.
- Im dritten Teil wird um die Verbesserung des Menschen gehen, um künstliche Implantate, Neuro-Interfaces und den Download, die Übertragung eines menschlichen Bewusstseins auf einen Computer.
Motivation
Die technologische Singularität, in welcher der Mensch zu verschwinden droht, von Maschinen versklavt, benutzt oder einfach nur “entfernt”. Thema vieler qualitativ sehr unterschiedlicher Science-Fiction Bücher/Filme…
Der ganz wesentliche Punkt, der ja auch in Ihrem Artikel steht, scheint mir auch die künstliche Motivation zu sein. Was nützt all die Intelligenz, wenn damit nix anzufangen ist. Ich denke da z.B. an Marvin, den depressiven Roboter 😉
Ist denn “wirkliche” künstliche Intelligenz ohne künstliche Motivation überhaupt möglich?
@Alf Köhn
Das sehe ich auch so: Intelligenz als Fähigkeit zum Erkennen von Zusammenhängen führt noch nicht zu aktivem Handeln. Erst wenn ein Ziel definiert ist und Effektoren (ausführende Organe) vorhanden sind, kann eine künstliche Intelligenz aktiv werden, ganz gleich wie intelligent sie ist. Künstliche Intelligenz ohne eigene Motivation ist möglich, die Motivation müsste dann von den Konstrukteuren vorgeben werden. Eine Handlungsanweisung könnte beispielsweise lauten: Beantworte unsere Fragen und beschaffe dir alle dazu notwendigen Informationen oder gib an, warum du die Frage nicht beantworten kannst. Eine künstliche Intelligenz wäre aber erst mit einer von äußeren Anstößen weitgehend unabhängigen, selbstanpassenden Grundmotivation wirklich autonom.
Ziele
Das kybernetische Basismodell, der Regelkreis (z.B. Heizungsregelung) enthält immer ein Ziel, den „Sollwert“. Ohne dieses Ziel können die Effektoren nichts mit dem von Sensoren gelieferten „Ist-Werten“ anfangen, nur die Differenz von Ist- und Sollwert regt zur kompensierenden Handlung an (negative Rückkopplung).
Finalität ist im Regelkreis nichts Geheimnissvolles, ist nur ein Spezialfall von Kausalität in rückgekoppelten Systemen.
Die Frage ist nur: Wer wählt die aktuellen Soll-Werte, ein außenstehender Benutzer für eine nützliche Maschine oder ein lebendes System für seine Selbstorganisation?
Bei den höheren Säugetieren und dem Menschen tritt zur reflektiven (unbewußten)
Auswahl der Ziele noch zusätzlich die „bewußte“ bzw. „corticale“ Entscheidung,
die vom „Sinn“-Ganzen beeinflusst wird. Solange die Organisation von „Sinn“ noch nicht einmal ansatzweise verstanden wird, kann es keine technischen Simulationen menschlicher Intelligenz geben. Umgekehrt: Wenn „Sinn“ technisch modellierbar wird, sind Geschöpfe wie HAL möglich, fehlerfrei, ohne menschliche Schwächen,….
S.R.
Ohne den Sollwert passiert nichts
So ist es.
Intelligenz als Fähigkeit zum Erkennen von Zusammenhängen führt noch nicht zu aktivem Handeln.
Ohne den „Sollwert“ können die Effektoren nichts mit dem von Sensoren gelieferten „Ist-Werten“ anfangen.
http://www.e-stories.de/view-kurzgeschichten.phtml?23749
Der Sinn von Begriffen
Man kann Worte oder Begriffe mit weiteren Worten oder Begriffen erklären.
Solange man nicht sagt, dass eine bestimmte Eingabe aus der Aussenwelt, oder
eine bestimmte Ausgabe an die Aussenwelt mit einem bestimmten Wort oder Begriff
gemeint ist, fehlt dem Computer oder Roboter jede Beziehung zur Realität.
Ein Netz aus Begriffen hängt so lange in der Luft, solange es nicht an seinen
Rändern an der realen Welt befestigt ist.
Eine Kette aus Schlussfolgerungen und Handlungen hat nur dann einen Sinn,
wenn dadurch ein Ziel erreicht werden soll.
@ Karl Bednarik
Danke für die Roboterbeschreibungen, ich verstehe, was Sie meinen.
Damit Sie auch verstehen, was ich unter “Sinn” verstehe, hier meine Baustelle. Absatz 26 beschreibt “Sinn”.
http://www.glottopedia.de/index.php/Neurolinguistik_(%c3%9cberblick)
S.R.
Sinnbildung
Die ständige Sinnbildung, die in der Wahrnehmung stattfindet, dient zum Aufbau und zur Überprüfung des inneren Weltmodells.
Solange das innere Weltmodell zur Planung und Vorhersage von Ereignissen geeignet ist, gilt es als sinnvoll.
Natürlich ist das innere Weltmodell viel einfacher als die Aussenwelt aufgebaut.
Gesinnung
Lieber Karl Bednarik
Wow, und das am Tag der deutschen (Gem)Einheit,….
Wir haben da tatsächlich wenn nicht gleiche, so doch zumindest ähnliche Gesinnung, auch so etwas gibt es.
Wenn Sie von den Rändern der Welt schreiben, in denen die Sprache aufgehängt ist, sehe ich auch eine Übereinstimmung zu meinem Gebrauch des Begriffs „Grenzen“, die als Unter-scheidungen, Ent-scheidungen, Beur-teilungen und Mit-teilungen ständig benutzt werden, um Sinn und dessen sprachliche Mit-teilung herzustellen.
Vornehm klingt es natürlich auch, wie Luhmann und Spencer-Brown von „Difference“ zu sprechen, gemeint ist aber wohl das Gleiche, die elementare Grundlage von Sinn.
Die Sinn-Einheit kann heute ähnlich wie die deutsche Einheit betrachtet werden:
Es geht nicht ohne Grenzen, aber manche Grenzen sind unnötig oder sogar schädlich, zum Beispiel die Grenze zwischen Natur- und Geisteswissenschaft.
Auch diese sinnlose geistige Mauer gehört abgeschafft.
S.R.