Die Zukunft hat schon längst begonnen: künstliche Intelligenz (Teil 3: die Folgen)

by Karl-Heinz Thielmann on 9. Juli 2015

Fortsetzung des Beitrags vom 2. Juli

 

Künstliche Intelligenz – eine Gefahr für die Menschheit?

Die Einführung neuer Technologien ist immer mit Befürchtungen und Ängsten in der breiten Öffentlichkeit verbunden, die oftmals zu erheblichen Diskussion und Protesten führen. Wissenschaft und Industrie nehmen dabei in der Regel die Rollen von Technologie-Befürwortern ein.

Bei künstlicher Intelligenz ist dies anders: In der Öffentlichkeit ist sie kaum ein Thema. Wenn, dann wird sie zumeist unter dem Gesichtspunkt des Datenschutzes diskutiert. Auch die üblichen Fortschrittsverweigerer sind hierzu relativ ruhig. Stattdessen thematisieren aber zunehmend renommierte Wissenschaftler und Spitzenkräfte der IT-Industrie die möglichen langfristigen Gefahren.

Hierbei bezieht sich die Skepsis for allem auf drei Aspekte der künstlichen Intelligenz:

  • Eine starke Substitution von gut bezahlten Experten- und Sachbearbeiterstellen kann in den nächsten Jahren wie ein sozialer Sprengsatz wirken, weil sie insbesondere weiten Teilen der gehobenen Mittelschicht die Grundlage für das Erzielen hoher Einkommen entzieht. Zudem werden die Vorteile bestehender Wirtschaftseliten vergrößert und sozialer Aufstieg erschwert.
  • Sie verbessert die Möglichkeiten zum Sammeln und Auswerten von Daten nur für wenige Menschen und Institutionen, welche Kontrolle über die neue Intelligenz haben. Dies öffnet Tür und Tor für politischen und wirtschaftlichen Missbrauch sowie für Desaster bei Kontrollverlusten.
  • Sie ist wahrscheinlich nur die Vorstufe zu einer absehbaren weiteren Form, der künstlichen Superintelligenz. Diese könnte dazu in der Lage sein, sich selbstständig fortzuentwickeln, indem sie sich selbst programmiert sowie eigenständig Fehler sucht und beseitigt. Eine solche künstliche Superintelligenz wäre dem Menschen in jeder Hinsicht intellektuell überlegen und ebenfalls nicht mehr durch ihn kontrollierbar.

Hauptwortführer bei der Warnung vor sozialen Folgen sind Erik Brynjolfsson und Andrew McAfee. Mit ihrem Buch „The Second Machine Age“ 21 haben sie zwar ein grundsätzlich sehr positives Bild der aktuellen technologischen Entwicklungen und ihrer langfristigen Konsequenzen gezeichnet. Ihrer Einschätzung nach stehen wir am Beginn einer neuen industriellen Revolution, die mit der Mechanisierung der Welt nach der ersten industriellen Revolution vergleichbar ist. Sie erwarten in unmittelbarer Zukunft einem Entwicklungssprung, weil nach einer jahrzehntelangen Vorlaufphase der künstlichen Intelligenz und damit zusammenhängender Technologien (wie autonomes Fahren, Robotertechnik) demnächst endlich konkrete Produkte und Anwendungen zur Verfügung stehen.

[youtube http://www.youtube.com/watch?v=xZpMWFiGThg]

 

Gleichzeitig weisen sie darauf hin, dass hiermit gesellschaftliche Veränderungen einhergehen, die derzeit noch massiv unterschätzt werden. Ganze Berufsgruppen sind bedroht, wir vor Jahrhunderten die Weber oder die Hufschmiede. Weiterhin merken sie an, dass sich die Zugänge zu höherer Bildung und Technologie immer mehr als gesellschaftliche Barrieren erweisen und sozialen Aufstieg verhindern: Es wird in Zukunft immer schwieriger, sich „hochzuarbeiten“, womit das für die Marktwirtschaft so zentrale Leistungsprinzip zunehmend außer Kraft gesetzt wird.

Zur Korrektur dieser Entwicklungen schlagen Brynjolfsson und McAfee eine Reihe staatlicher Maßnahmen vor, die den Unter- und Mittelschichten die Anpassung erleichtern und in den Genuss der Vorteile der neuen Technologien bringen sollen. Sie befürworten großzügige Sozialsysteme, umfassende Bildungsreformen und eine offenere Einwanderungspolitik. Man mag über diese Vorschläge im Einzelnen streiten; und auch darüber, ob die Veränderungen tatsächlich so tief gehend kommen wie von Brynjolfsson und McAfee erwartet. Fakt ist aber, dass sich heute kaum jemand mit den gesellschaftlichen Folgen technischer Veränderungen befasst, schon gar nicht in einer kurzfristig orientierten Politik. Und speziell die verschiedenen Bildungssysteme sind immer noch an den Anforderungen des 20. Jahrhunderts ausgerichtet. Universitäten und Hochschulen locken nach wie vor Studenten mit der Aussicht auf hoch bezahlte Jobs an, die in 10-20 Jahren voraussichtlich wegrationalisiert werden. Hier besteht dringender Korrekturbedarf.

Die Gefahren durch Datenmissbrauch wurden insbesondere von der IT-Unternehmerin Yvonne Hofstetter in ihrem 2014 erschienenen Buch „Sie wissen alles: Wie intelligente Maschinen in unser Leben eindringen und warum wir für unsere Freiheit kämpfen müssen“ 22 thematisiert. Die Autorin verweist vor allem auf zwei Probleme:

  • Auch künstlicher Intelligenz unterlaufen Fehler, die dann sehr viel leichter außer Kontrolle geraten können bei als menschlichen Irrtümern. Als warnende Beispiele hierfür dienen insbesondere die vielen Turbulenzen an den Finanzmärkten, die in den letzten Jahren durch fehlgesteuerte Handelsprogramme ausgelöst wurden.
  • Künstliche Intelligenz in Zusammenhang mit Big Data schafft eine Situation, in der Datensammler und -auswerter mehr über einen Menschen wissen, als dieser über sich selbst. Dies schafft Missbrauchsmöglichkeiten für Politik und Unternehmen mit einer marktbeherrschenden Stellung: Sie können Personen in Hinblick auf ein von ihnen erwünschtes Verhalten manipulieren und überwachen, ohne dass dies den Betroffenen bewusst wird.

Hofstetter glaubt nicht, dass sich diese Probleme durch Marktmechanismen selbst regulieren. Damit hat sie vermutlich recht, zumindest was den zweiten Punkt betrifft. Als Lösung sie schlägt eine Reihe von Maßnahmen vor, über die man im Einzelfall streiten kann. Hervorheben möchte ich die Punkte „persönlichen Daten Vorrang einräumen“, „Machtkonzentration bekämpfen“ sowie „Grundrechte für Datensubjekte“. Denn wenn Marktwirtschaft nicht funktioniert, dann sollte der Staat vor allem so eingreifen, dass die Voraussetzungen für ihre Wettbewerbsmechanismen wiederhergestellt werden: also durch Bekämpfung von Monopolisierungstendenzen und durch eine klare Definition von Eigentumsrechten (in diesem Fall an Daten).

Interessanterweise fordert Yvonne Hofstetter ebenfalls eine „Professionalisierung des Staates“, dessen Repräsentanten ihrer Ansicht nach von der Qualifikation her nicht auf die Herausforderungen einer durch Technologiewandel bestimmten Zukunft vorbereitet sind. Hiermit wird ein Thema von Brynjolfsson und McAfee wieder aufgenommen, die gravierende Defizite im staatlichen Handeln identifiziert haben. Sie liegen für diese Autoren aber weniger in fehlender Regulierung als in einer Bildungs- und Sozialpolitik, die an den Anforderungen durch absehbare Veränderungen vorbeigeht.

Der bekannte Astrophysiker Stephen Hawking warnte unlängst, dass der Mensch sich einmal selbst überflüssig machen kann: Die schnelle Evolution künstlicher Intelligenz könnte irgendwann einmal dazu führen, dass der Mensch in seinen intellektuellen Fähigkeiten nicht nur überholt, sondern von der neuartigen und überlegenen Spezies irgendwann einmal verdrängt wird.23 Ähnlich äußerten sich sich kürzlich Bill Gates und Tesla-Gründer Elan Musk.24

[youtube http://www.youtube.com/watch?v=vHzJ_AJ34uQ]

 

Allerdings ist man von der Entwicklung solcher „künstlicher Superintelligenzen“ noch Jahrzehnte, wenn nicht gar Jahrhunderte entfernt. Zudem müsste die überlegene Intelligenz einen evolutionären Vorteil davon haben, Menschen zu verdrängen, was aber eher unwahrscheinlich erscheint. Oder sie müsste die Menschheit „hassen“, d. h. sich aufgrund eines einprogrammierten Vernichtungstriebes gegen die Schöpfer wenden. Dies ist weniger unrealistisch, als es zunächst erscheinen mag, weil ein zunehmender Teil der Forschung in künstlicher Intelligenz derzeit von Militär und Geheimdiensten finanziert wird, um immer schlauere Tötungsmaschinen oder Computerviren zu entwickeln.25 Wenn ein bösartiger, auf Vernichtung ausgerichteter hochintelligenter Algorithmus außer Kontrolle gerät, wären in der Tat gravierende Probleme zu befürchten.

[youtube http://www.youtube.com/watch??v=MnT1xgZgkpk]

 

Fazit: Künstliche Intelligenz eröffnet ungeahnte Möglichkeiten, aber nicht nur in positiver Hinsicht

Künstliche Intelligenz an sich ist nicht bedrohlich und eröffnet viele neue Chancen. Sehr gefährlich kann allerdings ein zu naiver Umgang mit ihr werden. Denn wie kaum eine Technologie vor ihr eröffnet sie große Missbrauchmöglichkeiten. Dies gilt insbesondere, wenn man sie als Waffe nutzt, sei es als Computervirus oder Kampfroboter. Weiterhin kann sich ein Kontrollverlust als zerstörerisch herausstellen, wenn Fehler passieren und sie sich anders verhält, als erwartet. Missbrauchsmöglichkeiten und Fehleranfälligkeit lassen sich durch rechtliche und technische Vorkehrungen begegnen, was mögliche negative Folgen zwar nicht ausschließt, aber zumindest begrenzt.

Massiv unterschätzt werden allgemein noch die gesellschaftlichen und wirtschaftlichen Folgen von künstlicher Intelligenz. Durch sie entstehen nicht nur neue Märkte auf Kosten alter Produkte; sie ändert auch radikal das Anforderungsprofil in einer Vielzahl von Berufen. Laut einer Studie von Carl Benedikt Frey und Michael A. Osborne von der Universität Oxford besteht für derzeit 47% der Arbeitsplätze in den USA ein hohes Risiko, dass künstliche Intelligenz sie in den nächsten Jahrzehnten überflüssig macht. Die größte Gefahr sehen sie im Dienstleistungsbereich sowie bei Berufen, die eine intensive Ausbildung und hohes Qualifikationsniveau erfordern. 26

Insbesondere folgende Berufe gelten als relativ gut durch künstliche Intelligenz ersetzbar, zumindest was Standardaufgaben angeht, die einen hohen Anteil an der gegenwärtigen Arbeitszeit ausmachen: a) Journalisten; b) Online-Marketing und Callcenter; c) bestimmte Arztspezialisierungen wie Chirurg; Anästhesist; oder Diagnostiker; d) Anwälte und Steuerberater; sowie e) Finanzberater und –analysten.27 Bei diesen Tätigkeiten wird es zu einer Aufgabenteilung kommen: Standardprobleme werden von virtuellen Assistenzen bearbeitet, was diese nicht nur billiger, sondern i.d.R. mit weniger Fehlern können als Menschen. Nur noch sehr komplexe Aufgaben, die kreative Lösungen erfordern, sind den wenigen menschlichen Spezialisten vorbehalten.

Welche neuen Berufe entstehen, ist noch relativ unklar. Allerdings wird es eine Reihe von neuen Produkten geben, die auf der Basis künstlicher Intelligenz entweder Dienstleistungen über das Internet anbieten oder die künstliche Intelligenz mit Hardware – wie z. B. Smartphones oder Robotern – verbinden. Ähnlich wie bei früheren Innovationszyklen werden diese ihre spezifischen Berufe mit sich bringen; genau so, wie die Erfindung des Autos zu Tätigkeiten wie dem Tankwart oder dem Automechaniker geführt hat.

Die große Chance der künstlichen Intelligenz liegt darin, dass die Verbesserung der Interaktivität zwischen Mensch und Maschine nicht nur neue Produkte ermöglicht, sondern komplexe Computertechnik auch für Menschen verfügbar macht, die zu dieser bisher keinen Zugang haben; sei es aus Gründen der Kosten, der Vorbildung oder aufgrund von Behinderungen. Künstliche Intelligenz ist die Voraussetzung für Roboter, die Begrenzungen des menschlichen Körpers aufheben. Dies erlaubt nicht nur die Überwindung genereller Schwächen, für Menschen mit gesundheitlichen Einschränkungen bzw. Behinderungen wird das Leben erheblich erleichtert.

Für Brynjolfsson und McAfee zählt die künstliche Intelligenz zu den grossen Basis- und Universaltechnologien wie die Dampfmaschine, der Verbrennungsmotor und die Elektrizität, von der dauer-hafte und nachhaltige Impulse für die Wirtschaftsentwicklung ausgehen. Gleichzeitig warnen sie vor einem zu naiven Umgang hiermit. Für mich spricht viel dafür, dass sie recht damit haben könnten.

 

 

 

Quellen:

1)         Erik Brynjolfsson; Andrew McAfee (2014): „The Second Machine Age“;W. W. Norton & Company New York Londong

2)         Yvonne Hofstetter (2014): „Sie wissen alles: Wie intelligente Maschinen in unser Leben eindringen und warum wir für unsere Freiheit kämpfen müssen“ C. Bertelsmann Verlag München

3)         Stephen Hawking, Stuart Russell, Max Tegmark, Frank Wilczek(2014): „Stephen Hawking: Transcendence looks at the implications of artificial intelligence – but are we taking AI seriously enough?” ; The Independent 1 Mai 2014; http://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence–but-are-we-taking-ai-seriously-enough-9313474.html

4)         Sonali Kohli(2015): “Bill Gates joins Elon Musk and Stephen Hawking in saying artificial intelligence is scary” 29 Januar 2015 (http://qz.com/335768/bill-gates-joins-elon-musk-and-stephen-hawking-in-saying-artificial-intelligence-is-scary/) (zuletzt abgerufen 4.04.2015)

5)         Steven Cave: „Rise of the machines“, Financial Times Weekend 21 March 2015; Page 10

6)         Carl Benedikt Frey & Michael A. Osborne (2013): “The Future of Employment: How Susceptible are Jobs to Computerisation?“ OMS working paper; http://www.futuretech.ox.ac.uk/sites/futuretech.ox.ac.uk/files/The_Future_of_Employment_OMS_Working_Paper_0.pdf (zuletzt abgerufen 4.04.2015)

7)         Erik Sherman (2015): “5 white-collar jobs robots already have taken”, Fortune February 25, 2015; http://fortune.com/2015/02/25/5-jobs-that-robots-already-are-taking/ (zuletzt abgerufen 4.04.2015)

 

Die Beiträge zu künslicher Intelligenz erschienen in abgewandelter Form ebenfalls in „Mit ruhiger Hand“ Nummer 36 vom 7. April 2015.

 

Previous post:

Next post: