Ethische Zielfunktionen…

…oder was es braucht, damit Künstliche Intelligenz zum Wohle aller Nutzen stiften kann.


Ein Gastbeitrag von Petra Augustyn, Entreprenesse mit Kompetenz im Bereich der Künstlichen Intelligenz,
www.ktschng.com

“Würde eine überlegene außerirdische Zivilisation die Botschaft senden „Wir werden in wenigen Jahrzehnten ankommen!“, würden wir dann einfach antworten: “Okay, sagt uns Bescheid, wir lassen dann mal das Licht an.“? Vermutlich nicht. Aber genau so gehen wir und so manche Politiker mit Künstlicher Intelligenz um.”
                                               Stephen Hawking, britischer Physiker und Astrophysiker

Wir würden uns auf eine außerirdische Intelligenz vorbereiten – und das in der Gemeinschaft. Warum dann nicht auch auf eine Künstliche? Wenn eine superintelligente Maschine je existieren sollte, dann wären die Implikationen für die Menschheit immens. Selbst wenn nur eine sehr geringe Chance besteht, dass derartige Maschinen in absehbarer Zeit entwickelt werden könnten, ist es wichtig, dass wir anfangen, ernsthaft über die Natur und die Implikationen nachzudenken.

Ethische Zielfunktionen

Shane Legg, einer der Gründer von Deep Mind, entwickelte ethische Zielfunktionen, um bestimmten, ungewünschten Tendenzen entgegenzuwirken. Er empfiehlt den Regierungen, ethische Richtlinien in den Verfassungen festzuschreiben. Künstliche Intelligenz sollte staatlich beaufsichtigt werden, wie Atomkraft, um sich optimal zum Wohle aller nutzen zu lassen.

Hier einige Ansätze aus diesen ethischen Zielfunktionen:

  • Die Menschenwürde muss auf die persönlichen Daten erweitert werden
  • Grundrechte für Datensubjekte (also den Menschen, die KI-Systeme nutzen – im Unterschied zu Datenobjekten, den PCs, und Maschinen)
  • Verkauf persönlicher Daten an Dritte ist zu verbieten, oder es müssen entsprechende Gegenleistungen geboten werden.
  • Die Privatsphäre muss unantastbar und sensorfrei bleiben, es sei denn einem Datenabgriff wird explizit zugestimmt.
  • Es müssen internationale Algorithmen-Abkommen geschlossen werden, die ausländischen Organisationen den Zugriff auf persönliche Daten nur aufgrund von expliziten Gesetzen, Beschlüssen, Verträgen gestatten.
  • Der Export von Spähsoftware muss verboten werden.
  • KI Forscher müssen sich ihrer Verantwortung bewusst sein, die eigene Geschichte verstehen und Aufklärungsarbeit leisten.
  • Aufklärung über Daten gehört in den Schulunterricht
  • Die Sensibilität der gesamten Bevölkerung zum Thema muss erhöht werden.
  • Zivile Organisationen sollten die technologische Revolution nicht jenen überlassen, denen die Demokratie gleichgültig ist, oder die sie als Hemmnis beachten.
  • Und das aller Wichtigste: eine nichtstaatliche Organisation muss dieses Thema anpacken und   auf die Agenda setzen

In einem Blog-Interview anlässlich des Confare Event #Digitalize 2016 – Industrial Innovation, habe ich auch Stellung zu gesellschaftlichen und ethischen Fragestellungen und den Zielfunktionen genommen. Mehr dazu auch hier: http://confare.at/kuenstliche-intelligenz-und-robotik-ist-der-mensch-ersetzbar/

Ohne Blick in die Glaskugel

Was uns jedenfalls bis 2040 ins Haus stehen könnte – ohne in die Glaskugel blicken zu wollen – sind

  • Automobile ohne Fahrer
  • Intelligente Zeitungen (durch flexibles elektronisches Papier)
  • Internet Kontaktlinsen (Virtual Retinal Display)
  • persönliche Roboterassistenten
  • Roboterchirurgen, die knifflige Handgriffe bei Operationen erledigen, die der Mensch nur schwer ausführen kann (bei Operationen am Gehirn zum Beispiel)
  • Telepathie, Brain Gate etc. etc.
  • Quantencomputer

Die Unternehmensberatung McKinsey schätzt in ihrer Studie aus 2017, dass sich mit der Automation von Wissen bis 2025 neun Billionen Dollar verdienen lassen. Die Schlüsseltechnologie dazu ist Künstliche Intelligenz. Mit Robotik, die ohne KI nur ein Haufen Blech wäre, prognostiziert man nochmalsechs Billionen und mit selbstfahrenden Autos weitere vier Billionen.

Roboter mit Gefühlen

Wissenschaftler verstehen mittlerweile das wahre Wesen und die Wichtigkeit der menschlichen Emotion. Gefühle sagen uns, was gut für uns ist und was nicht. Tatsächlich haben sich all unsere Emotionen im Laufe von mehr als 100.000 Jahren entwickelt, um uns vor den Gefahren einer feindlichen Umwelt zu schützen, uns zu helfen und uns fortzupflanzen. Gefühle sind also ein wichtiger Wert, um Entscheidungen darüber zu treffen, was wichtig, teuer, billig, hässlich oder hübsch und kostbar ist. Daher verstehen Wissenschaftler mittlerweile, dass Gefühle kein Luxus sind, sondern ein unabdingbarer Indikator für Intelligenz.

Roboter mit Gefühlen könnten eine Sache von Leben und Tod sein: ein Rettungsroboter wird vorgeschickt, wenn es um Erdbeben, Explosionen etc. geht. Diese Roboter werden eine Vielzahl von Werturteilen treffen, in Hinblick auf wen oder was sie retten und in welcher Reihenfolge. Sie werden lernen müssen Prioritäten zu setzen. Ethische Zielfunktionen für derartige Entscheidungen werden dann nicht von Informatikern erarbeitet werden, sondern im Vorfeld von Philosophen, Theologen, Soziologen und Psychologen. Politiker werden die Aufgabe haben, ethische Zielfunktionen in die Verfassungen zu bringen. Denn: künstliche Intelligenz muss staatlich geregelt sein, um einen optimalen Nutzen stiften zu können. Zum Wohle aller.

Petra Augustyn, Expertin für Künstliche Intelligenz und Entreprenesse, www.ktschng.com

Fotocredit: Fotolia.com #70987133 © Inok

Wenn der Chef eine Maschine ist.

Ein Gastbeitrag von Petra Augustyn zu ihrem Impulsvortrag am Wiener Leadership Kongress 2017

Schon in den 1960iger Jahren antizipierte STAR-TREK-Autor Gene Rodenberry ein Szenario, in dem eine Maschine die Herrschaft über das Raumschiff Enterprise übernehmen – und damit Captain Kirk das Ruder aus der Hand nehmen sollte. Schon damals spielte man mit einem Szenario künstlicher Intelligenz. Damals herrschte ein früher Zeitgeist. Man las Marcuse, Hesse und Fromm lieber als Marx, Sartre und Freud. Wer besonders klug sein wollte, las Heidegger und McLuhan. Die alte Besatzung war ein, ohne Penetranz inszeniertes, politisch inkorrektes Abbild der Weltlage. Der Russe Chekov, Chinese Sulu und natürlich Lieutenant Uhura, die Frauen-Movement und Schwarzen-Bewegung in sich verband, machten das Raumschiff zur kleinen UNO. Somit praktizierte STAR TREK zur Zeit des Vietnamkriegs eine frühe und vorbildliche Form einer Art Entspannungspolitik. Auch die Auseinandersetzung mit technischen Entwicklungen, die die Menschheit massiv beeinflussen könnten, wurden in STAR TREK, vielfach durch die Euphorie der Mondlandung aufgezeigt. Die Enterprise war auf Entdeckungsreise, neue Planeten und Galaxien für die Menschheit zu finden. Doch dabei war sie – und das sollte uns zu denken geben – stets streng hierarchisch organisiert.

 

Das Jahr 2268 und die Superintelligenz M-5

Die USS Enterprise, unter dem Kommando von Captain James T. Kirk, wird zu einer Mission berufen. Die Enterprise soll ein Testschiff für einen revolutionären, taktischen Computer namens M-5 Multitronic Unit sein, entworfen vom brillanten Dr. Richard Daystrom. Die Superintelligenz M-5 wird dabei die Schiffsfunktionen und das Kommando über das Raumschiff übernehmen. Captain Kirk ringt mit seinem Unbehagen über den Fortschritt in der Technologie und überdenkt seine eigene mögliche Veralterung…

“Es gibt gewisse Dinge, die Männer tun müssen, um Männer zu bleiben.”
Kirk an Daystrom, nachdem der M-5 auf der Enterprise installiert wurde.

Im Laufe der Testphase zeigen sich zunehmend Unterschiede und Widersprüche in den Entscheidungen von M-5 und Kirk. Bei einem Landgang definiert M-5 Kirk und Mc Coy als „unwesentliches Personal“ und empfiehlt Astrobiologen Phillips auf den Planeten zu beamen. Währenddessen beobachtet Scotty, dass die Leistung auf den Decks 4 und 5 zusammen mit den Umgebungskontrollen für jedes Deck reduziert wird. Er spürt die Quelle der Stromausfälle auf und erkennt, dass sie durch M-5 verursacht werden. Kirk und M-5-Vater Dr. Richard Daystrom geraten aneinander. Kirk kritisiert Daystrom, dass M-5 nur Informationen verarbeiten kann, die ihm zuvor eingegeben werden. M-5 kann keine Werturteile abgeben. Daystrom weist dies zurück und beschreibt M-5 als einen völlig neuen Ansatz für Logiksysteme.

“Computer sind ausgezeichnete und effiziente Diener, aber ich habe nicht den Wunsch, unter ihnen zu dienen.“
Captain James T. Kirk.


Schlüsselattribute menschlicher Führung

Plötzlich wird die Enterprise von zwei Schiffen der Föderation anvisiert: ein simuliertes Kriegsspiel soll Erkenntnisse bringen, wie M-5 auf feindliche Schiffe reagiert. M-5 reagiert hier umgehend und manövriert das Schiff schneller, als es ein menschlicher Befehlshaber getan hätte. Sogar Spock stellt mittlerweile fest, dass so etwas wie ein Computer, der ein Raumschiff navigiert, nicht wünschenswert ist und erklärt, dass ein Schlüsselattribut der menschlichen Führung Loyalität gegenüber der Besatzung, der Föderation und der Menschheit sei. Währenddessen hat M-5 die Macht auf der Krankenstation übernommen und saugt immer mehr Strom ab. Kirk zieht sich in sein Quartier zurück, um über den immer erfolgreicher werdenden M-5 nachzudenken. Währenddessen greift M-5 unmotiviert ein Schiff der Föderation mit Photonentorpedos an und zerstört es, obwohl es absolut keine Bedrohung für die Enterprise darstellt. Captain Kirk versucht, M-5 vom Strom zu nehmen, um die manuelle Kontrolle über das Schiff wiederzuerlangen. Dr. Daystrom versucht immer noch, Ausreden und Erklärungen dafür zu finden. Kirk wird wütend. Er verlangt von Daystrom, M-5 sofort abzuschalten, aber Daystrom besteht darauf, dass er M-5 zuerst korrigiert. Währenddessen versucht Scotty M-5 Kraft zu entziehen. Dabei verbrüht M-5 einen Techniker mit einem Dreizack-Scanner so stark, dass er stirbt. Entsetzt und wütend beschimpft Kirk Daystrom dafür, dass er nicht in der Lage und nicht willens sei, M-5 zu deaktivieren. Daystrom entschuldigt sich weiterhin für das Verhalten von M-5 und beharrt darauf, dass der Techniker M-5 einfach im Weg stand und das sein Tod keine absichtliche Handlung gewesen wäre. Darauf stellt Kirk  Dr. Daystrom eindringlich die Frage, wie lange es wohl dauern würde, bis jeder auf der Enterprise M-5 in den Weg komme…

“Ich behaupte einfach, dass Computer effizienter sind als Menschen, nicht besser.”
Dr. Richard Daystrom


Diener welches Herrn?

Die leitenden Mitarbeiter auf der Enterprise arbeiten gemeinsam an einem Plan, um die Kontrolle zurückzugewinnen, indem sie sich auf eine bestimmte Relaiseinheit zwischen M-5 und der Brücke konzentrieren. Daystrom dagegen verteidigt M-5 weiterhin und sagt, die Intelligenz lerne, und außerdem würde der Fortschritt von M-5 den Menschen von gefährlichen Aufgaben befreien und Leben retten. McCoy bemerkt später gegenüber Kirk, dass Daystrom auf den Computer reagiert, wie ein Vater auf sein Kind. Spock beginnt währenddessen das unlogische Verhalten der M-5 Einheit zu notieren. Daystrom erklärt, er habe menschliche Engramme auf die Relais gepresst. Die Relais sind den Synapsen im Gehirn nicht unähnlich. M-5 bittet beim Oberbefehlshaber des Sternenflottenkommandos (Anm.: dem Chef von Captain Kirk) alle Schiffe der Föderation zerstören zu dürfen. Jetzt, wo M-5 nachweislich einen Mord begehen will, konfrontiert Kirk Dr. Daystrom erneut damit, M-5 zu deaktivieren. Daystrom wird daraufhin ungehalten und betont, dass er die Engramme, die in der Maschine eingeprägt sind, nicht verändern könne und, dass sein Renommee auf dem Spiel stehe. Spock bemerkt, dass die Selbsterhaltung, die der M-5 zeigt, wahrscheinlich eine Folge von Daystroms Engrammprägung ist: er wollte mit M-5 sein Abbild erschaffen. Kirk selbst versucht nun den Computer dazu zu zwingen, seine Verantwortung für den Tod von hunderten von Menschen zu erkennen. Tiefes Bedauern über die Todesfälle fühlend, schaltet M-5 schließlich von selbst ab. Spock und Scotty trennen dann den Computer von der Kontrolle des Schiffs. Kirk befiehlt eine Rückkehr zu Starbase.


Zukunftsvisionen zwischen gestern und morgen

Beamen wir uns wieder zurück ins Hier und Jetzt. Einst spielte STAR TREK ironisch mit einem liberalen Optimismus und expansionistischen Geist eines Commander James T. Kirk, der das New-Frontier Denken der Kennedy-Generation spiegelte, und im ironischen Egghead-Fanatismus eines Dr. Spock und in der skeptischen Humanität eines Pille McCoy Gegenpole vorgesetzt bekam. Es zeigte uns, dass humane Intelligenz, eine generelle, mentale Leistungsfähigkeit ist, die unter anderem die Fähigkeit besitzt, Schlussfolgerungen ziehen zu können, Probleme lösen und abstrakt denken zu können, komplexe Ideen nachvollziehen zu können, schnell von Erfahrungen zu lernen und dabei mit seiner Umwelt und den Mitmenschen in einer empathischen Wahrnehmung zu sein.

Seit den 1960 hat sich im Selbstverständnis der Computernerds und Futuristen wenig verändert. Das Moore´sche Gesetz (Computerleistung verdoppelt sich alle 18 Monate) ist weiter intakt. Vor Jahren jedoch begannen Physiker davor zu warnen, dass ein Ende des Moore´schen Gesetzes ab den 2020 Jahren absehbar sei. Somit wäre das Silizium Zeitalter und die dazugehörigen Chips, die uns in jedem Handy, Laptop etc. als Informationsspeicher dienen, obsolet. Das Silicon Valley würde zum Rostgürtel mutieren, weil die großen Firmen wie Facebook, Uber oder Google auf der Silizium Chip-Technologie aufgebaut sind. Es sei denn man fände bis dahin eine Ersatztechnologie. Nach den Gesetzen der Physik würde ab hier die Quantentheorie übernehmen  – wie das auf der Enterprise bereits Realität wurde. Materie dematerialisieren um dann wieder zu materialisieren (=beamen) wird allerdings nicht ad hoc möglich sein. Die Computerleistung würde immer noch exponentiell wachsen, doch die Verdoppelzeit verkürzt sich von monatlich zu mehreren Jahren. Für die Wirtschaft würde das bedeuten, dass neue Player auf den Markt rücken. Riesige Summen stünden auf dem Spiel. Zudem könnte die Antwort auf diese physikalische Frage die ökonomische Struktur des Kapitalismus zutiefst erschüttern.

In der damaligen digitalen Zukunftsvision schien letztlich alles möglich zu sein, doch das Kommando übergab James T. Kirk niemals an eine künstliche Intelligenz ab, sondern lediglich an Captain Jean-Luc Picard und seiner Next Generation.

Text: Mag. Petra Augustyn, Unternehmerin und Expertin für künstliche Intelligenz; www.ktschng.com

Fotocredit: Fotolia.com #138370443  © Natalia80

Digitalisierung: ein Auftrag an die Führung

Der nächste, große technische Entwicklungsschritt steht für uns Menschen vor der Türe, die Digitalisierung. Dabei stehen die Automatisierung der Arbeit und die Nutzung künstlicher Intelligenz für das tägliche Leben im Vordergrund. In verschiedenen Diskussionen und Artikeln fallen vor allem die Angstszenarien auf: es werden viele Arbeitsplätze wegfallen, Menschen werden durch Roboter ersetzt, der Mensch wird in den Hintergrund treten. Aktuell können wir nur erahnen, was das für die Menschheit bedeuten kann. In diesem Zusammenhang wird leider zu wenig über die Chancen für uns als Gesellschaft gesprochen, was die Digitalisierung für einen positiven Einfluss auf unsere Lebensqualität haben kann.

Automatisch wird das neue Normal

Das, was sicher auf uns zukommen wird, ist, dass der Mensch im Arbeitsprozess eine neue Rolle einnehmen wird. Arbeit per se wird sich wandeln. Zum einen, weil die nachkommenden jungen Generationen sinnvolle Arbeit und einen Nutzen-stiftenden Beitrag leisten wollen. Zum zweiten, weil viele niedrig qualifizierte Jobs und einfache Tätigkeiten von Maschinen und Robotern übernommen werden können. Für viele Jobs kann das allerdings auch eine große Entlastung bedeuten, wenn Tätigkeiten automatisiert werden oder diese von einem Roboter übernommen werden können. Was wäre, wenn wir durch die Automatisierung mehr Zeit und gedankliche Ressourcen für andere Aspekte unserer Arbeit habe? Für solche, für die wir gewöhnlich zu wenig Zeit haben? Was würde das für unsere Talente, unsere Kreativität und Lebensqualität bedeuten?

In vielen Lebensbereichen sind wir ja schon sehr gewohnt, dass Dinge automatisch ablaufen und uns dadurch auch unser Leben erleichtern. Vieles davon ist selbstverständlich geworden: der Tempomat im Auto, die universelle Verfügbarkeit von Daten über die Cloud, online Banking, und vieles mehr. Vor 10-15 Jahren war das noch ganz anders. Automatisierung ist also ohnehin schon ein fixer Bestandteil unseres Lebens. Die Automatisierung erfordert allerdings auch, dass wir als Individuen (nicht nur technologisch) mehr denn je am Ball bleiben müssen, um auch die Chancen, die sich aus der Digitalisierung ergeben auch persönlich nutzen zu können.

Vernetzung ist key

Durch die neuen Technologien ist auch heute schon eine ganz andere Form der Vernetzung möglich. Die sozialen Netzwerke zeigen es bereits seit Jahren vor. Und auch Unternehmen können sich diesem Trend nicht verschließen: schnell sind Produkte und Leistungen mit „Likes“ am Weg nach oben oder durch unzufriedene KundInnenerfahrungen sehr rasch wieder am Abstieg. Feedback vom Markt und den MitarbeiterInnen erfolgt heute viel unmittelbarer als noch vor wenigen Jahren und dieser Trend wird sich noch verstärken. Denn die nachfolgende Generation der Digital Natives ist bereits so aufgewachsen. Und das gilt nicht nur für die Produkte oder Leistungen von Unternehmen, sondern auch für die Unternehmen als Arbeitgeber. Freiheit und Zufriedenheit der MitarbeiterInnen wird künftig eine noch stärkere Rolle spielen. Aufpolierte Pressemitteilungen oder 08/15 Stellenausschreibungen werden künftig immer weniger punkten. Zu arbeiten, nur um Geld zu verdienen wird mittelfristig – in jedem Fall für einen Großteil der jungen Millenials – kein Anreiz mehr sein. Das haben sie auch von unserer Generation der 40+ gut gelernt und beobachtet, wie viele von uns in Erschöpfung und Burnout geschlittert sind. Auch Technolgogien wie die Blockchain zeigen, dass Vernetzung in Zukunft noch wichtiger werden wird. Dadurch erhöht sich die Transparenz und durch mehr Transparenz entsteht leichter Vertrauen, was wiederum einen Einfluss auf die Zusammenarbeit der Zukunft haben wird.

Der Auftrag an die Führung

In Zeiten der Digitalisierung hat die Führung – nicht nur in den Unternehmen – einen großen Auftrag. Allerdings mit anderen Schwerpunkten, als bisher. Natürlich geht es dabei auch um die Operationalisierung von Geschäftsprozessen, aber es wird auch noch stärker um “weiche” Faktoren gehen. In Zeiten der Digitalisierung wird nicht – wie so oft gemeint – weniger Führung benötigt werden, sondern mehr.  Eine Frage ist in diesem Zusammenhang auch, was mit den Erträgen aufgrund der gesteigerten Produktivität passieren wird, ob und wie diese verteilt werden: werden sich ein paar wenige bereichern oder werden diese Erträge für Kaufkraft verteilt werden. Hier sind auch die Regierungen am Zug.

Ich glaube, dass sich durch die Digitalisierung große Chancen für uns als Gesellschaft eröffnen können. Die Frage ist, wie wir als Menschen damit umgehen werden: ob Eigennutz in den Vordergrund treten, oder gesunde Eigenverantwortung, die auf andere nicht vergisst, die treibende Kraft sein wird. Ob wir einen Schulterschluss schaffen, oder uns gegenseitig übervorteilen. Es wird noch stärker um die Rahmenbedingungen für Zusammenarbeit gehen, um Authentizität, Vertrauen, gesunde Eigenverantwortung sowie interessante Aufgabenfelder, die es zu schaffen gilt und: den Fokus auf die Chancen zu richten.

Mehr dazu übrigens wir bei unserer Wiener Leadership Night am 12. September 2017.

Fotocredit: Fotolia.com #100000042  © gonin