Google fordert Notfallschalter bei Künstlicher Intelligenz

(Mystery News) Der Google-Forscher Laurent Orseau, der bei der Google-Tochter DeepMind arbeitet, fordert einen Notfallschalter für die Künstliche Intelligenz als Schutz. Er berichtet, dass sich künstliche Roboter-Agenten, die sich in komplexen Umfeldern wie in der echten Welt trainiert wurden, sich nicht zu jedem Zeitpunkt optimal verhalten könnten. Zusammen mit seinem Kollegen Stuart Armstrong, der am „The Future of Humanity Insti-tute“ der University of Oxford tätig ist, verfasste er einen Aufsatz zu dem Thema. Der Aufsatz kann online unter Intelligence.org abgerufen werden. Der Notfallschalter sollte zum Schutz der Umgebung in die Künstliche Intelligenz integriert werden, damit keine Menschen oder der Roboter selbst zu Schaden kommt. Der rote Knopf wie die Forscher den Notfallschalter umschreiben, könnte durch einen menschlichen Überwacher oder Besitzer des Roboters betätigt werden.

Notfallschalter der Künstlichen Intelligenz

Der integrierte Notfallschalter der Künstlichen Intelligenz soll verhindern, dass der Roboter oder Maschine sich selbst und seinem Umfeld inklusive den darin lebenden Menschen einen Schaden verursachen kann. Die Integration einer solchen Paniktaste gestalte sich nach Angaben der Forscher schwierig, weil die KI lernen könnte den Schalter selbst zu deaktivieren. Eine Entwicklung von DeepMind ist das Computersystem AlphaGo und das ist eine Künstliche Intelligenz, die in diesem Jahr zum ersten Mal eine Anzahl Profispieler des Brettspiels Go besiegt hatte. In einem nächsten Schritt soll die KI nun den aktuellen Go-Weltmeister schlagen.

Empfehlung der Redaktion
Die geheime Geschichte der Menschheit
  • Jim Marrs
  • Herausgeber: Kopp Verlag
  • Auflage Nr. 1 (26.11.2015)
  • Gebundene Ausgabe: 368 Seiten
Empfehlung der Redaktion
Verborgene Geschichte: Wie eine geheime Elite die Menschheit in den Ersten Weltkrieg stürzte
  • Gerry Docherty, Jim Macgregor
  • Herausgeber: Kopp Verlag
  • Auflage Nr. 22017 (27.11.2014)
  • Gebundene Ausgabe: 494 Seiten

Das Forscher-Duo arbeitet an Optionen, mit denen die Künstliche Intelligenz daran gehindert werden soll den Notfallschalter abzuschalten. Die KI sieht ein solches Eingreifen durch die Umwelt als „Unterbrechung“ an und aus diesem Grund befindet sich derzeit eine Definition in der Entwicklung, mit der robotische Agenten auf sichere Art gestoppt werden sollen. Sie verweisen auf Lern-Algorithmen wie Q-Learning, die mit Stopp-Funktionen arbeiten. Beim Lernalgorithmus Sarsa (State-Action-Reward-State-Action) hingegen sei eine Nachinstallation einer Stopp-Funktion notwendig. Ob alle passenden Algorithmen mit einem Panikschalter deaktiviert werden können, ist nicht sicher und kann eine Gefahr für die Umwelt bedeuten.

Fluchtrucksack – Die perfekte Packliste

Gefahren der Künstlichen Intelligenz

Die Künstliche Intelligenz birgt Gefahren in sich, die wir Menschen im schlimmsten Fall nicht kontrollieren können. Vor diesem Gefahrenpotential warnen bekannte Persönlichkeiten wie der Wissenschaftler Stephen Hawking oder der Unternehmer Elon Musk. Der Chef der Google-Hauptgesellschaft Alphabet hingegen stuft diese Kritiken als Angstmache ein, weil noch mindestens ein großer Meilenstein in der KI-Forschung erforderlich sei, bevor Maschinen so intelligent seien wie wir Menschen.

Ein Risiko besteht in der Singularität, bei der eine KI eine höhere Intelligenz hat als wir Menschen und gegen ihre Schöpfer handeln könnte. Der Film „Transcendence“ behandelt das Thema Singularität unter ihren positiven wie negativen Folgen für die Menschheit. Die Actionfilm-Reihe „Terminator“ sieht die Künstliche Intelligenz im negativen Licht, bei der ein KI-Computersystem mit Namen Skynet die Herrschaft über die Erde übernimmt. Skynet gerät in „Terminator 3 – Rebellion der Maschinen“ außer Kontrolle nachdem der Einschaltknopf von seinem Entwickler gedrückt wurde. In der Folge bricht der dritte Weltkrieg ausgelöst durch Skynet aus und die Menschheit wird von Androiden unterdrückt. Eine gleichnamige KI existiert bei der US-Army tatsächlich und dient dazu Kampfstrategien mit Holografietechnik zu entwickeln.

In 20 bis 30 Jahren könnte die Künstliche Intelligenz mit Erreichen der Singularität die Menschheit überflügeln und im schlimmsten Fall gegen ihre Schöpfer aktiv werden. Die Installation eines Notfallschalter ist wegen der Gefahren der KI unbedingt erforderlich, damit die Erde nicht eines Tages von einem hochintelligenten Computersystem beherrscht wird.

Die KI könnte das Leben verbessern, indem Roboter in Haushalten, Pflegeheime und Krankenhäusern eingesetzt werden. Das Militär hingegen wird die Künstliche Intelligenz dazu einsetzen hochintelligente Kampfroboter, autonome Drohnen und Kampfmaschinen zu entwickeln.

Das Thema KI bleibt spannend und wir werden die Entwicklung in diesem Sektor weiter beobachten. Wir hoffen, dass uns die Künstliche Intelligenz der Zukunft als Freund und nicht Feind einstuft.

Videos zur Künstlichen Intelligenz

Aktivieren Sie JavaScript um das Video zu sehen.
https://www.youtube.com/watch?v=rafhHIQgd2A
Aktivieren Sie JavaScript um das Video zu sehen.
https://www.youtube.com/watch?v=G2F2bs-6V08
Aktivieren Sie JavaScript um das Video zu sehen.
https://www.youtube.com/watch?v=hEkqM5SX3Fc

Beitragsbild: © Depositphotos.com / Andreus

Über den Autor Andreas Krämer

Andreas Krämer ist seit Winter 2002 als Texter mit seinem Schreibbüro aktiv. Er interessiert sich für technische, mysteriöse und wirtschaftliche Themen.

Empfehlung der Redaktion
Ergebnisse aus 40 Jahren UFO-Forschung: Wie die Untersuchungen von MUFON-CES zu einem neuen Weltbild führten
  • Illobrand von Ludwiger
  • Herausgeber: Kopp Verlag
  • Auflage Nr. 1 (25.02.2015)
  • Gebundene Ausgabe: 415 Seiten

Als Amazon-Partner verdienen wir an qualifizierten Käufen / Letzte Aktualisierung am 27.05.2018 / Affiliate Links / Bilder DSGVO-konform über Proxyserver von der Amazon Product Advertising API geladen / Platzierung nach Amazonverkaufsrang / Amazon und das Amazon-Logo sind Warenzeichen von Amazon.com, Inc. oder eines seiner verbundenen Unternehmen

1 vote, average: 5,00 out of 51 vote, average: 5,00 out of 51 vote, average: 5,00 out of 51 vote, average: 5,00 out of 51 vote, average: 5,00 out of 5 (1 Bewertungen, durchschnittlich: 5,00 von 5)