Google fordert Notfallschalter bei Künstlicher Intelligenz

( News) Der Google-Forscher Laurent Orseau, der bei der Google-Tochter DeepMind arbeitet, fordert einen Notfallschalter für die als Schutz. Er berichtet, dass sich künstliche Roboter-Agenten, die sich in komplexen Umfeldern wie in der echten Welt trainiert wurden, sich nicht zu jedem Zeitpunkt optimal verhalten könnten. Zusammen mit seinem Kollegen Stuart Armstrong, der am „The Future of Humanity Insti-tute“ der University of Oxford tätig ist, verfasste er einen Aufsatz zu dem Thema. Der Aufsatz kann online unter Intelligence.org abgerufen werden. Der Notfallschalter sollte zum Schutz der Umgebung in die Künstliche Intelligenz integriert werden, damit keine Menschen oder selbst zu Schaden kommt. Der rote Knopf wie die Forscher den Notfallschalter umschreiben, könnte durch einen menschlichen Überwacher oder Besitzer des Roboters betätigt werden.

Notfallschalter der Künstlichen Intelligenz

Der integrierte Notfallschalter der soll verhindern, dass der Roboter oder Maschine sich selbst und seinem Umfeld inklusive den darin lebenden Menschen einen Schaden verursachen kann. Die Integration einer solchen Paniktaste gestalte sich nach Angaben der Forscher schwierig, weil die KI lernen könnte den Schalter selbst zu deaktivieren. Eine Entwicklung von DeepMind ist das Computersystem AlphaGo und das ist eine Künstliche Intelligenz, die in diesem Jahr zum ersten Mal eine Anzahl Profispieler des Brettspiels Go besiegt hatte. In einem nächsten Schritt soll die KI nun den aktuellen Go-Weltmeister schlagen.

Das Forscher-Duo arbeitet an Optionen, mit denen die Künstliche Intelligenz daran gehindert werden soll den Notfallschalter abzuschalten. Die KI sieht ein solches Eingreifen durch die Umwelt als „Unterbrechung“ an und aus diesem Grund befindet sich derzeit eine Definition in der Entwicklung, mit der robotische Agenten auf sichere gestoppt werden sollen. Sie verweisen auf Lern-Algorithmen wie Q-Learning, die mit Stopp-Funktionen arbeiten. Beim Lernalgorithmus Sarsa (State-Action-Reward-State-Action) hingegen sei eine Nachinstallation einer Stopp-Funktion notwendig. Ob alle passenden Algorithmen mit einem Panikschalter deaktiviert werden können, ist nicht sicher und kann eine Gefahr für die Umwelt bedeuten.

Gefahren der Künstlichen Intelligenz

Die Künstliche Intelligenz birgt Gefahren in sich, die wir Menschen im schlimmsten Fall nicht kontrollieren können. Vor diesem Gefahrenpotential warnen bekannte Persönlichkeiten wie der Stephen Hawking oder der Unternehmer Elon Musk. Der Chef der Google-Hauptgesellschaft Alphabet hingegen stuft diese Kritiken als Angstmache ein, weil noch mindestens ein großer Meilenstein in der KI-Forschung erforderlich sei, bevor Maschinen so intelligent seien wie wir Menschen.

Ein Risiko besteht in der Singularität, bei der eine KI eine höhere Intelligenz hat als wir Menschen und gegen ihre Schöpfer handeln könnte. Der „Transcendence“ behandelt das Thema Singularität unter ihren positiven wie negativen Folgen für die Menschheit. Die Actionfilm-Reihe „Terminator“ sieht die Künstliche Intelligenz im negativen Licht, bei der ein KI-Computersystem mit Namen Skynet die Herrschaft über die Erde übernimmt. Skynet gerät in „Terminator 3 – Rebellion der Maschinen“ außer Kontrolle nachdem der Einschaltknopf von seinem Entwickler gedrückt wurde. In der Folge bricht ausgelöst durch Skynet aus und die Menschheit wird von Androiden unterdrückt. Eine gleichnamige KI existiert bei der US-Army tatsächlich und dient dazu Kampfstrategien mit Holografietechnik zu entwickeln.

In 20 bis 30 Jahren könnte die Künstliche Intelligenz mit Erreichen der Singularität die Menschheit überflügeln und im schlimmsten Fall gegen ihre Schöpfer aktiv werden. Die Installation eines Notfallschalter ist wegen der Gefahren der KI unbedingt erforderlich, damit die Erde nicht eines Tages von einem hochintelligenten Computersystem beherrscht wird.

Die KI könnte das Leben verbessern, indem Roboter in Haushalten, Pflegeheime und Krankenhäusern eingesetzt werden. Das hingegen wird die Künstliche Intelligenz dazu einsetzen hochintelligente , autonome Drohnen und Kampfmaschinen zu entwickeln.

Das Thema KI bleibt spannend und wir werden die Entwicklung in diesem Sektor weiter beobachten. Wir hoffen, dass uns die Künstliche Intelligenz der Zukunft als Freund und nicht Feind einstuft.

[content-egg-block template=offers_list]

Videos zur Künstlichen Intelligenz

„Künstliche Intelligenz wird alles ändern“

Das Video wird von YouTube eingebettet und erst beim Klick auf den Play-Button geladen. Es gelten dann die Datenschutzbestimmungen von Google.
Wird künstliche Intelligenz die Menschheit vernichten?

Das Video wird von YouTube eingebettet und erst beim Klick auf den Play-Button geladen. Es gelten dann die Datenschutzbestimmungen von Google.

Das Video wird von YouTube eingebettet und erst beim Klick auf den Play-Button geladen. Es gelten dann die Datenschutzbestimmungen von Google.

Bild: © Depositphotos.com / Andreus

5/5 - (1 vote)

Über den Autor Andreas Krämer

Andreas Krämer ist seit Winter 2002 als Texter mit seinem Schreibbüro aktiv. Er interessiert sich für technische, mysteriöse und wirtschaftliche Themen.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert