Berechnungen von Wissenschaftlern haben gezeigt, dass es unmöglich sein wird, superintelligente KI zu kontrollieren

Die Idee, dass künstliche Intelligenz die Menschheit stürzen oder versklaven könnte, wird seit vielen Jahrzehnten diskutiert

Im Januar 2021 fällten Wissenschaftler ihr Urteil darüber, ob wir die Superintelligenz von Computern auf hohem Niveau kontrollieren können. Antwort: Mit ziemlicher Sicherheit nicht.

Der Haken ist, dass man es handhaben mussSuperintelligenz, die weit über das menschliche Verständnis hinausgeht, erfordert eine Simulation dieser Superintelligenz, die wir analysieren können. Aber wenn wir es nicht verstehen, dann ist es unmöglich, eine solche Simulation zu erstellen.

Regeln wie „keinen Schaden anrichten“.Menschen können nicht ermittelt werden, wenn wir nicht verstehen, welche Szenarien KI entwickeln kann, so die Autoren des Artikels von 2021. Wenn ein Computersystem auf einem Niveau arbeitet, das über die Fähigkeiten unserer Programmierer hinausgeht, können wir keine Grenzen mehr setzen.

„Superintelligenz repräsentiertein grundlegend anderes Problem als diejenigen, die normalerweise unter dem Banner der „Roboterethik“ untersucht werden, – schreiben die Forscher. „Das liegt daran, dass Superintelligenz vielfältig ist und daher das Potenzial hat, vielfältige Ressourcen zu mobilisieren, um Ziele zu erreichen, die für Menschen möglicherweise unverständlich, geschweige denn kontrollierbar sind.“

Wenn wir künstliche Werbung machen wollenIntelligenz, wir wissen vielleicht nicht einmal, wann Superintelligenz außerhalb unserer Kontrolle auftauchen wird, sie ist so unverständlich. Das bedeutet, dass wir anfangen müssen, ernsthafte Fragen zu stellen, in welche Richtung wir gehen.

Quelle: sciencealert, Jair

Illustrationen: Yuyeung Lau

</ p>