This kind of omnipotent superintelligence is still a few years off.
All of this superintelligence could develop, and possibly quite rapidly.
Only superintelligence can maximise the utility function of the universe.
Nur Superintelligenz kann die Nutzenfunktion des Universums maximieren.
A superintelligence is a really strong optimization process.
Eine Superintelligenz ist ein wirklich starker Optimierungsprozess.
Nevertheless, superintelligence isn't sorcery, and the laws of physics are clear.
Superintelligenz ist jedoch keine Zauberei, und die Gesetze der Physik sind klar.
If superintelligence arrives, who should be in control?
Wenn die Superintelligenz kommt, wer sollte sie kontrollieren?
For when a superintelligence is put to work in industry, we could see quantum leaps that human minds alone might have taken thousands of years to make.
Denn wenn eine Superintelligenz in der Industrie eingesetzt wird, könnten wir Quantensprünge erleben, für die der menschliche Geist Tausende von Jahren gebraucht hätte.
But if it succeeds in making the superintelligence friendly through clear rules, this could also mean the end of all humanity problems - including old age, illness and death.
Sollte es aber gelingen, die Superintelligenz durch klare Regeln freundlich zu gestalten, könnte dies auch das Ende aller Menschheitsprobleme bedeuten - inklusive Alter, Krankheit und Tod.
To worry now about the rise of a superintelligence is in many ways a dangerous distraction because the rise of computing itself brings to us a number of human and societal issues to which we must now attend.
Die aktuelle Sorge vor der Machtergreifung einer Superintelligenz ist in vieler Hinsicht eine gefährliche Ablenkung, weil die Zunahme der Rechenleistung an sich, eine Reihe von menschlichen und sozialen Fragen aufwirft, denen wir uns jetzt zuwenden müssen.
On the other hand, novel problems could in fact arise if an ethical superintelligence, which only wants the best for us, concludes that it would be better for us not to exist because our lives are overwhelmingly painful.
Andererseits könnten tatsächlich neuartige Probleme auftauchen, wenn eine ethische Superintelligenz, die nur das Beste für uns will, zu dem Ergebnis kommt, es wäre für uns besser, nicht zu existieren, weil unser eigenes Leben überwiegend leidvoll ist.
he picks up on this theme and observes that a superintelligence might not only be dangerous, it could represent an existential threat to all of humanity.
nimmt er dieses Thema auf, und merkt an, dass eine Superintelligenz nicht nur gefährlich wäre, sie könnte eine existenzielle Bedrohung für die ganze Menschheit sein.
in which we had a superintelligence that commanded human will, that directed every device that was in every corner of the world.
in dem eine Superintelligenz den menschlichen Willen beherrschte und jedes Gerät in jedem Winkel der Welt steuerte.
So the potential for superintelligence lies dormant in matter, much like the power of the atom lay dormant throughout human history, patiently waiting there until 1945.
Also ruht das Potential für Superintelligenz in der Materie, ähnlich wie die Kraft des Atoms während der Menschheitsgeschichte ruhte und dort geduldig bis 1945 wartete.