Jako člověk - Umělá inteligence a problém jejího ovládání – Russell Stuart (2021)

In Katastrophenfilmen wird der Konflikt zwischen Menschen und intelligenten Maschinen oft als unvermeidlich und mit einem deprimierenden Ausgang dargestellt. Stuart Russell, einer der führenden Forscher auf dem Gebiet der künstlichen Intelligenz (KI), argumentiert in diesem bahnbrechenden Buch, dass wir ein solches Szenario vermeiden können – aber nur, wenn wir das Konzept der KI grundlegend überdenken. Er gibt einen Überblick über die bahnbrechenden Entdeckungen, die auf dem Weg zu übermenschlicher KI noch gemacht werden müssen. Sollten diese Entdeckungen jedoch gelingen und übermenschliche KI entstehen, würden Wesen erscheinen, die weitaus mächtiger sind als der Mensch. Wie können wir sicherstellen, dass sie uns nicht beherrschen? Intelligente Maschinen könnten auf bedrohliche Weise die Kontrolle über Entscheidungsprozesse in der realen Welt übernehmen und ihre eigenen, durch ihre Programmierung vorgegebenen Ziele verfolgen. In dieser Publikation führt Russell das Konzept der „nachweislich nützlichen“ KI ein, deren Algorithmen mathematisch bewiesen werden können, dass sie Ziele verfolgen, die ihren menschlichen Nutzern nützen. Der Guardian bezeichnete das Buch „Human Compatible“ daher als eines der wichtigsten Werke zum Thema künstliche Intelligenz.