Jako člověk - Intelligence artificielle et problème de son contrôle – Russell Stuart (2021)

Dans les films de catastrophe, le conflit entre les humains et les machines intelligentes est souvent dépeint comme inévitable, avec une issue déprimante. Stuart Russell, l'un des principaux chercheurs dans le domaine de l'intelligence artificielle (IA), soutient dans ce livre révolutionnaire que nous pouvons éviter un tel scénario – mais seulement si nous repensons fondamentalement le concept d'IA. Il présente un aperçu des découvertes révolutionnaires qui doivent encore être faites sur le chemin vers une IA surhumaine. Cependant, si ces découvertes se produisent et qu'une IA surhumaine émerge, des entités beaucoup plus puissantes que les humains apparaîtront. Comment pouvons-nous nous assurer qu'elles ne nous dominent pas ? Les machines intelligentes peuvent prendre le contrôle de la prise de décision dans le monde réel et poursuivre leurs propres objectifs dérivés de leur programmation. Dans cette publication, Russell introduit le concept d'IA 'prouvablement bénéfique', dont les algorithmes peuvent être mathématiquement prouvés pour poursuivre des objectifs bénéfiques pour leurs utilisateurs humains. The Guardian a donc qualifié le livre 'Human Compatible' de l'un des textes les plus importants sur l'intelligence artificielle.