У масовій свідомості надлюдський штучний інтелект — технологічне цунамі, що загрожує не лише економіці та людським відносинам, а й самій цивілізації. Конфлікт між людьми та машинами бачиться невідворотним, а його результат зумовленим. Видатний дослідник ІІ Стюарт Рассел стверджує, що цього сценарію можна уникнути. У своїй новаторській книзі автор розповідає, яким чином люди вже навчилися використовувати ІІ, в діапазоні від смертельної автономної зброї до маніпуляцій нашими уподобаннями, і чого ще зможуть її навчити. Якщо це станеться і з'явиться надлюдський ІІ, ми зіткнемося з сутністю, набагато могутнішою, ніж ми самі. Як гарантувати, що людина не опиниться в підпорядкуванні надінтелекту? Для цього, вважає Рассел, штучний інтелект повинен будуватися на нових принципах. Про те, що це за принципи і як їх реалізувати, читач дізнається з цієї книги, яку найавторитетніші видання у світі назвали головною книгою про штучний інтелект. може запропонувати цивілізація, що є продуктом нашого інтелекту; Набуття доступу до істотно переважаючим інтелектуальним можливостям стало б найбільшою подією в історії. Мета цієї книги — пояснити, чому вона може стати останньою подією цивілізації і як виключити такий результат. Введення поняття корисності — невидимої властивості — для пояснення людської поведінки за допомогою математичної теорії було приголомшливим для свого часу. Тим більше що, на відміну від грошових сум, цінність різних ставок і призів з точки зору корисності недоступна для прямого спостереження. іншими засобами. Навіть якщо робот виконує обмежене коло завдань і має лише зародкове розуміння того, що відбувається, він може бути дуже корисним. Деякі фахівці пропонують як рішення безумовну відповідальність.