Рассуждения об искусственном интеллекте и его эре, которая вот-вот наступит, Тегмарк начинает с освещения вопроса, что вообще такое интеллект и какую роль сыграл он в истории развития нашей цивилизации. Мы, представители жизни 2.0, в отличие от амеб, не только существуем, но и можем получать знания и использовать богатый опыт для того, чтобы задавать себе свой собственный алгоритм, иными словами, мы сами программируем и контролируем свое поведение, программу своих действий. Жизнь 3.0, в отличие от нас, сможет менять собственное строение, не дожидаясь, пока это сделают тысячелетия эволюции. Должны ли мы определить цели для искусственного интеллекта? И если да, то какие именно цели это должны быть? И кому доверить эту задачу? Сможем ли мы убедиться, что эти цели сохранятся даже при дальнейшем развитии искусственного интеллекта? Сможем ли мы изменить цели, если AI станет умнее нас? И, в конце концов, главным становится вопрос: а какие наши собственные основные цели?
Макс Тегмарк говорит о трех основных этапах развития жизни на нашей планете. Жизнь 1.0, простоя биологическая жизнь свойственная, например, бактериям. Жизнь 2.0, или культурная жизнь, подразумевает получение знаний и опыта, с последующим использованием этих знаний для определения своего поведения. Жизнь 3.0, которая пока еще не появилась на Земле, будет иметь одно важное отличие от Жизни 2.0 - она сможет быстро и радикально менять собственное строение, не дожидаясь, пока оно изменится эволюционным путем через ряд поколений. Многие эксперты уверены, что эта новая форма жизни появится уже в нашем столетии. Как это произойдет, какой эта новая форма будет, что даст человечеству и как изменится наша жизнь, если в ней будет присутствовать искусственный разум. А главное, стоит ли нам этого опасаться. На эти вопросы, приводя разнообразные факты и моделируя различные пути развития ближайшего будущего, и отвечает эта книга.
