Є безліч порад, чи варто дочитувати до кінця розпочату вами книгу.

Наприклад, існує правило 37 сторінки - якщо ви її не помітили, значить книга вас зачепила. Є правило першого розділу - якщо в першому розділі автор не зміг сказати нічого цікавого для вас, значить ймовірність того, що далі в книзі буде щось вартісне, не дуже велика.

А мені (Dmitry Chernyshev) більше подобається інший варіант - читати розширені аннотації з книги і за ними визначати, чи варто купувати цю книгу, щоб прочитати її цілком. Зараз у мене завантажено дві сотні аннотацій книг і щодня я читаю три-чотири вижимки найцікавіших для мене тем в Smartreading.ru.
І про одну з таких книг я хотів би розповісти. Її написав Макс Тегмарк «Життя 3.0 Що значить бути людиною в епоху штучного інтелекту»
Але спочатку невеличкий вступ.

Ми вже пережили кілька обіцяних нам кінців світу і навіть не помітили їх. У 1980 році повинен був настати кінець світу в результаті ядерної війни згідно бахаїстській секті, спорудити захисток в горах США. У 1993 році кінець світу обіцяло «Біле братство». У 1999 році - секта Аум Сінрікьо. У 2000 році - секта «Рух за відродження десяти заповідей». У 2008 році - секта Петра Кузнєцова, яка закрилася в печері в Пензенській області. У 2011 році кінець світу передбачав американський проповідник з затишним прізвищем Кемпінг. У 2012 році повинен був настати кінець світу від майя. Три тижні тому земляни з трепетом чекали зіткнення з планетою Нібіру.
Але були і більш серйозні небезпеки - наприклад, ядерна війна. Або мальтузіанская пастка. Існувала ймовірність того, що в п'ятницю 13 листопада 2026 року населення Землі досягло б безкінченості. Я розумію, що це звучить трохи дивно - як може кількість людей досягти нескінченності? Тих, хто сумнівається відсилаю до статті «Теорема про кінець світу». За не зовсім зрозумілих нам причин Закон гіперболічного зростання чисельності населення Землі, який діяв десятки тисяч років, припинив свою дію в 60-70 роках двадцятого століття.
Але уникнувши популяційної сингулярності людство на всіх парах мчить до сингулярності технологічної. І поки немає ніяких передумов до того, що науковий прогрес в якийсь момент зупиниться або принаймні сповільниться. Реймонд Курцвейл вважає, що сингулярність настане в 2045 році, Вернор Віндж ставить більш близькі терміни - 2030 рік. Пам'ятаєте «Меморандум Бромберга» у Стругацьких: «людство буде розділене на дві нерівні частини за невідомим нам параметром, менша частина його форсовано і назавжди пережене велику, і здійсниться це волею і мистецтвом надцивілізації, непримиримо чужої людству».
Старший консультант КОМКОН-1, член Вченої ради Музею позаземних культур, доктор ксенопсіхологіі, доктор соціотопологіі, дійсний член Академії соціології (Європа), член-кореспондент Лабораторіум (Академії наук) Великої Тагори, магістр реалізацій абстракцій Парсиваля і т.д. Айзек Бромберг помилявся. Насправді людство створить розум, який форсовано і назавжди пережене людство.
Але найцікавіше полягає в тому, що автор сам намагається написати власний меморандум Бромберга. Пам'ятаєте? «Не можу не помітити тільки, що моделі" Спрут "і" Конкістадор "викликали у мене напад нестримного сміху своєї анекдотичної примітивністю, а модель" Нове повітря " хоча і справляє враження конструкції не цілком тривіальної, начисто позбавлене якої-небудь серйозної аргументації. Вісім моделей! Вісімнадцять розробників, серед яких сліплять блиском такі зірки, як Карібанов, Ясуда, Мікич! Чорт забирай, можна було очікувати чогось вагомішого! »
Макс Тегмарк створив цілий перелік сценаріїв технологічної сингулярності, який претендує на те, щоб описати всі можливі варіанти очікуваного нас майбутнього.
Сценарії технологічної сингулярності у Макса Тегмарка виглядають так:
1. Ліберальна утопія - люди, кіборги і будь-які різновиди суперрозуму мирно співіснують завдяки чітко прописаним в законах майнового права.
2. Великодушний диктатор - люди знають, що суспільством керує штучний інтелект, але їх це влаштовує.
3. Утопія загальної рівності - люди, кіборги і суперрозум мирно співіснують завдяки відсутності приватної власності і гарантованих виплат.
4. Сторож - цей надрозум створювався з метою запобігання створенню іншого суперрозуму. У цьому сценарії існують роботи і різні форми штучного інтелекту, які допомагають людині, але технологічний прогрес зупинився.
5. Бог-захисник - всевладний розум, який стежить, щоб люди були щасливі, і непомітно їм допомагає, коли це дійсно необхідно. Більшість людей навіть не підозрюють про його існування.
6. Поневолений бог - штучний інтелект, повністю підвладний людям, які змушують його працювати на себе, створювати нові блага і технології. Ці люди можуть використовувати штучний інтелект на зло і на благо інших людей.

7. Переможець - штучний інтелект вирішує, що люди не потрібні, небезпечні або не приносять користі. Такий суперрозум швидко позбудеться від нас якимось витонченим методом.
8. Спадкоємець - штучний інтелект замінить людей, але ми не будемо проти - ми будемо сприймати його як свого наступника. Це дитина, який розумніший і кращий батьків, але батьки ним пишаються, навіть якщо не можуть бути свідками його неймовірних досягнень.
9. Директор зоопарку - всесильний розум, який залишає в живих кілька людей, покірних повелителю.
10. 1984 - все, як у романі Орвелла: технологічний прогрес зупинений назавжди, надрозум не створений, тому що в поліцейській державі, керованому людьми, дослідження в галузі штучного інтелекту повністю заборонені.
11. Повернення - штучна зупинка технологічного процесу і повернення в дотехнологічну епоху.
12. Саморуйнування - надрозум так і не з'явився, тому що його не було кому створювати - люди вимерли внаслідок ядерної або біотехнологічної катастрофи.
DN Проста комбінаторика варіантів, та напевне все буде зовсім інакше. Обговорення цієї теми значно поглибить розуміння викликів, можливостей та проблем. І розуміється приблизить еру штучного інтелекту. За Лемом якщо придумана назва, вона рано чи пізно обросте змістом та фізичною оболонкою.

Будьмо.

Джерело