И я не сомневаюсь, что самыми грозными из всех армий, о которых когда-либо слышали на земле, является тот вид солдат, которые за их малостью не видимы.

(Сэр Уильям Перри, о микробах, 1640 год.)

Размножающиеся ассемблеры и мыслящие машины создают принципиальные угрозы для людей и жизни на Земле. Сегодняшние организмы имеют способности далеко от пределов возможного, и наши машины эволюционируют быстрее, чем мы сами. В пределах нескольких десятилетий представляется вероятным, что они на превзойдут. Если мы не научимся жить с ними в безопасности, наше будущее вероятно будет и восхитительным, и коротким. Мы не можем надеяться предвидеть все проблемы впереди, однако, уделяя внимания большим, принципиальным моментам, мы, возможно, в состоянии предвидеть наиболее значительные задачи и получить некоторое представление о том, как с ними иметь дело.

Без сомнения, будут написаны целые книги о грядущих социальных сдвигах: что случится с глобальным порядком, когда ассемблеры и автоматический инжиниринг исключать необходимость в большей части международной торговли? Как общество изменится, когда отдельные люди смогут жить независимо? Что мы будем делать, когда размножающиеся ассемблеры смогут производить почти всё что угодно без человеческого труда? Что мы будем делать, когда системы ИИ смогут думать быстрее, чем люди? (И до того, как они придут к заключению, что люди отчаются что-либо делать или создавать, авторы могут рассмотреть, как бегуны относятся к машинам, или как художники относятся к камерам.)

В действительности авторы уже почти предвидели и проговорили несколько из этих моментов. Каждый из них – дело необычайной важности, но более фундаментальным, чем любой из них является выживание жизни и свобода. В конце концов, если жизнь или свобода исчезнут, то наши идеи о социальных проблемах больше не будут иметь значения.

В главе 4 я описал кое-что из того, что воспроизводящиеся ассемблеры будут делать для нас, если мы будем с ними правильно обращаться. Приводимые в движение топливом или солнечным светом, они будут способны делать почти всё что угодно (включая их самих) из широко распространённых материалов.

Живые организмы также приводятся в движение топливом или солнечным светом, и также делают большую часть себя из широко распространённых материалов. Но в отличие от систем, основанных на ассемблерах, они не могут делать "почти всё что угодно".

Генетическая эволюция ограничила жизнь системами, построенными на ДНК, РНК и рибосомах, но эволюция мимов принесёт машины, подобные жизни, построенные на нанокомпьютерах и ассемблерах. Я уже описал, чем построенные из ассемблеров молекулярные машины будут отличаться от построенных на рибосомах машинах жизни. Ассемблеры будут способны строить всё то, что способны рибосомы, и более того; репликаторы на базе ассемблеров, следовательно, будут способны делать всё, что может жизнь, и более того. С точки зрения эволюции, это создаёт очевидную угрозу выдрам, людям, кактусам и папоротникам – всей богатой фабрике биосферы и всему, что мы ценим.

Ранние компьютеры, построенные на транзисторах, вскоре обошли самые лучшие компьютеры на электронных лампах, потому что они были сделаны из устройств более высокого уровня. По той же причине, ранние репликаторы, построенные на ассемблерах, могли бы обойти самые совершенные из современных организмов. «Растения» с «листьями» не более эффективными, чем сегодняшние солнечные элементы, могли бы выиграть конкуренцию у настоящих растений, наводняя биосферу несъедобной листвой. Однако, всеядные «бактерии» могли бы выиграть конкуренцию у настоящих бактерий: они могли бы распространиться как летящая пыльца, стремительно размножаясь и сведя биосферу в пыль за считанные дни. Опасные репликаторы могли бы легко быть слишком жёсткими, маленькими и быстро распространяющимися, чтобы их остановить – по крайней мере если мы не сделаем никаких приготовлений. У нас достаточно проблем с контролем над вирусами и фруктовыми мушками.

Среди знатоков нанотехнологии эта угроза стала известна как "проблема серой липкой массы". Хотя массы бесконтрольных репликаторов не обязательно должны быть серыми или липкими, термин "серая липкая" подчёркивает, что репликаторов, способных уничтожить жизнь, может быть меньше в шприце, чем одного вида травяных жучков. Они могли бы быть «высшими» в эволюционном смысле, но это не обязательно сделало бы их ценными. Мы научились любить мир богатым живыми тварями, идеями, и разнообразием, так что не причины ценить серую массу только за то, что она может распространяться. Действительно, если мы предотвратим её размножение, тем самым мы докажем наше эволюционное превосходство.

Угроза серой липкой массы делает одну вещь совершенно очевидной: мы не можем себе позволить определённые виды случайностей с размножающимися ассемблерами.

В главе 5 я описал некоторое из того, что будут делать для нас продвинутые системы ИИ, если мы будет правильно с ними обращаться. В конечном счёте он будут воплощать структуры мысли заставлять их течь со скоростью, с которой не может сравняться ни один мозг млекопитающего. Системы ИИ, которые работают вместе, также как это делают люди, будут способны думать не просто как отдельные люди, но как целые общества. Опять же, эволюция генов оставила жизнь в определённом состоянии. Опять же, эволюция мимов человеческими существами, и в конечном счёте машинами, будут продвигать наши аппаратные средства далеко за пределы жизни. И снова, с точки зрения эволюции это создаёт очевидную угрозу.

Знание может давать власть, а власть может давать знание. В зависимости от своей природы и своих целей, продвинутые системы ИИ могли бы накопить достаточно знания и власти, чтобы сместить нас, если мы не подготовимся должным образом. И также как с репликаторами, простое эволюционное «превосходство» не обязательно сделает победителей лучшими, исчезнувшие, по всем стандартам, кроме грубой способности конкурировать.

Эта угроза делает одну вещь совершенно очевидной: нам необходимо найти способы жить с мыслящими машинами, чтобы сделать их законопослушными гражданами.

Определённые виды репликаторов и систем ИИ могут столкнуть нас с формами технических средств, способных к быстрому эффективному независимому действию. Но новизна этой угрозы, происходящей от самих машин, не должна нас скрывать от нашего взора более традиционную опасность. Репликаторы и системы ИИ могут также служить как великолепные машины власти, если ими свободно завладеют суверенные государства.

На всём протяжении истории, государства разрабатывали технологии, чтобы расширить свою военную мощь, и государства несомненно будут играть доминирующую роль в разработке репликаторов и систем ИИ. Государства могли бы использовать воспроизводящиеся ассемблеры, чтобы строить арсеналы совершенного оружия, быстро, легко и в огромных количествах. Государства могли бы использовать специальные репликаторы, непосредственно, чтобы вести род биологической войны – войны, которая становится намного более практичной с программируемыми, управляемыми компьютерами «микробами». В зависимости от своих способностей, системы ИИ могли бы служить как оружие разработчиков, стратегов и бойцов. Военное финансирование уже поддерживает и молекулярные технологии, и искусственный интеллект.

Государства могли бы использовать ассемблеры или продвинутые системы ИИ, чтобы достигать неожиданных, дестабилизирующих прорывов. Ранее я говорил о причинах, почему нужно ожидать, что приход воспроизводящихся ассемблеров принесёт сравнительно неожиданные изменения: способные быстро размножаться, их могло бы стать огромное количество за считанные дни. Способные делать почти всё что угодно, их можно было бы запрограммировать, чтобы копировать имеющееся оружие, но сделанное из более совершенных материалов. Способные работать со стандартными, хорошо понятными компонентами (атомами), они могли бы неожиданно строить вещи, разработанные в ожидании ассемблерной революции. Эти результаты проектирования с опережением могли бы включать программируемые микробы и другие жуткие новшества. По всем этим причинам, государство, которое сделает ассемблерную революцию, могло бы быстро создать решающую военную силу – если не буквально за ночь, то по крайней мере с беспрецедентной скоростью.

Государства могли бы использовать продвинутые системы ИИ для аналогичных целей. Системы автоматической разработки будут ускорять проектирование с опережением и ускорять разработку ассемблеров. Системы ИИ, способные строить лучшие системы ИИ сделают возможным взрыв способностей с последствиями, которые трудно предвидеть. И системы ИИ и воспроизводящиеся ассемблеры дадут государствам возможность увеличивать свои военные возможности на порядки за короткое время.

Репликаторы могут быть более действенны, чем ядерное оружие: чтобы опустошить Землю бомбами, потребовалось бы массы экзотических технических средств и редких изотопов, но чтобы разрушить всю жизнь с помощью репликаторов, потребовалось бы лишь одно пятнышко, состоящее из обычных элементов. Репликаторы составляют ядерной войне что-то вроде компании как потенциальная причина вымиранию, давая более широкий контекст вымиранию, как моральной обеспокоенности.

Вопреки своему потенциалу как машины разрушения, нанотехнология и системы ИИ будут годиться для более тонких способов использования, чем ядерное оружие. Бомба может только взрывать, но наномашины и системы ИИ могли бы проникать, захватывать, изменять и управлять территорией или миром. Даже самая безжалостная полиция бесполезна для ядерного оружия, но она имеет смысл против безумных идей, наркотиков, убийц или других гибких машин власти. С продвинутой технологией государства будут способны консолидировать свою власть над людьми.

Также как гены, мимы, организмы и технические средства, государства эволюционируют. Их институты распространились (с вариациями) на рост, деление, подражание и завоевание. Государства в войне дерутся как звери, но используя граждан как свои кости, мозг и мускулы. Грядущие технологические прорывы поставят государства перед новыми видами давления и возможностей, благоприятствуя резким изменениям в том, как государства себя ведут. Это естественно даёт основание для озабоченности. Исторически государства выделялись в кровопролитии и угнетении.

В некотором смысле, государство – это просто сумма людей, образующих организационный аппарат: их действия складываются и образуют его действия. Но то же самое можно сказать о собаке и её клетках, хотя собака очевидно нечто большее, чем просто группа клеток. И собаки, и государства – эволюционирующие системы, со структурами, которые влияют на то, как ведут себя их части. На протяжении тысяч лет, собаки во многом эволюционировали так, чтобы доставлять удовольствие людям, само их существование зависело от их способности быть использованными людьми, будь то как поводыри, ищейки или солдаты.

Может казаться парадоксальным сказать, что люди имеют ограниченную власть над государствами: в конце концов, не люди ли стоят за каждым действием государства? Но в демократических странах, главы государств оплакивают недостаток своей власти, представители поклоняются интересам групп, бюрократы ограничены правилами, а избиратели, якобы в ответственности за всё это, всех их посылают к чертям. Государство действует и люди влияют на него, однако никто не может заявить, что контролирует его. В тоталитарных странах аппарат власти имеет традицию, структуру и внутреннюю логику, которая никого не оставляет свободным, ни правителей, ни тех, кем управляют. Даже короли вынуждены действовать способами, ограниченными традициями монархии и прагматикой власти, если они хотят оставаться королями. Государства – это не люди, хотя они состоят из людей.

Вопреки этому, история показывает, что изменение возможно, даже изменение к лучшему. Но изменения всегда движутся из одной полуавтоматической, нечеловеческой системы к другой – одинаково нечеловеческой, но возможно более гуманной. В нашей надежде на улучшения, мы не должны смешивать государства, которые делают человеческое лицо с государствами, которые имеют гуманные институты.

Описание государств как квази-организмов схватывает только один аспект сложной реальности, однако он подсказывает, как они могут эволюционировать в ответ на грядущие прорывы. Рост власти правительства, наиболее хорошо заметный в тоталитарных странах, предлагает одно направление.

Государства могли бы стать в большей степени подобными организмам, имея влияние на свои части более сильно. Используя воспроизводящиеся ассемблеры, государства могли бы заполнить среду людей миниатюрными устройствами надзора. Используя изобилие понимающих речь систем ИИ, они могли бы слушать каждого, не используя половину населения в качестве шпионов. Используя нанотехнологию как это было предложено для машин ремонта клеток, они могли бы с минимальными издержками успокоить, провести лоботомию, или ещё как-то модифицировать целые народы. Это могло бы просто могло бы расширить слишком известную картину. Мир уже содержит правительства, которые шпионят, пытают и кормят наркотиками; усовершенствованная технология просто расширит возможности.

Но с усовершенствованной технологией государствам не нужно будет контролировать людей – они просто вместо этого могли бы отказаться от людей. Большинство людей в большинстве государств, в конце концов, действуют в качестве работников-муравьёв, которые либо трудятся над личинками, либо охраняют их, а большая часть из этих работников делает, двигает или выращивает вещи. Государство с воспроизводящимися ассемблерами не нуждалось бы в такой работе. Что более важно, продвинутые системы ИИ могли бы заменить инженеров, учёных, администраторов, и даже лидеров. Комбинация нанотехнологии и продвинутого ИИ сделает возможными разумных и эффективных роботов; с такими роботами, государство могло бы процветать, уволив кого угодно, или даже (в принципе) всех.

Значение этой возможности зависит от того, существуют ли государство для того, чтобы служить людям, или люди существуют для того, чтобы служить государству.

В первом случае мы имеем государство, сформированное людьми, чтобы служить общечеловеческим целям; демократии имеют тенденцию быть по крайней мере грубым приближением к этому идеалу. Если демократически управляемое правительство теряет свою необходимость в людях, это по сути означает, что ему не нужно больше использовать людей как чиновников и налогоплательщиков. Это откроет новые возможности некоторые из которых могут оказаться желательными.

Во втором случае, мы имеем государство, которое развилось, чтобы эксплуатировать людей, возможно по тоталитарному принципу. Государства нуждаются в людях как в работниках, потому что человеческий труд являлся необходимым основанием для власти. Что более важно, геноцид был дорогим и проблематичным для организации и выполнения. Однако в этом веке тоталитарные государства убивали своих граждан миллионами. Усовершенствованная технология сделает работников ненужными, а геноцид легко исполнимым. История свидетельствует, что тоталитарные государства могут тогда вообще уничтожить людей. В этом есть некоторое утешение. Кажется вероятным, что государство, желающее и способное поработить нас биологически, вместо этого бы просто нас убило.

Угроза совершенной технологии в руках правительств делает одну вещь совершенно очевидной: мы не можем позволить себе дать деспотическому государству взять первенство в грядущих прорывах.

Основная проблема, которую я обрисовал – очевидна: в будущем, также как и в прошлом, новые технологии будут годиться для аварий и злоупотребления. Поскольку репликаторы и думающие машины будут давать огромную новую власть, эта возможность аварий и злоупотребления будет также огромен. Эти возможности создают реальные угрозы нашим жизням.

Большинство людей хотело бы иметь возможность жить и быть свободными выбирать, как им жить. Эта цель может не звучать слишком утопичной, по крайней мере в некоторых частях света. Это не означает принуждение жизни каждого к соответствию какому-то грандиозному плану; это главным образом означает, чтобы избежать порабощения и смерти. Однако, также как достижение утопичной мечты, это принесёт будущее чудес.

Учитывая эти проблемы жизни и смерти и эту общую цель, мы можем рассмотреть, какие меры могли бы нам помочь достичь успеха. Наша стратегия должна включать людей, принципы и институты, но также она должна основываться на тактике, которая неизбежно будет включать технологию.

Чтобы использовать такие мощные технологии безопасно, мы должны делать технические средства, которым мы можем доверять. Чтобы иметь доверие, мы должны быть способны тщательно оценивать технические факты – способность, которая в свою очередь будет зависеть отчасти от качества наших способов оценки. Более существенно, однако, она будет зависеть от того, будет ли заслуживающие доверие технические средства физически возможны. Это – вопрос надёжности компонентов и систем.

Часто мы можем делать надёжные компоненты, даже без помощи ассемблеров. «Надёжные» не значит «неразрушимые» – всё что угодно разрушится, если его поместить достаточно близко к ядерному взрыву. Это даже не означает «стойкий» – телевизор может быть надёжным, однако он не выдержит удара о бетонный пол. Скорее, мы называем что-то надёжным, когда мы можем рассчитывать, что оно будет работать, как задумано.

Надёжный компонент не обязательно должен быть совершенным воплощением совершенной конструкции: ему только нужно быть достаточно хорошим воплощением достаточно предусмотрительной конструкции. Инженер, который строит мост, может не быть уверен насчёт силы ветра, нагрузки движения по мосту, и прочности стали, но предполагая высокий ветер, интенсивное движение и непрочную сталь, инженер может сконструировать мост, который сможет выдержать.

Неожиданные отказы компонентов обычно проистекают из физических дефектов. Но ассемблеры будут строить компоненты, которые имеют пренебрежимо малое число атомов не на своём месте – ни одного, если будет в том необходимость. Это сделает их идеально унифицированными и в ограниченном смысле – совершенно надёжными. Однако излучение будет всё равно вызывать повреждение, поскольку космические лучи могут неожиданно выбивать атомы из чего угодно. В достаточно малых компонентах (даже в современных компьютерных устройствах памяти), отдельная частица излучения может вызвать отказ.

Но системы работают, даже когда их части перестают работать; ключ к этому – избыточность. Представьте мост, подвешенный на канатах, которые случайным образом обрываются, каждый около одного раза в год в непредсказуемый момент времени. Если мост упадёт когда порвётся канат, его будет использовать слишком опасно. Однако представьте, что чтобы починить канат требуется один день (потому что квалифицированная команда ремонтников с запасными канатами вызывается как только необходимо), и что, хотя необходимо пять канатов, чтобы поддерживать мост, есть на самом деле шесть. Теперь один канат рвётся, и мост всё равно остаётся на своём месте. Закрыв движение и далее заменив порвавшийся канат, операторы моста могут восстановить безопасность. Чтобы разрушить этот мост, в этот же день должен порваться второй кабель, также как и первый. Поддерживаемый шестью канатами, каждый имеющий 1 из 365 шансов порваться, мост вероятно выдержит около 10 лет.

Во время перестройки он остаётся ужасным. Однако мост с десятью канатами (пять необходимых и пять дополнительных) упадёт только если шесть канатов порвутся в тот же день: система поддержки вероятно выдержит более десяти миллионов лет. С пятнадцатью канатами ожидаемая продолжительность жизни – более чем в десять тысяч раз больше возраста Земли. Избыточность может давать экспоненциальный взрыв безопасности.

Избыточность работает лучше всего, когда избыточные компоненты действительно независимы. Если мы не доверяем процессу конструирования, то мы должны использовать компоненты, разработанные независимо; если бомба, пуля или космический луч может повредить несколько соседних частей, то мы должны распределить избыточные части более широко. Инженеры, которые хотят обеспечить надёжное сообщение между двумя островами не должны просто добавлять канаты к мосту. Им нужно построить два хорошо разделённых моста, использующих различные конструкции, далее добавить туннель, паром и пару островных аэропортов.

Компьютерные инженеры также используют избыточность. Стратус Компьютер Инк., например, производит машину, которая использует центральные обрабатывающие блоки (в двух частях) для выполнения работы одной, но для выполнения значительно более надёжно. Каждая часть постоянно проверяет внутреннее соответствие, и вышедшая из строя часть может быть заменена, пока работает её двойник.

Ещё более мощная форма избыточности – разнообразие конструкции. В компьютерных аппаратных средствах это означает использование нескольких компьютеров с различной конструкцией, все работающие параллельно. Сейчас избыточность может корректировать не только отказы в отдельно взятой единице аппаратных средств, но и ошибки её конструкции.

Многое сделано над проблемой написания больших программ, свободных от ошибок; многие люди считают, что такие программы невозможно разработать и отладить. Но исследователи в УКЛА Компьютер Сайенс Департмент показали, что разнообразие конструкции можно также использовать в программном обеспечении: несколько программистов могут работать над той же самой проблемой независимо, тогда все их программы можно запускать параллельно и выбирать ответ голосованием. Это умножает затраты на написание и работу программ, но это делает получающиеся в результате системы программного обеспечения устойчивыми к ошибкам, которые появляются в некоторых из их частей.

Мы можем использовать избыточность, чтобы контролировать репликаторы. Также как машины ремонта, которые сравнивают множество нитей ДНК будут способны скорректировать мутации в генах клетки, также репликаторы, которые сравнивают множество копий своих инструкций (или которые используют другие эффективные системы исправления ошибок) будут способны сопротивляться мутациям в этих «генах». Избыточность может снова принести экспоненциальный рост безопасности.

Мы можем строить системы, которые крайне надёжны, но это повлечёт издержки. Избыточность делает системы более тяжёлыми, громоздкими, более дорогими и менее эффективными. Нанотехнология, однако, сразу сделает большую часть вещей намного более лёгкими, дешёвыми и более эффективными. Это сделает избыточность и надёжность более практичными.

Сегодня, мы редко хотим платить за самую безопасную из возможных систем; мы терпим с большей или меньшей охотой отказы и редко рассматриваем реальные пределы надёжности. Это создаёт предвзятые суждения о том, что мы можем достичь. Психологический фактор также искажает наше чувство, насколько надёжными можно сделать вещи: отказы застревают у нас в уме, но каждодневный успех привлекает мало внимания. СМИ усиливает эту тенденцию, сообщая о самых драматических отказах со всего мира, при этом игнорируя бесконечные и скучные удачи. Ещё хуже, что компоненты избыточных систем могут отказывать видимым образом, вызывая тревогу: представьте, как СМИ сообщили бы о порвавшемся канате моста, даже если бы мост был бы супер-безопасной пятнадцати-канатной моделью, описанной выше. И поскольку каждый дополнительный избыточный компонент добавляет шанс отказа системы, надёжность системы может казаться хуже даже когда она почти совершенна.

Если отложить в сторону то, что кажется, избыточные системы сделанные из избыточных, безупречных компонентов могут часто быть сделаны почти идеально надёжными. Избыточные системы, распределённые на достаточно широкие расстояния выдержат даже пули и бомбы.

Но что можно сказать об ошибках конструкции? Наличие десятка избыточных частей не даст никакой пользы, если они делят общую критическую ошибку в конструкции. Разнообразие конструкции – один ответ; хорошее тестирование – другой. Мы можем надёжно разрабатывать хорошие конструкции не будучи хорошими в надёжности конструкторами: нам только нужно уметь хорошо тестировать, исправлять ошибки и быть терпеливыми. Природа разработала работающие молекулярные машины целиком через безголовую починку и тестирование. Имея разум, мы можем делать не хуже или лучше.

Мы найдём несложным разработать надёжные технические средства, если мы сможем разработать надёжные автоматические системы разработки. Но это ставит более широкий вопрос о разработке систем искусственного интеллекта, которым можно доверять. У нас будет мало проблем в создании систем ИИ с надёжной аппаратной базой, но как насчёт их программных средств?

Подобно сегодняшним системам ИИ и человеческому разуму, продвинуты системы ИИ будут синергетическими комбинациями большого количества простых частей. Каждая часть будет более специализирована и менее интеллектуальна, чем система в целом. Некоторые части будут искать структуры в картинках, звуках и других данных, и подсказывать, что они могут обозначать. Другие части будут сравнивать и оценивать подсказки этих частей. Также как распознаватель структур в человеческой зрительной системе страдает от ошибок и зрительных иллюзий, также страдают и распознаватели в системах ИИ. (действительно, некоторые продвинутые системы машинного зрения уже страдают от знакомых зрительных иллюзий.) И также как другие части человеческого разума могут часто идентифицировать и компенсировать иллюзии, также будут способны и другие части систем ИИ.

Как в человеческом разуме, интеллект будет включать части ума, которые будут производить приблизительные догадки, а другие части будут откидывать наиболее плохие догадки до того, как они привлекут слишком много внимания или повлияют на важные решения. Умственные части, которые отвергают идеи действия по этическим основаниям, соответствуют тому, что мы называем совестью. Системы ИИ со многими частями будут иметь место для избыточности и разнообразия конструкции, делая надёжность возможной.

Настоящая гибкая система ИИ должна развивать идеи. Чтобы это делать, она должна находить или формировать гипотезы, генерировать варианты, тестировать их, и далее модифицировать или отбрасывать те, которые она находит неадекватными. Исключение некоторых из этих способностей сделало бы её глупой, упрямой или невменяемой ("Тупая машина не может думать и не будет учиться на своих ошибках – выброси её!"). Чтобы избежать ловушки начальных заблуждений, ей придётся рассматривать противоречивые взгляды, смотря, насколько хорошо каждый объясняет данные, и смотря, может ли один взгляд объяснить другой.

Научное сообщество проходит через подобный процесс. В статье с названием "Метафора научного сообщества", Вильям А. Корнфельд и Карл Хьювитт из лаборатории искусственного интеллекта MIT высказывают мысль, что исследователи ИИ моделируют модели своих программ ещё более близко к развившейся структуре научного сообщества. Они указывают на плюрализм науки, на её разнообразие конкурирующих создателей теорий, сторонников и критиков. Без создателей теорий, идеи не могут появиться; без сторонников, она не может расти; а без критиков, которые пропалывают их, плохие идеи могут вытеснить хорошие. Это остаётся верным для науки, технологии, в системах ИИ, а также между частями наших умов.

Наличие мира, полного разнообразия и изобилующего авторами теорий, сторонниками и критиками – это то, что делает продвижение науки и технологии вперёд надёжным. Если будет больше авторов теорий, будет больше хороших теорий; если будет больше критиков – плохие теории будут более уязвимыми. Лучшие и более многочисленные идеи будут результатом. Подобная форма избыточности может помочь системам ИИ разрабатывать достоверные идеи.

Люди иногда направляют свои действия стандартами истины и этики, и нам нужно быть в состоянии разработать системы ИИ, чтобы они делали то же самое, но более надёжно. Способные думать в миллионы раз быстрее чем мы, они будут иметь больше времени для дополнительных размышлений. Похоже, что системы ИИ можно сделать такими, чтобы им можно было доверять, по крайней мере по человеческим стандартам.

Я часто сравнивал системы ИИ с отдельными человеческими умами, но подобие не обязательно должно быть близким. Система, которая способна подражать человеку, возможно должна быть подобна человеку, но система автоматической разработки – вероятно не обязательно. Одно предложение (называемое системой Агора, в честь греческого слова, обозначающего встречу и рыночную площадь) состояло бы в том, чтобы много независимых кусочков программ, которые взаимодействуют, предлагая друг другу услуги в обмен на деньги. Большинство кусочков было бы простоватыми узколобыми специалистами, некоторые способные подсказывать изменение конструкции, а другие – анализировать его. Во многом также, как земная экология разработала экстраординарные организмы, также эта компьютерная экономика могла бы разрабатывать экстраординарные конструкции – и, возможно, сравнительно безмозглым способом. Что более важно, поскольку система была бы распределена по многим машинам и имела бы части написанные многими людьми, она могла бы быть разнообразной, устойчивой и затруднённой для любой группы чтобы захватить и использовать во вред.

В конце концов так или иначе, системы автоматической разработки будут способны разрабатывать вещи более надёжно чем любая группа людей-инженеров может сегодня. Наша большая задача будет сконструировать их правильно. Нам нужны человеческие институты, которые надёжно разрабатывают надёжные системы.

Человеческие институты – это развившиеся искусственные системы, и они могут часто решать проблемы, которые отдельные члены – не могут. Это делает их чем-то вроде "искусственных интеллектуальных систем." Корпорации, армии, и исследовательские лаборатории – это всё примеры, также как более свободные структуры рынка или научного сообщества. Даже правительства могут рассматриваться как системы искусственного интеллекта – большие, медлительные, одурманенные, однако сверхчеловеческие в своих реальных способностях. И что есть конституциональный контроль и баланс, как не попытка увеличить надёжность правительства через институциональное разнообразие и избыточность? Когда мы строим интеллектуальные машины, мы будет использовать их, чтобы проверять и создавать баланс одной над другой.

Применяя эти разумные принципы, мы можем быть в состоянии разработать надёжные техники ориентированные институты, имеющие сильный контроль ошибок и балансы, и тогда использовать их, чтобы руководить разработкой систем, которые нам понадобятся, чтобы управляться с будущими прорывами.

Некоторая сила в мире (заслуживающая доверия или нет) возьмёт первенство в разработке ассемблеров; назовём её "ведущей силой". Из-за стратегической важности ассемблеров, ведущая сила предположительно будет некоторой организацией или институтом, который эффективно контролируется каким-то правительством или группой правительств. Чтобы упросить вопрос, предположим на минуту, что мы (хорошие ребята, пытающиеся быть мудрыми) можем определить способ поведения для ведущей силы. Для граждан демократических государств, принять это – кажется хорошей позицией.

Что нам следует делать, чтобы улучшить наши шансы достижения такого будущего, в котором стоит жить? Что мы можем сделать?

Начнём с того, что не должно случиться: мы должны не позволить отдельному воспроизводящемуся ассемблеру неправильного типа выйти на свободу в неподготовленный мир. Эффективные приготовления кажутся возможными (как я это опишу ниже), но, по-видимому, они должны быть основаны на построенных ассемблерами системах, которые могут быть построены только после того, как опасные репликаторы уже смогут быть возможными. Разработка с опережением может помочь ведущей силе подготовиться, однако даже энергичные предусмотрительные действия кажутся неадекватными, чтобы предотвратить момент опасности. Аргумент простой: опасные репликаторы будет намного проще разработать, чем системы, которые могут помешать им, также как бактерия намного проще иммунной системы. Нам будет нужна тактика для сдерживания нанотехнологии, пока мы не научимся её приручать.

Одна очевидная тактика – изоляция: ведущая сила будет способна содержать репликаторные системы за многочисленными стенами или в космических лабораториях. Простые репликаторы не будут иметь интеллекта, и они не будут разрабатываться, чтобы убежать и пойти буйствовать. Сдерживание их не кажется слишком сложной задачей.

Но лучше, чтобы мы могли разработать репликаторы, которые не могут убежать и начать буйствовать. Мы можем построить их со счётчиками (такими как в клетках), которые ограничивают их до фиксированного числа копий. Мы можем строить их так, чтобы они нуждались в особом синтетическом «витамине», или в очень специфической среде, которую можно обеспечить только в лаборатории. Хотя репликаторы можно было бы делать более стойкими и более прожорливыми, чем любые современные насекомые, мы также можем сделать их полезными, но безопасными. Поскольку мы будет разрабатывать их с нуля, репликаторы не обязательно должны иметь элементарные способности к выживанию, которые эволюция встроила в живые клетки.

Далее, им не обязательно нужно быть способными эволюционировать. Мы можем дать репликаторам избыточные копии их «генетических» инструкций, вместе с механизмами ремонта, чтобы исправлять любые мутации. Мы можем разработать их так, чтобы они переставали работать задолго до того, как накопится достаточно повреждений, чтобы сделать продолжительную мутацию значимой возможностью. Наконец, мы можем разработать их так, чтобы эволюция не происходила даже если мутации могли бы случаться.

Эксперименты показывают, что большинство компьютерных программ (иных, чем специально разработанные программы ИИ, такие как Эвриско доктора Лената) редко отвечают на мутации при небольшом изменении; вместо этого они просто перестают работать. Поскольку они не могут разнообразиться полезными способами, они не могут эволюционировать. Если они не разработаны специально для этого, репликаторы, направляемые нанокомпьютерами, будут разделять этот недостаток. Современные организмы достаточно хорошо способны эволюционировать отчасти потому что они произошли от предшественников, которые эволюционировали. Они научились в процессе эволюции эволюционировать; это – одна причина сложностей полового воспроизводства и перемешивания сегментов хромосом во время производства клеток спермы и яйцеклеток. Мы можем просто отказаться дать репликаторам подобные способности.

Для ведущей силы будет легко сделать воспроизводящиеся ассемблеры полезными, безопасными, и устойчивыми. Оберегая ассемблеры от того, чтобы их украли и использовали во вред – другая и более серьёзная проблема, потому что это будет игра с разумными противниками. Как одна из тактик, мы можем снизить побудительный мотив украсть ассемблеры, делая их доступными в безопасных формах. Это также снизит желание других групп разрабатывать ассемблеры независимо. За ведущей силой, в конце концов последуют силы, следующие за ней.

Ограниченные ассемблеры

В главе 4 я описал, как система ассемблеров в чане могла бы построить великолепный ракетный двигатель. Также я отметил, что мы будем способны сделать системы ассемблеров, которые действуют подобно семенам, поглощая солнечный свет и обычные материалы и вырастая почти во что угодно. Эти специализированные системы не будут реплицировать себя, или будут это делать только ограниченное число раз. Они будут делать только то, что они были запрограммированы делать, когда им говорят это сделать. Любой, у кого нет специальных инструментов, построенных ассемблерами, был бы неспособен перепрограммировать их, чтобы они служили другим целям.

Используя ограниченные ассемблеры этого типа, люди будут способны сделать всё что они хотят и сколько хотят, но в пределах ограничений, встроенных в эти машины. Если никакие из них не будут запрограммированы, чтобы делать ядерное оружие, никакие и не будут; если никакие из них не будут запрограммированы, чтобы делать опасные репликаторы, никакие и не будут. Если некоторые из них запрограммированы, чтобы делать дома, машины, компьютеры, зубные щётки и что угодно ещё, то эти продукты станут дешёвыми и изобильными. Машины, построенные ограниченными ассемблерами, дадут нам возможность открыть космос, вылечить биосферу и восстановить человеческие клетки. Ограниченные ассемблеры смогут принести почти неограниченное богатство людям в мире.

Эта тактика облегчит моральное давление, чтобы делать неограниченные ассемблеры доступными немедленно. Но ограниченные ассемблеры будут всё ещё оставаться легитимные потребности необеспеченными. Учёным будут нужны свободно программируемые ассемблеры, чтобы проводить исследования; инженерам будут они нужны, чтобы тестировать конструкции. Эти потребности будут обслуживаться запечатанными ассемблерными лабораториями.

Запечатанные ассемблерные лаборатории

Представьте компьютерное устройство размером с ваш большой палец, с современным разъёмом на его нижней части. Его поверхность выглядит как обычный серый пластик, с пропечатанным серийным номером, однако эта запечатанная ассемблерная лаборатория – построенный ассемблерами объект, который содержит много чего. Внутри, прямо над разъёмом, находится большой наноэлектронный компьютер, на котором работает продвинутое программное обеспечение для молекулярного моделирования (основанное на программах, разработанных во время разработки ассемблеров). С этой ассемблерной лабораторией, присоединённой и включенной, ваш построенный с помощью ассемблеров домашний компьютер показывает трёх-мерную картинку чего угодно, что лабораторный компьютер моделирует, представляя атомы как цветные сферы. С помощью джойстика вы можете направлять смоделированные ассемблерные манипуляторы на построение вещей. Программы могут двигать манипуляторы быстрее, строя тщательно проработанные структуры на экране в мгновение ока. Это моделирование всегда работает идеально, потому что нанокомпьютер жульничает: тогда как вы заставляете смоделированный манипулятор передвигать смоделированные молекулы, компьютер направляет реальный манипулятор передвигать реальные молекулы. Далее он проверяет результаты везде, где необходимо проверить его вычисления.

Кончик этого объекта размером с большой палец содержит сферу, построенную из многих концентрических слоёв. Отличные провода подводят энергию и сигналы через слои; они позволяют нанокомпьютеру внизу сообщаться с устройствами в центре сфер. Самый дальний от центра слой состоит из сенсоров. Любая попытка удалить или проколоть его передаёт сигнал слою, близкому к сердцевине. Следующий уровень – толстая сферическая раковина из предварительно подвергнутого высокому давлению цельному алмазу, у которого внешние слои растянуты, а внутренние – сжаты. Это окружает слой теплового изолятора, который в свою очередь окружает сферическую оболочку размером с зёрнышко перца, сделанную из микроскопических, тщательно упорядоченных блоков металла и окислителя. Они сшиты электрическими воспламенителями. Заряд разрушения металла и окислителя далее сжигает за долю секунды, производят газ из металлического оксида, плотнее воды и почти такой же горячий как поверхность Солнца. Но пламя крошечное; оно стремительно остывает и алмазная сфера сдерживает его огромное давление.

Этот разрушительный заряд окружает более маленькую цельную оболочку, которая окружает ещё один слой сенсоров, который также вызывает разрушительный заряд. Эти сенсоры окружают полость, которая содержит саму запечатанную ассемблерную лабораторию.

Эти тщательно сделанные предосторожности оправдывают термин «запечатанная». Кто-либо из вне не может открыть пространство лаборатории, не разрушив её содержимое, и никакой ассемблер или построенные ассемблерами структуры не могут выйти из неё. Система разработана, чтобы выпускать информацию, но не опасные репликаторы и опасные инструменты. Каждый слой сенсоров состоит из многих избыточных слоёв сенсоров, каждый предназначенный для определения любого возможного проникновения, и каждый компенсируя возможные дефекты в других. Проникновение, включая заряд уничтожения, поднимает температуру в лаборатории выше точки плавления любого возможного вещества и делает выживание любых опасных устройств невозможным. Эти защитные механизмы объединяются воедино против чего-то около одной миллионной их размера – то есть, чтобы не помещалось в лаборатории, что обеспечивает сферическое рабочее пространство не шире человеческого волоса.

Хотя по обычным стандартам маленькое, это рабочее пространство содержит достаточно места для миллионов ассемблеров и тысяч триллионов атомов. Эти запечатанные лаборатории позволят людям строить и тестировать устройства, даже прожорливые репликаторы в полной безопасности. Дети будут использовать атомы внутри их как конструкторы почти с неограниченным количеством деталей. Любители будут обмениваться программами, чтобы строить различные устройства. Инженеры будут строить и тестировать новые нанотехнологии. Химики, материаловеды и биологи будет строить аппараты и проводить эксперименты. В лабораториях, построенных вокруг биологических экземпляров, биомедицинские инженеры будут разрабатывать и тестировать ранние машины ремонта клеток.

В ходе этой работы люди естественно будут разрабатывать полезные конструкции, будь то для компьютерных схем, прочных материалов, медицинских устройств или чего-то угодно ещё. После того как публика поймёт их безопасность, эти вещи могут стать доступными вне запечатанных лабораторий с помощью программирования ограниченных ассемблеров на их производство. Запечатанные лаборатории и ограниченные ассемблеры образуют взаимодополняющую пару: первые позволят нам свободно изобретать; вторые дадут нам возможность наслаждаться плодами нашего изобретения в безопасности. Возможность сделать паузу между разработкой и выходом поможет нам избежать смертоносных сюрпризов.

Запечатанные ассемблерные лаборатории дадут возможность целым обществам применять свои творческие способности для решения проблем нанотехнологии. И это ускорит наши приготовления ко времени, когда независимые силы узнают, как строить что-то опасное.

Сокрытие информации

В другой тактике, чтобы выиграть время, ведущая сила может попытаться сжечь мосты, которые она построила от балк-технологии к молекулярной. Это означает уничтожить записи о том, как первые ассемблеры были сделаны (или сделать их абсолютно недоступными). Ведущая сила может быть способна разработать первые, грубые ассемблеры таким образом, что никто не знает детали большего чем маленькая часть целой системы. Представьте, что мы разрабатываем ассемблеры тем путём, как описано в главе 1. Белковые машины, которые мы используем для построения первых грубых ассемблеров затем быстро станут устаревшими. Если мы уничтожим записи о конструкции белков, это затруднит усилия их скопировать, однако не предотвратит дальнейший прогресс в нанотехнологии.

Если запечатанные лаборатории и ограниченные ассемблеры широко доступны, у людей будет мало научной или экономической мотивации повторно разрабатывать нанотехнологию независимо, и сжигание мостов от балк-технологии сделает независимую разработку более сложной. Однако это могут быть не более чем тактики задержки. Они не остановят независимую разработку; человеческое стремление к власти будет подталкивать усилия, которые в конце концов приведут к успеху. Только детальная всеобщая слежка в тоталитарных масштабах могла бы остановить независимую разработку на неограниченное время. Если такая слежка проводилась бы чем-то вроде современного правительства, это было бы лечение, примерно такое же опасное как сама болезнь. И даже тогда, сохраняли бы люди идеальную бдительность навсегда?

По-видимому, мы должны в конце концов научиться жить в мире с репликаторами, которым нельзя доверять. Один тип тактики заключался бы в том, чтобы скрыть за стеной или далеко убежать. Но это – хрупкие методы: опасные репликаторы могли бы слопать стену или пересечь пространство и принести невообразимые несчастья. И хотя стены могут защитить от маленьких репликаторов, никакая неподвижная стена не гарантирует против крупномасштабного организованного злого умысла. Нам потребуется более надёжный, гибкий подход.

Активные щиты

Представляется, мы можем построить наномашины, которые действуют примерно так, как белые клетки крови человеческой иммунной системы: устройства, которые могут бороться не только с бактериями и вирусами, но с опасными репликаторами всех сортов. Назовём автоматическую защиту этого рода активным щитом, чтобы отличить от неподвижной стены.

В отличие от обычных технических систем, надёжные активные щиты должны делать больше, чем просто взаимодействовать с природой и неуклюжими пользователями. Они должны также уметь управляться с намного более существенной задачей – с целым рядом угроз, которые разумные силы могут сконструировать и построить при более благоприятных обстоятельствах. Построение и улучшение прототипа щитов будет сродни проведению обеими сторонами гонки вооружений в лабораторном масштабе. Но цель здесь будет поиск минимальных требований для защиты, которая надёжно преобладает.

В главе 5 я описал, как доктор Ленат и его программа Евриско разработали успешные виды флота, чтобы сражаться по правилам игры-симулятора морской битвы. Аналогичным образом мы можем превратит в игру смертельно серьёзные усилия по разработке надёжных щитов, используя запечатанные ассемблерные лаборатории различных размеров как игровые поля. Мы можем пригласить множество инженеров, компьютерных хакеров, биологов, любителей и систем автоматического инжиниринга, стравливать свои системы друг против друга в играх, ограниченных только начальными условиями, законами природы и стенами запечатанных лабораторий. Эти конкуренты будут разрабатывать угрозы и щиты в серии микро-сражений с открытым концом. Когда размножающиеся ассемблеры принесут изобилие, люди будут иметь достаточно времени для такой важной игры. В конце концов мы можем тестировать многообещающие системы щитов в космосе в средах, подобных земным. Успех сделает возможным систему, способную защитить человеческую жизнь и земную биосферу от самого худшего, что целые толпы свободных репликаторов могут сделать.

С нашими сегодняшними неопределённостями мы не можем пока описать ни угрозы, ни щиты с какой-либо точностью. Значит ли это, что мы не можем иметь уверенности, что эффективные щиты возможны? Очевидно мы можем; в конце концов есть разница между знанием, что что-то возможно и знанием как это сделать. А в этом случае мир содержит примеры аналогичного успеха.

Нет ничего фундаментально нового в защите против вторгшихся репликаторов; жизнь это делает на протяжении веков. Размножающиеся ассемблеры, хотя и необычно мощные, будут физическими системами не отличающимися принципиально от тех, что нам уже известны. Опыт подсказывает, что их можно контролировать.

Вирусы – молекулярные машины, которые вторгаются в клетки; клетки используют молекулярные машины (такие как ограничительные ферменты и антитела), чтобы против них защищаться. Бактерии – это клетки, которые вторгаются в организмы; организмы используют клетки (такие как белые кровяные тельца), чтобы против них защищаться. Аналогично общества используют полицию, чтобы защищаться против криминальных элементов и армии, чтобы защищаться против захватчиков. На менее физическом уровне умы используют мимические системы, такие как научный метод, чтобы защищаться против абсурда, а общества используют институты, такие как суды, чтобы защищаться против власти других институтов.

Биологические примеры в предыдущем абзаце показывают, как даже после гонки вооружений в течение миллиарда лет молекулярные машины оказались способны поддерживать защиту против молекулярных репликаторов. Неудачи также широко распространены, но успехи всё же показывают, что защита возможна. Эти успехи подсказывают, что мы можем действительно использовать наномашины, чтобы защищать себя против наномашин. Хотя ассемблеры принесут с собой успехи во многих областях, не видно причин, почему они должны навсегда опрокинуть баланс в защите.

Примеры, приведённые выше – какие-либо вторгающиеся вирусы, какие-либо вторгающиеся институты – достаточно разнообразны, чтобы подсказывать, что успешная защита базируется на общих принципах. Кто-то может спросить: почему все эти защиты оказываются успешны? Но перевернём вопрос: почему они должны не иметь успеха? Каждый конфликт сталкивает аналогичные системы друг с другом, не давая атакующей никакого очевидного преимущества. Более того, в каждом конфликте атакующий сталкивается с защитой, которая уже установилась и проверена временем. Защищающийся сражается на собственной территории, дающей ему преимущества, такие как подготовленные позиции, детальное знание местности, заготовленные ресурсы, и многочисленные союзники – когда иммунная система распознаёт микроб, он может мобилизовать ресурсы всего организма. Все эти преимущества являются общими и фундаментальными, имея мало общего с деталями технологии. Мы можем придать нашим активным щитам те же преимущества перед опасными репликаторами. И им не обязательно нужно сидеть сложа руки, когда опасные виды оружия накапливаются, ничуть не больше, чем иммунная система сидит сложа руки, когда размножаются бактерии.

Было бы сложно предсказать исход гонки вооружений с открытым концом между силами, вооружёнными самовоспроизводящимися ассемблерами. Но до того, как эта ситуация может возникнуть, ведущая сила, кажется вероятным, что приобретёт временное, но принципиальное военное преимущество. Если исход гонки вооружений – под сомнением, то ведущая сила вероятно использует свою силу, чтобы гарантировать, что никаким противникам не будет позволено её догнать. Если она это сделает, то активные щиты не будут должны противостоять атакам, обеспечиваемым ресурсами половины континента или половины солнечной системы; вместо этого они будут походить на силы полиции или иммунную систему, встречающие атаки, обеспечиваемые какими бы то ни было ресурсами, которые могут быть собраны в тайне в пределах защищаемой территории.

В каждом случае успешной обороны, которые я упомянул выше, атакующие и щиты развивались по во многом схожим процессам. Иммунная система, сформированная генетической эволюцией, встречает угрозы также сформированные генетической эволюцией. Армии, сформированные человеческими умами, также встречают аналогичные угрозы. Подобным образом и активные щиты, и опасные репликаторы будут сформированы эволюцией мимов. Но если ведущая сила может разработать системы автоматического инжиниринга, которые будут работать в миллионы раз быстрее людей-инженеров, и если она может использовать их в течение всего одного года, то она сможет построить активные щиты, основанные на усилиях, эквивалентных миллионам лет технического прогресса. С такими системами мы можем быть способны исследовать пределы возможного достаточно хорошо, чтобы построить щит против всех физически возможных угроз.

Даже если мы не знаем детали угроз и щитов, кажется разумным считать, что щиты возможны. И примеры мимов, контролирующих мимы, и институтов, контролирующих институты также подсказывают, что системы ИИ могут контролировать системы ИИ.

В построении активных щитов, мы будем способны использовать мощь репликаторов и систем ИИ, чтобы умножать традиционные преимущества защищающейся силы: мы можем дать ей преобладающую силу благодаря изобилию построенных репликаторами технических средств с конструкциями, основанными на эквиваленте миллион-летнего преимущества в технологии. Мы можем строить активные щиты, имеющие силу и надёжность, которая посрамит системы прошлого.

Нанотехнология и искусственный интеллект могли бы принести конечные инструменты разрушения, но они не являются разрушительными по своей сути. С осторожностью мы можем их использовать, чтобы построить окончательные инструменты мира.

Тот, кто не применяет новых видов лечения, должен ожидать новых видов зла; время – величайший инноватор.

(ФРЭНСИС БЭКОН)

Личные ограничения

Локальное подавление

Соглашения глобального подавления

Глобальное подавление силой

Односторонний прогресс

Баланс сил

Кооперативное развитие

Синтез стратегий

Активные щиты против космического оружия

Власть, зло, некомпетентность и лень

В ПРЕДЫДУЩИХ ГЛАВАХ я плотно придерживался основательной почвы технологической возможности. Здесь, однако, я должен пойти дальше в область политики и человеческих действий. Эта почва более неустойчивая, но технологические факты и эволюционные принципы всё же обеспечивают устойчивые моменты, на которые можно опираться и исследовать территорию.

Гонка технологий, подгоняемая давлением эволюции, несёт нас к беспрецедентным опасностям; нам нужно найти стратегии, чтобы как-то с ними иметь дело. Поскольку мы видим впереди такую огромную опасность, имеет смысл рассмотреть остановку в нашем стремительном движении вперёд. Но как мы это можем сделать?

Как отдельные люди, мы могли бы воздерживаться от исследований, которые ведут по направлению к опасным возможностям. Действительно, большинство людей будет воздерживаться, поскольку большая часть из них – не исследователи в первую очередь. Но эта стратегия не остановит прогресс: в нашем разнообразном мире, другие будут двигать дело вперёд.

Стратегия личного сдерживания (по крайней мере в этом вопросе) отдаёт простым бездействием. Но как насчёт стратегии локального политического действия, лоббирования законов, запрещающих определённые виды исследования? Это было бы личное действие, направленное на оказание давления на коллективное бездействие. Хотя оно могло бы преуспеть в подавлении исследования в городе, районе, стране или даже союзе стран, эта стратегия не поможет нам получить лидерство, вместо этого она бы позволила какой-то силе вне нашего контроля получить это лидерство. Популярное движение этого сорта может остановить исследование только так, где люди имеют власть, и этот величайший возможный успех просто открыл бы дорогу более репрессивным государствам, чтобы стать лидирующей силой.

Там, где затрагивается ядерное оружие, можно доказывать ценность многостороннего разоружения и ненасильственного (или по крайней мере безъядерного) сопротивления. Ядерные вооружения можно использовать, чтобы снести сооружения военного назначения и навести ужас, но они не могут использоваться, чтобы оккупировать территорию и править людьми – не могут прямо. Ядерные вооружения не могли подавить партизанскую войну и социальные беспорядки, поэтому стратегии разоружения и сопротивления имеют определённую долю смысла.

Многостороннее подавление нанотехнологии и ИИ, в отличие от этого, равнялось бы многостороннему разоружению в ситуации, где сопротивление не может работать. Агрессивное государство могло бы использовать эти технологии, чтобы захватывать и властвовать (или истреблять) даже нацию Ганди, или вооружённых и преданных борцов за свободу.

Это заслуживает акцента. Без некоторых новых путей реформирования деспотических государств в мире, простые движения за подавление исследований не могут иметь полного успеха. Без полного успеха, большой успех означал бы несчастья для демократий. Даже если они бы они ни к чему не привели, усилия этого сорта могли бы занять работу и страсть активистов, расточающих редкие человеческие ресурсы на бесплодную стратегию. Более того, усилия по подавлению настроили бы враждебно имеющих отношение к делу исследователей, вызывая столкновения между потенциальными союзниками и растрачивая ещё больше человеческих ресурсов. Эта бесплодность и разделённость заставляет избегать этой стратегии.

Тем не менее подавление имеет привлекательность, которую невозможно отрицать. Оно простое и прямое; "Впереди опасность? Давайте её остановим!" Затем успехи в усилиях по локальному лоббированию обещают краткосрочное вознаграждение: "Впереди опасность? Мы можем её остановить здесь и сейчас, для начала!" Это начало оказалось бы фальстартом, но никто этого бы не заметил. Идея простого подавления кажется вероятным, что совратит многие умы. В конце концов локальное подавление локальной опасности имеет долгую успешную традицию; если остановить тех, кто загрязняет окружающую среду в конкретно взятом месте, например, это сокращает локальное загрязнение. Усилия по локальному подавлению глобальных опасностей кажется аналогичным, однако могут быть другие последствия. Нам будут нужны локальные организации и политическое давление, но они должны быть построены вокруг работоспособной стратегии.

В более многообещающем подходе, мы могли бы применить локальное давление для переговоров о поддающемся проверке запрету на международном уровне. Аналогичная стратегия могла бы иметь шанс контролировать ядерные вооружения. Остановка нанотехнологии и искусственного интеллекта поставило бы проблемы другого порядка, по крайней мере по двум причинам.

Во-первых, эти технологии менее хорошо определённые, нежели ядерные вооружения: поскольку данная ядерная технология требует определённые изотопы редких металлов, она имеет отличие от других видов деятельности. Она может быть определена и (в принципе) запрещена. Но современная биохимия ведёт малыми шажками к нанотехнологии, а современная компьютерная технология ведёт малыми шажками к ИИ. Нет никакой определённой линии, которая определяет естественную линию, где нужно остановиться. И поскольку каждое маленькое продвижение будет приносить медицинские, военные и экономические выгоды, как можем мы проводить переговоры по поводу мирового соглашения о том, где остановиться?

Во-вторых, эти технологии более могущественные, чем ядерное оружие: поскольку реакторы и системы вооружения достаточно большие, инспекция могла бы ограничить размеры секретных сил и таким образом ограничить их мощность. Но опасные репликаторы будут микроскопическими, а программы ИИ – нематериальными. Как может кто-то быть уверен, что какая-то лаборатория где-то не находится на краю стратегического прорыва? В долгосрочной перспективе, как может кто-то быть даже уверен, что какой-то хакер в подвале не находится на краю стратегического прорыва? Обычные методы проверки не будут работать, а это делает переговоры и давление по поводу международного запрета просто невозможными.

Давление правильного рода насчёт международных соглашений будут делать наш путь более безопасным, но соглашения просто запрещать опасный прогресс очевидно работать не будет. Снова, локальное давление должно быть частью работоспособной стратегии.

Если мирные соглашения не будут работать, кто-то может рассмотреть использование военной силы, чтобы подавить опасные успехи. Но из-за проблемы контроля, военное давление само по себе было бы не достаточно. Чтобы подавить продвижение силой вместо этого потребовало бы, чтобы одна сила победила и оккупировала враждебные силы, вооружённые ядерным оружием – вряд ли безопасная политика. Далее, победившая сила была бы сама главной технологической силой с мощной военной силой и демонстрирующейся готовностью её использовать. Можно ли в этом случае доверять такой силе, чтобы она подавила собственный прогресс? Даже если так, можно ли ей доверять, что она сможет поддерживать бесконечную, вездесущую бдительность по всему миру? Если нет, тогда угрозы в конце концов возникнут в тайне, и в мире, где открытая работа над активными щитами предотвращена. Вероятным результатом будет катастрофа.

Военная сила в демократических странах имеет большие выгоды, но военная сила сама по себе не может разрешить нашу проблему. Мы не можем выиграть безопасность с помощью стратегии завоевания и подавления исследований.

Эти стратегии остановки исследования – будь то через личное бездействие, локальное бездействие, договорные соглашения или завоевание мира – всё это выглядит обречённым на провал. Однако противодействие прогрессу будет иметь свою роль, потому что нам будет нужно выборочная, умно нацеленная задержка, чтобы отсрочить угрозы до того, как мы к ним подготовимся. Давление со стороны бдительных активистов будет важным, но чтобы помочь управлять прогрессом, а не остановить его.

Если попытки подавить исследования по ИИ и нанотехнологии кажутся бесполезными и опасными, чему из противоположного следовать – односторонние как можно больше усилия? Но это также представляет проблемы. Мы в демократиях вероятно не можем производить стратегические прорывы в идеальной секретности. Слишком много людей было бы вовлечено на протяжении слишком многих лет. Поскольку правительство СССР узнало бы о наших усилиях, их реакция оказалась бы очевидной озабоченность, и они бы несомненно рассматривали бы большой прорыв с нашей стороны как большую угрозу. Если нанотехнология была бы разработана как часть секретной военной программы, их информационные аналитики опасались бы разработки тонкого, но решающего оружия, возможно основанного на запрограммированных «микробах». В зависимости от обстоятельств, наши оппоненты могли бы решить атаковать, пока они ещё могут. Важно, чтобы демократии сохраняли лидерство в этих технологиях, но было бы наиболее безопасно, если мы сможем как-то сочетать эту силу с совершенно неугрожающими видами политики.

Если мы следуем любой из вышеназванных стратегий, мы неизбежно вызовем сильный конфликт. Попытки подавить нанотехнологию и ИИ столкнули бы потенциальную силу, которая будет заниматься подавлением, с жизненными интересами исследователей, корпораций, военных учреждений и медицинских пациентов. Попытки достичь одностороннего прогресса в этих технологии столкнёт кооперирующиеся демократии против жизненно важных интересов наших оппонентов. Все стратегии будут вызывать конфликт, но должны ли все стратегии серьёзно раскалывать западные общества и весь мир?

В поиске серединного пути, мы могли бы пытаться найти баланс сил, основанный на балансе технологий. Это по-видимому расширило бы ситуацию, которая сохраняла определённую меру мирного сосуществования на протяжении четырёх десятилетий. Но ключевое слово здесь – «по-видимому»: грядущие прорывы будут столь стремительными и дестабилизирующими, чтобы старый баланс продолжал существование. в прошлом, страна могла испытывать технологическое отставание на несколько лет и всё же поддерживать приблизительный военный баланс. Однако, со стремительными репликаторами и продвинутым ИИ, задержка на единственный день могла бы быть фатальной. Стабильный баланс значит слишком много, чтобы на него полагаться.

В принципе существует способ гарантировать технологический баланс между кооперирующимися демократиями и советским блоком: мы могли бы разрабатывать технологии в кооперации, делясь инструментами и информацией. Хотя это имеет очевидные проблемы, по крайней мере это несколько более практично, чем оно может казаться на первый взгляд.

Возможно ли договорить о кооперации? Провалившиеся попытки заключить договоры об эффективном контроле на вооружениями приходят на ум, и кооперация могла бы казаться ещё более сложной и трудной для воплощения. Но действительно ли это так? В контроле над вооружениями каждая сторона пытается предотвратить действия другой; это укрепляет их враждебные отношения. Далее, это возбуждает конфликты внутри каждого лагеря между группами, которые за ограничение вооружений и группами, которые существуют, чтобы производить вооружения. Хуже всего, что переговоры вращаются вокруг слов и их значений, но каждая сторона имеет собственный язык и мотив повернуть значения так, как ей нужно.

Кооперация, напротив, включает работу обеих сторон, над общей целью; это имеет свойство стирать враждебную природу отношений. Далее, это может уменьшить конфликты в пределах каждого лагеря, поскольку совместные усилия создавали бы проекты, а не уничтожали бы их. Наконец, обе стороны обсуждают свои усилия на общем языке – языке математики и диаграмм, используемом в науке и конструировании. Также кооперация имеет чёткие видимые результаты. В середине 1970-х, США и СССР запустили совместный космический полёт, и до тех пор пока политические трения не увеличились, они закладывали предварительные планы на совместную космическую станцию. Это были не отдельные случаи, в космосе и на земле; совместные проекты и технический обмен происходил на протяжении лет. При всех её проблемах, технологическая кооперация доказал по крайней мере, что она не более сложна, чем контроль над вооружениями – возможно даже более проста, учитывая огромные усилия, прикладываемые к последнему.

Любопытно, что там, где затрагивается нанотехнология и ИИ, кооперация и эффективный контроль над вооружениями имели бы базовое сходство. Проверка соглашения по контролю над вооружениями потребовала бы постоянных и детальных инспекций лабораторий с каждой стороны экспертами с другой стороны – отношения, такие же близкие как при самой тесной вообразимой кооперации.

Но чего бы достигла кооперация? Она могла бы гарантировать баланс, но баланс не гарантирует стабильности. Если два вооружённых человека встречают друг друга лицом к лицу с готовым к бою оружием и большим страхом, их силы сбалансированы, но тот, кто выстрелит первым, может убрать угрозу другого. Совместные усилия в развитии технологии, если их тщательно не планировать и не контролировать, дали бы каждой стороне грозное оружие, в то время как обеспечивали бы другой стороне щит. Кто мог бы быть уверен, что ни одна сторона не найдёт способ сделать обезоруживающий удар безнаказанно?

Даже если это можно было бы гарантировать, как насчёт проблемы других сил, а также любителей и случайностей?

В предыдущей главе я описал решение этих проблем: разработка, тестирование и создание активных щитов. Они предлагают новое средство для лечения старой проблемы, и никто ещё не предложил ему возможной альтернативы. Пока кто-нибудь не предложит, кажется мудрым рассмотреть, как их можно было бы построить и могли ли бы они создать возможную стратегию, которая способна работать.

Личное сдерживание, локальные акции, выборочная задержка, международное соглашение, односторонняя сила, и международная кооперация – все эти стратегии могут помочь в наших усилиях по разработке активных щитов.

Рассмотрим нашу сегодняшнюю ситуацию. Демократические страны на протяжении десятилетий были ведущими в мире в большинстве областей науки и технологии; мы лидируем сегодня в компьютерных программах и биотехнологии. Вместе мы – ведущая сила. Не видно причин, почему мы не можем поддерживать это лидерство и его использовать.

Как обсуждалось в предыдущей главе, ведущая сила будет способна использовать несколько тактик для управления ассемблерным прорывом. Они включают использование запечатанных ассемблерных лабораторий и ограниченных ассемблеров, и поддержание секретности относительно деталей и начальной разработки ассемблеров. В то время, когда мы будем применять эти (и другие) виды стратегии, мы можем работать, чтобы разработать активные щиты, способные дать нам постоянную защиту против новых опасностей. Это определяет цель. Чтобы её достичь, наилучшей кажется стратегия, состоящая из двух частей.

Первая часть включает деятельность внутри сотрудничающих демократий. Нам нужно поддерживать лидерство, которое для нас достаточно, чтобы спокойно действовать с осторожностью; если мы чувствуем, что нам можем проиграть гонку, мы вполне можем удариться в панику. Продвижение с осторожностью означает разработку надёжных институтов для управления и начальными прорывами и разработкой активных щитов. Те щиты, которые мы разрабатываем, в свою очередь должны разрабатываться так, чтобы помочь нам обеспечить будущее, в котором стоит жить, будущее с местом для разнообразия.

Вторая часть этой стратегии включает стратегии по отношению к сегодняшним враждебным державам. Здесь наша цель должна быть – сохранить инициативу в то время как минимизировать угрозу, которую мы представляем. Технологический баланс не будет работать и мы не сможем себе позволить упустить наше лидерство. Это оставляет силу и лидерство как наш единственный реальный выбор, делая не угрожающую позицию вдвойне сложной, чтобы её достичь. Здесь снова нам нужны стабильные, надёжные институты: если мы можем дать им большую встроенную инерцию относительно их целей, то возможно даже наши оппоненты будут иметь в них меру уверенности.

Чтобы убедить наших оппонентов (и нас самих!), эти институты должны быть настолько открытыми, насколько это возможно, в соответствии с их миссией. Мы можем также суметь построить институты, которые предлагают роль для сотрудничества с Советским Союзом. Предлагая им участие, даже если они откажутся идти на условия, которые мы предложим, мы могли бы предложить какие-то меры для подтверждения наших намерений. Если Советский Союз должен был бы принять, они бы получили общественную ставку в нашем совместном успехе.

Всё же, если демократии будут сильными, когда прорывы подойдут, и если мы будем избегать угроз по отношению к контролю любых государств над своей собственной территорией, то наши оппоненты предположительно не будут видеть никаких преимуществ в атаке. Таким образом мы вероятно можем обойтись без кооперации, если необходимо.

Может быть полезным рассмотреть, как мы могли бы применить идею активных щитов к более обычным областям. Традиционно, оборона требовала оружия, которое также полезно для нападения. Это – одна причина, почему «оборона» стала значить "способность вести войну", и почему усилия по «обороне» дают противникам причину для опасений. Недавно предложенные виды обороны с космическим базированием расширят эту структуру. Почти любые защитные системы, которые могут разрушать атакующие ракеты, могли бы также разрушать оборону противника – или проводить космическую блокаду, предотвращая построение противником различных видов обороны первым. Такие "виды обороны" попахивают нападением, также как они, по-видимому, и должны, это их работа. И таким образом гонка вооружений собирает себя для следующего опасного прыжка.

Должна ли оборона и нападение быть так близко неразрывными? История заставляет казаться, что это так. Стены только задерживают захватчиков, когда их защищают воины, но воины сами могут выйти, чтобы захватить другие земли. Когда мы представляем оружие, мы естественно представляем человеческие руки, которые его нацеливают и человеческую прихоть, решающую, когда стрелять – и история учит нас бояться самого худшего.

Однако сегодня, первый раз в истории, мы научились, как строить защитные системы, которые принципиально отличаются от оружия как такового. Рассмотрим пример базирования в космосе. Мы сейчас можем разработать устройства, которые чувствуют (выглядит так, как будто тысяча ракет запущена только что), оценивать (выглядит так, как попытка удара первыми), и действовать (пытаться разрушить эти ракеты!). Если система будет стрелять только по большим скопищам летящих ракет, то она не может использоваться для нападения или для космической блокады. Ещё лучше, что её можно было бы сделать так, чтобы она была неспособна различать атакующие стороны. Служа стратегическим интересам своих создателей, она не подчинялась бы каждодневному командованию со стороны чьих бы то ни было генералов. Она бы просто делала космос опасным окружением для ракет любой атакующей стороны. Также как море или гряда гор в предыдущих войнах, она бы не угрожала ни одной из сторон, в то время как обеспечивала бы каждую сторону некоторой защитой против другой стороны.

Хотя она бы использовала военные технологии (сенсоры, отслеживающие устройства, лазеры, наводящиеся снаряды и т. п.) оборона не была бы системой оружия, почему её роль была принципиально другой. Системам этого типа нужно было бы отличительное имя: они, в действительности, род активного щита – термин, которые может описать любую автоматическую или полуавтоматическую систему, разработанную для защиты без угрозы. Но защищая обе стороны, не угрожая ни одной, активные щиты могли бы ослабить цикл гонки вооружений.

Технические, экономические и стратегические вопросы, поднимаемые активными щитами сложны, и они могут быть, а могут не быть практическими в предассемблерную эру. Если они практические, то будет несколько возможных подходов к их построению. В одном подходе, сотрудничающие демократии построили бы щиты в одностороннем порядке. Чтобы дать возможность другим нациям удостовериться, что система будет и (что более важно) не будет делать, мы могли бы позволить многосторонние инспекции ключевых конструкций, компонентов, и шагов производства. Нам не нужно выдавать все участвующие технологии, почему "знаю что" не то же самое, что "знаю как". В другом подходе, мы бы строили щиты совместно, ограничивая передачу технологии до минимума, необходимого для кооперации и верификации (используя принципы, обсуждаемые в Примечаниях).

У нас больше шанса запретить космические вооружения, чем нанотехнологию, и это могло бы даже быть лучшим способом минимизировать наши краткосрочные риски. В выборе долгосрочной стратегии контроля гонки вооружений, однако мы должны рассматривать больше, чем следующий шаг. Анализ, который я обрисовал в этой главе подсказывает, что традиционные подходы к контролю вооружений, основанные на переговорах о проверяемых ограничениях, не могут справиться с нанотехнологией. Если это так, то нам нужно разработать альтернативные подходы. Активные щиты – что кажется существенным, в конченом счёте могут предложить новую стабилизирующую альтернативу гонке вооружений в космосе. Исследуя эту альтернативу, мы можем исследовать основные вопросы, общие для всех активных щитов. Если мы в этом случае их разработаем, мы получим опыт и построим институциональные механизмы, которые могут позже оказаться существенными для нашего выживания.

Активные щиты – новый выбор, основанный на новых технологиях. Чтобы заставить их работать, потребуется творческий, междисциплинарный синтез идей в проектировании, стратегии и международных отношениях. Они предложат новые возможности, которые могут позволить нам избежать старых тупиков. Они очевидно предложат ответ на старый вопрос защиты без угрозы – но не простой ответ.

Я обрисовал, как нанотехнология и продвинутый ИИ дадут огромную власть ведущей силе – власть, которая может быть использована чтобы уничтожить жизнь, или чтобы расширить и освободить её. Поскольку мы не можем остановить эти технологии, представляется, что мы должны как-то справиться с возникновением концентрации власти, большей, чем любая другая в истории.

Нам понадобится подходящая система институтов. Чтобы безопасно управлять сложными технологиями, эта система должна иметь способы оценивать относящиеся к делу факты. Чтобы управлять безопасно большой мощью, она должна включать эффективные способы контроля и балансы, а её цели и методы должны сохраняться открытыми для тщательного общественного контроля. Наконец, поскольку это поможет нам заложить основы нового мира, лучше, чтобы оно направлялось нашими общими интересами, в рамках надёжных принципов.

Мы не начинаем с нуля; мы будем строить на основе тех институтов, которые у нас есть. Они различны. Не все из наших институтов – государственные чиновники в массивных серых зданиях; они включают такие расплывчатые и живые образования, как свободная пресса, исследовательское сообщество и сеть активистов. Эти децентрализованные институты помогают нам контролировать серые бюрократические машины.

Отчасти мы встречаемся с новой версией древней и общей проблемы ограничения злоупотребления властью. Это не представляет никакой значительной, фундаментальной новизны, и принципы и институты либеральной демократии, которым много сотен лет, подсказывают, как это может быть решено. Демократические правительства уже имеют физическую власть, чтобы взорвать континенты и захватить, посадить в тюрьму и убить их жителей. Но мы можем жить с этими возможностями, потому что эти правительства достаточно покорные и стабильные.

Грядущие годы возложат большую ношу на наши институты. Принципы представительного правительства, свободы слова, процесса сбора налогов, правила законов и защита прав человека будут оставаться решающими. Чтобы подготовиться к новым видам бремени, нам понадобится расширить и вдохнуть новую жизнь в эти принципы и институты, которые их поддерживают; защита свободы слова относительно технических вопросов может быть решающей. Хотя мы сталкиваемся с серьёзным вызовом, есть повод надеяться, что мы сможем на него достойно ответить.

Есть также, конечно, очевидные причины для сомнения, что мы сможем на него достойно ответить. Но отчаяние заразно и противно, и оставляет людей в подавленном состоянии. Кроме того отчаяние кажется неоправданным, вопреки знакомым проблемам: зло – слишком ли мы злы, чтобы делать правильные вещи? Некомпетентность – слишком ли мы глупы, чтобы делать правильные вещи? Лень – слишком ли мы ленивы, чтобы подготовиться?

Хотя это был бы слишком поспешным предсказывать радужное будущее, эти проблемы не кажутся непреодолимыми.

Демократические правительства – большие, небрежные и иногда безответственные за жестокости, однако они не кажутся злом, в целом, хотя они могут включать людей, которые заслуживают этого ярлыка. В действительности их лидеры получают власть во многом выказывая поддержку общепризнанным идеям добра. Наша главная опасность в том, что стратегии, которые кажутся хорошими, могут вести к несчастью, или что действительно хорошие стратегии не будут найдены, опубликованы и воплощены во время, чтобы возыметь действие. Демократии страдают больше от лени и некомпетентности, чем от зла.

Некомпетентность будет кончено неизбежна, но должна ли она быть фатальной? Мы, человеческие существа, по своей природе глупы и невежественны, однако мы иногда ухитряемся объединить наши кусочки компетентности и знания, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и никто никогда не узнает, однако дюжина людей прошлась по её поверхности. Мы преуспели в технических вопросах, потому что научились строить институты, которые собирают многих людей вместе, чтобы генерировать и проверять идеи. Эти институты добиваются надёжности путём избыточности, и качество их результатов зависит от во многом от того, как сильно это нас заботит и как напряжённо мы работаем. Когда мы концентрируем достаточно внимания и ресурсов на надёжности, мы часто преуспеваем. Это – то, почему полёты на Луну закончились успешно без гибели в космосе и почему никакое ядерное оружие никогда не было запущено и не взорвалось по случайности. И это то, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с достаточной осторожностью, чтобы гарантировать компетентную работу. Неустойчивые люди с ограниченными способностями могут объединиться, чтобы образовать стабильные, компетентные институты.

Лень – интеллектуальная, моральная и физическая – кажется возможно нашей самой большой опасностью. Мы можем только отвечать на великие вызовы великими усилиями. Сделают ли достаточно людей достаточные усилия? Никто не может этого сказать, поскольку никто не может сказать за любого другого. Но успех не потребует неожиданного всеобщего прозрения и мобилизации. Он потребует только растущего сообщества людей, пытающихся разработать, опубликовать и воплотить работоспособные решения, и чтобы они имели хорошую и растущую меру успеха.

Это не так невероятно. Забота о технологии стала широко распространённой, также как идея ускоряющегося изменения потребует лучшего предвидения. Лень не поймает в западню каждого, и введённые в заблуждение мыслители не будут вести по ложному направлению усилия всех. Смертоносные псевдо-решения (такие как запрещение исследований) проиграют битву идей, если достаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом, успех сделает возможным осуществление великих мечтаний. Великие надежды и страхи могут подвигнуть достаточно людей, чтобы дать возможность человеческой расе выиграть.

Страстное участие и действие не будут достаточны; мы также будем нуждаться в хорошо обоснованных стратегиях. Это потребует больше чем хороших намерений и чётких целей: мы должны также отслеживать фактические связи в мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По мере того, как мы приближаемся к технологическому кризису беспрецедентной сложности, имеет смысл попытаться улучшить наши институты оценки важных технических фактов. Как ещё мы можем направлять ведущую силу и минимизировать угрозу последней некомпетентности?

Институты эволюционируют. Чтобы вывести лучшие институты для нахождения фактов, мы можем копировать, адаптировать и расширять наши прошлые успехи. Они включают свободную прессу, научное сообщество, и суды. Все имеют свои достоинства, и некоторые из этих достоинств могут быть объединены.

Страх нельзя запретить, но он может быть спокойным и без паники; и он может быть уменьшен разумом и оценкой.

(Ванневар Буш.)

Собрание экспертов

От междоусобиц к честному судебному процессу

Один из подходов

Почему бы не справедливый судебный процесс?

Построение справедливого судебного процесса

Обществу нужны лучшие способы понимания технологии – это давно уже очевидно. Вызовы будущего просто делают нашу потребность более насущной.

Обещания технологии манит нас вперёд, а давление конкуренции делает остановку практически невозможной. По мере того, как гонка технологий ускоряется, новые разработки входят в нашу жизнь всё быстрее, а фатальные ошибки становятся более вероятными. Нам нужно создать лучший баланс между нашим предвидением и нашей скорость продвижения. Мы не можем сделать много, чтобы замедлить рост технологии, но мы можем ускорить скорость предвидения. И с лучшим предвидением, у нас будет больше шансов направлять гонку технологий в безопасном направлении.

Предлагались различные способы для управления технологией. "Люди должны контролировать технологию" – неплохой лозунг, но он может иметь два возможных значения. Если это значит, что мы должны заставить технологию служить человеческим потребностям, то он вполне имеет смысл. Но если он означает, что люди как целое должны принимать технические решения, то в нём очень мало смысла. Электорат не может оценить внутренние взаимосвязи между технологией, экономикой, окружающей средой и жизнью; у людей нет необходимых знаний. Сами люди согласны: в соответствии с исследованием Государственным фондом науки США 85 процентов взрослых людей в США считают, что большинство граждан не имеет знаний, необходимых, чтобы выбирать, какие технологии разрабатывать. Публика в целом оставляет технические суждения техническим экспертам.

К сожалению, оставление суждений экспертам вызывает проблемы. В "Совете и разногласии" Примак и фон Хиппель отмечают, что "до той степени, до которой Администрация может преуспевать в удерживании нежелательной информации в секрете и публику в неведении, благополучие общества может быть принесено в жертву с безнаказанностью для удобства бюрократов и частной выгоды." Люди у руля подвергаются большей критике, когда новое лекарство вызывает единственную смерть, чем когда его отсутствие вызывает тысячи смертей. Они и выдают неправильное регулирование соответственно этому. Военные бюрократы имеют законный интерес в трате денег, скрытии ошибок и продолжении своих проектов. Они и управляют неправильно соответственно этому. Этот вид проблемы такой фундаментальный и естественный, что больше примеров вряд ли нужно. Везде секретность и туман создают чиновникам больший комфорт; везде личная выгода искажает фактические утверждения по вопросам, касающимся общественности. По мере того, как технологии становятся всё более сложными и важными, эта модель становится всё более опасной.

Некоторые авторы рассматривают правление секретных технократов практически неизбежным. В "Создании альтернативных видов будущего" Хейзел Хендерсон доказывает, что сложные технологии " становятся по сути своей тоталитарными

" (её курсив), потому что ни избиратели, ни законодатели не могут их понять. В "Повторном посещении будущего человечества" Харрисон Браун также утверждает, что соблазн обойти демократические процессы в решении сложных кризисов приносит опасность, "что если индустриальная цивилизация выживет, она станет всё более тоталитарной по природе." Если это было бы так, то вероятно это означало бы обречённость: мы не можем остановить гонку технологий, а мир тоталитарных государств, основанный на совершенной технологии не нуждающийся ни в работниках, ни в солдатах, мог бы вполне избавиться от большей части населения.

К счастью, демократия и свобода сталкивалась с подобными вызовами в прошлом. Государства становились слишком сложными для прямой демократии, но появилась представительная демократия. Государственная власть угрожала разрушить свободу, но появилась власть закона. Технология стала сложной, но это не даёт нам никакой причины игнорировать людей, сбрасывать со счетов закон и приветствовать диктатора. Нам нужны способы, чтобы управлять технической сложностью в демократических рамках, используя экспертов как инструменты, чтобы прояснять наше видение, не давая им контроля над нашими жизнями. Но технические эксперты сегодня втянуты в систему междоусобиц между узкими группами.

Правительство и промышленность, а также их критики, обычно назначают экспертные комитеты, которые встречаются в тайне, если встречаются вообще. Эти комитеты претендуют на то, что им можно доверять, основываясь на том, кто они есть, а не на том, как они работают. Противостоящие группы нанимают оппозиционирующих нобелевских лауреатов.

Чтобы завоевать влияние в нашей массовой демократии, группы пытаются переплюнуть друг друга. Когда их взгляды относятся к обществу, они выносят их на публику путём рекламных компаний. Когда их взгляды относятся к государству, они выносят их к законодательной власти путём лоббирования. Когда их взгляды имеют драматический оттенок, они выносят их на публику через кампании в СМИ. Группы продвигают своих любимых экспертов, сражение выходит на публику и тихие учёные и инженеры тонут в шуме.

По мере того, как общественный конфликт нарастает, люди начинают сомневаться в заявлениях экспертов. Они оценивают утверждения очевидным образом – по его источнику. ("Конечно, она заявляет, что разлив нефти безопасен – она работает на Эксон." "Конечно, он говорит, что Эксон лжёт – он работает на Нейдер.")

Когда авторитетные эксперты теряют доверие, демагоги могут присоединиться к битве на равной ноге. Журналисты страждут противоречий, стараясь объективно освещать картину, и редко руководствуются техническими соображениями – выносят все стороны прямо на публику. Осторожные утверждения, делаемые добросовестными учёными создают мало впечатления; другие учёные не видят другого выбора кроме как принять демагогический стиль. Дебаты становятся острыми и гневными, расхождения во взглядах растут и дым битв затемняет сами факты. Часто за этим следует паралич глупости.

Наша величайшая проблема в том, что мы делаем с проблемами. Дебаты бушуют по поводу ядерной энергии, энергии каменного угля, химических отходов. Имеющие хорошие намерения группы, подкрепляемые экспертами сталкиваются вновь и вновь вокруг скучных технических фактов – скучных, то есть за исключением их важности: Какие последствия имеют малые дозы радиации и как вероятна авария на ядерном реакторе? Каковы причины и последствия кислотных дождей? Насколько хорошо могла бы защита с космическим базированием защищать от ракетных атак? Говорят ли пять случаев лейкемии в пределах трёх миль данной свалки отходов о смертельной опасности или это просто игра случая?

Более существенные вопросы – впереди: насколько безопасные репликаторы? Будут ли системы активных щитов безопасны и надёжны? Будет ли обратима процедура биостаза? Можем ли мы доверять системе ИИ?

Споры о технических фактах питают более широкие диспуты о стратегии. Люди могут иметь различающиеся ценности (как, чтобы бы вы предпочли, энцефалит или отравление пестицидами?), но их взгляды на относящиеся к делу факты расходятся ещё больше. (как часто эти комары переносят энцефалит? Как токсичны эти пестициды?) Когда различающиеся взгляды на скучные факты ведут к разногласиям относительно важных стратегий, люди могут удивляться, "Как они нам могут противоречить по таким важным стратегическим вопросам, если только у них нет дурных мотивов?" Споры насчёт фактов могут таким образом настроить потенциальных союзников друг против друга. Это мешает нашим усилиям в понимании и решении наших проблем.

Люди обсуждают факты на протяжении тысячелетий; только особое положение технических диспутов ново. Общества разработали методы для оценки фактов о людях. Эти методы подсказывают, как мы могли бы судить факты о технологии.

На всём протяжении истории, группы разрабатывали способы, чтобы разрешать споры; альтернативой этому были междоусобицы, нескончаемые и часто беспощадные. Средневековые европейцы использовали несколько процедур, все – лучше, чем бесконечные междоусобицы:

Они использовали испытание битвой: противники сражались, и закон подтверждал победителя.

Они использовали взаимную клятву: соседи клялись в честности обвиняемого; если клялись достаточно, обвинения снимались.

Они использовали испытание "божьим судом": в одном из них обвиняемый связывался и его бросали в реку; те, кто тонул, были невиновны, а те, кто выплывал – виновны.

Они использовали суд секретных комитетов: советники короля встречались, чтобы судить и выносить приговор, который казался подходящим. В Англии они встречались в комнате, которая называлась Звёздный кабинет.

Эти методы предположительно определяли, кто что делал – факты относительно человеческих событий, но все имели серьёзные недостатки. Сегодня мы использованием аналогичные методы, чтобы определять, что является причиной чего – факты относительно науки и технологии:

Мы использованием испытание сражением в прессе: оппоненты бросаются со шпагами наголо друг на друга до тех пор, пока доказательства одной стороны не терпят политической смерти. К сожалению, это часто напоминает бесконечные междоусобицы.

Мы использованием клятвы: эксперты клянутся относительно определённых фактов; если клянётся достаточно в одном и том же, факты объявляются истинными.

Мы использованием суждения секретных комитетов: избранные эксперты встречаются, чтобы оценивать факты и рекомендовать те действия, которые кажутся подходящими. В Соединённых Штатах они часто встречаются в комитетах в Национальной Академии наук.

Испытание Божьим судом вышло из моды, но битвы в прессе вполне могут напоминать пытки тихих учёных с их самоуважением.

Англичане упразднили заседания Звёздного кабинета в 1641 году, и они считали это большим достижением. Испытание сражением, клятвой, и божьим судом также стали историей. Мы сейчас ценим честный процесс, по крайней мере когда судим людей.

Судебные процедуры иллюстрируют принципы должного процесса: утверждение должно быть конкретно. Обе стороны должны иметь шанс высказаться и встретить друг друга, чтобы опровергать чужие аргументы и проводить перекрёстный допрос. Процесс может быть публичным, чтобы предотвратить скрытые нелепости. Дебаты должны происходить перед жюри, которое обе стороны принимают как беспристрастное. Наконец, судья должен быть арбитром в процессе и следить за выполнением правил.

Чтобы понять ценность честного процесса, представьте противоположное: процесс, попирающий все эти принципы дал бы одной стороне сказать, а другой никакого шанса провести перекрёстный допрос или ответить на аргументы. Он встречался бы в тайне, допускал бы смутную клевету, и не имел бы судьи, чтобы следить за какими бы то ни было правилами, которые могли бы оставаться неизменными. Присяжные приходили бы уже со своими готовыми решениями. Короче говоря, это напоминало бы толпу линчевателей, встречающуюся в закрытом сарае, или мошеннический комитет, составляющий отчёт.

Опыт показывает ценность честного судебного процесса в оценке фактов по поводу людей; мог бы он также быть ценным в оценке фактов о науке и технологии? Честный процесс – это фундаментальная идея, не ограничиваемая судами закона. Некоторые исследователи ИИ, например, встраивают принципы честного судебного процесса в свои компьютерные программы. По-видимому, честный судебный процесс должен оказаться полезным в оценке технических фактов.

В действительности, научная литература, главный форум науки, уже воплощает форму честного судебного процесса: в хороших журналах, научные утверждения должны быть конкретны. В теории, имея достаточно времени и настойчивости, все стороны могут высказать своих взгляды в диспуте, поскольку журнал остаётся открытым для противоречий. Хотя оппоненты могут не встречаться лицом к лицу, они встречаются на расстоянии; они задают вопросы и отвечают в медленном движении, через письма и статьи. Рефери, также как присяжные, оценивают основания и аргументацию. Редакторы, как судьи, следят за правилами процедуры. Публикация оставляет дебаты открытыми для публичного изучения.

И в журналах, и в судах, конфликтующие идеи сталкиваются друг с другом, подчиняясь правилам, разработанным, чтобы обеспечить справедливую, организованную борьбу. Эти правила иногда терпят неудачу, поскольку они нарушаются или не адекватны, но они – лучшее, что мы разработали. Несовершенный справедливый судебный процесс доказал, что он лучше, чем вообще без него.

Почему учёные ценят журналы с редакционным арбитражем? Не потому что они верят всем журналам с арбитражем, или доверяют всему, что печатается в одном из них. Даже лучшая система справедливого судебного процесса не произведёт поток чистой истины. Скорее, они ценят журналы с арбитражем потому что они (журналы) склонны отражать основательную критическую дискуссию. Действительно они должны это делать: поскольку журналы конкурируют друг с другом за бумагу, престиж и читателя, лучшие журналы должны быть действительно хороши. Журналы работают медленно, однако после достаточного количества раундов публикаций и критицизма они часто вырабатывают консенсус.

Опыт доказывает ценность и судов, и журналов. Их глубинное подобие говорит о том, что их ценность происходит из общего источника – честного судебного процесса. Честный процесс может приводить к неудаче, но всё же это – лучший известный подход для нахождения фактов.

Но сегодня суды и журналы не достаточны. Жизненно важные технические диспуты продолжаются и продолжаются из-за того, что у нас нет никакого быстрого, хорошо организованного способа выявлять факты (и описывать границы нашего незнания). Суды не подходят, чтобы иметь дело с техническими вопросами. Журналы лучше, но они также имеют недостатки. Они формировались во времена технологий более низкого уровня и более медленного прогресса, развиваясь так, чтобы соответствовать ограничениям печати, скорости почты и потребностям академической науки. Но сегодня, во время, когда мы отчаянно нуждаемся в лучших и более стремительных технических суждениях, мы обнаруживаем себя в мире, в котором есть телефоны, реактивные самолёты, копировальные аппараты, экспресс и электронная почта. Можем ли мы использовать современные технологии, чтобы ускорить технические дебаты?

Конечно, учёные уже используют несколько подходов. Реактивные самолёты переносят учёных через континенты на конференции, где представляются и обсуждаются доклады. Но конференции плохо управляют противоречием; общественный этикет и плотные расписания ограничивают накал и глубину дебатов.

Учёные также соединяются в неформальные исследовательские сети, соединяемые телефоном, почтой, компьютерами и копировальными аппаратами; они ускоряют обмен и обсуждение. Но они по сути своей – частные институты. Они также не способны обеспечить достоверную публичную процедуру для отработки противоречий.

Конференции, журналы и неформальные сети имеют некоторые аналогичные ограничения. Они обычно фокусируются на технических вопросах научной важности, а не на технических вопросах уровня важности общественной стратегии. Более того, они обычно концентрируются на научных вопросах. Журналы имеют склонность пренебрегать технологическими вопросами, которые не имеют внутри себя научного интереса; они часто обращаются с ними как с новостями, которые не стоят проверки рефери. Более того, наши сегодняшние институты не имеют какого-либо сбалансированного способа представления знания, когда оно всё ещё запутано в противоречиях. Хотя научные обзорные статьи часто представляют и взвешивают несколько идей, они это делают с точки зрения одного автора.

Все эти недостатки имеют общий источник: научные институты приспособились продвигать науку, а не просеивать факты для людей, принимающих политические решения. Эти институты служат своей цели достаточно хорошо, но они плохо служат другим целям. Хотя это – не полное отсутствие чего-либо, тем не менее они оставляют реальную потребность.

Нам нужны лучшие процедуры для обсуждения технических фактов – процедуры, которые открытые, достоверные и сфокусированные на отыскании фактов, которые нам нужны для формулирования хорошо обоснованных политических стратегий. Мы можем начать с копирования некоторых аспектов процедур других справедливых судебных процессов; тогда мы можем модифицировать и очистить их в свете опыта. Используя современные средства коммуникации и транспорта, мы можем разрабатывать сфокусированные, оптимизированные процессы, подобные журналам, чтобы ускорить общественные дебаты по решающим фактам; по-видимому это – полдела. Другая половина требует перегонки результатов дебатов в сбалансированную картину нашего состояния знаний (и также говоря, нашего состояния невежества). Здесь кажутся полезными процедуры, несколько напоминающие судебные.

Поскольку эта процедура (форум поиска фактов) предполагает обобщать факты, каждая сторона будет начинать с утверждения того, что она находит ключевыми фактами и перечисления их в порядке важности. Обсуждение будет начинаться с утверждений, которые возглавляют список каждой стороны. После раундов аргументации, перекрёстного допроса и переговоров, рефери найдёт утверждения, по которым имеется согласие. Там где разногласие сохраняется, технические присяжные запишут мнения, подчёркивая, что кажется известным и что всё ещё кажется неопределённым. Выход форума будет включать базовые аргументы, утверждения, по которым есть согласие, и мнение присяжных заседателей. Это может напоминать серию журнальных статей, заключённых в сжатой обзорной статье, ограниченной только утверждениями фактов, без рекомендаций к принятию политических решений.

Эта процедура должна отличаться от судебной процедуры во многих аспектах. Например, технические присяжные заседатели – «жюри» форума – должны быть техники компетентны. Предубеждение могло бы привести присяжных к неправильной оценке фактов, но техническая некомпетентность могла бы равняться вреду. По этой причине, «жюри» форума поиска фактов должно выбираться таким способом, который был бы опасен, если его разрешить в судах закона. Поскольку суды владеют силой полиции, мы использованием жюри, выбранные из людей как целого, чтобы охранять нашу свободу. Это заставляет правительство искать одобрения от группы граждан перед тем, как кого-то наказать, таким образом приспосабливая действия правительства к стандартам общества. Однако форум поиска фактов ни коим образом не собирается наказывать людей или формировать государственную политику. Общество будет свободно наблюдать за процессом и решать, верить ли результатам. Это даст людям достаточно контроля.

Однако, чтобы сделать форум поиска фактов справедливым и эффективным, нам нужна хорошая процедура отбора присяжных. Технические присяжные будут грубо соответствовать экспертным комитетам, назначенным правительствами или рефери, назначенным журналами. Чтобы гарантировать справедливость, присяжные должны выбираться не комитетом, политиками, или чиновниками, а процессом, который включает согласие обеих сторон в диспуте. В судебных заседаниях адвокаты могут ставить под сомнение и отвергать любых судий, которые кажутся предубеждёнными; мы можем использовать подобный процесс в выборе панели для форума поиска фактов.

Эксперты, которые прямо участвуют в диспуте не могут играть роль присяжных – они бы либо создали предубеждение у присяжных, либо раскололи их. Группа, поддерживающая форум поиска фактов должна искать присяжных, которые сведущи в относящихся к делу областях. Это кажется практичным, потому что методы технической оценки (часто основанной на экспериментах и вычислениях) достаточно общие. Присяжные, знакомые с основами области будут способны оценивать детальную аргументацию, которую приводят специалисты с каждой стороны.

Другие стороны форума поиска фактов также будут напоминать таковых в судах и журналах. Комитет, подобный журнальной редакционной группе, будет предлагать кандидатуры судьи и присяжных для диспута. Адвокаты каждой стороны, также как авторы или судебные адвокаты, будут собираться и представлять самые сильные доказательства, которые могут.

Несмотря на эти общие черты, форум поиска фактов будет отличаться от суда: он будет фокусироваться на технических вопросах. Он не будет предлагать никаких действий. Он не будет иметь управляющей силы. Он будет следовать техническим правилам доказательства и аргументации. Он будет отличаться в бесконечных деталях по тону и процедуре. Аналогия с судом – лишь это – аналогия, источник для идей.

Форум поиска фактов также будет отличаться от журнала: он будет происходить так быстро как позволяет почта, собрания и электронные средства коммуникации, а не как заторможенный обмен в течение многих месяцев, как типичные журнальные публикации. Он будет собираться вокруг какого-то вопроса, а не будет создан, чтобы работать над целой научной отраслью. Он будет обобщать знания, чтобы помогать решениям, а не служить как первичный источник данных для научного сообщества. Хотя серии форумов поиска фактов не будут заменять журнал, они помогут нам находить и публиковать факты, которые могли бы сохранить наши жизни.

Доктор Артур Кантрович (член Национальной академии наук, который достиг совершенства в областях от медицинской технологии до лазеров высокой энергии) был автором концепции, которую я только что описал. Вначале он её назвал "совет по техническому расследованию". Журналисты сразу же окрестили её "научным судом". Я это назвал форумом поиска фактов; я зарезервировал термин "научный суд" для форума поиска фактов, используемого (или предназначенного) как правительственный институт. Предложения для справедливого процесса в технических диспутах всё ещё находится в движении; в различных дискуссиях используются различные термины.

Забота доктора Кантровича относительно справедливого процесса появилась из решения США строить гигантские ракеты для полёта на Луну одним броском; он, основываясь на сведениях от экспертного комитета, рекомендовал, чтобы НАСА использовало несколько меньшие ракеты, чтобы выводить компоненты на низкую орбиту, а потом состыковывать их, чтобы построить летательный аппарат, который бы достиг Луны. Этот подход обещал сэкономить миллиарды долларов, а также развить полезные умения по строительству в космосе. Никто не ответил на его аргументы, однако он не смог выиграть своё дело. Умы были непоколебимы, политики причастны к делу, отчёт застрял в сейфе Белого Дома и дебаты были закрыты. Технические факты были тихо подавлены в интересах тех, кто хотел построить новое поколение гигантских ракет.

Это показало крайне серьёзный дефект в наших институтах – тот, который упорствует, расточает наши деньги и увеличивает риск катастрофических ошибок. Доктор Кантрович вскоре пришёл к теперь очевидному выводу: нам нужны институты справедливого судебного процесса для обнародования технических противоречий.

Доктор Кантрович преследовал свою цель (в своей форме научного суда) в дискуссиях, письменных работах, исследованиях и конференциях. Он получал поддержку по поводу научных судов от Форда, Картера и Рейгана, как кандидатов. Как Президенты, они ничего не делали, хотя аппарат Президента во время администрации Форда всё же разрабатывали предложенную процедуру.

Однако есть прогресс. Хотя я использовал будущее время в описании форума поиска фактов, эксперименты начались. Но перед тем как описать путь к справедливому процессу, имеет смысл рассмотреть некоторые возражения.

Критики этой идеи (по крайней мере в её версии научного суда) часто не соглашались друг с другом. Некоторые возражали, что диспуты о фактах не важны, или что они могут спокойно проходить за закрытыми дверями; другие возражали, что диспуты о фактах слишком глубоки и важны, чтобы процедура справедливого судебного процесса могла помочь. Некоторые предостерегали, что научные суды были бы опасны; другие предостерегали, что они были бы бессильны. Вся эта критика имеет некоторую обоснованность: процесс не будет панацеей. Иногда он не будет необходим, а иногда его будут использовать во вред. Всё же, кто-то с тем же успехом мог бы отвергать пенициллин на том основании, что он иногда неэффективен, не нужен или причиняет вред.

Эти критики не предлагают никаких альтернатив, и они редко спорят с тем, чтобы мы сегодня имели справедливый судебный процесс или утверждают, что этот процесс бесполезен. Мы вынуждены иметь дело со сложными техническими вопросами, от которых зависят миллионы жизней; смеем ли мы оставлять эти вопросы секретным комитетам, медлительным журналам, сражениям в СМИ и техническим суждениям политиков? Если мы не верим экспертам, должны ли мы принимать суждения секретных комитетов, назначенных в секрете, или требуется более открытый процесс? Наконец, можем ли мы с нашей сегодняшней системой совладать с глобальной технологической гонкой в нанотехнологии и искусственном интеллекте?

Открытые институты справедливого судебного процесса, по-видимому, жизненно необходимы. Позволяя участвовать всем сторонам, они используют энергию конфликта для поиска фактов. Ограничивая экспертов в описании фактов, они будут помогать нам иметь дело с технологией, не отдавая свои решения на усмотрение технократов. Частные лица, компании и избираемые должностные лица будут сохранять полный контроль над политикой; технические эксперты всё так же будут способны рекомендовать линии политики через другие каналы.

Как мы можем отличить факты от ценностных суждений? Стандарты Карла Поппера кажутся полезными: утверждение имеет характер фактического (будь то справедливого или ложного), если эксперимент или наблюдение могло бы в принципе его опровергнуть. Для некоторых людей, идея исследования фактов без учёта их ценностных моментов наводит на мысль о принятии политических решений без учёта ценностных факторов. Это было бы абсурдно: по самой их природе, политические решения будут всегда включать и факты, и ценности. Причина и следствие относятся к фактам, говоря нам о том, что возможно. Но политика также включает наши ценности, наши мотивы для действия. Без правильных фактов мы не сможем достичь целей, которых мы хотим, но без ценностей – без желаний и предпочтений, мы бы не хотели что-либо вообще. Процесс, который раскрывает факты, может помочь людям выбирать линии политики, которые будут служить их ценностям.

Критики беспокоились, что научный суд (в результате) объявит Землю плоской, а затем игнорирует Аристарха из Самоа или Магелана, когда он обнаружит доказательства обратного. Ошибки, предубеждения или несовершенное знание обязательно будут вызывать некоторые памятные ошибки. Но члены панели технических присяжных и не претендуют на ложную определённость. Зато они могут описать наше знание и обрисовать наше невежество, иногда заявляя, что мы просто не знаем, или что имеющиеся доказательства дают только приблизительное представление о фактах. Таким образом они бы защищали нашу репутацию для доброго суждения. Когда появляются новые доказательства, вопрос может быть открыт повторно; идеям не нужно защиты от двойного нападения.

Если форумы поиска фактов станут популярными и уважаемыми, они получат влияние. Их успех тогда затруднит их злоупотребление: многие конкурирующие группы будут их поддерживать, а группа, которая будет использовать процедуру во зло, будет иметь тенденцию завоёвывать плохую репутацию и игнорироваться. Никакая единственная группа, которая организует форум, не будет способна затемнить факты по важному вопросу, если форумы поиска фактов получат надёжность путём избыточности.

Никакой институт не будет способен исключить продажность и ошибки, но форумы поиска фактов будут управляемы, хотя и несовершенно, улучшенными стандартами для проведения публичных дебатов; им придётся долго падать, чтобы стать хуже, чем система, которая у нас есть сейчас. Основные аргументы в пользу форумов поиска фактов – (1) справедливый судебный процесс – это правильный подход, чтобы попробовать, и (2) нам будет лучше, если мы его попробуем, чем если нет.

Антрополог Маргарет Мид была приглашена на коллоквиум по научному суду, чтобы высказаться против этой идеи. Но когда пришло время, она выступила в его защиту, заметив, что "Нам нужен новый институт. В этом нет никакого сомнения. Институты, которые у нас есть – совершенно неудовлетворительны. Во многих случаях они не только неудовлетворительны, они включают проституцию наукой и проституцию процессом принятия решений." Люди, не имеющие собственнических интересов в существующих институтах, часто соглашаются с её оценкой.

Если отыскание фактов относительно технологии действительно принципиально для нашего выживания, и если справедливый судебный процесс действительно – ключ к отысканию фактов, то что можем мы по этому поводу сделать? Нам не нужно начинать с совершенных процедур; мы можем начать с неформальных попыток улучшить процедуры, которые у нас есть. Затем мы можем разработать лучшие процедуры, варьируя наши методы и выбирая те, которые работают наилучшим образом. Справедливость судебного процесса – это вопрос степени.

Существующие институты могли бы продвинуться по направлению к справедливому судебному процессу, изменяя некоторые из своих правил и традиций. Например, правительственные агентства могли бы регулярно консультироваться с оппозиционными сторонами перед назначением членов экспертного комитета. Они могли бы гарантировать каждой стороне право представить доказательство, исследовать доказательство и устроить перекрёстный допрос экспертов. Они могли бы открыть свои заседания для зрителей. Каждый из этих шагов мог бы усилить справедливость процесса, превращая заседания Звёздной Палаты в институты, заслуживающие большего уважения.

Общественные выгоды от справедливого процесса не обязательно сделают его популярным серди групп, которых спрашивают об изменении, однако. Мы не видели страстного желания со стороны групп интересов проверять свои притязания, также как мы не видели радости со стороны комитетов, когда они распахивают свои двери и подчиняются дисциплине справедливого процесса. Также мы не слышали отчётов политиков, объявляющих полезность ложных фактов для скрытия политического основания их решений.

Тем не менее три кандидата в Президенты США всё же поддержали научные суды. Комитет президентов научных обществ, который включает двадцать восемь ведущих научных обществ США также поддержал эту идею. Департамент энергетики США использовал "процедуру, подобную процедуре научного суда", чтобы оценить конкурирующие предложения по энергии для плавления, и объявил её эффективной и полезной. Д-р Джон С. Бейлар из Национального института онкологии, после того, как медицинские организации не смогли распознать опасность рентгеновских лучей и уменьшить их использование в массовых обследованиях, предложил проведение научного суда по этой теме. Тогда его оппоненты отступили и изменили свою политику – очевидно, сама угроза справедливого судебного процесса уже спасает жизни. Тем не менее, старые способы остаются почти неоспоримыми.

Почему так? Отчасти, потому что знание – это власть, а следовательно ревниво оберегаемо. Отчасти, потому что сильные группы могут с успехом представить, как неудобен оказался бы для них справедливый процесс. Отчасти, потому что усилие, чтобы улучшить методы решения проблем не имеет драмы кампании по борьбе с самими проблемами; на тысячи активистов, пытающихся опрокинуть корабль государства, приходится один, который пытается заткнуть дыры в его корпусе.

Правительства могут пока действовать, чтобы основать научные суды, и любые шаги, которые они могут предпринимать по направлению к справедливому процессу заслуживают поддержки. Однако разумно опасаться правительственной поддержки научных судов: централизованная власть имеет склонность порождать неуклюжих монстров. Центральное "Агентство научного суда" могло бы работать хорошо, приносить мало видимого вреда, и всё же приводить к огромным скрытым издержкам: само его существование (и отсутствие конкуренции) могло бы блокировать эволюционные улучшения.

Открыты другие пути. Форумы поиска фактов будут способны оказывать влияние без помощи специальных юридических полномочий. Чтобы иметь влияние, их результаты только должны быть более достоверны, чем просто утверждения любого конкретного человека, комитета, корпорации или группы интересов. Хорошо управляемый форум поиска фактов принесёт доверие в саму свою структуру. Такие форму могли бы поддерживаться университетами.

На самом деле, д-р Кантрович недавно провёл экспериментальную процедуру в университете Калифорнии в Беркли. Она собралась вокруг публичных диспутов между генетиком Беверли Пейген и биохимиком Вильямом Хавендером относительно врождённых дефектов и генетических опасностей в районе свалки Лав Канэл. Они выступали как адвокаты; выпускники университета служили техническими присяжными заседателями. Процедура включала собрания, растянувшиеся на несколько недель, главным образом потраченных на обсуждение областей согласия и разногласия; она закончилась несколькими сессиями публичного перекрёстного допроса перед панелью присяжных. И адвокаты, и присяжные соглашались с одиннадцатью утверждениями фактов, и они проясняли свои оставшиеся разногласия и неопределённости.

Артур Кантрович и Роджер Мастерз замечают, что "в отличие от трудностей, испытываемых во многих попытках применить научный суд под эгидой правительства, обнадёживающие результаты были достигнуты при первой серьёзной попытке… в университетском окружении." Они замечают, что традиции и ресурсы университетов делают их естественной средой для таких усилий. Они планируют другие такие эксперименты.

Это показывает децентрализованный способ развивать институты справедливого судебного процесса, способ, который позволит нам перехитрить существующее чиновничество и окопавшиеся интересы. Делая это, мы можем основываться на установленных принципах и тестировать вариации, в лучших эволюционных традициях.

Лидеры, озабоченные тысячами разных вопросов – даже лидеры на оппозиционной стороне вопроса – могут присоединяться в поддержку справедливых процессов. В получении Да, Роджер Фишер и Вильям Юри из Гарвардского переговорного проекта отметили, что оппоненты склонны предпочитать незаинтересованный арбитраж, когда каждая сторона верит, что она права. Обе стороны ожидают выиграть, следовательно обе стороны согласны участвовать. Форумы поиска фактов должны привлечь честных адвокатов и оттолкнуть шарлатанов.

По мере того, как справедливый процесс станет стандартом, адвокаты с сильными аргументами получат преимущество, даже если их оппоненты откажутся сотрудничать – "Если они не могут защитить своё дело на публике, почему нужно их слушать?" Далее, многие диспуты будут разрешаться (или избегаться) без того, чтобы создавать проблему настоящих заседаний: сама перспектива управляемых рефери публичных дебатов подтолкнёт адвокатов проверить свои факты перед тем, как они их заявят. Учреждение форумов поиска фактов могло бы легко сделать больше для хорошо обоснованного аргумента, чем найм миллиона сторонников.

Однако сегодня лидеры, имеющие благие намерения, чувствуют принуждение преувеличивать свои доказательства, просто чтобы быть услышанными в рёве, которой издаёт прессы их оппонентов. Должны ли они с сожалением противодействовать дисциплине форумов поиска фактов? Конечно нет; справедливый судебный процесс может исцелить социальную болезнь, которая уводила их всего от того, чтобы ставить факты на первое место. Делая свои очки на форумах поиска фактов, они будут в состоянии восстановить своё самоуважение, которое исходит из интеллектуальной честности.

Извлечение истины может сделать подкоп под удобные позиции, но это не может повредить интересам группы, действительно заботящейся об общественных интересах. Если кому-то нужно чуть подвинуться, чтобы дать место правде, ну и что? Великие лидеры смещали свои позиции и по худшим причинам, и справедливый судебный процесс также заставит оппонентов это сделать.

Грегори Бейтсон однажды сказал, что "ни один организм не может себе позволить сознавать вопрос, с которым он мог бы управляться на бессознательных уровнях" В организме демократии, сознательный уровень приблизительно соответствует дебатам в СМИ. Бессознательный уровень состоит из любых процессов, обычно работающих достаточно хорошо без криков и плача общества. В СМИ, как в человеческом сознании, одна забота имеет склонность вытеснять другие. Это – то, что делает сознательно внимание таким редким и ценным. Наше общество нуждается в том, чтобы идентифицировать факты своего положения более быстро и надёжно, с меньшим количеством отвлекающих междоусобиц в СМИ. Это освободит публичные дебаты для задачи, для которой они существуют – оценочная процедура для отыскания фактов, решения, что мы хотим и помощи нам избрать путь к миру, который стоит того, чтобы в нём жить.

По мере того, как изменения ускоряются, наша потребность растёт. Чтобы оценить риск репликатора или осуществимость активного щита, нам будут нужны лучшие способы обсуждать факты. Чистые социальные изобретения, такие как форум поиска фактов, помогут, но новые социальные технологии, основанные на компьютерах также сохраняют потенцию. Они также расширят справедливый судебный процесс.

Компьютеры … проникли в нашу повседневную жизнь и становятся центральной нервной системой общества.

(ТОРУ МОТО-ОКА)

Магическая бумага, ставшая реальностью

Связывание наших знаний

Опасности гипертекста

От рабочего стола к мировой библиотеке

Гипертекст и печатная пресса

Чтобы подготовиться к ассемблерной революции, общество должно научиться учиться быстрее. Форумы поиска фактов будут полезны, но новые технологии могут помочь ещё больше. С ними мы будем способны распространять, очищать и комбинировать нашу информацию намного быстрее, чем когда-либо прежде.

Информационная перегрузка стала хорошо известной проблемой: частицы знания скапливаются слишком быстро, чтобы люди могли их отсортировать и извлечь из них смысл. Тысячи технических журналов покрывают тысячи тем. Публикуемые статьи накапливаются более миллиона в год. Форумы поиска фактов помогут нам вычистить неправду, которая будет нивелировать наши усилия, чтобы понять мир. Но любые такие формальные институты будут завалены современным наводнением информации: форумы поиска фактов будут способны иметь дело только с небольшой частью – хотя и важной частью фактов, и они неизбежно будут несколько медлительны. Формальные институты могут перехватывать только крошечную частичку умственной энергии нашего общества.

Сегодня наша информационные системы задерживают наш прогресс. Чтобы понять пробелу, представьте обращение с куском информации: вы открыли её – как вы будете её распространять? Кто-то ещё опубликовал её – как вы её найдёте? Вы нашли её – где вы будете её хранить? Вы видите ошибку – как вы её исправите? Ваши папки растут – как вы их упорядочите?

Сейчас мы обращаемся с информацией неуклюже. Наши традиционные электронные СМИ живые и развлекающие, но они плохо приспособлены для управления сложными дебатами, продолжающимися длительное время; как могли бы вы, как зритель, зарегистрировать, упорядочить или исправить информацию в телевизионном документировании фактов? То есть как могли бы вы сделать это хорошо интегрированной частью развивающегося тела знания? Мы можем управлять сложными дебатами лучше, используя бумажные носители, однако недели (или годы) задержки в типичном процессе публикации замедляют дебаты до очень медленного движения. И даже газетные публикации трудно подшивать, упорядочивать или корректировать. Принтеры производят кипы бумаги, покрытой символами; путём героических усилий библиотекари и учёные умудряются связать и организовать их свободным образом. Однако индексы, ссылки и коррекции просто добавляют ещё страниц или ещё изданий, и отслеживание ссылок, которые они представляют, остаётся утомительным.

Книги и другие пакеты бумаги работают, до известной степени. Они содержат многое из наших культурных богатств и мы сейчас не имеем лучшего пути, чем публиковать большинство вещей. Однако, они оставляют много места для улучшений.

Одна проблема в распространении, исправлении и организации информации оставляет наше общее знание относительно редким, неточным, и плохо организованным. Поскольку установленное знание часто трудно найти, мы часто обходимся без него, делая себя похожими на более невежественных, чем могли бы быть. Могут новые технологии нам помочь?

Они это сделали в прошлом. Изобретение печатного пресса принесло великий прогресс; сервис, основанный на компьютерном тексте обещает ещё больше. Однако, чтобы понять, как наши информационные системы могли бы стать лучше, может быть полезным понять, как они могли бы стать хуже. Рассмотрите, в таком случае воображаемый беспорядок и воображаемое решение: Сказка о замке.

В давние времена жил на свете народ с информационной проблемой. Хотя они заменили свои громоздкие глиняные дощечки на бумагу, они использовали её странно. В центре их страны стояло величественное строение. Под его сводами находилась их великая Комната Писаний. В этой комнате находилась куча клочков бумаги, каждый размером в детскую ладонь.

Время от времени учёный входил в этот храм знания, чтобы предложить знание. Совет писцов оценивал, стоящее ли оно. Если да, они вписывали его на один из клочков бумаги и торжественно бросали его наверх кучи.

Время от времени некоторые трудолюбивые учёные приходили, чтобы найти знание – покопаться в этой куче в поисках нужного клочка. Некоторые, опытные в подобных поисках, могли найти определённый клочок не более чем за месяц. Писцы всегда были рады исследователям – они были так редки.

Мы, современные люди, можем понять их проблему: в беспорядочной куче каждый добавляемый клочок хоронил под собой остальные (как на многих рабочих столах). Каждый клочок отдельный, несвязан с другими, и добавление ссылок дало бы мало помощи, когда нахождение клочка занимает месяцы. Если мы использованием такую кучу, чтобы хранить информацию, наши обширные, детализированные писания по науке и технологии были бы почти бесполезны. Поиски занимали бы годы или целые жизни.

Мы, современные люди, имеем простое решение: мы складываем страницы в порядке. Мы помещаем страницу за страницей, чтобы образовалась книга, книгу за книгой, чтобы заполнить полку и заполняем здание полками, чтобы получить библиотеку. Со страницами в порядке, мы можем найти их и следовать ссылке более быстро. Если те писцы использовали бы учёных, чтобы сложить клочки по теме, их поиски стали бы легче.

Однако, когда у них были бы стопки по истории, географии и медицине, куда следовало бы учёным положить клочки по исторической географии, географической эпидемиологии и медицинской истории? Куда следовало бы им положить клочки по "Истории распространения Великой Чумы"?

Но в нашей воображаемой стране, писцы выбрали другое решение: они послали за волшебником. Но прежде они свободно пустили учёных в комнату с иглами и нитками, чтобы пропустить нити от клочка к клочку. Нити одного цвета связывали клочок со следующим в серию, другой цвет вёл к ссылке, ещё один – к критическим замечаниям и т. д. учёные плели сеть из связей, представленных сетью ниток. В конце концов волшебник (с горящими глазами и развивающимися волосами) пропел заклинание и весь беспорядок поднялся медленно в воздух, и стал плавать как облако в этом величественном здании. После этого, учёному, держащему клочок, нужно было только потянуть за ниточку, привязанную к его концу, чтобы заставить связанный клочок прыгнуть к нему в руку. И нити, волшебным образом, никогда не запутывались.

Теперь учёные могут соединить "Историю распространения Великой Чумы" со связанными клочками по истории, географии и медицине. Они могут добавить все примечания и тексты, которые они хотят, связывая их наиболее удобным образом. Они могут добавить клочок со специальным индексом, способный принести в руку всё, что в нём перечисляется. Они могут поместить связи куда угодно, куда они хотят, сплетая сеть знания так, чтобы она соответствовала связям в реальном мире.

Мы, с нашими инертными кипами бумаги, можем только им завидовать – если у нас не было компьютеров.

В 1945 году, Ванневар Буш предложил систему, называемую «мимекс». Это было настольное устройство, напичканное микрофильмами и механизмами, способными показывать сохраняемые страницы и позволяющее пользователю замечать связи между ними. Мимекс микрофильмов никогда не был построен, но мечта продолжала жить.

Сегодня компьютеры и экраны становятся достаточно дешёвыми, чтобы использовать их для обычного письма и чтения. Некоторые издатели статей стали электронными издателями, создавая журналы и газеты доступными через компьютерные сети. А с нужными программами, управляющие текстом компьютеры позволят нам связывать эту информацию даже лучше, чем магические нити.

Теодор Нельсон, автор этой идеи, обозначил результат как «гипертекст»: текст, связанный во многих направлениях, а нет только в одномерную последовательность. Читатели, авторы и редакторы, использующие систему гипертекста, в общем случае будут малосведущи в работе компьютеров и экранов, также как они были большей частью несведущи в механизмах фотокомпозиции и офсетной литографии в прошлом. Система гипертекста будет действовать просто как магическая бумага; любой, кто поиграет с ней, вскоре станет знаком с её основными возможностями.

Всё же, описание структуры одной системы поможет в понимании, как гипертекст будет работать.

В подходе, которому следует группа гипертекста Ксанаду (в Сан-Джоз, Калифорния) суть системы, её основа – компьютерная сеть, способная хранить и документы, и связи между документами. Начальная система могла быть настольной машиной для одного пользователя; в конце концов растущая сеть машин будет способна служить как электронная библиотека. Сохраняемые документы будут способны представлять почти всё, будь то новеллы, диаграммы, учебники или программы – в конце концов даже музыку и фильмы.

Пользователи будут иметь возможность соединять любую часть любого документа с любым другим. Когда читатель указывает на один конец связи (будь то показанной на экране подчёркиванием, звёздочкой или картинкой с цветной ниточкой), система пойдёт и отобразит материал на другом конце связи. Далее, она запишет новые версии большого документа, не сохраняя дополнительные копии; ей нужно будет сохранять только части, которые изменены. Это даст возможность сохранять более ранние версии любого документа, опубликованные и модифицированные системой. Это будет делаться всё также быстро, даже когда общее количество хранимой информации станет громадным. Сеть таких машин могла бы в конце концов вырасти в мир электронной библиотеки.

Чтобы найти материал в большинстве текстовых системах на основание компьютера, пользователь должен ввести ключевые слова или непонятные коды. Гипертекст также будет способен связать текст с кодами или ключевыми словами, или даже с смоделированным каталогом карточек, но большинство пользователей вероятно предпочтёт просто читать и указывать на ссылки. Как заметил Теодор Нельсон, гипертекст будет "новой формы чтения и письма, способом, таким же как старый, с кавычками и заметками на полях, и цитированием. Однако также он будет социально самоконструирующимся в широкую новую пересекающуюся конструкцию, новую литературу."

Что читатель увидит, когда будет проходить через эту структуру, будет зависеть отчасти от собственной части системы со стороны читателя, от машины "переднего края", возможно, персонального компьютера. Задний конец будет просто заносить в архив и извлекать документы; передний край упорядочит их, извлечённые по запросу читателя и отобразит их в подходящей для читателя форме по его вкусу.

Чтобы представить, как это будет выглядеть для пользователя, изобразите экран размером с открытую книгу, покрытый печатными знаками размером с те, которые вы читаете в хорошей книге хорошего издания, на хорошем экране. Сегодня экран напоминал бы телевизор, но в течение нескольких лет он мог бы стать подобен книге, объектом, умещающимся на коленях, со шнуром к информационному выводу. (С нанотехнологией, мы можем убрать и шнур: объект размером с книгу будет способен содержать систему гипертекста, вмещающую изображения любой страницы любой книги в мире, сохраняемых в быстрой памяти с молекулярной записью.)

В этой книге – в той, которую вы сейчас держите в свои руках – я мог бы описать книги Теодора Нельсона о гипертексте, "Литературные машины" и "Компьютерная библиотека", но вы не можете видеть их на этих страницах. Их страницы – где-то в другом месте, оставляя вас пойманными на момент в произведении автора. Но если это было бы гипертекстовой системой, и я, или кто-то ещё, добавил бы видимую связь, вы могли бы указать на слова "Литературные машины" здесь и моментом позже текст на противоположной странице очистился бы, заменившись содержанием книги Теда Нельсона или избранными мною его цитатами. Оттуда вы могли бы войти в его книгу или побродить по ней, возможно заставив вашу систему на переднем конце показывать любые примечания, которые я связал с его текстом. Вы могли бы затем вернуться сюда (возможно теперь отображая его примечания к моему тексту) или двинуться к ещё другим документам, связанным с его. Не покидая своего стула, вы могли бы исследовать все основные сочинения по гипертексту, передвигаясь от ссылки к ссылки через любой число документов.

Сохраняя запись последовательности связей (скажем, между набросками, чертежами и материалами ссылок), гипертекст поможет людям писать и редактировать более амбициозные работы. Используя гипертекстовые связи, мы можем плести наше знание в последовательное целое. Джон Мьюир заметил, что "Когда мы пытаемся взять что-то само по себе, мы находим его сцепленным со всем остальным во вселенной." Гипертекст поможет нам сохранить идеи сцеплёнными таким образом, как это лучше представляет реальность.

С гипертекстом, мы будем лучше способны собирать и организовать знание, увеличивая наш эффективный интеллект. Но чтобы сбор информации был эффективным, он должен быть децентрализован; информация, распределённая между многими умами не может быть легко заложена в систему несколькими специалистами. Группа Ксанаду предложила простое решение: позволить каждому писать и сделать так, чтобы система автоматически платила гонорар авторам, когда читатели используют их материал. Публикация будет простой и люди будут вознаграждаться за снабжение тем, что люди хотят.

Представьте, что вы сами хотели сказать об идеях и событиях. Представьте полные смысла комментарии, которые даже сейчас улетучиваются из память и авторов, и слушателей по всему миру. В гипертекстовых системах, комментарии будут легко публиковаться и легко находиться. Представьте вопросы, которые мучили вас. Вы также могли бы их опубликовать; кто-нибудь, найдя ответ, мог бы затем опубликовать ответ.

Поскольку каждый в системе будет способен писать текст и связи, сеть гипертекста будут аккумулировать огромные запасы знания и мудрости и ещё большие груды откровенной ерунды. Гипертекст будет включать старые новости, рекламу, графити, проповедь и ложь – так как читатель будет способен избежать плохого и сконцентрироваться на хорошем? Мы могли бы назначить центральный редакционный комитет, но это разрушило бы открытость такой системы. Сортировка информации – сама по себе информационная проблема, для которой гипертекст удачно поможет нам разработать хорошие решения.

Поскольку гипертекст будет способен делать почти всё, что способна бумажная система, мы можем по крайней мере использовать решения, которые уже есть. Издатели имеют упрочившиеся репутации в среде бумажного текста, и многие из них стали двигаться к электронной публикации. В гипертекстовой системе они будут способны публиковать в реальном времени документы, которые отвечают их сложившимся стандартам. Читатели, расположенные к этому, будут иметь возможность устанавливать свои системы переднего края так, чтобы они отображали только эти документы, автоматически игнорируя новую макулатуру. Для них гипертекстовая система будет выглядеть так, как будто она содержит только материалы авторитетных издателей, но материалы, сделанные более доступными электронным распространением и гипертекстовыми связями и индексами. Настоящая чепуха всё же ещё будет там (постольку, поскольку её авторы заплатили некоторую цену за хранение своих материалов), однако она не будет вторгаться на какие-либо экраны читателей.

Но мы будем способны делать ещё лучше, чем это. Одобрение какого-либо документа (показанного ссылками и рекомендациями) может исходить от кого угодно; читатели будут обращать внимание на материалы, рекомендованные теми, кого они уважают. Наоборот, читатели, которые находят документы, которые им нравятся, будут способны посмотреть, кто их рекомендовал; это будет приводить к тому, что читатели будут открывать людей, кто разделяет их интересы и заботы. Косвенно, гипертекст будет связывать людей и ускорять рост сообществ.

Когда публикация станет такой быстрой и лёгкой, писатели будут производить больше материала. Поскольку гипертекст будет побуждать редактирование людьми, не относящимся к определённым организациям, редакторы будут обнаруживать, что они больше работы. Документы, которые цитируют, перечисляют, и связывают другие документы, будут служить антологиями, журналами и индексами моментального доступа. Побуждение вознаграждением будет побуждать людей помогать читателям находить, что они хотят. Быстро появятся конкурирующие гиды по литературе – и гиды к гидам.

Гипертекстовые связи будут лучше, чем бумажные ссылки и не только по скорости. Бумажные ссылки позволяют трудолюбивому читателю следовать связям из одного документа к другому, но попробуйте найти, какие документы ссылаются на тот, который вы читаете! Сегодня, поиск таких ссылок требует громоздкого аппарата ссылочных индексов, доступных только в исследовательских библиотеках, охватывающих ограниченные темы, и месяцы устаревания. Гипертекстовые ссылки будут работать в обеих направлениях, позволяя читателям находить то, комментарии на что они читают. Это позволит сделать прорыв: это будет подвергать идеи более полной критике, заставляя их эволюционировать быстрее.

Эволюция знания, будь то в философии, политике, науке или конструировании, требует генерации, распространения и проверки мимов. Гипертекст ускорит эти процессы. Бумажная среда управляется с процессом генерации и распространения довольно хорошо, но проверка – громоздка.

Как только плохая идея достигает печати, она получает собственную жизнь и даже её автор редко может что-то в корне изменить. Опровержения плохих идей, не оставляющие камня на камне, становятся просто ещё одной публикацией, ещё одним клочком бумаги. Днями или годами позже, читатели, которые столкнулись с ложной идеей с малой вероятностью встретятся с её опровержением. Таким образом чушь продолжает и продолжает жить. Только с приходом гипертекста критики будут способны всаживать свои колкости прямо в плоть своих жертв. Только с гипертекстом авторы будут способны исправлять свои ошибки, не сжигая всё в библиотеках или начав массовую рекламную кампанию, а просто пересмотрев свои тексты и пометив старые версии "беру свои слова обратно". Авторы будут способы тихо съесть свои слова; это даст им некоторую компенсацию за более жестокую критику.

Критики будут использовать понятные опровержения для большего количества чепухи (такой как ложные границы росту), вычищая его с интеллектуальной арены, хотя не из записи, почти также быстро, как она выходит в поле зрения. Руководства по хорошей критике помогут читателям видеть, выжила ли идея после самых сильных возражений, выдвинутых до сего момента. Сегодня, отсутствие известной критики не значит многого, почему краткие критические комментарии сложно опубликовать и тяжело найти. Однако в установившейся гипертекстовой системе, если идея прошла сквозь критику, это значит, она прошла через суровое испытание. Они заслужат реальное и возрастающее доверие.

Преимущества гипертекста идут глубоко; это то, почему они будут значительными. Гипертекст позволит нам представлять знание в более естественном виде. Человеческой знание образует неразрывную паутину, а человеческие проблемы проползают сквозь нечёткие границы между областями. Аккуратные ряды книг оказывают плохую услугу представлению структуры наших знаний. Библиотекари тяжело трудятся, чтобы сделать эти ряды больше похожими на сети, изобретая способы создавать индексы, ссылки и упорядочивать кусочки бумаги. Однако вопреки честным усилиям и победам библиотекарей, библиотечный поиск всё ещё устрашает всех, кроме посвящённого меньшинства читающей публики. Библиотеки эволюционировали в направлении гипертекста, однако механика бумаги всё же стесняет их. Гипертекстовые системы позволят нам сделать гигантский шаг в направлении, в котором мы движемся со времён изобретения письменности.

Сама наша память работает через ассоциации, через связи, которые делают воспоминания вспоминаемыми. Люди, работающие над ИИ, находят ассоциации существенным, что делает знание полезным; они программируют то, что они называют "семантическими сетями", чтобы строить системы представления знания.

На бумаге ассоциации между словами делают полезным толковый словарь; в уме, его работающий словарь опирается на быстрые, гибкие ассоциации между словами. Действительно, связи в памяти обеспечивают контекст, который даёт значение нашим идеям. Используя гипертекст, люди будут ассоциировать идея путём опубликованных связей, обогащая их содержание и делая их более доступными – действительно, делая их в большей степени частями своего собственного разума.

Когда мы изменяем свои умы относительно того, каков мир и где мы сейчас в нём, мы изменяем свои внутренние сети знания. Обоснованное изменение часто требует, чтобы мы сравнивали конкурирующие структуры идей.

Чтобы оценить мировоззрение, представленное в какой-то книге, читатель должен часто вспомнить или перечитать объяснения с более ранних страниц – или из противоречащей статьи, которую он видел в прошлом году. Но человеческая память подвержена ошибкам, и углубление в старые статьи кажется слишком большой работой. Помня об этой проблеме, авторы колеблются между тем, чтобы слишком углубляться (и таким образом наскучивать своим читателям) и оставаться слишком поверхностным (таким образом оставляя слабые места в своём рассмотрении). Неизбежно, они делают и то, и другое одновременно.

Читатели гипертекста будут способны видеть, поддерживает ли связанные источники идею или связанная критика уничтожает её. Авторы будут писать содержательно, вызывая интерес у читателя кратким изложением идей и связывая их с длинными скучными объяснениями. По мере того, как авторы выскажутся и критики выскажут свои возражения, они выложат свои конкурирующие сети мировоззрений параллельно, пункт за пунктом. Читатели всё ещё не будут способны оценить сразу и в совершенстве, но они будут способны оценить их быстрее и лучше. Таким образом гипертекст поможет нам в решении великой задачи нашего времени: оценкой, что находится впереди и приспособление наших мыслей к перспективам, которые затрагивают самые основания установившихся мировоззрений. Гипертекст усилит наше предвидение.

К сегодняшнему моменту, многие полезные приложения зрелых гипертекстовых систем будут очевидны, или так очевидны, как они могут быть очевидны сегодня, до того как мы испытаем их на собственном опыте непосредственно. Передача новостей – одно из очевидных приложений.

Новости формируют наш взгляд на мир, но современные СМИ остро ограничивают, что журналисты могут отображать. Часто новости о технологии и мировых событиях только и имеют смысл в более широком контексте, но ограниченное место и атакующие предельные сроки публикации лишают сообщения требуемого контекста. Это ослабляет наше понимание событий. Используя гипертекст, журналисты будут находить простым связывать сегодняшние новости с более широким рассмотрением предпосылок. Что более важно, люди в сообщениях и случайные наблюдатели будут способны сказать своё слово, связывая свои комментарии с сообщением репортёра.

Реклама смазывает колёса экономики, приводя (или уводя) нас к имеющимся в наличии продуктам. Хорошо информированные потребители могут избежать подделок и товаров с завышенными ценами, но требуемое исследование и сравнение занимает много времени. Однако в гипертекстовой системе службы обслуживания потребителей компаний будут собирать сравнительные каталоги, связывая описания конкурирующих продуктов друг с другом, с результатами тестирования и сообщениями от покупателей.

В образовании, мы можем учиться лучше всего, когда нам интересно то, что мы читаем. Но большинство книг представляет идеи только в одной последовательности, только на одном уровне сложности, безотносительно подготовки учащегося или его интересов. Снова, широкий спрос побудит рост полезных сетей в гипертексте. Люди будут делать связи между подобными презентациями, написанными на разных уровнях. Студенты смогут читать на удобном уровне, заглядывая в параллельные темы, которые углубляются несколько дальше. Станет проще управляться со сложным материалом, потому что связи с более ранними и базовыми определениями позволят читателям приостановиться, чтобы вернуться назад – быстро, индивидуально, и без затруднений. Другие связи приведут во всех направлениях к связанному материалу; связи в описании кораллового рифа будут вести и к текстам по экологии рифов и сказкам о голодных акулах. Когда мы можем удовлетворять сиюминутный интерес почти мгновенно, учёба становится больше развлечением. Больше людей тогда будут находить её занятием, от которого невозможно оторваться.

Справедливый судебный процесс будет процветать в гипертексте. Поскольку он будет открыт для всех сторон и позволит задавать вопросы, отвечать на них и т. п., гипертекстовые дебаты будут иметь качество, внутренне присущее справедливому судебному процессу. Действительно, гипертекст будет идеальной средой для проведения форумов поиска фактов. Процедуры форумов, в свою очередь будут дополнять гипертекст, переводя его дебаты по широкому кругу вопросов и в чёткие (хотя и предварительные) утверждения о ключевых технических фактах.

В конечном счёте, очевидно, что гипертекст уменьшит проблему цитат вне контекста: читатели смогут вызвать контекст оригинала, чтобы он появился вокруг любой цитаты в системе по нажатию кнопки. Это будет ценно, и не только чтобы предотвратить неправильную интерпретацию позиции автора; косвенные выгоды могут иметь большее значение. Разумные утверждения, вырванные из своего контекста могут казаться абсурдными, но авторы гипертекста будут знать, что «абсурдные» цитаты приведут читателей прямо к оригинальному авторскому контексту. Это побудит к более смелой манере письма, давая мимам, основанным на очевидности и логике преимущество перед теми, которые основаны просто на общественных соглашениях и интеллектуальной застенчивости.

Возможно самым важным (хотя и наименее ярким) преимуществом гипертекста станет новая способность видеть отсутствие. Чтобы выжить в будущие годы, мы должны правильно оценивать сложные идеи, а это потребует оценки, нет ли в аргументации множества брешей. Но сегодня у нас есть сложности в том, чтобы видеть бреши.

Ещё сложнее распознавать отсутствие критических ошибок, однако это – ключ к тому, чтобы отличить сильный аргумент. Гипертекст поможет нам. Читатели будут тщательно изучать важные аргументы, прикрепляя бросающиеся в глаза возражения там, где они находят дыры. Эти возражения будут делать дыры так непосредственно видимыми, что отсутствие хороших возражений очевидно будет показывать отсутствие известных дыр. Может быть сложным оценить, насколько это будет важно: человеческий разум имеет склонность не распознавать проблемы, вызываемые нашей неспособностью видеть отсутствие дыр, ничего не говоря о возможностях, которые эта неспособность заставляет нас пропускать.

Например, представьте, что у вас есть идея и вы пытаетесь решить, достаточно ли она хорошо обоснована и стоит ли её публиковать. Если идея не очевидна, вы можете усомниться в её истинности и не опубликовать её. Но если она всё же выглядит очевидной, вы можете вполне предположить, что она уже опубликована, но что вы просто её не можете найти, где. Гипертекст, сильно облегчая поиск, сделает более простым увидеть, что что-то ещё не опубликовано. Делая дыры в нашем знании более видимыми, гипертекст будет поощрять заполнение дыр.

Чтобы понимать и направлять технологию, нам требуется находить ошибки, в том числе пропуски, в сложных технологических предложениях. Поскольку мы делаем это плохо, мы делаем много ошибок, и видимость этих ошибок делает нашу некомпетентность живым и угрожающим фактом. Это поощряет осторожность, однако это также может поощрять паралич: поскольку нам сложно видеть дыры, мы боимся их везде, даже где они не существуют. Гипертекст поможет нам построить уверенность, где она оправдана, выставляя проблемы более надёжным образом.

Также как большинство полезных институтов, гипертекст мог бы быть использован во вред. Хотя он поможет нам отслеживать факты, он мог бы также помочь правительствам отслеживать нас. Однако в балансе, он может служить свободе. Разработанный для децентрализации – со большим числом машин, авторов и редакторов – гипертекст может помочь гражданам более чем он помогает тем, кто будет ими править. Правительственные банки данных всё равно растут. Гипертекстовые системы могли бы даже помочь нам не упускать их из-под своего контроля.

Опора на электронную публикацию содержит ещё одну опасность. Правительства в Соединённых Штатах и где бы то ни было ещё часто интерпретируют идеал, когда-то выраженный как "свобода слова" или «прессы» как свободу говорить и продавать покрытую знаками бумагу. Правительства регулировали использование радио и телевидения, требуя от них служить изменяющимся представлениям чиновников об общественном интересе. Практические организация по количеству вещательных каналов когда-то давало этому извинения, но эти извинения должны здесь и кончиться. Мы должны расширить принципы свободы слова на новую среду распространения информации.

Мы бы ужаснулись, если правительство бы приказало агентам в библиотеках сжигать книги. Мы должны быть также напуганы, когда правительство пытается исключить публичные документы из электронных библиотек. Если гипертекст должен нести наши традиции, то то, что опубликовано, должно и оставаться таким. Электронная библиотека будет ничуть не меньше библиотекой из-за отсутствия в ней полок и бумаги. Исключение чего-то из неё не произведёт ни дыма, ни пламени, но зловоние сжигаемых книг будет оставаться.

Некоторые из преимуществ, описанных мной, будут происходить только из большой, хорошо развитой гипертекстовой системы – такой, которая уже служит и как форумом для широких дебатов и находится на пути к тому, чтобы стать мировой электронной библиотекой. Стакая система может не иметь достаточно времени, чтобы вызреть до того момента, когда произойдут революции ассемблеров и ИИ. Чтобы гипертекст получил свою почву, малые системы должны иметь свои практические приложения, и чтобы гипертекст помог нам управлять технологической гонкой, малые системы должны иметь влияние за пределами своего размера. К счастью, мы можем ожидать существенных выгод почти с самого начала.

Отдельные машины гипертекста будут способны служить нескольким пользователям одновременно. Даже не будучи связанными с чем-либо ещё в мире, они помогут компаниям, ассоциациям и исследовательским группам управлять сложной информацией.

Однако внешние связи будут простыми. Число публично доступных баз данных увеличилось от нескольких десятков в середине 1960-х до нескольких сотен в середине 1970-х и до нескольких тысяч в середине 1980-х. Компании сделали их доступными через компьютерные сети. Гипертекстовые системы будут способны делать выборки материала из этих баз данных, сохраняя коды доступа вместо настоящего текста. Будет только казаться, что эта информация находится в гипертекстовой системе. Но это будет достаточно хорошо для многих целей.

Люди будут использовать ранние системы, чтобы обеспечивать группу сервисом удалённого доступа через телефонную линию, таким как ББС, но лучше. Специальные группы обсуждения по интересам уже возникли в компьютерных сетях; они находят гипертекст лучшей средой для обмена информацией и взглядами.

Ранние гипертекстовые системы также помогут нам строить и управлять организациями. Обычные компьютерные конференции (просто посылка коротких сообщений туда и обратно) уже помогает группам поддерживать связь. Преимущества перед конференциями с личным живым участием включают более низкие издержки (не нужно ездить), более гладкое взаимодействие (нет нужды ожидать или прерывать людей) и лучшие соответствие умов (благодаря более чётким сообщениям и меньшему количеству столкновений на личной почве). Гипертекстовые коммуникации будут расширять эти преимущества, давая участникам лучшие инструменты для создания ссылок, сравнения и составления краткого содержания. Поскольку гипертекстовые дебаты не будут нуждаться ни в каком одном редакторе, они позволят организациям стать более открытыми.

Используя гипертекстовый сервис по телефону с домашнего компьютера в часы с меньшей нагрузкой на линию, это вероятно будет на первом этапе стоить несколько долларов в час. Эта стоимость будет падать со временем. Уже на протяжении нескольких десятков лет реальная стоимость компьютеров падала примерно в десять раз каждые десять лет; стоимость коммуникаций также снижалась. Гипертекстовые системы будут доступны значительному числу людей почти также скоро, как они появятся. В пределах десяти лет, издержки вероятно упадут достаточно низко, чтобы использовать этот сервис на широком рынке.

Электронная публикация уже начинает улавливаться. Академическая американская энциклопедия, структурированная как простой гипертекст, стала доступной 90 000 подписчиков, используя 200 библиотек в восьми школах. Журнал Тайм сообщает, что дети её используют с большим желанием. Терминалы в библиотеках уже могут получать доступ к текстам множества газет, журналов и профессиональных изданий.

Нам не нужно ждать универсальной системы, чтобы получить универсальные преимущества, потому что гипертекст начнёт делать разницу очень рано. Нам нужен гипертекст в руках студентов, писателей, исследователей и менеджеров по тем же причинам, почем нам нужны учебники в школах, приборы в лабораториях и инструменты в мастерских. Некоторые книги произвели большие изменения, даже будучи прочтёнными меньшим количеством людей, чем один на тысячу, потому что они имели заряд новых идей, носящихся вокруг общества. Гипертекст будет делать то же самое, помогая выделять идеи, которые далее распространятся более широко через традиционную печать и средства широкого вещания.

Чем будет гипертекстовая революция в сравнении с революцией Гутенберга? Некоторые цифры подсказывают ответ.

Печать с подвижным набором разительно снизило стоимость книг. В четырнадцатом веке королевский генеральный прокурор короля Франции имел только семьдесят шесть книг, однако это считалось большой библиотекой. Книги заключали в себе недели квалифицированного труда – переписчики были грамотными. Массы крестьян не могли ни позволить себе книги, ни читать их.

Сегодня за год можно заработать на тысячи книг. Книги есть во многих домах; огромные библиотеки содержат миллионы томов. Печатный станок сократил стоимость книг в сто раз или больше, подготавливая почву для массовой грамотности, массового образования и непрекращающейся мировой революции технологии и демократии.

А гипертекст? Гутенберг показал Европе, как упорядочить металлические литеры, чтобы печатать страницы; гипертекст поможет нам переупорядочивать сохранённый текст и посылать его через континенты со скоростью света. Печатание помещает стопки книг в домах и горы книг в библиотеках; гипертекст в результате принесёт эти горы книг на каждый терминал. Гипертекст расширит революцию Гутенберга, увеличивая количество доступной информации.

Однако его другие преимущества кажутся более значительными. Сегодня, чтобы пройти по ссылке в библиотеке, обычно это занимает минуты; если повезёт – несколько сот секунд, но это может занять дни и больше, если материал малоиспользуемый и поэтому отсутствует, или слишком сильно используемый, и поэтому отсутствует. Гипертекст уменьшит эту задержку с сотен секунд до примерно одной секунды. Таким образом, тогда как революция Гутенберга сократила затраты труда на производство текста в несколько сотен раз, гипертекстовая революция в несколько сотен раз сократит затраты труда на поиск текста. Это действительно будет революцией.

Как я говорил, благодаря тому, что будет более удобно создавать связи, это изменит структуру текста, принеся революцию не только в количество, но и в качество. Это увеличение в качестве примет много форм. Лучшие индексы сделают информацию лёгкой для отыскания. Лучшие критические обсуждения будут выпалывать глупость и помогать сильным идеям процветать. Лучшее представление целого будет подчёркивать дыры в нашем знании.

С изобилующей, доступной и высококачественной информацией мы будем, по-видимому, более умными. А это увеличит наши шансы на то, что мы будем правильно обращаться с будущими технологическими прорывами. Что может быть более ценно? В следующий раз вы увидите ложь, которую распространяют, или плохое решение, которое сделано из чистого невежества, остановитесь и подумаете о гипертексте.

Проблема – не в новых идеях, а в том, чтобы избавиться от старых, которые врастают в тех, кого воспитывали, как воспитывали большинство из нас, в каждый уголок наших умов.

(Джон Майнард Кинз)

Нанотехнология и повседневная жизнь

Другие мечты научной фантастики

Усовершенствованная простота

Достаточно места, чтобы мечтать

Приготовления

Я описал, как успехи в химии и биотехнологии приведут к ассемблерам, которые приведут к нанокомпьютерам, репликаторам и машинам ремонта клеток. Я описал, как успехи в программировании приведут к автоматическому инжинирингу и искусственному интеллекту. Вместе, эти успехи сделают возможным будущее, богатое возможностями, одна из которых – наше уничтожение. Если мы будем использовать форумы поиска фактов и гипертекст, чтобы усилить наше предвидение, мы можем тем не менее избежать исчезновения и двигаться вперёд – но к чему?

К общемировой трансформации, которая сможет, если мы преуспеем, принести изобилие и долгую жизнь для всех, кто их желает. И это – перспектива, которая достаточно естественно вызывает мысли об утопии.

Стандартная утопия, как всем известно, – статичная, скучная и страшная – в действительности, она не была бы вообще утопией. Однако снова и снова утопические мечты изменяли историю, будь то к хорошему или к плохому. Опасные мечты вели людей на убийство во имя любви, и к порабощению во имя братства. Слишком часто мечта оказывалась неосуществимой, а попытка её достичь оборачивалась несчастьем.

Нам нужны полезные мечты, чтобы руководить нашими действиями. Полезная мечта должна показывать возможную и желаемую цель, и шаги по направлению к этой цели должны давать положительные результаты. Чтобы помочь нам сотрудничать в управлении гонкой технологий, нам нужны цели, которые зовут людей к различным мечтам, но какие цели могли бы послужить? Представляется, что они должны содержать достаточно места для разнообразия. Аналогично, какие цели, которые мы выбираем сегодня, так близко к заре разума, могли бы оказаться достойными потенциала будущего? Представляется, что они должны содержать достаточно места для прогресса.

Только один тип будущего кажется достаточно широким, чтобы иметь широкую привлекательность: открытое будущее свободы, разнообразия и мира. С местом для преследования множества различных мечтаний, открытое будущее будет привлекательным для многих различных людей. Более величественные схемы, такие как установление единообразного мирового порядка, кажутся более опасными. Если "один мир, либо никакой" означает называние единой социальной системы на мир враждебных ядерных держав, то это выглядит как рецепт бедствия. "Многие миры, или никакой" кажется нашим реальным выбором, если мы сможем разработать активные щиты, чтобы гарантировать мир.

Мы можем оказаться способными это сделать. Используя автоматические системы инжиниринга того типа, который описан в главе 5, мы будем способны исследовать пределы возможного в миллион раз быстрее, чем это делает человек. Таким образом мы будем способны очертить предельные границы технологической гонки, включая гонку вооружений. С щитами, основанными на этом знании представляется, что мы могли смочь обеспечить стабильный, продолжительный мир.

Продвижение технологии не обязательно толкает мир к одному шаблону. Многие люди когда-то боялись, что всё большие машины и всё большие организации овладеют нашим будущим, сминая разнообразие и человеческий выбор. Действительно, машины могут становиться больше, и некоторые смогут. Организации могут становиться больше, и некоторые станут. Но воняющие и гремящие машины и огромные бюрократии уже становятся старомодными в сравнении с микросхемами, биотехнологией и подвижными организациями.

Сейчас мы можем видеть очертания высокой технологии в человеческом масштабе, мира с машинами, которые не гремят, с химическими заводами, которые не воняют и с производственными системами, которые не используют людей как колёсики. Нанотехнология показывает, что прогресс может принести иной стиль технологии. Ассемблеры и ИИ позволят нам создавать сложные продукты без сложных организаций. Активные щиты позволят нам обеспечить мир без массивного военно-промышленного комплекса. Эти технологии расширят наш выбор, освобождая от ограничений, создавая место для большего разнообразия и независимости. Установление эры всеобщего богатства потребует, чтобы безбрежные невостребованные ресурсы космоса были поделены так, чтобы каждому досталась значительная часть.

В следующих нескольких параграфах я сделаю обзор некоторых предельных возможностей, которые откроют для нас новые ресурсы и новые машины создания – пределы, которые варьируются от жизни в стиле научной фантастики до стиля каменного века. Подумайте об этих крайностях как основных цветах, потом смешайте вашу собственную палитру, чтобы нарисовать будущее, какое вам нравиться.

Продвижение технологии может прекратить или продолжить жизнь, но оно также может изменить её качество. Продукты, основанные на нанотехнологии будут проникать в повседневную жизнь людей, которые захотят их использовать. Некоторые последствия будут тривиальными; другие могут быть глубокими.

Некоторые продукты будут иметь действия такие обычные, как упрощение ведения домашнего хозяйства (и такие существенные, как сокращение причин домашних ссор). В этом не должно быть особой хитрости, например, чтобы сделать всё, от посуды до ковров самоочищающимися, а воздух дома постоянно свежим. Для правильно сконструированным наномашин грязь будет пищей.

Другие системы, основанные на нанотехнологии, могли бы производить свежую еду – настоящее мясо, зерно, овощи и т. д. – прямо дома и круглый год. Эта пища будет получаться из клеток, растущих определёнными структурами в растениях и животных; клетки можно будет уговорить расти по этим самым структурам где угодно. Домашние выращиватели пищи позволят людям есть то, что они обычно едят, никого не убивая. Движение по защите прав животных (предвестники движения по защите всего сознающих, ощущающих существ?) будут усиливаться соответственно.

Нанотехнология сделает возможными экраны высокого разрешения, которые будут выдавать различные изображения для каждого глаза; результатом станет трёхмерное телевидение, такое реалистичное, что экран будет казаться окном в другой мир. Экраны этого сорта могли бы войти в состав шлемов костюма, во многом подобных космическим костюмам, описанным в главе 6. Сам костюм, вместо того, чтобы перепрограммироваться, чтобы передавать силы и текстуры из вне, мог бы вместо этого прикладывать к коже силы и текстуры, определённые сложной интерактивной программой. Комбинация костюма и шлема такого рода могла бы моделировать меньшую часть того, что мы видим и ощущаем в любой внешней среде, будь то реальной или воображаемой. Нанотехнология сделает возможными подвижные виды искусства и фантастические миры намного более захватывающие чем любые книги, игры или фильмы.

Продвинутые технологии сделают возможным целый мир продуктов, которые делают современные удобства кажущимися неудобными и опасными. Почему не должны объекты быть лёгкими, гибкими, долговечными и приспосабливающими под наши желания? Почему не могут стены выглядеть как угодно, как мы хотим, и передавать только звуки, которые мы хотим слышать? И почему не должны здания и машины вообще подвергаться крушению и поджаривать своих обитателей? Для тех, кто хочет, окружение повседневной жизни может напоминать некоторые из самых диких описаний, которые можно найти в научной фантастике.

Для тех, кто хочет в них жить, мечты научной фантастики лежат ко многим различным крайностям. Они колеблются от домов, которые приспосабливаются под нас для нашего комфорта к возможностям тяжёлого труда на отдалённых планетах. Авторы научной фантастики представили многие вещи, некоторые возможные, а другие – в прямом противоречии с известными естественными законами. Некоторые мечтали о космическом полёте и космический полёт произошёл. Некоторые мечтали о роботах и роботы появились. Некоторые мечтали о дешёвых космических полётах и интеллектуальных роботах и они также на пути к нам. Другие мечты кажутся возможными.

Авторы писали о прямой передачи мыслей и эмоций от ума к уму. Представляется вероятным, что нанотехнология сделает возможной некоторую форму этого, связывая нейронные структуры через передатчики и электромагнитные сигналы. Хотя с ограничением скоростью света этот сорт телепатии кажется таким же возможным как телефония.

Звёздные корабли, космические поселения, и интеллектуальные машины – всё станет возможно. Всё это лежит вне нашей кожи, однако авторы также писали о трансформациях внутри кожи; они также станут возможными. Стать абсолютно здоровым телом и мозгом – одна форма изменения, однако некоторые люди захотят большего. Они будут искать изменений на более глубоком уровне, чем просто здоровье и богатство. Некоторые будут искать реализации в мире духа; хотя этот запрос лежит вне пределов досягаемости грубой материальной технологии, новые физические возможности дадут новые отправные точки и достаточно времени, чтобы попробовать. Технология, лежащая в основе систем клеточного ремонта, позволит людям изменять свои тела самым различным образом – от тривиального до удивительного и причудливого. Такие изменения имеют несколько очевидных ограничений. Некоторые люди могут потерять человеческий облик, также как гусеница трансформируется, чтобы подняться в воздух; другие могут привести обычный человеческий облик к новым совершенствам. Некоторые люди просто вылечат свои бородавки, и, не обращая внимания на новых бабочек, пойдут на рыбалку.

Писатели мечтали о путешествии через время в прошлое, но природа, кажется, сотрудничать не хочет. Однако биостаз открывает путешествие в будущее, поскольку он может заставить годы пройти в мгновение ока. Уставшие могут искать новшеств более отдалённого будущего, возможно ожидая медленно зреющих продвижений в искусстве или обществе, или нанося на карту миры галактики. Если так, они примут решение спать, переходя из века в век в поиске времени, которое им подойдёт.

Странные виды будущего остаются открытыми, содержа миры выше возможностей нашего воображения.

Е.Ф. Шумахер, автор произведения "Маленькое красиво", писал: "Я не сомневаюсь, что возможно дать новое направление технологическому развитию, направление, которое приведёт обратно к реальным потребностям человека, и которое также означает: к настоящему размеру человека. Человек мал, и следовательно, малое красиво." Шумахер не писал о нанотехнологии, но могла бы такая продвинутая технология быть частью более простой жизни на человеческом уровне?

В доисторические времена люди использовали два сорта материалов: продукты естественных балк-процессов (таких как камень, вода, воздух и глина) и продукты естественных молекулярных машин (такие как кость, дерево, шкуры и шерсть). Сегодня мы использованием те же самые материалы и сложные балк-процессы, чтобы изготавливать продукты нашей глобальной индустриальной цивилизации. Если технологические системы выросли выше человеческого уровня, наша балк-технология и глупые машины в большой степени этому виной: чтобы сделать системы сложными, мы были должны сделать их большими. Чтобы сделать их работоспособными, мы были должны заполнять их людьми. Получившаяся в результате система сейчас расползается по континентам, запутывая людей в глобальную паутину. Она предложила спасение от тяжёлого труда земледелия для поддержания существования, удлинила жизни и принесла богатство, но за цену, которую некоторые считают слишком высокой.

Нанотехнология откроет новые возможности. самокопирующиеся системы будут способны обеспечивать пищу, заботу о здоровье, кров и другие необходимые вещи. Они будут делать это без чиновников или больших фабрик. Маленькие, самодостаточные сообщества смогут воспользоваться преимуществами этого.

Один из тестов свободы, которую предлагает технология – освобождает ли она людей в том, чтобы вернуться к примитивному образу жизни. Современная технология не проходит по этому тесту; молекулярная технология – да. Как пример теста, представьте себе возврат в каменный век жизни – не просто игнорируя молекулярную технологию, а используя её.

Поселенцы каменного века, не имеющие современного образования, не поняли бы молекулярные машины, но это мало бы что значило. Со времён древности, сельские жители использовали молекулярные машины дрожжей, семян и козлов не понимая этого на молекулярном уровне. Если такые сложные и упрямые вещи как козлы подходят для примивного образа жизни, то наши формы молекулярных машин подойдут обязательно. Живое показывает, что механизмы внутри самокопирующейся системы могут игнорироваться так, как не могут игнорироваться механизмы автомобиля. Таким образом группа могла бы выращивать новые “растения” и “животных”, чтобы облегчить суровые грани быти, и всё же жить в основе жизнью каменного века. Они могли бы даже ограничивать себя обычными растениями и животными, сконструированными только тысячелетиями селективного размножения.

С такими широкими возможностями, некоторые люди могут даже решить жить как мы живём сегодня: с уличным шумом, вонью и опасностями; с дырками в зубах и визжащими дрелями; с болью в суставах и обвисшей кожей; с радостями, уравновешенными страхом, тяжёлым трудом и приближающейся смертью. Но если только им не промоют мозги, чтобы стереть знание лучших решений, сколько людей по собственной воле покорились бы такой жизни? Возможно немногие.

Можно ли представить, чтобы жить обычной жизнью в космическом поселении? Поселение было бы большим, сложным и размещённым в космосе – но Земля также большая, сложная и размещается в космосе. Мирые в космосе были бы такими же самообеспечивающимися как Земля и такими же большими как континент, залитый солнечным светом, наполненный воздухом и содержащий биоцилиндр, если не биосферу.

Миры в космосе не обязательно нуждаются в продуктах приямой человеческой разработки. В основе большой части природы – определённый вид беспорядочного порядка. Прожилки на листе, ветви дерева, форма островов в водоразделе – всё это имеет свободу формы со структурами, которые напоминают то, что математики называют “фракталами”. Земли в космосе не обязательно должны быть смоделированы по принципу курсов гольфа или загородных земельных участков. Некоторые будут оформлены с помощью компьютерных программ, чтобы отражать глубокое знание естественных процессов, оформляя человеческую цель естественным качеством, которое ни один человеческий разум или руки не могут непосредственно произвести. Горы и долины в землях, во многом похожие на девственную дикую природу будут отражать формы горы мечты и почву мечты, высеченные в века мечты электронной воды. Миры в космосе будут мирами.

Таков, стало быть, размер перспектив будущего. Хотя пределы роста будут оставаться, мы будем способны использовать солнечную энергию в триллионы раз большую, чем вся энергия, которая сейчас находится в использовании у человека. Из источников солнечной системы, мы будем способны создавать земли площадью в миллионы площадей Земли. С ассемблерами, автоматическим инжинирингом и ресурсами космоса мы будем быстро набирать богатство в количестве и качестве, больше всего, что нам могло только в прошлом пригрезиться. Конечные пределы продолжительности жизни будут оставаться, но технология ремонта клеток будет делать совершенное здоровье и неопределённо долгую жизнь возможной для каждого. Этот прогресс принесёт новые машины разрушения, но он также сделает возможными активные щиты и системы контроля вооружений, способные стабилизировать мир.

Короче говоря, мы имеем шанс на будущее с достаточным местом для многих миров и многих выборов, и с достаточным временем, чтобы их исследовать. Прирученная технология может расширить наши пределы, заставляя форму технологии меньше ограничивать форму человечности. В открытом будущем богатства, пространства и разнообразия, группы будут свободны формировать почти любое общество, которое они хотят, свободны разрушить или создать великолепный образец мира. Если только ваши мечты не требуют, чтобы вы владели всеми остальными, есть шансы, что другие люди будут желать разделить их с вами. Если так, то вы и эти другие люди могут решить объединиться вместе, чтобы образовать новый мир. Если многообещающее начало провалилось, оно решает слишком много проблем или слишком мало, вы будете в состоянии попробовать ещё раз. Наша проблема сегодня – не планировать или строить утопии, а искать возможности попробовать.

У нас может не получиться. Размножающиеся ассемблеры и ИИ принесут проблемы беспрецедентной сложности и они угрожают появиться с беспрецедентной резкостью. Мы не можем ждать фатальной ошибки и потом решить, что делать с ней; мы должны использовать эти новые технологии, чтобы строить активные щиты до того, как угрозы будут высвобождены.

К счастью для наших шансов, надвигающиеся прорывы будут устойчиво становиться всё более очевидными. В конце концов они привлекут общественное внимание, гарантируя по крайней мере какую-то меру предвидения. Но чем раньше мы начнём планировать, тем лучше наши шансы. Мир скоро станет гостеприимным к мимам, которые имеют целью описать хорошо обоснованные линии политики по отношению к ассемблерной революции и ИИ. Такие мимы затем распространятся и укоренятся, заслуживают они того, или нет. Наши шансы будут лучше, если, когда это время наступит, солидный набор идей уже будет выкован и начнёт распространяться – общественное мнение и общественная стратегия тогда более вероятно, что повернут в разумном направлении, когда кризис будет близко. Эта ситуация делает осторожное обсуждение и обучение публики важным уже сейчас. Управление технологией также потребует новых институтов, а институты не развиваются за ночь. Это делает работу над гипертекстом и форумами фактов важными уже сейчас. Если они будут готовы к использованию, они также будут становиться всё более популярными по мере приближения кризиса.

Вопреки широкой привлекательности открытого будущего, которые люди будут против него. Жадные до власти, нетерпеливые идеалисты и кучка чистых человеконенавистников надут перспективы свободы и разнообразия отвратительными. Вопрос – будут ли они делать линию политики общества? Правительства будут неизбежно субсидировать, отсрочивать, классифицировать, управлять, собирать в совокупность и направлять будущие прорывы. Сотрудничающие демократические страны могут сделать фатальную ошибку, но если они её сделают, она вероятно будет результатом непонимания публикой, какие линии политики будут иметь какие последствия.

Будет настоящая оппозиция открытому будущему, основанная на различающихся (или часто невыраженных) ценностях и целях, но будут намного большие разногласия по поводу конкретных предложений, основанных на различающихся воззрениях относительно вопросов фактов. И хотя многие разногласия будут происходить из различий суждений, многие неизбежно будут происходить из простого невежества. Даже надёжные, хорошо установленные факты будут в первое время оставаться малоизвестными.

Что хуже, перспективы технологий, таких принципиальных как ассемблеры, ИИ и машины ремонта клеток должны неизбежно сразу расстроить многие старые укоренившиеся идеи. Это вызовет конфликты в умах людей (Я знаю; я испытал некоторые из них). В некоторых умах, эти конфликты включат рефлекс “отрицай новое”, который служил человечеству в качестве наиболее простой умственной иммунной системы. Этот рефлекс сделает невежество упорным.

Однако ещё хуже, что распространение полуправды также будет причинять вред. Чтобы функционировать должным образом, некоторые мимы должны быть связаны с другими. Если идея нанотехнологии была бы без идеи о её опасности, то нанотехнология была бы большей опасностью, чем она уже есть. Но в мире, в котором относятся к технологии с осторожностью, эта угроза кажется небольшой. Однако фрагменты другой идеи будут распространяться, сея ложное понимание и конфликт.

Идея форма поиска фактов, когда обсуждается без отличий между фактами, ценностями и стратегиями, звучит технократически. Если активные щиты предлагаются без упоминания гипертекста или форумов поиска фактов, может казаться, что им невозможно доверять. Опасность и неизбежность нанотехнологии для тех, кто не знает об активных щитах, будет приносить отчаяние. Опасность нанотехнологии, когда её неизбежность не понимается, возбудит бесплодные локальные усилия по остановке её глобального прихода. Активные щиты, когда мотивом их создания не является контроль молекулярной технологии, будет производить впечатление для большинства людей как слишком большие хлопоты. Когда называют “оборонные проекты” без различия между обороной и нападением, щиты будут производить впечатление на некоторых как угроза миру.

Подобным образом идея долгой жизни, когда ей не сопутствует ожидание изобилия и новых границ будет казаться извращённой. Изобилие, когда представляется без космического развития или контролируемых репликаторов, будет звучать как наносящая вред окружающей среде. Идея биостаза для тех, кто ничего не знает о машинах ремонта клеток и путает смерть с разложением, будет звучать абсурдно.

Если только они не будут удерживаться вместе книжными обложками или гипертекстовыми связями, идеи будут иметь тенденцию дробиться по мере того, как они движутся вперёд. Нам будет нужно разработать и распространить понимание будущего как целого, как системы взаимосвязанных опасностей и возможностей. Это требует усилий от многих умов. Побудительный мотив изучать и распространять необходимую информацию будет достаточно силён: вопросы пленительны и важны, и многие люди будут хотеть, чтобы их друзья, семьи и коллеги присоединились к рассмотрению того, что лежит впереди. Если мы будем продвигаться в правильных направлениях – изучение, преподавание, обсуждение, сдвиг направлений и продвижение дальше, то мы можем всё же направить гонку технологий в будущее, где будет достаточно места для нашей мечты.

Эры эволюции и тысячелетия истории подготовили этот вызов и тихо представили его перед нашим поколением. Будущие годы принесут величайшую поворотную точку в истории жизни на Земле. Направлять жизнь и цивилизацию через этот переход – великая задача нашего времени.

Если мы преуспеем (и если мы выживем), то вы можете удостоиться бесконечных вопросов от надоедливых пра-правнуков: “На что это было похоже, когда ты был ребёнком, тогда, перед Прорывом?” или “На что это похоже – становиться старым?” или “Что ты думал, когда ты услышал, что Прорыв приближается?”, а также “И что ты потом сделал?” Своими ответами вы перескажите ещё раз сказку о том, как было выиграно будущее.