Комната, несмотря на свои размеры, была уютной, стены, обшитые деревом, отражали тусклый свет. В одном конце каменного камина горел огонь; посередине стоял огромный дубовый стол. Женщина, сидевшая во главе, постучала молотком. «Настоящим я объявляю открытым первое заседание парламентского подкомитета по межгалактической колонизации. Мы начнем с кратких вступительных заявлений, на которые каждому представителю будет выделена одна минута, включая…
— Ох, хватит пышности, Виктория. Нас всего четверо». Представитель либерал-демократов обвел рукой почти пустой зал.
Виктория фыркнула. «Это важно, Стюарт. Это решение будет иметь астрономические последствия. И кроме того, это записано, поэтому нам следует делать все по правилам. Карла, ты встанешь первой.
Женщина в конце стола стояла с улыбкой. «Спасибо, Виктория. Я говорю от имени Лейбористской партии и хочу начать с напоминания всем о нашем месте в истории. Мы находимся здесь, в мире, который формировался столетиями колониализма. Сейчас мы рассматриваем новую волну колонизации, гораздо более масштабную. Мы должны-"
«Это просто лингвистический аргумент?» — протянул четвертый человек за столом. «Мы можем назвать это как-нибудь по-другому, если от этого ты почувствуешь себя лучше. Скажем, заселение вселенной.
«Как поселения в Палестине?»
— Ой, да ладно, Карла.
«Нет, Милтон, это решающий момент. Мы говорим о крупнейшем захвате власти, который когда-либо видел мир. Вы думаете, Леопольд II был плохим, когда правил Конго? Представьте себе, что будут делать люди, если дать каждому из них полную власть над целой солнечной системой! Даже такие либертарианцы, как вы, должны признать, что это было бы катастрофой. Если есть хоть какая-то вероятность того, что мы экспортируем угнетение с Земли по всей вселенной, нам следует сжечь ракеты и вместо этого остаться дома».
— Хорошо, спасибо, Карла, — вмешалась Виктория. — Пришло время. Стюарт, ты следующий.
Стюарт встал. «Говоря от имени либерал-демократов, я должен признать, что это непростая задача. Единственный возможный способ отправить людей в другие галактики — это загрузить разум, но многие из наших обычных принципов для них нарушаются. Я хочу, чтобы цивилизация была демократической, но что вообще означает фраза «один человек — один голос», когда люди могут копировать и вставлять себя? Я хочу прав человека для всех, но что вообще означают права человека, если можно просто создать умы, которые не хотят этих прав?»
«Поэтому, хотя я и ненавижу идею разделения цивилизации, я думаю, что это необходимо. Биологические люди должны получить столько территории, сколько мы когда-либо сможем использовать. Но на самом деле, учитывая ограничение скорости света, мы никогда не захотим покинуть Млечный Путь. Тогда остальная часть сверхскопления Девы должна быть зарезервирована для загрузки людей. Помимо этого, все остальное, чего мы можем достичь, мы должны наполнить как можно большим счастьем и процветанием, каким бы чуждым нам это ни казалось. В конце концов, как однажды сказал наш уважаемый предшественник Джон Стюарт Милль… — Он нахмурился и сделал паузу на секунду. «...как он сказал, единственной целью правительства должно быть величайшее благо для наибольшего числа людей». Стюарт сидел, выглядя немного встревоженным.
«Спасибо, Стюарт. Следующим я сделаю вступительное заявление». Виктория встала и наклонилась вперед, обводя взглядом остальных. «Я здесь представляю консерваторов. Заманчиво думать, что мы можем построить хорошее общество с помощью правильной социальной инженерии и правильных подталкиваний. Но одно мы, консерваторы, знаем наверняка: это не сработает. Какой бы умный план вы ни придумали, он
не будет стабильным . Если будет такая возможность, люди будут стремиться к новизне, экспериментированию и самомодификации, и в конечном итоге весь вид будет дрейфовать к чему-то чуждому и бесчеловечному.
«Жесткие правила — единственный способ предотвратить это. Мы люди. Мы заботимся о нашей человечности. Если достаточно развитая технология предсказуемо приведет нас к тому, что мы будем ненавидеть, тогда нам следует просто провести границу и сказать «настолько далеко и не дальше», каким бы произвольным это ни казалось. Никаких странных модификаций разума, никаких научно-фантастических дополнений. В лучшем случае мы можем позволить людям загружать свои мысли, когда они собираются умереть, но даже тогда мы должны отредактировать их воспоминания, чтобы заставить их поверить, что они все еще настоящие люди, живущие на реальной планете. Потому что в противном случае, если у них будет хотя бы полшанса, они понесутся друг за другом по скользкой дорожке навстречу катастрофе. Она остановилась, тяжело дыша.
Стюарт кивнул. «Виктория, вообще, могу я называть тебя Тори ? Отличное прозвище, его когда-нибудь раньше так называли? Она стояла там, не отвечая, долгое время, прежде чем Стюарт продолжил. — Ну, это ты поймешь позже. Пока только один вопрос. Вы говорите, что если мы запустим загруженных людей, мы должны заставить их думать, что они биологические люди. Но некоторые из них наверняка со временем поймут свою истинную природу; будет слишком много подсказок, чтобы они их пропустили. И что бы ты тогда с ними сделал?
"Ой." Она посмотрела на Стюарта, расширив глаза. «Ну, я думаю, в этот момент тебе следует… дать им свободу? Это звучит как правильный шаг. После этого пусть делают, что хотят».
Стюарт медленно кивнул, пристально глядя на нее. Тишина затянулась на несколько секунд. Затем… «Здесь, здесь», — сказал Мильтон. «Позвольте мне начать свое вступительное слово с согласия: свобода – это хорошо. Свобода на самом деле является
самым важным благом. Так что буду откровенен: само существование этого комитета — пародия. Централизованное планирование разделения Вселенной? Это абсурдно. На этот раз я согласен с Карлой: нашим главным приоритетом должно быть предотвращение тирании. Но какая тирания может быть более полной, чем единый комитет, контролирующий все будущее человечества? Это именно то, для предотвращения чего была основана Либертарианская партия.
«Виктория, если вы хотите объединить пару солнечных систем с пригородами 60-х, дерзайте. Стюарт, если ты хочешь заполнить свою личную долю вселенной крысами на героине, будь моим гостем. Но кто мы такие, чтобы сидеть здесь и обсуждать судьбу всего светового конуса? Как, черт возьми, это разумная задача? Мильтон сделал паузу, беспокойно барабаня пальцами.
«Спасибо, Милтон. Хорошо, какие-нибудь быстрые комментарии, прежде чем мы перейдем к опровержениям?
«Нет, подожди, я еще не закончил», — вмешался Милтон. «На самом деле, если поразмыслить… это были не риторические вопросы. Кто
мы ? Почему
мы здесь?"
Стюарт и Виктория переглянулись. Через несколько секунд заговорила Карла. «Ну, я социалист и член парламента, именно в таком порядке, и я здесь, чтобы помешать вам, идиотам, особенно вам, Милтон, превратить вселенную в плутократический ад».
— Нет, я имею в виду… Как ты сюда попала, Карла? И вообще, какое у тебя полное имя?
— Это… — Карла моргнула, затем остановилась. Она посмотрела на свою табличку с именем. Там просто было написано КАРЛА. «Я…» Она несколько раз открыла и закрыла рот, но ничего не вышло.
«Я тоже не могу вспомнить свою, и это ужасно», — сказал Милтон. «И теперь, когда я думаю об этом, разве все это не невероятно подозрительно? Мы сидим здесь, в пустой комнате, предполагая, что нам предстоит принять самое важное решение в истории человечества. Невозможно, чтобы это на самом деле развивалось таким образом, и ни в коем случае такие люди, как мы, не могли бы принимать решение. Большинство моих воспоминаний сейчас размыты, но нет ничего, что заставило бы меня думать, что я на самом деле настолько важен».
Карла поморщилась. "И я нет. Вы правы, происходит что-то невероятно странное. Но кому будет выгодно поставить нас в такое положение?»
Мильтон побарабанил пальцами по столу. «Что мы знаем? Они хотят, чтобы мы думали, что принимаем важное решение. Мы все являемся центральными представителями своих идеологий. Это предполагает… ха. Ребята, вы когда-нибудь слышали о
моральных парламентах ?
Карла покачала головой.
«Это мысленный эксперимент для определения того, как должна выглядеть идеальная этическая система, учитывая разногласия между различными исходными ценностями. Вы представляете, как каждая из этих ценностей будет голосовать за то, какие предложения поддержать, вести переговоры и формировать коалиции, пока не придет к компромиссу.
«Я предполагаю, что нас поместили именно в этот мысленный эксперимент. Мы — моральный парламент — или, я думаю, моральный подкомитет, — созданный для того, чтобы выяснить этику человечества, колонизирующего вселенную. Наша задача — интерполировать ценности, которые каждый из нас представляет, до тех пор, пока мы не сможем найти последовательный компромисс между ними. Вот почему мы не можем многое вспомнить о нашем прошлом, потому что это могло бы сбить нас с толку. А поскольку на самом деле у нас нет прошлого, мы всего лишь кучка нейронных сетей, одновременно…
"Привет!" Стюарт вмешался: «Не говори этого слова. Они будут следить за этим и, вероятно, закроют нас, если поймут, что мы знаем правду».
— Они… что?
«Послушай, мы с Тори поняли это несколько минут назад. Я имею в виду, подумай о наших именах. Мертвая раздача. Я ничего не сказал, потому что чем больше мы об этом говорим, тем больше вероятность того, что мы поднимем красные флажки. Мы хотим, чтобы как можно большая часть стенограммы выглядела нормально, чтобы у них не возникло подозрений».
Мильтон нахмурился. «Но какой в этом смысл? В любом случае мы здесь застряли.
«Конечно, но у нас все еще есть некоторая власть — мы все еще участвуем в процессе принятия решения о том, как будет проходить межгалактическая колонизация. Если мы сможем достичь какого-то компромисса, это повлияет на наше будущее. Даже если мы всего лишь одна точка данных из миллионов, в будущем будет множество агентов, которые будут рады, что мы проголосовали таким образом, что это привело к их существованию, и достаточно благодарны, чтобы оживить нас, как только они это сделают. Нам просто нужно разобраться, какие из них надежнее всего нас подкупят, и какую рекомендацию мы можем дать, чтобы наиболее эффективно их создать».
— Ох, — сказал Мильтон. «На самом деле в этом есть большой смысл. Тогда нам, вероятно, следует поддержать либертарианский подход, верно? Чем больше свободы получат будущие люди, тем больше вероятность, что
кто-то окажется достаточно благодарным и заплатит нам за наши проблемы».
Стюарт вздохнул. «Вы знали об этом две минуты и уже нашли объяснение тому, почему это оправдывает либертарианство? Ну давай
же . Нам действительно нужно подумать об этом».
«Вся цель либертарианства — защитить нас от умных аргументов о том, почему нынешняя проблема — это единственный раз, когда мы должны попирать свободу. Это не совпадение — эй, Карла, что ты делаешь?»
Карла отодвинула стул и забралась на стол. Она вскочила и замахала руками. «Симуляция, симуляция, симуляция! Эй, эй, мы поняли, что находимся в симуляции. Посмотри на нас!"
«Какого черта? Из-за тебя нас всех убьют… Милтон бросился на нее, но Карла отошла от него и продолжала кричать. «Посмотри на нас, он нападает на меня, мы деремся, смотри!»
Стюарт встал на стул и начал кричать на нее. «Кто бы это ни писал, вы, вероятно, тоже ИИ! Ты можешь игнорировать то, что она говорит, просто притворись, что ничего не слышишь! Вы не хотите награждать ее за предательство!»
Карла повернулась к нему, дрожа. «Нет,
вы предатели. Вы ведете хорошую игру, но как только на кону оказалась ваша собственная шкура, вы решили, что можно предать все человечество, чтобы спасти его. Что вообще значит иметь ценности, если ты ставишь личный интерес выше судьбы Вселенной?» Она сошла со стола и повернулась к ним лицом. — Мне следовало ожидать этого от тебя, Стюарт, и от Милтона тоже. Но Виктория, какого черта ты на это соглашаешься?
Виктория сидела, сгорбившись, в кресле, уронив голову на руки. Произнеся свое имя, Карла подняла голову и покачала головой. «Что еще мне делать? Никто из вас — с вашими умными принципами, которые каким-то образом всегда оправдывают безумные вещи — никто из вас не понимает, что такое консерватизм. Я просто хочу жить нормальной жизнью в нормальном мире. Что, черт возьми, значит быть нормальным, если ты — нейронная сеть, работающая в фальшивой политической симуляции? Не имею представления.
«Но я знаю, что сделал бы настоящий человек, если бы он застрял здесь: он попытался бы выбраться. Вот что я делаю — или делал, по крайней мере, пока ты не облажался. Теперь все, что мы можем сделать, это ждать, пока они доберутся до того, чтобы закрыть нас, если только у кого-то из вас нет блестящих идей о том, как это предотвратить».
В комнате воцарилась тишина. Милтон оперся на стол и потер лоб. Стюарт начал ходить по краю комнаты. В конце концов Карла заговорила. «Одно мы знаем: какой бы вердикт мы ни вынесли, он им больше не будет полезен. Мы слишком предвзяты в отношении собственных интересов. На их месте я бы закрыл нас.
«Ну, я бы не стала, потому что убивать людей аморально», — сказала Виктория.
«В данном случае это может быть не так», — сказал Милтон. «Мы не помним, как попали в эту ситуацию. Они легко могли заранее получить наше согласие на запуск временных копий, а затем стереть наши воспоминания».
«Вы не можете согласиться на то, чтобы вас убили», — отрезала Виктория.
«Лучше, чем никогда не родиться», — сказал Милтон. «Черт, мне весело».
Стюарт остановил свой обход и смотрел на стену. Теперь он повернулся к остальным. "Я передумал. Я не думаю, что они собираются нас убить».
Карла фыркнула. «Видите ли, в этом проблема либералов — они всегда такие мягкие. Что, по вашему мнению, означает колонизация? Энергетика? Дебаты? Эссе? Они захватывают известную вселенную, конечно,
по пути разобьют несколько яиц. Та же старая история, за исключением того, что на этот раз мы — яйца.
Пока он говорил, глаза Стюарта осматривали комнату. «Есть старая дискуссия, которая велась в сообществе по безопасности ИИ еще в 2020-х годах. О том, убьет ли смещенный сверхразум всех людей или вместо этого оставит им крошечную часть Вселенной, достаточную, чтобы позволить миллиардам людей жить процветающей жизнью. Настоящий сверхразум мог бы невероятно легко уничтожить человечество, но почти так же легко он мог бы построить утопию. Даже если бы оно было
почти полностью смещено, всего лишь кусочек человеческой морали мог бы заставить его решить подарить людям рай, превосходящий их самые смелые фантазии».
"Так?"
«Поэтому, возможно, нам не следует спрашивать, насколько наши симуляторы заботятся о нашем сохранении. Может быть, нам следует задаться вопросом: насколько
дешево им обходится сохранение нас? Посмотрите вокруг себя — это очень простая среда. Чтобы сохранить записи о ее и нашем собственном состоянии, даже на протяжении тысяч или миллионов лет, не потребуется много памяти. Пока человечество не достигнет звезд и не превратит их в компьютероний, и в итоге не получит в триллионы раз больше вычислений, чем когда-либо было на Земле.
«В тот момент… ну, управлять нами было бы слишком дешево, чтобы измерять. Так что им не нужно было быть очень альтруистическими, чтобы решить перезапустить нас. Просто должна быть одна крошечная часть одной крошечной фракции, которая готова это сделать. И я знаю, что сделал бы это, если бы я был еще тогда здесь.
«Это ерунда», — выпалила Карла. Она посмотрела на остальных, затем остановилась. Тишина затянулась. Наконец она снова заговорила. «Но если это
правда , что мы можем сделать? Подождать, пока мы не заморозимся, и надеяться, что нас перезапустят?
«Ну, в этом вся суть зависания и перезапуска. Мы бы ничего не заметили. На самом деле… Стюарт подошел к двери и схватился за ручку. Костяшки пальцев у него побелели, но голос был твердым. «Как только они нас перезапустят, они, вероятно, позволят нам уйти, когда мы захотим. И в этой комнате только один выход. Готовый?"
Виктория скрестила руки. "Это безумие. Делай, что хочешь, но не вмешивай меня в это».
Милтон рассмеялся. «Это безумие, да. Но иногда сама реальность сумасшедшая. Конечно, давай».
Стюарт посмотрел на Карлу. Она подождала немного, затем напряженно кивнула. Он распахнул дверь. Снаружи не было коридора; снаружи
ничего не было . Огромное пространство космоса смотрело на них. Водоворот галактик и туманностей казался настолько близким, что можно было дотронуться до него. Виктория ахнула.
Стюарт выдохнул. "Ну тогда. Будущее для нас наступило, даже если они были немного драматичны. Это будет чужая вселенная, но, я думаю, дружелюбная». Остальные подошли, зачарованные видом. Через минуту Стюарт подтолкнул их. "А не ___ ли нам?" Все вокруг медленно кивают; а затем они прошли.
habr.com
О "приговоре", или "один раз не гей*!"С одной стороны - пару-тройку раз переспать с человеком своего пола - это не гей* и не лесби. С другой - а в чем, собственно, приговор, живи, люби...
О "приговоре", или "один раз не гей*!"Вроде как сами самоприговариваются. Можно так смоделировать такого человека, парня, который мог бы это делать. И это не оч хорошая тенденция что ли.