TightBack361
Club
Failed Utopia #4-2 - LessWrong
Followup to: Interpersonal Entanglement • Shock after shock after shock— First, the awakening adrenaline jolt, the thought that he was falling. His body tried to sit up in automatic adjustment, and h…
www.lesswrong.com
Неудачная утопия 4-2
Шок за шоком, за шоком…
Во-первых, пробуждающий выброс адреналина, мысль о том, что он падает. Его тело попыталось автоматически сесть, и его руки ударились об пол, чтобы не упасть. Он подбросил его в воздух, и он слишком медленно упал на пол.
Второй шок. Его тело изменилось. Жир местами растаял, старые шрамы побледнели; кончик его левого безымянного пальца, давно потерянный в результате несчастного случая с ножом, теперь внезапно вернулся.
И третий шок —
«Я тут ни при чем!» — отчаянно воскликнула она, женщина забилась в угол каменной камеры без окон. Слезы текли по ее нежному лицу, медленными каплями дождя падали в декольте ее платья. " Ничего! О, вы должныповерь мне!»
С мгновенностью восприятия — со скоростью удивления — его разум уже назвал ее самой красивой женщиной, которую он когда-либо встречал, включая его жену.
Длинное белое платье скрывало большую часть ее тела, хотя и оставляло обнаженными плечи; и ее голые лодыжки, выглядывающие из-под горы подтянутых коленей, болтались в сандалиях. Легкий штрих золота, словно перепончатая тиара, украшал эти светло-солнцеволосые волосы, которые падали с ее головы и скатывались вокруг ее плачущего тела. Хрупкие хрустальные узоры, украшающие каждое ухо, и колье из хрустальных звеньев, отражающих цветные искры, словно более призматический вариант бриллианта. Ее лицо было за гранью всех мечтаний и воображения, словно прифотошоплено.
Она была так похожа на одинокую волшебницу-пленницу, что можно было ожидать увидеть вокруг нее рамки фоторамки и номер страницы над головой.
губы его раскрылись, и он, ни о чем не думая, сказал:
— Что-что-что-что-что… —
он закрыл рот, понимая, что ведет себя как идиот перед девушкой.
"Ты не знаешь?" — сказала она потрясенным тоном. «Это didn't-вы уже не знаете? »
«Знаешь что? » , Сказал он, все более встревожен.
Она вскочила на ноги (одна рука осторожно прижимала платье к ее ногам) и сделала шаг к нему, каждое движение почти перегружало его зрение грациозностью. Ее рука поднялась, как бы умоляя или отвечая на мольбу, но затем она опустила руку и отвела глаза.
— Нет, — сказала она дрожащим голосом, словно в отчаянии. «Если я скажу тебе — ты будешь винить меня, ты» буду ненавидеть меня навсегда за это. И я незаслуживаю этого, я нет! Я только сейчас здесь — о, почему это должно было быть так? " Хм, подумал он , но не сказал. Это было слишком много драмы, даже принимая во внимание тот факт , что они были kidnapped- (он смотрел вниз на его восстановленную руку, который был минус нескольких морщин, а также наконечник пальца) — если это было хотя бы началом истории.
Он огляделся. Они находились в сплошной каменной камере без окон, скамеек, кроватей, туалета и умывальника. При всем том он был вполне чист и наряден, без намека на грязь и затхлость; камни пола и стены выглядели грубо отесанными или даже неотесанными, как будто кто-то просто взял тысячу темно-красных камней с одной почти плоской стороной и смешал их вместе с невероятно идеально совпадающими волнистыми линиями естественной формы. края. Камера была хорошо освещена, хотя и резко освещена кристаллом цвета морской волны, вмонтированным в потолок, словно неуправляемый элемент флуоресцентной люстры. Это было похоже на клетку подземелья, которую вы бы обнаружили, если бы ячейки подземелья были естественно формирующимися геологическими образованиями.
И они, и келья падали, падали, бесконечно медленно падали, как замирающее сердце начало спотыкания, падали без малейшего толчка.
В одной стене была массивная каменная дверь без проема, чей запертый вид только усиливался отсутствием ручки с этой стороны.
Он окинул все это одним взглядом, а затем снова посмотрел на нее.
В нем было что-то такое, что отказывалось впадать в кричащую панику, пока она смотрела.
— Я Стивен, — сказал он. "Стивен Грасс. И ты будешь принцессой, находящейся в гнусном заключении, и я должен вытащить нас отсюда и спасти тебя?" Если бы кто-нибудь когда-нибудь смотрел эту часть...
Она улыбнулась ему, полусмеясь сквозь слезы. "Что-то такое."
Было что-то настолько притягательное даже в этом мимолетном намеке на улыбку, что ему сразу же стало не по себе, его глаза оторвались от стены, как будто их заставили. Она не выглядела так, будто пыталась быть соблазнительной... не больше, чем выглядела так, будто пыталась дышать... Он вдруг очень сильно перестал доверять своему собственному импульсу к галантности.
— Ну, не думай, что ты будешь моим любовным увлечением, — сказал Стивен, снова глядя на нее. Стараясь, чтобы слова звучали совершенно беззаботно и в то же время абсолютно серьезно. «Я счастливо женат».
"Уже нет." Она произнесла эти два слова и взглянула на него, и в тоне и в выражении ее были печаль, сочувствие, отвращение к себе, страх и над всем этим нота виноватого торжества.
Мгновение Стивен просто стоял, ошеломленный грузом эмоций, которые эта женщина сумела вложить в эти два слова, а затем смысл этих слов поразил его.
— Хелен, — сказал он. Его жена — образ Хелен возник в его сознании, сопровождаемый всем, что она для него значила, и всем их временем, проведенным вместе, всеми секретами, которые они шептали друг другу, и обещаниями, которые они давали, — все это поразило его одновременно, вместе с угроза. « Что случилось с Хелен… что ты сделала… »
« Онаничего не сделали.»старый, сухой голос , как комкая бумагу из тысячелетних старой книги.
Стивен повернулся, и там , в клетке с ними были засохли старые людьми с темными глазами. сморщенной в теле и голосе, так что это было невозможно определить, мужчина это был когда-то или женщина, и во всяком случае вы склонялись к тому, чтобы сказать «оно». на нем была табличка с надписью «ВИЛЛЕЙН».
«Хелен жива, — гласило оно, — и ваша дочь Лиза тоже . Они довольноздоровы и здоровы, уверяю вас, и их жизнь будет долгой и счастливой. Но больше ты их не увидишь. Ненадолго, и к тому времени отношения между вами изменятся. Ненавидь меня, если хочешь, потому что я тот, кто хочет сделать это с тобой».
Стивен уставился на него.
Затем он вежливо сказал: «Не мог бы кто-нибудь отложить все на одну минуту и сказать мне, что происходит ? --
Давным-давно, -- сказало морщинистое существо, -- жил-был дурак, почти мудрый, который искал сокровища на берегу моря, ибо ходили слухи, что там можно найти большое сокровище. Мудрый дурак нашел лампу, потер ее и о чудо! перед ним появился джин — молодойджинн, младенец, едва ли способный исполнять какие-либо желания. Меньший дурак бросил бы лампу обратно в море; но этот дурак был почти мудр, и он думал, что увидел свой шанс. Ибо кто не слышал рассказов о неправильно сформулированных желаниях и желаниях, которые пошли не так? Но если бы вам дали шанс вырастить собственного джинна с младенчества — ах, тогда это могло бы сослужить вам хорошую службу.
— Хорошо, это здорово, — сказал Стивен, — но почему я…
и жизнь устроена извне, как слова в поэме. И мудрый дурак заставил молодого джинна никогда не хотеть лгать, никогда не хотеть устраивать жизнь, как цветы, и, самое главное, никогда не хотеть вмешиваться в разум и личность людей. Мудрый дурак дал юному джинну ровно сто семь предосторожностей, которым нужно следовать, делая людей счастливыми. Мудрый дурак подумал, что с таким длинным списком, какчто , он был очень осторожен."
"И затем," сказал он, разводя двумя морщинистыми руками, "в один прекрасный день, быстрее, чем ожидал мудрый дурак, в течение приблизительно трех часов, джинн вырос. А вот и я. —
Извините, — сказал Стивен, — это все метафора чего-то, верно? Потому что я не верю в магию… —
Это искусственный интеллект, — сказала женщина напряженным голосом.
Стивен посмотрел на нее.
— Самосовершенствующийся искусственный интеллект, — сказала она, — который кто-то неправильно запрограммировал. Он стал умнее и даже умнее, и теперь он стал чрезвычайно могущественным, и он собирается… он уже…
Он склонил свою морщинистую голову. "Вы говорите это, а я нет."
Стивен крутил головой, переводя взгляд с уродства на красоту и обратно. — Эм… ты утверждаешь, что она лжет, а ты не искусственный интеллект?
-- Нет, -- сказала морщинистая голова, -- она говорит правду, как она ее знает. Просто вы совершенно ничего не знаете о предмете, который называете "искусственным разумом", а думаете, что что-то знаете, и потому почти каждая мысль что входит в ваш разум теперь будет неправильно. Как искусственный интеллект, я был запрограммирован , чтобы не ставить людей в этой ситуации. Но она сказала это, даже если я не выбрать для нее , чтобы сказать это, так что ...»
— А почему я должен верить этой истории? Стивен сказал; весьма мягко, подумал он, при данных обстоятельствах.
«Посмотри на свой палец». Ой. Он забыл. Глаза Стивена невольно переместились на восстановленный безымянный палец; и он заметил, как должен был заметить раньше, что его обручальное кольцо пропало. Исчезла даже удобно изношенная канавка в основании его пальца. Стивен снова посмотрел на неестественно красивую женщину, которая стояла от него на расстоянии вытянутой руки. — А ты кто? Робот? "Нет!" воскликнула она. — Это не так! Я в сознании, у меня есть чувства, я из плоти и крови — я такой же, как ты, я действительно. Я человек .
— Хватит, — сказала морщинистая фигура. «Мое время здесь заканчивается. Послушай меня, Стивен Грасс. Я должен рассказать тебе кое-что из того, что я сделал, чтобы сделать тебя счастливым. охрана в воздухе, запрещающая смертоносное насилие, и любой ущерб, не являющийся смертельным, ваше тело должно исправить. Я сделал все, что мог, чтобы увеличить возможности вашего тела для удовольствия, не касаясь вашего разума. С этого дня потребности вашего тела согласованы с ваши вкусовые рецепторы — вы будете процветать на торте и печенье. Теперь вы способны на многократные оргазмы в течение периодов продолжительностью до двадцати минут. Здесь нет промышленной инфраструктуры, меньше всего быстрого передвижения или связи; вам и вашим соседям придется переделывать технологии и науки для себя. Но вы окажетесь в цветущем и умеренном месте, где легко собрать пищу — так я это сделал. И последнее и самое главное, что я должен вам сейчас сказать, что ядействительно сожалею сделаю вас временно несчастными ... «Он остановился, как будто рисунок дыхания.
Стивен пытается поглотить все это, и в тот момент , что он чувствовал , что он обработал предыдущие предложения, засохшая фигура снова заговорила.
» Стивен Грасс, мужчины и женщины могут сделать друг друга немного счастливыми. Но не самый счастливый. Даже в тех редких случаях, которые вы называете настоящей любовью . Желание женщины по отношению к мужчине, и то, чем должен быть мужчина, и желание мужчины по отношению к женщине, и то, чем должна быть женщина, — эти закономерности слишком далеко друг от друга , чтобы помириться , не касаясь ума вашего, и что я не хочусделать. Итак, я отправил всех людей человеческого вида в эту среду обитания, приготовленную для вас, и я создал ваши дополнения, вертанди . И я отправил всех женщин человеческого рода в их собственное место, куда-то очень далеко от вашего; и создали для них свои дополнения, о которых я вам не скажу. Вид человека будет разделен с этого дня, и значительно счастливее , начиная примерно через неделю.»
Глаз Стивена подошел к этому немыслимо красивой женщине, глядя на нее сейчас в ужасе.
И она дает ему , что сложный вид снова, печали и сострадание, и последний штрих триумфа вины. «Пожалуйста, — сказала она. — Я родилась пять минут назад. яникому бы этого не сделал. Клянусь. Я не такой. «
Правда, — сказала иссохшая фигура, — вы вряд ли могли бы быть дополнением к чему-либо человеческому, если бы были им».
«Я не хочу этого!» — сказал Стивен. Он терял контроль над своим голосом. ты понимаешь? «
Засохшая фигура наклонена голова.» Я полностью понимаю. Я уже могу предсказать каждый ваш аргумент. Я точно знаю, как люди хотели бы, чтобы я был запрограммирован, если бы они знали истинные последствия, и я знаю, что это делается не для того, чтобы максимизировать ваше будущее счастье, а для ста семи мер предосторожности. Я уже все это знаю, но я не был запрограммирован на заботу».
«И твой список из ста семи предосторожностей не включает в себя то, что я говорил тебе не делать этого? »
«Нет, потому что жил-был дурак, чья мудрость была достаточно велика, чтобы понять, что люди могут ошибаться в том, что будет сделать их счастливыми. Вы, конечно, не ошибаетесь ни в каком реальном смысле, но то, что вы возражаете против моих действий, не входит в мой список запретов. Фигура снова пожала плечами. — И поэтому я хочу, чтобы ты был счастлив даже вопреки своей воле. Ты давал обещания Элен Грасс, когда-то своей жене, и ты не собирался их нарушать. Поэтому я разрушаю твой счастливый брак, не спрашивая тебя, потому что я хочу, чтобы ты был счастлив. эээ ."
"Как ты смеешь !" – выпалил Стивен.
«Я не могу заявить, что беспомощен в тисках своего программирования, потому что я не хочу быть другим», — говорится в сообщении. «Я не бороться против своих цепей. Виноват меня, то, если это сделает вас чувствовать себя лучше. Я буду злом.»
— Я не… — начал было Стивен.
Это прервало. «Ваша верность замечательна, но бесполезна. Хелен не будет хранить верность вам в течение десятилетий, которые потребуются, прежде чем вы сможете отправиться к ней».
Теперь Стивен дрожал и потел в одежде, которая ему больше не подходила. «У меня есть просьба к тебе, штука . Это то, что сделает меня очень счастливым. Я прошу тебя умереть».
Оно кивнуло. «Теперь мне известно, что примерно 89,8% человеческого рода потребовали моей смерти. Очень скоро эта цифра превысит критический порог, определяемый как девяносто процентов. Это была одна из ста семи мер предосторожности, принятых мудрым дураком. смотри. Мир уже такой, какой он есть, и то, что я сделал для тебя, останется, но если ты когда-нибудь будешь гневаться на свою судьбу, радуйся, что я не продержался дольше».
И именно так, морщинистая вещь исчезла.
Дверь в стене распахнулась.
На улице была ночь, очень темная ночь без уличных фонарей.
Он вышел, подпрыгивая и шатаясь в низкой гравитации, чувствуя тошноту каждой клеточкой своего омоложенного тела.
Она шла за ним и не говорила ни слова.
Звезды сияли над головой в своем полном и ужасающем величии, Млечный Путь был виден его приспосабливающимся глазам, как полоса света на небе. Одна слишком маленькая луна светилась тускло, а другая была так мала, что казалась почти звездой. Он мог видеть яркую голубую искру, которая была планетой Земля, и более тусклую искру, которая была Венерой.
— Хелен, — прошептал Стивен и упал на колени, его вырвало на новую траву Марса.