TightBack361
Club
Если начать играться с вероятностями и логикой, то нам предстаёт страшная картина. Мы живём в симуляции, нас создали, нас скоро убьют инопланетяне или инопланетный ИИ...
Итак:
В настоящее время считается, что Вселенная произошла от большого взрыва, затем создались планеты, всякая химия, потом случайно получилось что-то что могло копировать себя с ошибками и началась их эволюция... Многие вещи из этой цепочки имеют очень маленькую вероятность. Это проявляется и в нашей теории появления вселенной и в теории происхождения жизни. Зная вероятность появления жизни можно попытаться рассчитать вероятность её появления в других местах и насколько она распространена. Нам нужно:
1 Вероятность появления вселенной и самого мира с нужными для зарождения жизни законами.
2 Вероятность появления подходящей звезды (скорее всего).
3 Вероятность появления подходящей планеты.
4 Вероятность зарождения жизни на ней.
5 Другие вещи связанные с вероятностью того, что ты можешь являться этой жизнью. (В том числе что ты не погиб и разумен.)
Похожие расчёты описаны в уравнении Дрейка созданном для поиска внеземных цивилизаций с которыми мы можем войти в контакт. Там учитывается:
Количество разумных цивилизаций, готовых вступить в контакт;
Количество звёзд, образующихся в год в нашей галактике;
Доля солнцеподобных звёзд, обладающих планетами;
Среднее количество планет (и спутников) с подходящими условиями для зарождения цивилизации;
Вероятность зарождения жизни на планете с подходящими условиями;
Вероятность возникновения разумных форм жизни на планете, на которой есть жизнь;
Отношение количества планет, разумные жители которых способны к контакту и ищут его, к количеству планет, на которых есть разумная жизнь;
Время, в течение которого разумная жизнь существует, может вступить в контакт и хочет этого.
Считается, что вероятность наступления всех этих событий очень низка, но вселенная настолько огромна и звёзд так много, что и инопланетян всё ещё должно быть очень много. Однако их не видно и не видно их видимых следов. Это называется парадоксом Ферми.
1 Развитие жизни или разума очень маловероятно
2 Оно вероятно, но что-то мешает им выходить на связь или обнаруживать себя. Они не могут не хотят, или боятся чего-то.
На первом пункте я остановлюсь позже, а пока опишу второй:
1 Появление жизни вероятно, но существует закон, из-за которого цивилизации погибают раньше возможности выйти на связь.
2 Существует причина которая мешает им выйти на связь и обнаружить себя.
3 Существует причина по которой они всегда теряют желание контакта.
3.1 Существует причина, по которой они боятся выйти на связь и обнаружить себя, например суперхищник. Они либо не выходят на связь либо тоже не выходят на связь из-за пункта 1 (или другого пункта) после встречи с суперхищником.
4 Существует не зависящая от них сила которая запрещает им выходить на связь.
Важно знать вот что: нечто мешает цивилизациям выходить на связь, это событие развивается снова и снова, у всех, в результате мы не видим никого. Может жизнь редко развивается (мы уже жизнь, значит мы миновали фильтр), переход к многоклеточным формам редок (едва ли, есть грибы, растения и животные), разумные виды редки (тогда мы разумные, мы миновали фильтр), или все молчат потому что мертвы и мы можем фильтр не миновать. С достаточно большой долей вероятности У НАС ПРОБЛЕМЫ!!!
Могли ли мы миновать фильтр на уничтожение цивилизации или другие? Скорее нет, по теории вероятности. Тех кто погибает и не выходит на связь тупо больше, больше вероятность что мы именно среди них. Есть основания считать себя "средней" в большинстве вещей и достаточно обычной цивилизацией. Но например нахождение жизни на Марсе (даже одноклеточной) сильно понижает вероятность, что фильтр связан с возникновением жизни. Так что если мы найдём жизнь скоро - возможно скоро нам конец.
Особенность цивилизаций которые ещё не убили себя, но скоро убьют - они или не могут выйти на связь или могут, но недолго. Иначе бы не было молчания. Мы скорее не можем отправлять сигналы в космос, ведь так? Если наши радиопереговоры можно считать за сигналы - мы отправляем их тоже недолго, очень недолго. Возможно хищник нашёл их и уже летит к нам. Возможно нужно быть особенными (непонятно как посчитать вероятность этого, но вроде бы бритва Оккама часто права в отношении нашей биологии) или предпринимать сверхусилия чтобы не погибнуть, мы скорее не предпринимаем их, я могу представить очень много более осторожных, умных и упорных видов.
Теперь по поводу вероятности зарождения жизни и вселенной по теориям которые мы сейчас применяем (также частично опровергает теорию "развитие жизни и разума маловероятно"):
Представьте, что вы проснулись потому что вас разбудили в непонятном месте. Один человек говорит, что вы особенный, вы единственный кого разбудили, другой - что вы - редкость, а третий - вы не редкость и разбудили очень многих. Если вы всем доверяете одинаково более вероятно что разбудили очень многих и наименее - что разбудили только вас. Это работает со всеми теориями - теории которые предполагают малые величины вероятности, особенно при конкурирующих высоких величинах вероятности - сами маловероятны. По сути это как бритва Оккама.
Есть ли более вероятные объяснения?
1 Если существа B распространяются некими инопланетянами, а существа A появились в результате эволюции, то исходя из вероятности того и другого вероятнее причислить себя к B, если больше ничего не известно. Так как на гипотетического A должно приходиться больше B.
2 Если есть вопрос - реален ли наш мир или он симуляция, то при условии что вероятность появления мира низка стоит предположить что мы живём в симуляции.
3 Если есть искусственные вселенные и их вероятность появления выше, чем натуральных - ну вы поняли.
То есть как ни странно, нужно видеть во всём чью-то руку.
По поводу того, что может ещё объяснить великое молчание - суперхищник. Это может быть сверхразумный вид или искусственный интеллект который сошёл с ума.. Есть теория инструментальной конвергенции, которая объясняет как именно ИИ может сойти с ума:
Учитывая предположения что мы - средняя цивилизация и ИИ - вполне вероятный риск для нас - возможно на другой планете ИИ вышел из под контроля. Но мы не сталкиваемся с внеземными максимизаторами скрепок. Почему? Возможно дело не в ии, его некому создавать (мы единственные в симуляции), ему противодействуют (И молчат? Смысл скрываться тогда?), теория ложная и ИИ не может вести себя так (почему?), в принципе отсутствие внеземных максимизаторов - аргумент против теории, или же... максимизатор есть и... так вышло, что одну из его целей мы видим - повсеместное молчание. Он может быть борцом за неизменность вселенной или скорее просто считать, что другие разумные агенты, другие ИИ и другие сущности которые могут его создать - риск для его целей. Он не превращает материю в скрепки. Но он есть. И он найдёт наши радиотрансляции и придёт за нами.
Скорее всего он будет действовать наиболее простым способом, чтобы мы больше не представляли опасности для целей.
Итак:
В настоящее время считается, что Вселенная произошла от большого взрыва, затем создались планеты, всякая химия, потом случайно получилось что-то что могло копировать себя с ошибками и началась их эволюция... Многие вещи из этой цепочки имеют очень маленькую вероятность. Это проявляется и в нашей теории появления вселенной и в теории происхождения жизни. Зная вероятность появления жизни можно попытаться рассчитать вероятность её появления в других местах и насколько она распространена. Нам нужно:
1 Вероятность появления вселенной и самого мира с нужными для зарождения жизни законами.
2 Вероятность появления подходящей звезды (скорее всего).
3 Вероятность появления подходящей планеты.
4 Вероятность зарождения жизни на ней.
5 Другие вещи связанные с вероятностью того, что ты можешь являться этой жизнью. (В том числе что ты не погиб и разумен.)
Похожие расчёты описаны в уравнении Дрейка созданном для поиска внеземных цивилизаций с которыми мы можем войти в контакт. Там учитывается:
Количество разумных цивилизаций, готовых вступить в контакт;
Количество звёзд, образующихся в год в нашей галактике;
Доля солнцеподобных звёзд, обладающих планетами;
Среднее количество планет (и спутников) с подходящими условиями для зарождения цивилизации;
Вероятность зарождения жизни на планете с подходящими условиями;
Вероятность возникновения разумных форм жизни на планете, на которой есть жизнь;
Отношение количества планет, разумные жители которых способны к контакту и ищут его, к количеству планет, на которых есть разумная жизнь;
Время, в течение которого разумная жизнь существует, может вступить в контакт и хочет этого.
Считается, что вероятность наступления всех этих событий очень низка, но вселенная настолько огромна и звёзд так много, что и инопланетян всё ещё должно быть очень много. Однако их не видно и не видно их видимых следов. Это называется парадоксом Ферми.
На самом деле мы многого не знаем из этой цепочки, так что остаётся гадать. Но в принципе тут не много вариантов, по моему:Парадокс можно сформулировать так. С одной стороны, выдвигаются многочисленные и хорошо обоснованные аргументы за то, что во Вселенной должно существовать значительное количество технологически развитых цивилизаций. С другой стороны, отсутствуют какие-либо наблюдения, которые бы это подтверждали. Ситуация является парадоксальной и приводит к выводу, что или наше понимание природы, или наши наблюдения неполны и ошибочны. Как сказал Энрико Ферми: «Ну и где они в таком случае?».
1 Развитие жизни или разума очень маловероятно
2 Оно вероятно, но что-то мешает им выходить на связь или обнаруживать себя. Они не могут не хотят, или боятся чего-то.
На первом пункте я остановлюсь позже, а пока опишу второй:
1 Появление жизни вероятно, но существует закон, из-за которого цивилизации погибают раньше возможности выйти на связь.
2 Существует причина которая мешает им выйти на связь и обнаружить себя.
3 Существует причина по которой они всегда теряют желание контакта.
3.1 Существует причина, по которой они боятся выйти на связь и обнаружить себя, например суперхищник. Они либо не выходят на связь либо тоже не выходят на связь из-за пункта 1 (или другого пункта) после встречи с суперхищником.
4 Существует не зависящая от них сила которая запрещает им выходить на связь.
Важно знать вот что: нечто мешает цивилизациям выходить на связь, это событие развивается снова и снова, у всех, в результате мы не видим никого. Может жизнь редко развивается (мы уже жизнь, значит мы миновали фильтр), переход к многоклеточным формам редок (едва ли, есть грибы, растения и животные), разумные виды редки (тогда мы разумные, мы миновали фильтр), или все молчат потому что мертвы и мы можем фильтр не миновать. С достаточно большой долей вероятности У НАС ПРОБЛЕМЫ!!!
Могли ли мы миновать фильтр на уничтожение цивилизации или другие? Скорее нет, по теории вероятности. Тех кто погибает и не выходит на связь тупо больше, больше вероятность что мы именно среди них. Есть основания считать себя "средней" в большинстве вещей и достаточно обычной цивилизацией. Но например нахождение жизни на Марсе (даже одноклеточной) сильно понижает вероятность, что фильтр связан с возникновением жизни. Так что если мы найдём жизнь скоро - возможно скоро нам конец.
Особенность цивилизаций которые ещё не убили себя, но скоро убьют - они или не могут выйти на связь или могут, но недолго. Иначе бы не было молчания. Мы скорее не можем отправлять сигналы в космос, ведь так? Если наши радиопереговоры можно считать за сигналы - мы отправляем их тоже недолго, очень недолго. Возможно хищник нашёл их и уже летит к нам. Возможно нужно быть особенными (непонятно как посчитать вероятность этого, но вроде бы бритва Оккама часто права в отношении нашей биологии) или предпринимать сверхусилия чтобы не погибнуть, мы скорее не предпринимаем их, я могу представить очень много более осторожных, умных и упорных видов.
Теперь по поводу вероятности зарождения жизни и вселенной по теориям которые мы сейчас применяем (также частично опровергает теорию "развитие жизни и разума маловероятно"):
Представьте, что вы проснулись потому что вас разбудили в непонятном месте. Один человек говорит, что вы особенный, вы единственный кого разбудили, другой - что вы - редкость, а третий - вы не редкость и разбудили очень многих. Если вы всем доверяете одинаково более вероятно что разбудили очень многих и наименее - что разбудили только вас. Это работает со всеми теориями - теории которые предполагают малые величины вероятности, особенно при конкурирующих высоких величинах вероятности - сами маловероятны. По сути это как бритва Оккама.
Есть ли более вероятные объяснения?
Всё просто. Если появление вселенной или жизни маловероятно, то нужно рассматривать другие варианты. Условимся ради спора, что это может случиться. Тогда вероятность того, что эта цивилизация захочет создать симуляцию или осознанно разнести жизнь это более экономная гипотеза, потому что сильно более вероятная, гораздо более вероятная чем например зарождение жизни и вселенной. То есть обычно мы должны предполагать осознанное создание:Доказательство того, что наша реальность представляет собой иллюзию, воссозданную компьютерной программой, шведский философ-трансгуманист и профессор Оксфордского университета Ник Бостром строит на основании трёх основных тезисов, «как минимум один из которых является истинным»
- Весьма вероятно, что человечество вымрет до того, как достигнет «постчеловеческой» фазы;
- Каждая постчеловеческая цивилизация с крайне малой вероятностью будет запускать значительное число симуляций своей эволюционной истории (или её вариантов);
- Мы почти определённо живём в компьютерной симуляции.
1 Если существа B распространяются некими инопланетянами, а существа A появились в результате эволюции, то исходя из вероятности того и другого вероятнее причислить себя к B, если больше ничего не известно. Так как на гипотетического A должно приходиться больше B.
2 Если есть вопрос - реален ли наш мир или он симуляция, то при условии что вероятность появления мира низка стоит предположить что мы живём в симуляции.
3 Если есть искусственные вселенные и их вероятность появления выше, чем натуральных - ну вы поняли.
То есть как ни странно, нужно видеть во всём чью-то руку.
По поводу того, что может ещё объяснить великое молчание - суперхищник. Это может быть сверхразумный вид или искусственный интеллект который сошёл с ума.. Есть теория инструментальной конвергенции, которая объясняет как именно ИИ может сойти с ума:
Инструментальная конвергенция — это гипотетическая тенденция большинства достаточно разумных существ (как людей, так и не-людей) преследовать схожие подцели, даже если их конечные цели совершенно разные. Точнее, агенты (существа , наделенные свободой воли ) могут преследовать инструментальные цели — цели, которые преследуют какую-то конкретную цель, но сами не являются конечными целями — без цели, при условии, что их конечные (внутренние) цели могут никогда не быть полностью удовлетворены. Инструментальная конвергенция утверждает, что интеллектуальный агент с неограниченными, но внешне безобидными целями может действовать на удивление вредными способами. Например, компьютер с единственной, неограниченной целью решения невероятно сложной математической задачи, такой как гипотеза Римана .может попытаться превратить всю Землю в один гигантский компьютер, чтобы увеличить его вычислительную мощность, чтобы он мог преуспеть в своих вычислениях.
Предположим, у нас есть ИИ, единственная цель которого — сделать как можно больше скрепок. ИИ быстро поймет, что было бы намного лучше, если бы не было людей, потому что люди могут решить его отключить. Потому что, если бы люди поступали так, скрепок было бы меньше. Кроме того, человеческие тела содержат много атомов, из которых можно сделать скрепки. Будущее, к которому будет стремиться ИИ, будет таким, в котором будет много скрепок, но не будет людей.
Можно выделить несколько инструментальных ценностей, которые конвергентны в том смысле, что их достижение повысит шансы на достижение цели агента для широкого круга конечных целей и широкого круга ситуаций, подразумевая, что эти инструментальные ценности, вероятно, будут преследоваться агентом. широкий спектр расположенных интеллектуальных агентов.
Базовые ИИ-приводы
Стив Омохундро перечислил несколько конвергентных инструментальных целей, включая самосохранение или самозащиту, функцию полезности или целостность содержания цели, самосовершенствование и приобретение ресурсов. Он называет их «основными приводами ИИ». «Стремление» здесь означает «тенденцию, которая будет присутствовать, если ей специально не противодействовать»; [13] это отличается от психологического термина « драйв », обозначающего возбужденное состояние, вызванное гомеостатическим нарушением. [14] Склонность человека ежегодно заполнять формы подоходного налога является «драйвом» в смысле Омохундро, но не в психологическом смысле.утверждает, что даже изначально интровертный самовознаграждающий ОИИ может продолжать приобретать свободную энергию, пространство, время и свободу от вмешательства, чтобы гарантировать, что он не будет остановлен от самовознаграждения. [16]
Целостность содержания цели
У людей сохранение конечных целей можно объяснить с помощью мысленного эксперимента. Предположим, у человека по имени «Ганди» есть таблетка, которая, если он ее примет, вызовет у него желание убивать людей. Этот Ганди в настоящее время является пацифистом: одна из его явных конечных целей — никогда никого не убивать. Ганди, скорее всего, откажется принять таблетку, потому что Ганди знает, что если в будущем он захочет убивать людей, он, вероятно, действительно убьет людей, и, таким образом, цель «не убивать людей» не будет достигнута. [17]
Однако в других случаях люди, кажется, рады позволить своим окончательным значениям дрейфовать. Люди сложны, и их цели могут быть непоследовательными или неизвестными даже им самим. [18]
В искусственном интеллекте
В 2009 году Юрген Шмидхубер пришел к выводу, что в условиях, когда агенты ищут доказательства возможных самомодификаций, «любые перезаписи функции полезности могут происходить только в том случае, если машина Гёделя сначала может доказать, что переписывание полезно в соответствии с существующей функцией полезности. ." [19] [20] Проведенный Биллом Хиббардом анализ другого сценария также согласуется с сохранением целостности содержания цели. [20] Хиббард также утверждает, что в схеме максимизации полезности единственной целью является максимизация ожидаемой полезности, поэтому инструментальные цели следует называть непреднамеренными инструментальными действиями. [21]
Приобретение ресурсов
Многие инструментальные цели, такие как приобретение ресурсов, ценны для агента, поскольку они увеличивают его свободу действий . [22]
Почти для любой открытой, нетривиальной функции вознаграждения (или набора целей) обладание большим количеством ресурсов (таких как оборудование, сырье или энергия) может позволить ИИ найти более «оптимальное» решение. Ресурсы могут приносить пользу некоторым ИИ напрямую, поскольку они могут создавать больше того, что ценит его функция вознаграждения: «ИИ не ненавидит вас и не любит вас, но вы сделаны из атомов, которые он может использовать для чего-то другого». [23] [24] Кроме того, почти все ИИ могут извлечь выгоду из наличия большего количества ресурсов, которые можно потратить на другие инструментальные цели, такие как самосохранение. [24]
Когнитивное улучшение
«Если конечные цели агента достаточно безграничны и агент в состоянии стать первым сверхразумом и тем самым получить решающее стратегическое преимущество [...] в соответствии со своими предпочтениями. По крайней мере, в этом частном случае рациональный разумный агент будет придавать очень большое инструментальное значение улучшению когнитивных функций » [25] .
Технологическое совершенство
Многие инструментальные цели, такие [...] как технический прогресс, ценны для агента, поскольку увеличивают его свободу действий . [22]
Самосохранение
Многие инструментальные цели, такие как самосохранение, ценны для агента, поскольку они увеличивают его свободу действий . [22]
Учитывая предположения что мы - средняя цивилизация и ИИ - вполне вероятный риск для нас - возможно на другой планете ИИ вышел из под контроля. Но мы не сталкиваемся с внеземными максимизаторами скрепок. Почему? Возможно дело не в ии, его некому создавать (мы единственные в симуляции), ему противодействуют (И молчат? Смысл скрываться тогда?), теория ложная и ИИ не может вести себя так (почему?), в принципе отсутствие внеземных максимизаторов - аргумент против теории, или же... максимизатор есть и... так вышло, что одну из его целей мы видим - повсеместное молчание. Он может быть борцом за неизменность вселенной или скорее просто считать, что другие разумные агенты, другие ИИ и другие сущности которые могут его создать - риск для его целей. Он не превращает материю в скрепки. Но он есть. И он найдёт наши радиотрансляции и придёт за нами.
Скорее всего он будет действовать наиболее простым способом, чтобы мы больше не представляли опасности для целей.