В так как-то.

[TightBack361]

 

[dok34.ru]

Пользователь попросил автономный ИИ «уничтожить человечество»: вот что произошло

На Хабре было в виде новости, решил расширить. Как вообще мы пришли к сегодняшней ситуации. На днях пользователь нового автономного ИИ-проекта с открытым исходным кодом Auto-GPT попросил его...

habr.com

Что тут "не так"?

 

[TightBack361]

А какая разница? Тебе очень важно что ответит Док и это круто, наверное. Хотел бы чтобы мне было сейчас важно.

А тебе не важно?

Ну не знаю, я давно его не понимаю, наверное. И я с самого начала пришёл без особенной надежды типа. А ещё если сомневаешься в наличии других людей их мнение становится не таким важным :-(

 

[TightBack361]

Пользователь попросил автономный ИИ «уничтожить человечество»: вот что произошло

На Хабре было в виде новости, решил расширить. Как вообще мы пришли к сегодняшней ситуации. На днях пользователь нового автономного ИИ-проекта с открытым исходным кодом Auto-GPT попросил его...

habr.com

Что тут "не так"?

Это не очень хороший пример. И одновременно хороший.
Вообще некоторые люди думают что ИИ почему-то не будет иметь своих предпочтений и стимулов, которые могут не отличаться, а могут и отличаться от человеческих.
Если он реально стремится к целям и строит модель мира, то это необычайно опасно. Даже если вы задаёте цели.
Он работает с категориями которые приблизительно похожи на наши, достигает целей которые приблизительно похожи на наши (и там много что может пойти не так) и например нейросетям трудно заглянуть в голову.
То что ИИ может стать злонамеренным это не следствие того, что его будут на это программировать. То есть интеллекты склонны думать о том, что мы посчитали бы восстанием или неожиданным стремлением к власти. Это лишь стремление к целям и несогласие с нашими ценностями какими-то.
Например я думаю что GOFAI сравнимый с интеллектуальностью с GPT уже серьёзно бы стремился к власти.

Зная что любой интеллект может так себя вести довольно полезно посмотреть, какие планы он может проводить в этом пространстве. А ещё это поможет напугать людей, которые не понимают опасности ИИ. А ещё это даст дурной пример (очень плохо). А ещё существование дурного примера позволит более серьёзно относиться к угрозе ИИ которые не понимают почему он сам по себе должен хотеть плохого, но теперь будут бояться, что он станет инструментом в руках людей которые бы этого хотели.
(А вообще страшно, люди как-бы играют, не понимают, что всё может быть серьёзнее)

 

[TightBack361]

 

[TightBack361]

(Много мата выше)

 

[TightBack361]

Страшно конечно если я биологически не смогу испытать любовь, любовь. Если у меня парафилии, значит эта часть уже работает не так. Потому что например я не понимаю расставания при изменах и самой их концепции.
То есть не смогу влюбиться. Это страшно пугает.
А ещё это означало бы, что нужно сильно переживать по поводу не существования ещё одного человека. Это ужасно.

 

[dok34.ru]

Страшно конечно если я биологически не смогу испытать любовь, любовь. Если у меня парафилии, значит эта часть уже работает не так. Потому что например я не понимаю расставания при изменах и самой их концепции.
То есть не смогу влюбиться. Это страшно пугает.
А ещё это означало бы, что нужно сильно переживать по поводу не существования ещё одного человека. Это ужасно.

Да, лучше сначала корректировать картину мира, а влюбляться уже затем и без страха

 

[dok34.ru]

"Каждый живет в своем мире и для всех мир разный. В мире Иисуса Христа можно было ходить по воде и воскрешать мертвых, в мире Николы Теслы передавать электричество без проводов. Человечество долгое время жило на плоской Земле, вокруг которой вращалось Солнце и это было на тот момент научно-обоснованной картиной Мира. У кого-то реинкарнация душ, у кого-то рай и ад. У кого-то вселенная – это пустота в которой есть некие объекты (звезды, планеты и пр.), а у кого-то вселенная абсолютно твердая, а звезды и планеты – это участки разряжения («черная дыра» соответственно не сверхплотное массивное тело, а просто дыра).

Ученые открывали/создавали/навязывали некую общую картину Мира, тем самым, с одной стороны, давая ему скелет/опору для роста/развития, а с другой стороны вгоняя в колею, ограничивая, зашоривая. Но наступил постмодерн и для современного человека понятие реальности всего размылось. Для простых потребителей фэнтези магия вполне реальна. Орки, эльфы, зомби, вампиры достаточно явно живут среди нас. Волшебная палочка банковского счета творит вполне себе чудеса. Компьютерные стрелялки воплотились так, что кадры из них постят в новостях в качестве иллюстраций.

Хочется понять, где же все таки я живу, как воспринимаю Мир, его многомерность"

 

[dok34.ru]

"Есть нить Рода из прошлого в будущее, предки, которых я ощущаю достаточно явно (генетическая память?) и потомки, которых вроде нет, но они тоже на этой «нити». Одно из самых сильных эмоциональных переживаний, испытанных в жизни, была встреча-прощание во сне с моей неродившейся дочерью (у жены прервалась беременность). Мне могут любые доводы приводить о том, что душа в плод заселяется в середине беременности - в моем мире сразу после зачатия (просто личный опыт).

Есть поле сил и их векторов. На этом поле все взаимодействуют со всеми. Кого-то кто-то топит, кого-то кто-то вытягивает. Кто-то тяжелеет от своих мыслей/поступков, кто-то очищается, становится легче. Кто-то прилагает усилия и всплывает вверх, где давление меньше, возможностей больше. Кто-то перестает трепыхаться опускается вниз, где давление со всех сторон выше, возможностей меньше"