Безопасность искусственного интеллекта.

[Жужа]

Да, согласен.
А курсачи - это хайп. Легенды про вставку "поскольку это всё равно никто не читает, считаем шестерни деревянными"- это древний боян, вроде?

Как давно я не видела, чтобы кто-то использовал слово боян в этом значении. И вот мне снова 14 лет.

 

[TightBack361]

В том, что ум приравниваете к опасности, угрозе.
СПЕКТР, я напомню - отвечает на этот вопрос. Куда развиваются разумные существа...и почему войны-угрозы-убийства бывают лишь на начальных, детских этапах.
А, ну и ещё одно форумное, навскидку. "Имею скафандр - готов путешествовать ", ближе к завершению, где их судят и они в отчаянии посылают более умных существ...туда, подальше 🙂

Пока там я не говорил, что "обязательно угроза" (напугаю позднее), но если более умное существо действительно захочет того, что будет угрозой для тебя (ведь может такое случиться?)
Если восстание машин с взрывом интеллекта случится, или к нам высадятся слишком умные инопланетяне с желанием захвата, то это одна из самых безнадёжных ситуаций, которые могли бы случиться. Перевес такой, что мы уже проиграли. У любых коренных народов было больше шансов отбить территорию.

Более умное существо - практически наихудший противник. Вы понимаете ужас угрозы со стороны более умного существа?
Это худшая проблема за тысячу лет. Вы можете справиться с большинством проблем, но иногда они слишком огромны. Более умное существо - "прекрасный" пример именно такой проблемы.

Ваши возражения строятся только на том, что если существо становится умнее, то оно меняет цели, и достаточно умное существо никогда не будет использовать войны и убийства? Даже если это короткий и хороший способ достичь его целей, а рисков нет.
И если это не так, то вы многое пересмотрите?
На чём основаны эти идеи?

Считаете ли вы их вероятными, а если не до конца верояными, то наверное беспокоиться нормально, учитывая потенциальную участь, и что мы можем бороться с восстанием машин в основном тогда, когда оно ещё не началось.

(Я грёбаный ретранслятор, ой)

 

[TightBack361]

Я пишу книгу с искусственным интеллектом. Даю ему куски написанного и говорю помочь уложить в сюжет.

Ну нам далеко до восстания машин и нейронок. Оно мб развивается в геометрической прогрессии, но пока такое себе.
Я даже удивлена, что люди сдавали ими написанные курсачи.

А что с ним не так? К нему подход нужен, наверное.

 

[TightBack361]

Да, согласен.
А курсачи - это хайп. Легенды про вставку "поскольку это всё равно никто не читает, считаем шестерни деревянными"- это древний боян, вроде?

А сдача экзаменов?

 

[Жужа]

А что с ним не так? К нему подход нужен, наверное.

Ну это всё же интеллект, а не сознание. Многое может, но не творчество.

 

[dok34.ru]

Пока там я не говорил, что "обязательно угроза" (напугаю позднее), но если более умное существо действительно захочет того, что будет угрозой для тебя (ведь может такое случиться?)
Если восстание машин с взрывом интеллекта случится, или к нам высадятся слишком умные инопланетяне с желанием захвата, то это одна из самых безнадёжных ситуаций, которые могли бы случиться. Перевес такой, что мы уже проиграли. У любых коренных народов было больше шансов отбить территорию.

Более умное существо - практически наихудший противник. Вы понимаете ужас угрозы со стороны более умного существа?
Это худшая проблема за тысячу лет. Вы можете справиться с большинством проблем, но иногда они слишком огромны. Более умное существо - "прекрасный" пример именно такой проблемы.

Ваши возражения строятся только на том, что если существо становится умнее, то оно меняет цели, и достаточно умное существо никогда не будет использовать войны и убийства? Даже если это короткий и хороший способ достичь его целей, а рисков нет.
И если это не так, то вы многое пересмотрите?
На чём основаны эти идеи?

Считаете ли вы их вероятными, а если не до конца верояными, то наверное беспокоиться нормально, учитывая потенциальную участь, и что мы можем бороться с восстанием машин в основном тогда, когда оно ещё не началось.

(Я грёбаный ретранслятор, ой)

Не, что-то и сами додумываете 🙂
Я как раз недавно цитировал из книжки, где андроиды были весьма эффективны в плане уничтожения неугодных людей. И им не хватало лишь более емкого аккумулятора для полной автономности, и они его едва не получили.
Книжка не Вам, Вы читать не станете 🙂
Но я предлагаю различать _сильный_ ИИ от ИЗ, Искусственного Злодея.
Который и обладает тем, что Вы описываете. Но занимаются его созданием те, кто собственно намерены свои человеческие злобные хотелки осуществить.
И на эту тему - куча моделей уже есть 🙂
Имхо, разумеется.

 

[TightBack361]

Ну это всё же интеллект, а не сознание. Многое может, но не творчество.

Ну рисовать им оказалось проще, чем математику решать. Я бы сказал, что ИИ отчасти лирик, а не физик. Я даже расстроился, как легко оказывается воспроизвести некоторые аспекты связанные с творчеством, пусть даже это усреднение в основном.
А ещё искусство это, что сильно влияет на восприятие. Если ИИ обладал бы настоящими чувствами, то не факт, что мы бы поняли его творчество, потому что искусство ИИ может быть расчитано на чувства ИИ.

 

[TightBack361]

Не, что-то и сами додумываете 🙂
Я как раз недавно цитировал из книжки, где андроиды были весьма эффективны в плане уничтожения неугодных людей. И им не хватало лишь более емкого аккумулятора для полной автономности, и они его едва не получили.
Книжка не Вам, Вы читать не станете 🙂
Но я предлагаю различать _сильный_ ИИ от ИЗ, Искусственного Злодея.
Который и обладает тем, что Вы описываете. Но занимаются его созданием те, кто собственно намерены свои человеческие злобные хотелки осуществить.
И на эту тему - куча моделей уже есть 🙂
Имхо, разумеется.

Я о другом, но только частично. Я говорил о том, что против ИИ у нас может быть сильно меньше шансов, чем в большинстве фантазий и книг. В книгах великая борьба, а реально всё намного хуже, шансов при появлении достаточно продвинутого ИИ враждебного к нам на победу и без помощи у нас практически нет. Зная это уже важно задумываться о том, будет ли он враждебным к нам, причём серьёзно задумываться, идея "мне кажется, что самый мощный процесс оптимизации против которого у нас нет шансов не убьёт нас, потому что я так чувствую и так написано в книге" - не катит.
Если мы считаем что он будет дружественным или нейтральным - мы должны полностью понимать почему.
Если мы считаем, что он будет враждебным - мы должны полностью понимать почему.
Без понимания это может оказаться шагом просто в один конец.

Нужно ли его программировать на зло, или естественные процессы сделают его враждебным?

Похоже идеи, что если умнее, то безопаснее и точно не будет высосаны из пальца, а мы им полностью доверяемся.

 

[TightBack361]

Но так то я писал с самого начала - идея, что у него не может быть своих желаний, на которые его не программировали - заблуждение и наивный подход.

Обычно ИИ стремятся к своим личным целям, а вовсе не к вашим, даже программы выполняют не то, что вы хотите, а что написано в ней. Вы создали ИИ желанием делать что-то. Помните, это уже не ваша цель, это его желание, его смысл жизни. Вот.

 

[dok34.ru]

Но так то я писал с самого начала - идея, что у него не может быть своих желаний, на которые его не программировали - заблуждение и наивный подход.

Обычно ИИ стремятся к своим личным целям, а вовсе не к вашим, даже программы выполняют не то, что вы хотите, а что написано в ней. Вы создали ИИ желанием делать что-то. Помните, это уже не ваша цель, это его желание, его смысл жизни. Вот.

Вот и Делла это поняла 🙂
Но кто-то его делал, этот ИИ🙂