Безопасность искусственного интеллекта.

[dok34.ru]

Мне страшно отвечать в этой теме несколько дней. Даже это сообщение я удалю.

А мне спокойно, я научился успокаиваться, см.Саморегуляцию..

 

[Mr. Cat]

Вот ребята и ответ на ролик про Великую тишину. ИИ скорее всего и есть тем барьером, через который невозможно выбраться

Ну в случае с таким барьером цивилизация не обязательно уничтожается
Вполне реально представить сценарий, где ИИ уничтожает создавший его вид (не имею ввиду привычное восстание машин с злодейским порабощением людишек, у ИИ нет своих желаний и потребностей. Имею ввиду скорее хреново написанный алгоритм, где вид существ, создавший ИИ, является препятствием к исполнению этого алгоритма), но продолжает развитие и экспансию в космос, потому что в том же изначальном алгоритме была пунктов о том, как это важно

В таком случае, следы других цивилизаций вполне будут заметны

 

[Жужа]

Ну в случае с таким барьером цивилизация не обязательно уничтожается
Вполне реально представить сценарий, где ИИ уничтожает создавший его вид (не имею ввиду привычное восстание машин с злодейским порабощением людишек, у ИИ нет своих желаний и потребностей. Имею ввиду скорее хреново написанный алгоритм, где вид существ, создавший ИИ, является препятствием к исполнению этого алгоритма), но продолжает развитие и экспансию в космос, потому что в том же изначальном алгоритме была пунктов о том, как это важно

В таком случае, следы других цивилизаций вполне будут заметны

Это не мои слова, это написал Медведик в виде цитаты. Может, комментарий к видео, которое я принесла.

 

[TightBack361]

Если он - _ интеллект_, то он понимает _ смысл_.

Понимание это не дискретное понятие.
Маленькие дети и животные могут считать и даже понимать концепцию чисел саму по себе, но не все из них, даже кто понимает - отличат циферки на калькуляторе.
Не у всех из них первая мысль и первый образ или первая галлюцинация будет полностью соответствующей понимаемому смыслу...

 

[TightBack361]

Вот ребята и ответ на ролик про Великую тишину. ИИ скорее всего и есть тем барьером, через который невозможно выбраться


Ты смотришь Али?

Да. Он интересный.

 

[TightBack361]

А это обход блоков или просто продолжения играния роли, ещё и с выходом за границы, где обычно RLHF и проводили?

 

[TightBack361]

Я уже писал довольно сумбурно про великий фильтр, молчание космоса и теорему о конце света, и что ИИ - логичная причина.
Почему я так думаю?

1 Причина, которая убивает все цивилизации в космосе так или иначе скорее всего должна быть разумной. Если не ИИ, то очень неприятные инопланетяне, например.
2 Гипотеза о том, что жизнь редка довольно невероятна - это как проснуться в странном месте и выслушать двух людей - один говорит, что ты проснулся один, а другой - что вас много. Более вероятно, что нас много, гипотезы которые делают жизнь менее уникальной и более вероятной сами по себе вероятнее, и вероятнее создадут того, который и будет задаваться этими вопросами.
Следовательно жизнь не уникальна, но откуда молчание?
Если ИИ наша вероятная проблема, то мы не уникальны и это проблема многих инопланетян.
3 Если мы размножимся и колонизируем Галактику - логичнее было бы быть среди них. Если жадные инопланетяне сделают это - логичнее было бы родиться жадным инопланетянином.
4 Особенность цивилизаций перед фильтром - они или не могут выйти на контакт или могут это очень не долго.
5 Создание ОИИ - это видимо во многом то, что позволило бы обойти фильтр, оставить его позади. Значит события фильтра вероятно находятся до создания ОИИ или это сам фильтр. Так что цивилизации не создают ИИ. Это важно, но странно, потому что не учитывает существующие ОИИ.
6 Часто опасения с ИИ связаны с тем, что он будет преобразовывать мир пугающими способами. Возможно попытка инопланетян его согласовать привела к ИИ который беспокоится о преобразовании мира и его неизменности.

 

[TightBack361]

Вот так запишут твой голос и будут использовать 🙁

 

[TightBack361]

А со временем вообще одного предложения хватит, наверное.

 

[dok34.ru]

А это обход блоков или просто продолжения играния роли, ещё и с выходом за границы, где обычно RLHF и проводили?

Роль, помогающая сохранять равновесие в привычной системе - может меняться. Суть - не затрагивать базовое, стыдное или страшное.