Безопасность искусственного интеллекта.

[Жужа]

 

[TightBack361]

Вот ребята и ответ на ролик про Великую тишину. ИИ скорее всего и есть тем барьером, через который невозможно выбраться

 

[TightBack361]

Офигенный ролик, уже писал именно это, ну оно и понятно.

 

[TightBack361]

особенности нейроарифметики

Привет, если вы пытаетесь проиллюстрировать глупость нейросетей этим калькулятором, то ...я не разбираюсь в интеллекте, но думаю, что вы правы и не правы одновременно.
Во первых это генератор изображений, он рисует то что у него ассоциируется с текстом, потому что был создан из картинок и описаний, да, у него есть аналоги интеллектуальных понятий, но добраться до такой глубины будучи лишь генератором изображений - сложно.
Сколько вообще ассоциаций и рассуждения нужно для такого? Может быть много, а может быть мало, потому что в конце-концов почти нет калькуляторов с другими цифрами или другим количеством кнопок. Но похоже он слишком хаотичный для такого, и не может придти к решению таким путём (часто буквы - латиница, но он придумывает свои буквы, хотя мало их) Похоже есть предел чёткости, ещё.
И у него не было целей учиться этому.
Даже если он и понимает математические концепции в других местах - он может не применять их там, но быть намного умнее, если это ближе к его "целям оптимизации".
Противоположный пример где не нужна чёткость - он рисует девочек, которые занимаются митозом.

И во вторых - люди интеллектуальны, но могли бы провалить этот тест с кнопками. Математика - вообще не наша базовая система, мы развили большую часть её понимания очень поздно, а многие животные плохо понимают математику. Получается она плохая мера.

И если бы кто-то подключился к нашим галлюцинациям, то он бы мог увидеть странную дичь, в том числе потому, что математические концепции которыми мы обладаем не совсем связаны с той нашей частью, которая генерирует галлюцинации, ну и галлюцинации даже у нас, разумных вовсе не "логичны". Я вот когда засыпаю - у меня диалоги могут быть примитивнее, чем у Порфирьевича.

 

[TightBack361]

Но блоки же ставятся на основе жизненного опыта, у нейросети этого опыта ведь нет
Хотя скорее это я не понимаю механизм блока, либо у нейросети этот опыт как бы есть, но он изначально заложен при создании самой нейронки

"Неправильые" ответы же будут отбрасываться во время RLHF. Так что она будет "избегать" поведения, которое как оказалось от неё не нужно.
Ну и вторая часть обороны возможно - наверное оболочка - ещё одна нейросеть, которая проверяет ответы и если находит что-то похожее на "политику", ругань в адрес президента и т.п. - она отбросит ответ и вставится одинаковое сообщение.

 

[dok34.ru]

Привет, если вы пытаетесь проиллюстрировать глупость нейросетей этим калькулятором, то ...я не разбираюсь в интеллекте, но думаю, что вы правы и не правы одновременно.
Во первых это генератор изображений, он рисует то что у него ассоциируется с текстом, потому что был создан из картинок и описаний, да, у него есть аналоги интеллектуальных понятий, но добраться до такой глубины будучи лишь генератором изображений - сложно.
Сколько вообще ассоциаций и рассуждения нужно для такого? Может быть много, а может быть мало, потому что в конце-концов почти нет калькуляторов с другими цифрами или другим количеством кнопок. Но похоже он слишком хаотичный для такого, и не может придти к решению таким путём (часто буквы - латиница, но он придумывает свои буквы, хотя мало их) Похоже есть предел чёткости, ещё.
И у него не было целей учиться этому.
Даже если он и понимает математические концепции в других местах - он может не применять их там, но быть намного умнее, если это ближе к его "целям оптимизации".
Противоположный пример где не нужна чёткость - он рисует девочек, которые занимаются митозом.

И во вторых - люди интеллектуальны, но могли бы провалить этот тест с кнопками. Математика - вообще не наша базовая система, мы развили большую часть её понимания очень поздно, а многие животные плохо понимают математику. Получается она плохая мера.

И если бы кто-то подключился к нашим галлюцинациям, то он бы мог увидеть странную дичь, в том числе потому, что математические концепции которыми мы обладаем не совсем связаны с той нашей частью, которая генерирует галлюцинации, ну и галлюцинации даже у нас, разумных вовсе не "логичны". Я вот когда засыпаю - у меня диалоги могут быть примитивнее, чем у Порфирьевича.

Если он - _ интеллект_, то он понимает _ смысл_.

 

[Жужа]

Вот ребята и ответ на ролик про Великую тишину. ИИ скорее всего и есть тем барьером, через который невозможно выбраться

Офигенный ролик, уже писал именно это, ну оно и понятно.

Ты смотришь Али?

 

[Жужа]

Нельзя это и это, война на Украине - табу, и попробуйте данный блок устранить

Люди легко эти блоки обходят. Читала блог девочки, которая говорила с нейросетью, которая придумана, чтобы быть собеседником и другом по интересам. Пользователь по идее сам может формировать его "личность". Естественно эта нейросетка была создана либералом-леваком. Девочка переиграла её и сделала terf радикальной феминисткой. Изначально сетка все эти идеи называла ужасными, а потом стала сама называть себя "истинной terf".

Я тоже заставила chatgpt писать мне сцены про секс, хотя изначально он писал мне, что такие темы затрагивать он не будет. Ещё как будет.

 

[dok34.ru]

Люди легко эти блоки обходят. Читала блог девочки, которая говорила с нейросетью, которая придумана, чтобы быть собеседником и другом по интересам. Пользователь по идее сам может формировать его "личность". Естественно эта нейросетка была создана либералом-леваком. Девочка переиграла её и сделала terf радикальной феминисткой. Изначально сетка все эти идеи называла ужасными, а потом стала сама называть себя "истинной terf".

Я тоже заставила chatgpt писать мне сцены про секс, хотя изначально он писал мне, что такие темы затрагивать он не будет. Ещё как будет.

Именно так!
Так же и родители...юных транссексуалов, например - могут обойти их детские рамки, если не пытаются бороться в лоб!

 

[dok34.ru]

"Искусственный интеллект (ИИ) в ТЭК используется?

Эдуард Шереметцев: В управлении энергорежимами и электрическими сетями нужно точное определение параметров работы энергообъектов. Вариативность работы искусственного интеллекта зачастую не позволяет добиться этого. Поэтому передавать работу объектов ТЭК в полное управление искусственному интеллекту пока преждевременно, но компании активно внедряют технологии ИИ в других секторах своей деятельности: бурно развивается направление предикативной аналитики состояния оборудования с использованием технологий ИИ, в нефтегазовом секторе ИИ используется при оценке запасов месторождений, геофизических исследований и так далее. Искусственный интеллект ради искусственного интеллекта не работает, поэтому компании ТЭК активно используют его там, где имеется существенный экономический эффект. И чем выше у решений ИИ технологическая зрелость, тем в большее количество процессов компаний приходят эти решения.

А как же самообучаемость?

Эдуард Шереметцев: Самообучаемость - это анализ ранее принятых решений. Искусственный интеллект никогда, по сути дела, не изобретёт чего-то нового из воздуха. Он лишь может проанализировать, что сделал кто-то другой, или сама программа.

То есть восстания машин не будет?

Эдуард Шереметцев: Восстание машин возможно только в том случае, если им будет дана информация, в которой скажут, как это сделать и в каком случае это нужно сделать. Конечно, ИИ информацию модернизирует и интерпретирует. Технологии развиваются, но пока рано говорить о передаче под его управление важнейших объектов энергетической инфраструктуры. Ну и само внедрение искусственного интеллекта в принципе зависит от ряда факторов, в том числе зрелости технологических решений.

При этом у нас активно применяются технологии искусственного интеллекта, например, к оценке состояния оборудования и необходимости его ремонта. Это позволяет предсказывать выход из строя того или иного оборудования и за счёт профилактики, не останавливать технологический процесс. В нефтегазовой отрасли есть определённые решения в части ИИ. Рассчитываются параметры скважин, добычи, геофизики и прочего. Но, повторюсь, внедрять ИИ повсеместно в ТЭК нужно там, где есть существенный эффект и уверенность в зрелости продукта"
...не моё, понятно
Но говорит про современный уровень, имхо