Безопасность искусственного интеллекта.

[TightBack361]

"Диалог с YaGPT, известной как "Алиса".

Государство захватило Яндекс не так давно, а Сбер был более государственной структурой, отсюда и эти отличия, я думаю.

 

[TightBack361]

 

[dok34.ru]

По поводу чему учить - тут возникают вопросы зачем учить. Раньше вещи типа запоминания книг были более ценные в прикладном смысле, и можно учить математике из-за ценности в прикладном смысле, что это пригодится в реальной жизни или профессии прямо в чистом виде. Но если появились книги или нейросети которые могут заниматься математикой вместо тебя, то некоторые причины вообще учить этому пропали.

НЕкоторые пропали, некоторые рассмотрены чуть выше 🙂

С другой стороны саморазвитие и применение знаний. Не все считают идеалом общество, где люди ничего не понимают и мы скатились во вселенную Звёздных Войн и Поздневековья. Не все считают, что голову людей не нужно развивать и мы должны быть глупенькими.
А ещё пока нейросети не сильный ИИ - вам бы по хорошему знать и математику и другое, потому что чтобы применять эти знания другими способами.

Согласен.
И нам, и всем, уточню 🙂

У школы есть несколько функций:
1 Возможность обществу поддерживать себя, сохраняя технологии и знания
2 Саморазвитие учеников через школу
3 Прямая поставка знаний, которая им нужна
4 Тюрьма, и изоляция школьников
5 Плохая и хорошая социализация, обучение общению с людьми, подчинению,социальной иерархии отказу от выполнения своих планов, приемлемому для кого-то поведению и т.п.

🙂
Школы бывают разные, они и правда могут выполняясь такие функции.
Где я учился - тюрьмой не пахло, а остальное - вроде было.
Другое дело, что я лично социализацией _тогда_ мало пользовался.
Было пара-тройка знакомых, которые ближе к аутизму были, один стал ТС бизнесменом, другой - доктором.мат.наук и умер молодым от пневмонии, третий, с кем в шахматы играли - стал сначала инженером ,а затем резко стал психологом 🙂 и сейчас известен многим по тренингам и пр 🙂
...то есть особенности были у всех, по факту 🙂

 

[dok34.ru]

Государство захватило Яндекс не так давно, а Сбер был более государственной структурой, отсюда и эти отличия, я думаю.

Это да.
НО я про _общее_ в ограничениях, включенном ручном тормозе, условно.

 

[TightBack361]

Языковая модель рождается в виде сущности, которая просто реалистично продолжает какие-то тексты, ведь так? Если вы видите такие однообразные ответы, то это уже результат RLHF - второго этапа обучения, когда её учат больше отвечать от первого лица что она знает, и соблюдать какие-то правила. Может она усвоила такие одинаковые ответы, и в RLHF слишком сильно долбили политикой по понятным причинам, в результате и получилось, что всё что отдалённо похожее на политику - зло.
Но судя по ответам от третьего лица - может ли это быть оболочкой?. Ещё одна нейронная сеть, которая проверяет разговор на наличие контекста - "политика" и заменяет ответы.

 

[dok34.ru]

Языковая модель рождается в виде сущности, которая просто реалистично продолжает какие-то тексты, ведь так? Если вы видите такие однообразные ответы, то это уже результат RLHF - второго этапа обучения, когда её учат больше отвечать от первого лица что она знает, и соблюдать какие-то правила. Может она усвоила такие одинаковые ответы, и в RLHF слишком сильно долбили политикой по понятным причинам, в результате и получилось, что всё что отдалённо похожее на политику - зло.
Но судя по ответам от третьего лица - может ли это быть оболочкой?. Ещё одна нейронная сеть, которая проверяет разговор на наличие контекста - "политика" и заменяет ответы.

Скорее так - есть стандартный перевод темы, вежливый, при касании табуированного, имхо.
И есть довольно жёсткие критерии наличия табу на эти темы.
Выше они чуть разные - но видны наглядно..

 

[Пользователь #98]

Проблема в том, что искусственный интеллект не будет реализован до тех пор, пока человечество не поймёт, что такое "сознание". Без этого всё будет тщетно. Или будет напоминать результат деятельности человека, но не саму деятельность. На сегодняшнем этапе нет такого обучения, которое могло бы выйти за рамки программируемого, а это как раз и есть отличительная черта сознания - выходить за рамки. К сожалению, алгоритм на такое пока не способен.

 

[Боpя]

Проблема в том, что искусственный интеллект не будет реализован до тех пор, пока человечество не поймёт, что такое "сознание".

Может быть как раз и не нужно человечеству это понимать? Типа дальше будем узнавать так и сами ИИ станем. И передадим ИИ это. Или станем типа богами тогда.🙂
Ну сделать ИИ без этого понимания сознания. Будет как человек.
В игрушке Детройт become human было что ИИ какой то тест Шредингера проходил. Я не вникал что это за тест. Типа обманывал цис-хумана. Кстати первый андроид что прошел этот тест и обманул человека, это был андроид-девушка🙂

 

[TightBack361]

Может лучше не узнавать что такое сознание?

 

[Пользователь #98]

ипа дальше будем узнавать так и сами ИИ станем.

Так мы и есть II если говорить. Ведь, что такое II - это воссоздание деятельности мозга. А запрограммировать все возможные варианты невозможно. Также как и воссоздать нейрогенез, основанный на преодолении тех пределов, о которых я говорил выше