Безопасность искусственного интеллекта.

[dok34.ru]

Понимаешь, это даже противоречит самой логике II - потому что, чтобы делать интеллект, нужно знать, как он устроен. А человек значет очень мало. Да, оно знает, что где находится, но КАК это работает - пока никто не знает. И это загадка будет ещё очень многое время существовать. И, как я понимаю, вероятно, никогда не решится... :/

...либо решится🙂
И что будет?
Если развитие и воспитание такого мозга будет грамотным?
Сейчас это хайп больше, имхо

 

[dok34.ru]

Искусственный интеллект применил ядерное оружие "для установления мира во всем мире" в симуляции войны / ИноСМИ / NewsStreet - новости, переводика, комментарии

newsstreet.ru

...он за всё хорошее🙂
Моральное обоснование как у ...известного генерала или ряда добрых форумчан🙂

 

[TightBack361]

Она даже понимать не умеет. Тут вопрос в другом. У нас, допустим, есть вопрос, на который мы хотим получить ответ. И у нас есть "нейросеть", которая обучена, на 10B файлах информации. Она даст ответ только в тех пределах, на которых её обучили. Она не будет думать. Она будет "предугадывать", грубо говоря. А это предугадывание. Сознание, или же что-то похожее на него, это тогда, когда база есть, но есть вопрос, а ты отвечаешь на него так, как это не запрограммировано базой. Именно это можно назвать сознанием. Т.е. выходом за рамки.

Ох, я просто не совсем понимаю почему он уже не выходит за рамки в чём-то. Да, явно чего-то не хватает, но настолько ли.
Интересно, что предсказывает эта идея. Что "не может" попугай. Вот что бы кого-то убедило что это не попугай? (И если это попугай, то где окончится его развитие)

Савельев ...это не тот который много вызывающе странного говорил? Якобы ИИ работает на двоичном коде аристотелевской логике. (может он фигурально) Я не понимаю что он имеет в виду под своими словами про отсутствие обучения и "все варианты". Все варианты чего именно?
Но похоже на явную глупость "перепаивать связи или запрограммировать их, а если запрограммировать, то нужно предусмотреть все варианты" (а если перепаивать, то не нужно?)
Если процессы известны, то их можно просто эмулировать и всё.
Ну и если он хочет жидкие нейронные сети, то они есть.

 

[dok34.ru]

Ох, я просто не совсем понимаю почему он уже не выходит за рамки в чём-то. Да, явно чего-то не хватает, но настолько ли.
Интересно, что предсказывает эта идея. Что "не может" попугай. Вот что бы кого-то убедило что это не попугай? (И если это попугай, то где окончится его развитие)

Савельев ...это не тот который много вызывающе странного говорил? Якобы ИИ работает на двоичном коде аристотелевской логике. (может он фигурально) Я не понимаю что он имеет в виду под своими словами про отсутствие обучения и "все варианты". Все варианты чего именно?
Но похоже на явную глупость "перепаивать связи или запрограммировать их, а если запрограммировать, то нужно предусмотреть все варианты" (а если перепаивать, то не нужно?)
Если процессы известны, то их можно просто эмулировать и всё.
Ну и если он хочет жидкие нейронные сети, то они есть.

Может не совсем понимаете?
Уважаемый Пользователь вполне пояснил, вроде, отчего это не сознание, и отчего речь идёт именно про _ угадывание _, а не про думание.
Грубо...помните Уила?
Когда он не понимал, не знал, и _ не хотел_ гуглить, то он ( обычно) старался угадать.
Видимо ему, в прошлом, это удавалось успешно.
Раз такая реакция закрепилась...

 

[TightBack361]

У него вообще может получаться, что это только классификация и нужно специально устанавливать связи между ними. Это не так.

 

[TightBack361]

Может не совсем понимаете?
Уважаемый Пользователь вполне пояснил, вроде, отчего это не сознание, и отчего речь идёт именно про _ угадывание _, а не про думание.
Грубо...помните Уила?
Когда он не понимал, не знал, и _ не хотел_ гуглить, то он ( обычно) старался угадать.
Видимо ему, в прошлом, это удавалось успешно.
Раз такая реакция закрепилась...

Я искренне не понял.
Ну он предсказывает реалистичные тексты, было бы странно если бы он не пытался угадывать и писать реалистично похожую неправду.

 

[dok34.ru]

Я искренне не понял.
Ну он предсказывает реалистичные тексты, было бы странно если бы он не пытался угадывать и писать реалистично похожую неправду.

... И это, да, не сознание🙂
Он об этом говорит, справедливо имхо
Просто мы с ним ...малость сознанием интересуемся...и прочими смежными 🙂

 

[TightBack361]

... И это, да, не сознание🙂
Он об этом говорит, справедливо имхо
Просто мы с ним ...малость сознанием интересуемся...и прочими смежными 🙂

Блин, вы же сами не скажете, что такое по вашему сознание. Это просто что-то такое общее, "что должно быть у ИИ, но я не знаю что", с этим мы вообще далеко не уедем.
Вот утконос обладает слабым интеллектом, но обладает ли он "сознанием" в вашем понимании слова? (Если бы его научили говорить, то он скорее нёс бы чепуху, хотя и выучил бы слова вроде "хочу кушать", потому что глупенький)
Вы попросту говорите о вещи, которую вообще не представляете и говорите что она нужна. Вам нужно "сознание" как магия. Но может быть это отчасти просто попытка связать всё со всем. Брать одни паттерны и применять к другим ИИ умеет.

На конкретных примерах. Что сможет попугай а что не сможет? Где должно остановиться его развитие и почему? Как проверить что это попугай и не попугай?

 

[TightBack361]

Иначе вы просто не увидите "сознание", пока ИИ не станет достаточно сильным. Вы бы посчитали что утконос не ИИ. Пока не будет уровня человека.

 

[Боpя]

Искусственный интеллект применил ядерное оружие "для установления мира во всем мире" в симуляции войны / ИноСМИ / NewsStreet - новости, переводика, комментарии

newsstreet.ru

...он за всё хорошее🙂
Моральное обоснование как у ...известного генерала или ряда добрых форумчан🙂

Фиг знает. Ведь не_применение ядерного оружия типа тож за всë хорошее.
Тогда лучше бы не было ядерного оружия, и не было испытаний ядерного оружия. Типа зачем надо было придумывать? Дало ли создание ядерного оружия положительный эффект? Хотя дало имхо.
Помню все 90-е французы носились со своей ядеркой и проводили испытания на атолле. Ой, тогда скок было кипиша вокруг этого что французы загрязняют природу.