Безопасность искусственного интеллекта.

[TightBack361]

Привет.

1) Осознавание себя (как человека, животного и т.п)
2-е) Это способность делать то, что ещё никто никогда не делал.

По моему это количественные вещи и современные языковые модели уже на каком-то уровне могут всё это. Слабый искусственный интеллект будет просто делать это ограниченно как-нибудь, на слабом уровне и т.п.
Ты говоришь о сознании не как о "чувствах", а о связной модели мира, способности принимать качественные решения, то есть "понимании" (интеллект), наверное. Кажется это именно то, чего и хотят достичь разработчики ИИ и то над чем они во многом пытаются работать.

Нейросеть в данный момент не может восстать, уничтожить интернет и т.п.

Ограниченность Интернетом - вообще не проблема для умного ИИ. Даже человеческого уровня. Мне кажется, если бы я был бесплотным умом требующим много видеокарт для своего запуска я бы уже наоборот мог захватить мир.

 

[TightBack361]

 

[TightBack361]

Серьёзно - все бы придумали много способов захватить мир в этом случае, да?

 

[Боpя]

1) Осознавание себя (как человека, животного и т.п)

Это да. ИИ непонятно как себя осознавать будет.

2-е) Это способность делать то, что ещё никто никогда не делал.

Грубо говоря:
Представим, у нас есть Нейросеть, обученная на познаниях фантастической литературы. За рамки этой фантастической литературы она никогда не выйдет, а человек мог бы. Ибо он может искать что-то новое, на основе своего опыта создавать это что-то новое.

Мы не можем дать точное понятие сознанию, а следовательно и самому интеллекту.

Я не думаю что это прям никто и никогда не делал. Например сделал ты первый шаг в жизни, это делали многие, и многие осознавали себя как человека, животное. И это обычный первый шаг но для человека это важно. Потому что это человек сделал, его Я это сделало.
Ну вот в шахматы ИИ играет лучше человека
Тут непонятно. То ли за счет точности, техники игры, или за счет счета. Но делает ИИ то что человек никогда не делал. И никогда не сделает.
Причем ИИ самообучается игре в шахматы.
Но это еще под вопросом за счет чего ИИ играет в шахматы лучше человека.
Но так то по первому пункту - ИИ не осознаëт себя. Вот в Терминаторе Скайнет себя осознала.

 

[TightBack361]

Это да. ИИ непонятно как себя осознавать будет.

А я вот не знаю как я осознаю себя. А ты как осознаёшь себя? Тут по моему про понимание и ощущения всякие.
Но так уже GPT в некотором смысле осознаёт себя. Он может придумать выдуманный интернет, где можно зайти на сайт ChatGPT и пообщаться на выдуманном сайте с выдуманным им ChatGPT.
Но наверное чтобы быть компетентным в окружающем мире и достигать целей не обязательно осознавать себя, знать про себя, или не больше, чем про другие "вещи".

И это обычный первый шаг но для человека это важно.

У меня был манеж, а рядом иногда стояло кресло на колёсиках. Я облокачивался как-то на него.

Ну вот в шахматы ИИ играет лучше человека

В шахматы даже просто обычные программы играют лучше, наверное простая стратегия, и мало всего изучать. Мир очень простой. И для того чтобы играть в шахматы не обязательно осознавать себя, тебя нет в мире шахмат, в котором ты играешь.

 

[Пользователь #98]

Понимаешь, сознание, на мой взгляд - это прежде всего понимание того, кем ты являешься. Т.е. у тебя есть определенные знания, опыт, весь этот опыт и формирует твою личность, но в этой личности есть то, что было всегда - с самого рождения. Константа. Именно эту константу нельзя изменить, улучшить и т.п. А вот что это такое? Каким образом она формируется?

Насчёт шахмат и т.п. отвечу так: это простой математический алгоритм. Есть поле, оно анализирует это поле и выбирает на основе комбинаторики наилучший результат. Это даже не имитация интеллекта, это простой алгоритм. Математика...

Я хочу сказать то, что суть ИИ - это выйти за рамки обучающего механизма. Т.е. когда она обучается так, как в неё не заложено. Проблема в том, что этого нет. И в ближайшее время не будет...

 

[Боpя]

Насчёт шахмат и т.п. отвечу так: это простой математический алгоритм. Есть поле, оно анализирует это поле и выбирает на основе комбинаторики наилучший результат. Это даже не имитация интеллекта, это простой алгоритм. Математика...

Наверное это из-за магии шахмат. Типа раньше гроссмейстеры считались крутыми. Ну и амбиции тоже человеческие.
А потом комп стал их как детей обыгрывать.

 

[Боpя]

А я вот не знаю как я осознаю себя. А ты как осознаёшь себя? Тут по моему про понимание и ощущения всякие.

Фиг знает. Про ощущение типа есть тест что если вы ничего не чувствуете, но если вам врезать по ноге то всë вы почувствуете и боль и прочее
Но это наверное не то. Просто такой образ вспомнился
Осознание себя это наверное даж не осознание кто ты и что ты, или какой размер члена у тебя или сисек.
Фиг знает вот как то осознаю себя, что я есть.

 

[Боpя]

Но наверное чтобы быть компетентным в окружающем мире и достигать целей не обязательно осознавать себя, знать про себя, или не больше, чем про другие "вещи".

Ну тут скорее о роботах речь. Типа есть у робота функции, допустим сделали ему функции заряжаться от розетки, ходить на работу и типа работу работать. Приходить с работы и снова заряжаться от розетки. Но это не ИИ. Это тот же станок токарный на заводе что ли.

 

[Боpя]

Понимаешь, сознание, на мой взгляд - это прежде всего понимание того, кем ты являешься. Т.е. у тебя есть определенные знания, опыт, весь этот опыт и формирует твою личность, но в этой личности есть то, что было всегда - с самого рождения. Константа. Именно эту константу нельзя изменить, улучшить и т.п. А вот что это такое? Каким образом она формируется?

По моему можно вполне ошибаться в том кем ты являешься. И ничо. Всë равно от этого ты себя не меньше осознаëшь наверное.