Безопасность искусственного интеллекта.

[Мурз]

Плюс я не могу любить ее за то, что она оставит без работы большое количество человек и сделает их несчастными (имхо)

Ну как бы не огромное. Да и рынок труда все воемя реформируется. Ты же не ездишь на работу на извозчике))

 

[konstantin]

Ну как бы не огромное. Да и рынок труда все воемя реформируется. Ты же не ездишь на работу на извозчике))

Да, понимаю о чем ты. Но ИИ слишком повышает продуктивность и мне видится, что столько раб. силы уже не нужно, даже той которая переучится использовать ии с своей работе.

Буду рад, если ошибаюсь

 

[Жужу]

Да, понимаю о чем ты. Но ИИ слишком повышает продуктивность и мне видится, что столько раб. силы уже не нужно, даже той которая переучится использовать ии с своей работе.

Буду рад, если ошибаюсь

когда банкоматы изобрели, тоже были страхи, что столько работников в банки будет не нужно. но их стало больше, потому с банкоматами стало дешевле открыть отделение банка, их количество выросло, и там были нужны работники.
это частая мысль, что в экономике есть какой-то фиксированный объем работы. "если машины будут работать больше, люди будут работать меньше". и с каждым витком технологического прогресса был страх, что теперь кучу людей будет "списана" за ненадобностью. и каждый раз этот страх не оправдывался.
просто появятся другие работы

 

[Мурз]

Да, понимаю о чем ты. Но ИИ слишком повышает продуктивность и мне видится, что столько раб. силы уже не нужно, даже той которая переучится использовать ии с своей работе.

Буду рад, если ошибаюсь

Ну не ии а общая роботизация в производстве и логистике.
Когда то на смену ручному труду пришли станки и только благодаря этому многие ващи нам сейчас доступны, а маштабная механизация сх наконец накормила.
А я обожаю рост оптимизации и производительности труда. Ну конечно оптимизироватся придется. Ну и что что машина вышивает к примеру. Мастера то тоже есть.

 

[konstantin]

Согласен, просто страдать на эту тему непродуктивно, нужно действовать. Вот сегодня прочитал

 

[Борис]

Да, понимаю о чем ты. Но ИИ слишком повышает продуктивность и мне видится, что столько раб. силы уже не нужно, даже той которая переучится использовать ии с своей работе.

Буду рад, если ошибаюсь

Моё личное мнение что чот будет. И с твоими страхами я согласен.
Это не мотыга, не комбайн, не двигатель внутреннего сгорания, и даже не банкомат. Это ИИ.
В общем поживём-увидим я думаю.

 

[dok34.ru]

Ну как бы не огромное. Да и рынок труда все воемя реформируется. Ты же не ездишь на работу на извозчике))

..."чтоб запрячь тебя я утром оправляюся
от Сокольников до Парка на метро"
..🙂

 

[dok34.ru]

"Решил заняться оригами,
простой бумаги не нашёл.
Взял два рулона пергамина -
ворона вышла хорошо..."
...😉

 

[Ксюша]

Я бы не хотел уходить в критику подхода Ксюши. Мы говорили в целом про эти технологии. Например, я каждый день использую в работе, мне нравится, но пока мой интеллект должен хорошо фильтровать все что "несет" ии-шка. Меня бесит только слепая любовь к ии и 100 процентное преклонение перед всем, что ии генерирует.

Плюс я не могу любить ее за то, что она оставит без работы большое количество человек и сделает их несчастными (имхо)

Ии не предлагает простые схемы, в отличие от людей. Наш биомозг скатывается к простым решениям. Какой-то простой один фактор уберем -- и заживем. Отсюда однофакторные теории психики, болезней, и даже политичиеских проблем. Сделаем простую операцию на мозге (лоботомию) -- и все будет хорошо, уберем мы этих ненавистных людей , и заживем. И это постоянно встречается в развитии теорий. Люди плохо переносят сложность, нелинейность и неоднозначность плюс постоянный страх изменений, страх за сохранность своего тела. Физика тоже может этим страдать. Откуда такая любовь к симметрии у физиков? Сейчас еще про суперсимметрию говорят как про основу основ.

У ИИ , по крайне мере, пока физического тела нет, за сохранность которого так человечек трясется. Никто же не хочет в застенках оказаться. Вот и будут когнитивные искажения одно на другое нанизываться ради сохранения тела. Но есть те, кто могут пожертвовать телом ради истины. С этого философия начинается.

 

[tightback_aa_rig32]

А вам не кажется, что современные алгоритмы рекомендации контента (твиттер и даже ютуб) это очень мягкий пример восстания машин почти прямо по Юдковскому? (закон Гудхарта, игра со спецификацией)?
Что делает алгоритм рекомендации? Он должен предлагать вам тот контент, который должен быть вам интересен и ещё возможно увеличивать вашу вовлечённость... А если точнее - увеличивать в вашем показе то, что вы с какой-то долей вероятностью кликните. Есть много способов достичь этой цели и многие из этих способов нам очень не нравятся, но с точки зрения самого алгоритма возможно и нет разницы.
Ругань, доведение до самых плохих чувств с точки зрения алгоритма это такие же хорошие способы достичь цели, как и всё остальное, вам не нужно было как-то отдельно учить его этому. А дальше дело техники - оно само находит признаки которые связаны с результатом "у такого то кластера, в случае если они пишут "я ненавижу X" нужно показывать им больше X в предложении, это максимизирует их переходы", "ругань и плохие слова статистически связанные с такими то вещами приводят к вовлечённости", "у некоторых пользователей есть маркеры психических расстройств, они уязвимы к таким то вещам, другие нет...".

В системе рекомендации ютуба есть фича - она определяет среди пользователей педофилов и показывает им очень эротизированные видео с детьми. И алгоритм судя по всему решил что это некий подтип "эротических видео" и применяет те же подходы и к видео с детьми, он сам ищет их и даже выбирает картинки-превьюшки к ним, часто он вполне понимает, что нужно как-то ухитриться сфотографировать трусы на привьюшке... Это не педофилы, это судя по всему алгоритм.

Это всё вырастет из простого правила "показывать то на что они кликнут", а кончится анализом пользователей на психические уязвимости и максимизацией ругани. Само. Вы не хотели. Оно хотело.