Безопасность искусственного интеллекта.
- Автор темы TightBack361
- Дата начала
dok34.ru
Moderator
"Кибернетические организмы, по научно-фантастическим книгам и фильмам, представлялись в виде некой сложной механики, подвластной человеческому разуму. Самое простое, что приходит на ум – Робокоп. Боевой робот с частью головы погибшего полицейского. Сохранившийся мозг символизирует личность, лицо демонстрирует человечность. Огромная сила машины, ее броня, надежность и неприхотливость, множество полезных девайсов на все случаи жизни… Одно время казалось, что в этом возможное будущее человечества. Совершенствовать тело с помощью всевозможных приблуд, увеличивать продолжительность жизни меняя выходящие из строя части тела на искусственные, вплоть до полной роботизации. Будущее наступило, киборги во множестве среди нас, только не такие какими они представлялись в наивно-восторженном ХХ веке.
Человечество не смогло разработать хоть что-то, такое же совершенное, как человеческое тело. Нет и портативного источника энергии. Не решено преобразование нервных импульсов в управляющие сигналы. Все эти нейроинтерфесы – слезы, в сравнении с ожиданиями. Робототехника, конечно, развивается, появились роботы пылесосы, доставщики, различные дроны, экзоскелеты, роботы-собаки и даже что-то на двух ногах у БостонДинамикс... Но это всё или утилитарно-примитивно, не имеет кибернетических перспектив, или вау-спецэффекты, далекие от реального применения, попил венчурных инвестиций, падких на такое шейхов и постсоветских олигархов.
Кто же те «киборги среди нас», о которых я писал в начале статьи?
Таксисты, курьеры, сборщики заказов в распредцентрах, вебкамщицы… Они давно отключили сознание и отдали свои тела под управление различных программ. Слабым звеном прогресса оказался человеческий разум. Как это не парадоксально. А вот тело – в дело! Оно вполне конкурентно и может послужить.
И это мы еще практически не взаимодействуем с молодежью, впитавшей постмодерн с молоком матери – они пока где-то «учатся». Проводя всё время в соцсетях, компьютерных играх, видосиках невозможно быть сильным, здоровым, энергичным. Вялые, сутулые, хлипкие… Не имея опыта взаимодействия ни с чем сложнее мышки, они не способны ни к физическом, ни к созидательному труду. Но, возможно, растет гениальное поколение когнитивного творчества, которое удивит нас прекрасным контентом, научными открытиями?
Домашние задания делает Алиса, или ЧатГПТ. Они пишут сочинения, делают переводы, решают задачи и примеры. Дети лишь старательно записывают под диктовку или срисовывают (даже не списывают!) с экрана. Неудивительно, что выходя на работу они также пытаются вместо себя заставить работать ИИ. Написать письмо, сделать таблицу, подготовить отчет… Они даже в чат в качестве ответа/аргумента вставляют ИИшные перлы и на них же ИИшные комментарии. При этом молодые люди уверены, что они свою работу делают хорошо, являются носителями прогрессивного навыка (связь с ИИ), а их окружают древние динозавры, которые ничего не понимают.
Проблема в том, что если ребенок ни в школе, ни в ВУЗе ни разу ничего не сделал самостоятельно, лишь копипастил ответы, даже не осознавая их смысл, то на выходе получается киборг – человеческое тело, начисто лишенное собственного разума и интернет-сознание, скомпилированное из ИИ, блогов, повестки. При этом наведенное самомнение порой зашкаливает.
Это неправильные «киборги», не такие, какими их представляли люди, чтобы не путаться предлагаю называть «гробики» (киборг наоборот – гробик). Зомби с интернетом…"
...не моё🙂
Но - немножко форумное😉
Человечество не смогло разработать хоть что-то, такое же совершенное, как человеческое тело. Нет и портативного источника энергии. Не решено преобразование нервных импульсов в управляющие сигналы. Все эти нейроинтерфесы – слезы, в сравнении с ожиданиями. Робототехника, конечно, развивается, появились роботы пылесосы, доставщики, различные дроны, экзоскелеты, роботы-собаки и даже что-то на двух ногах у БостонДинамикс... Но это всё или утилитарно-примитивно, не имеет кибернетических перспектив, или вау-спецэффекты, далекие от реального применения, попил венчурных инвестиций, падких на такое шейхов и постсоветских олигархов.
Кто же те «киборги среди нас», о которых я писал в начале статьи?
Таксисты, курьеры, сборщики заказов в распредцентрах, вебкамщицы… Они давно отключили сознание и отдали свои тела под управление различных программ. Слабым звеном прогресса оказался человеческий разум. Как это не парадоксально. А вот тело – в дело! Оно вполне конкурентно и может послужить.
И это мы еще практически не взаимодействуем с молодежью, впитавшей постмодерн с молоком матери – они пока где-то «учатся». Проводя всё время в соцсетях, компьютерных играх, видосиках невозможно быть сильным, здоровым, энергичным. Вялые, сутулые, хлипкие… Не имея опыта взаимодействия ни с чем сложнее мышки, они не способны ни к физическом, ни к созидательному труду. Но, возможно, растет гениальное поколение когнитивного творчества, которое удивит нас прекрасным контентом, научными открытиями?
Домашние задания делает Алиса, или ЧатГПТ. Они пишут сочинения, делают переводы, решают задачи и примеры. Дети лишь старательно записывают под диктовку или срисовывают (даже не списывают!) с экрана. Неудивительно, что выходя на работу они также пытаются вместо себя заставить работать ИИ. Написать письмо, сделать таблицу, подготовить отчет… Они даже в чат в качестве ответа/аргумента вставляют ИИшные перлы и на них же ИИшные комментарии. При этом молодые люди уверены, что они свою работу делают хорошо, являются носителями прогрессивного навыка (связь с ИИ), а их окружают древние динозавры, которые ничего не понимают.
Проблема в том, что если ребенок ни в школе, ни в ВУЗе ни разу ничего не сделал самостоятельно, лишь копипастил ответы, даже не осознавая их смысл, то на выходе получается киборг – человеческое тело, начисто лишенное собственного разума и интернет-сознание, скомпилированное из ИИ, блогов, повестки. При этом наведенное самомнение порой зашкаливает.
Это неправильные «киборги», не такие, какими их представляли люди, чтобы не путаться предлагаю называть «гробики» (киборг наоборот – гробик). Зомби с интернетом…"
...не моё🙂
Но - немножко форумное😉
dok34.ru
Moderator
"1.
Современные языковые модели, такие как GPT, работают на основе анализа огромных массивов текстов. Они выявляют закономерности, частотные конструкции и смысловые связи, чтобы генерировать тексты, которые кажутся осмысленными и релевантными. Однако их "понимание" ограничено статистическими закономерностями, а не истинным осознанием смысла. Таким образом, они действительно "осредняют" вводимые данные, создавая нечто вроде синопсиса — обобщённого представления о том, что уже было сказано.2.
Человеческая культура и язык развивались как инструменты передачи опыта, знаний и моральных норм. Многие из этих идей, которые мы сегодня называем "морализаторством", на самом деле являются результатом длительного процесса эволюции человеческого мышления. Например, пословицы, притчи, религиозные тексты и философские трактаты — всё это формы передачи универсальных истин, которые помогают людям ориентироваться в мире.3.
Сегодня термин "морализаторство" часто используется с иронией или даже пренебрежением. Это связано с тем, что современное общество, особенно в эпоху постмодерна, склонно скептически относиться к любым попыткам навязать универсальные ценности или нормы. Моральные истины, которые раньше воспринимались как нечто само собой разумеющееся, теперь кажутся банальными, устаревшими или даже навязчивыми. Однако это не значит, что они потеряли свою ценность — скорее, их форма и контекст перестали резонировать с современным человеком.4.
Когда языковые модели генерируют тексты, они часто воспроизводят именно эти "осреднённые" моральные истины, которые тысячелетиями передавались в культуре. Например, модели могут легко сгенерировать текст о важности честности, доброты или трудолюбия. Но проблема в том, что эти выводы лишены глубины и контекста. Они становятся чем-то вроде "клише", которые, хотя и верны, не несут в себе эмоционального или экзистенциального заряда, который делал их значимыми для людей в прошлом.5.
Эта ситуация поднимает важный вопрос о роли технологий в передаче знаний. Лингвистические модели, будучи мощным инструментом, всё же ограничены в своей способности передавать истинный смысл и ценность моральных идей. Они могут воспроизводить форму, но не дух. Это заставляет задуматься о том, как мы, как общество, можем сохранить и передать глубину человеческого опыта в эпоху, когда знания всё чаще обрабатываются и передаются машинами.6.
Таким образом, языковые модели действительно "осредняют" тексты, воспроизводя то, что уже было сказано, включая моральные истины, которые сегодня часто воспринимаются как банальные или устаревшие. Однако это не делает эти истины бесполезными — скорее, это указывает на необходимость переосмысления того, как мы передаём и воспринимаем знания в современном мире. Возможно, задача будущего — найти способ соединить мощь технологий с глубиной человеческого опыта, чтобы моральные истины снова обрели свою значимость"...от ИИ 🙂
Мораль имеет значение🙂
dok34.ru
Moderator
"How to install TRELLIS?
<think>
Alright, the user is asking how to install TRELLIS. I remember that TRELLIS is related to Red Hat or IBM, so it's
probably a system management tool.
I should explain what TRELLIS is first to make sure they understand its purpose. Maybe mention it's used for
managing LPARs and HMC in Power Systems.
Next, I need to outline the installation steps clearly. Since TRELLIS has different versions, I'll cover both Red
Hat Enterprise Linux (RHEL) and Ubuntu installations.
For RHEL, I'll include how to enable the necessary repositories and install via yum. For Ubuntu, using apt makes
sense after adding the PPA.
I should also add some configuration steps like setting up SSH access for automation, checking the installation
with a simple command, and mentioning where to find documentation or support if they run into issues.
Keeping the language straightforward and avoiding technical jargon where possible will make it easier for them to
follow.
</think>
Trellis is a system management tool that can be used to manage Linux servers, particularly in environments running
on IBM Power Systems. It allows users to perform tasks such as managing Logical Partitions (LPARs), controlling
Hardware Management Console (HMC) settings, and monitoring system performance.
To install Trellis, follow these general steps:
### **1. Download Trellis**
- Visit the official IBM website or the repository where Trellis is hosted.
- Depending on your operating system (e.g., Red Hat Enterprise Linux, Ubuntu), download the appropriate version of
Trellis.
### **2. Install Trellis**
#### **For Red Hat Enterprise Linux (RHEL) or CentOS:**
```bash
# Enable the IBM Power Tools repository if not already enabled.
sudo yum-config-manager --enable ibm-power-tools
# Install Trellis.
sudo yum install trellis
```
#### **For Ubuntu:**
If you are using Ubuntu, you may need to use a different method or repository. Check the official documentation
for specific instructions.
### **3. Configure Trellis**
After installation, you may need to configure Trellis based on your environment. This typically involves:
- Setting up SSH access to the systems you want to manage.
- Configuring authentication (e.g., using SSH keys).
- Defining the managed systems in Trellis.
### **4. Verify Installation**
Run a simple command to check if Trellis is installed correctly:
```bash
trellis --version
```
This should display the version of Trellis installed on your system.
### **5. Further Documentation**
For more detailed installation and configuration instructions, refer to the official IBM documentation or the
repository where you obtained Trellis.
If you encounter any specific issues during installation, feel free to ask for further assistance!"
Я попросил помощи, она фантазирует 🙂
Да, это R1
<think>
Alright, the user is asking how to install TRELLIS. I remember that TRELLIS is related to Red Hat or IBM, so it's
probably a system management tool.
I should explain what TRELLIS is first to make sure they understand its purpose. Maybe mention it's used for
managing LPARs and HMC in Power Systems.
Next, I need to outline the installation steps clearly. Since TRELLIS has different versions, I'll cover both Red
Hat Enterprise Linux (RHEL) and Ubuntu installations.
For RHEL, I'll include how to enable the necessary repositories and install via yum. For Ubuntu, using apt makes
sense after adding the PPA.
I should also add some configuration steps like setting up SSH access for automation, checking the installation
with a simple command, and mentioning where to find documentation or support if they run into issues.
Keeping the language straightforward and avoiding technical jargon where possible will make it easier for them to
follow.
</think>
Trellis is a system management tool that can be used to manage Linux servers, particularly in environments running
on IBM Power Systems. It allows users to perform tasks such as managing Logical Partitions (LPARs), controlling
Hardware Management Console (HMC) settings, and monitoring system performance.
To install Trellis, follow these general steps:
### **1. Download Trellis**
- Visit the official IBM website or the repository where Trellis is hosted.
- Depending on your operating system (e.g., Red Hat Enterprise Linux, Ubuntu), download the appropriate version of
Trellis.
### **2. Install Trellis**
#### **For Red Hat Enterprise Linux (RHEL) or CentOS:**
```bash
# Enable the IBM Power Tools repository if not already enabled.
sudo yum-config-manager --enable ibm-power-tools
# Install Trellis.
sudo yum install trellis
```
#### **For Ubuntu:**
If you are using Ubuntu, you may need to use a different method or repository. Check the official documentation
for specific instructions.
### **3. Configure Trellis**
After installation, you may need to configure Trellis based on your environment. This typically involves:
- Setting up SSH access to the systems you want to manage.
- Configuring authentication (e.g., using SSH keys).
- Defining the managed systems in Trellis.
### **4. Verify Installation**
Run a simple command to check if Trellis is installed correctly:
```bash
trellis --version
```
This should display the version of Trellis installed on your system.
### **5. Further Documentation**
For more detailed installation and configuration instructions, refer to the official IBM documentation or the
repository where you obtained Trellis.
If you encounter any specific issues during installation, feel free to ask for further assistance!"
Я попросил помощи, она фантазирует 🙂
Да, это R1
dok34.ru
Moderator
Вадим Нестеров aka Сергей Волчок @id86412741
Автор Вадим Нестеров aka Сергей Волчок @id86412741 на сайте Author.Today. Полная информация об авторе, книги, жанры, последние публикации, персональный сайт, страницы в соц сетях. Читайте книги автора онлайн на Author.Today.
author.today
dok34.ru
Moderator
Про Чуковского, Маршака и брехливый чат-бот DeepSeek
Объясните мне, пожалуйста, одну вещь - чего так все возбудились в связи с этим китайским чат-ботом? Ведь это даже не продвинутый поисковик, это просто безостановочно болтающий слабоумный, выдающий...
author.today
Зашёл не в приложении, ловите ссылочку🙂
dok34.ru
Moderator
"… вам не понадобится цифровая идентификация», потому что «в ваших умных городах есть распознавание лиц и другие функции».
В одной из дискуссий во время ежегодной встречи Всемирного экономического форума (ВЭФ) (видео) на прошлой неделе – “Расширение прав и возможностей людей с помощью цифровой общественной инфраструктуры” — принял участие генеральный директор Avathon Первиндер Джохар, который представил видение мрачного будущего ”оптимизированной" и вездесущей слежки.
Джохар, конечно, выразился бы не совсем так. Компания Avathon, которая производит технологии искусственного интеллекта, в том числе для видеонаблюдения, считает, что в ближайшие пять-десять лет не будет необходимости в цифровых удостоверениях личности, поскольку распознавание лиц «и другие функции» будут встроены в «умные города».
Дискуссия была посвящена цифровой общественной инфраструктуре (DPI) — модному термину, используемому сторонниками цифрового удостоверения личности, такими как ООН, ЕС, ВЭФ и Билл Гейтс. Джохар сказал, что финансовая и идентификационная части цифрового удостоверения личности «объединятся», чтобы дать результат, который он предсказал.
Это говорит о том, что население будет находиться под постоянным наблюдением и идентификацией в любое время. У Джохара были и другие «хорошие новости» — Avathon создаёт то, что компания называет промышленной платформой искусственного интеллекта, — систему видеонаблюдения, которая, по словам генерального директора, была установлена в средней школе Раунд-Рок в Техасе «для безопасности детей».
Она «использует существующую в школе инфраструктуру камер для заблаговременного обнаружения всего, от оружия до открытой двери, несанкционированного доступа или даже пожара».
Другой участник дискуссии, Хода Аль-Хзайми, заместитель проректора по научно-исследовательской деятельности и предпринимательству в Нью-Йоркском университете в Абу-Даби, также рассказала о связи между DPI и «умными городами».
«Цифровые общественные инфраструктуры появились потому, что правительства хотят обеспечить бесперебойную работу сервисов в условиях развития умных городов», — сказала Аль-Хзаими, в то же время фактически предполагая, что «оптимальное применение DPI» предполагает внедрение цифровых удостоверений личности для граждан.
Аль-Хзаими также затронула вопрос о данных DPI. «Положительным моментом является то, что если эти данные, предоставляемые инфраструктурой DPI, открыты и во многих сценариях у вас есть открытые рынки для этих данных, то сами пользователи могут влиять на правительства и поставщиков этих услуг и говорить им, чего вы хотите, а чего не хотите, и контролировать тенденции в области внедрения и разработки решений», — сказала она.
Аль-Хзаими также высоко оценила государственно-частное партнёрство в сфере DPI. Признавая возможность злоупотреблений («вы же не хотите подвергать граждан массовой аналитике, если они не хотят иметь эту инфраструктуру массовой аналитики»), она быстро опровергла саму себя, заявив, что в некоторых случаях это необходимо — например, для «анализа данных о населении в случае вспышек заболеваний».
Соучредитель и генеральный директор Kapital Рене Саул рассказал о цифровом паспорте Мексики (который использует биометрическую проверку личности на границах — о чем Саул не упомянул), обладателем которого он является, как о положительном примере цифрового удостоверения личности.
В конце концов это сэкономило ему 35 минут.
«Я впервые приехал в Европу и увидел табличку с названиями трёх других стран, в которых есть электронные паспорта. Таким образом, я сэкономил 35 минут только на въезде в Европу, хотя раньше это занимало у меня час. Это один из хороших примеров и ещё один хороший пример этой технологии — она открыла наши границы», — сказал Сол.
Know Your Customer (знай своего клиента — KYC) также было названо полезным при разработке цифровых услуг, подобных тем, что используются банками.
KYC сама по себе является инвазивной формой цифровой проверки личности, которая включает сканирование документов и биометрическую проверку личности.
Источник перевода: newsstreet.ru"
...
"инфраструктура тоталитаризма. А сам тоталитаризм будет потом. как и услуги по изменению лица, внутренние люди, подменяющие личности в баз данных или продающих личностей. Фальшивые, сгенерированные биометрии, которые кому надо будут доступны и т.д.
Прекрасный Новый Мир"
...в комментариях🙂
В одной из дискуссий во время ежегодной встречи Всемирного экономического форума (ВЭФ) (видео) на прошлой неделе – “Расширение прав и возможностей людей с помощью цифровой общественной инфраструктуры” — принял участие генеральный директор Avathon Первиндер Джохар, который представил видение мрачного будущего ”оптимизированной" и вездесущей слежки.
Джохар, конечно, выразился бы не совсем так. Компания Avathon, которая производит технологии искусственного интеллекта, в том числе для видеонаблюдения, считает, что в ближайшие пять-десять лет не будет необходимости в цифровых удостоверениях личности, поскольку распознавание лиц «и другие функции» будут встроены в «умные города».
Дискуссия была посвящена цифровой общественной инфраструктуре (DPI) — модному термину, используемому сторонниками цифрового удостоверения личности, такими как ООН, ЕС, ВЭФ и Билл Гейтс. Джохар сказал, что финансовая и идентификационная части цифрового удостоверения личности «объединятся», чтобы дать результат, который он предсказал.
Это говорит о том, что население будет находиться под постоянным наблюдением и идентификацией в любое время. У Джохара были и другие «хорошие новости» — Avathon создаёт то, что компания называет промышленной платформой искусственного интеллекта, — систему видеонаблюдения, которая, по словам генерального директора, была установлена в средней школе Раунд-Рок в Техасе «для безопасности детей».
Она «использует существующую в школе инфраструктуру камер для заблаговременного обнаружения всего, от оружия до открытой двери, несанкционированного доступа или даже пожара».
Другой участник дискуссии, Хода Аль-Хзайми, заместитель проректора по научно-исследовательской деятельности и предпринимательству в Нью-Йоркском университете в Абу-Даби, также рассказала о связи между DPI и «умными городами».
«Цифровые общественные инфраструктуры появились потому, что правительства хотят обеспечить бесперебойную работу сервисов в условиях развития умных городов», — сказала Аль-Хзаими, в то же время фактически предполагая, что «оптимальное применение DPI» предполагает внедрение цифровых удостоверений личности для граждан.
Аль-Хзаими также затронула вопрос о данных DPI. «Положительным моментом является то, что если эти данные, предоставляемые инфраструктурой DPI, открыты и во многих сценариях у вас есть открытые рынки для этих данных, то сами пользователи могут влиять на правительства и поставщиков этих услуг и говорить им, чего вы хотите, а чего не хотите, и контролировать тенденции в области внедрения и разработки решений», — сказала она.
Аль-Хзаими также высоко оценила государственно-частное партнёрство в сфере DPI. Признавая возможность злоупотреблений («вы же не хотите подвергать граждан массовой аналитике, если они не хотят иметь эту инфраструктуру массовой аналитики»), она быстро опровергла саму себя, заявив, что в некоторых случаях это необходимо — например, для «анализа данных о населении в случае вспышек заболеваний».
Соучредитель и генеральный директор Kapital Рене Саул рассказал о цифровом паспорте Мексики (который использует биометрическую проверку личности на границах — о чем Саул не упомянул), обладателем которого он является, как о положительном примере цифрового удостоверения личности.
В конце концов это сэкономило ему 35 минут.
«Я впервые приехал в Европу и увидел табличку с названиями трёх других стран, в которых есть электронные паспорта. Таким образом, я сэкономил 35 минут только на въезде в Европу, хотя раньше это занимало у меня час. Это один из хороших примеров и ещё один хороший пример этой технологии — она открыла наши границы», — сказал Сол.
Know Your Customer (знай своего клиента — KYC) также было названо полезным при разработке цифровых услуг, подобных тем, что используются банками.
KYC сама по себе является инвазивной формой цифровой проверки личности, которая включает сканирование документов и биометрическую проверку личности.
Источник перевода: newsstreet.ru"
...
"инфраструктура тоталитаризма. А сам тоталитаризм будет потом. как и услуги по изменению лица, внутренние люди, подменяющие личности в баз данных или продающих личностей. Фальшивые, сгенерированные биометрии, которые кому надо будут доступны и т.д.
Прекрасный Новый Мир"
...в комментариях🙂
dok34.ru
Moderator
Цензуру DeepSeek можно обойти с помощью ASCII-арта
Автор блога на Substack под никнеймом deepgains рассказал , что ему удалось разговорить языковую модель DeepSeek на тему событий на площади Тяньаньмэнь. Для этого он попросил нейросеть сгенерировать...
habr.com
Новые комментарии
-
Качели - что это, и зачем понимать механизм Качелей?Ой 🙂 Это я не там выложил, оказывается🙂 Сорри! В Экономике собирался 🙂 -
Качели - что это, и зачем понимать механизм Качелей?...не 🙂 Речь о бизнес- направлении под ТМ "Зелёное"🙂 Это да, я неоднократно выкладывал и графики и статьи 🙂 В том числе - какой основной...
-
Качели - что это, и зачем понимать механизм Качелей?Прикольно, а у Маяка такую же можно влепить и по всей Челябинской области, только там никто никого не предупреждал, так что зачем? Экологически... -
Качели - что это, и зачем понимать механизм Качелей?"Калифорния, где недавно бушевали пожары, помимо всего прочего это один из эпицентров зеленого попила в США, там вся эта тряхомудрия внедрялась с...
LGBT*
В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.