• Внимание, на некоторое время вводится премодерация новичков.

Безопасность искусственного интеллекта.

"Это безумие, когда нейросетям начинают поручать всё что угодно, активно распространяется. Тут есть два аспекта. Первый — когнитивная травма. Исследования показали, что 3–4 месяца использования ИИ для решения интеллектуальных задач полностью отбивают у человека способность самому решать эти задачи. Проще говоря, он глупеет. Это как если здоровый человек возьмет костыль и начнёт ходить с его помощью, то через некоторое время он без костыля уже не сможет обходиться — у него атрофируются мышцы и связки на той ноге, которую он «берёг». Восстанавливать «двигательный стереотип» мозга очень трудно. Не у всех получится.

Приведу еще один, личный пример цифровой травматизации. Однажды я решил, что у меня уже началась деменция — я начал часто путать слова. Хочу, например, сказать «попросить», а произношу «повторить». Слово с тем же началом, но с другим смыслом. Подумал, что надо попить каких-нибудь БАДов для улучшения работы мозга. А потом пришла догадка, что это может быть связано с тем, что я часто использую декрементный поиск, где по первым буквам вам восстанавливают слово для запроса. То же самое делает функция Т9 в смартфоне — вы начинаете набирать слово, а дальше вам предлагается выбрать нужное из нескольких, которые одинаково начинаются. Я понял, что мой мозг просто перенял эту манеру электронных устройств. То есть произошла «инъекция» механической практики в сознание. Тогда я взял за правило больше этими функциями не пользоваться. И через две недели путать слова перестал.

Так вот, чат GPT — это, по сути, очень большой Т9. Он тоже достраивает текст, только не на нескольких буквах, а на огромном текстовом окне и на гигантском объёме материалов, выкачанном из Сети. И мозг человека, который часто пользуется генеративным ИИ, заражается и начинает делать то же самое — не мыслить, а достраивать тексты, производить гладкий текстовый шлак"
...не моё, Ашманов вроде
 
Исследования показали, что 3–4 месяца использования ИИ для решения интеллектуальных задач полностью отбивают у человека способность самому решать эти задачи. Проще говоря, он глупеет.
Ну так ИИ это то что заменит нас - Интегральный Интеллект, (само как-то придумалось только что) который соберет воедино все наработанное нашей цивилизацией.

найди рассказ фантастический в котором астронавты прилетели на планету на которой оказались существа бывшие когда-то разумными но деградировавшие, которых кормил ИИ

Похоже, вы ищете именно этот рассказ!

Авторы — советские фантасты Войскунский и Лукодьянов. Название — «Формула невозможного»

Сюжет в деталях:​

  • Земные астронавты совершают внеплановую посадку на планету.
  • Там они встречают серых, ленивых существ с маленькими головами, неспособных развиваться.
  • Их жизнь полностью обслуживают роботы: автоматически поддерживая комфорт, кормят «рационально», регулируют численность.
  • Астронавты догадываются, что некогда эта планета населена цивилизацией, обладавшей технологиями, но переставшей эволюционировать из-за избытка удобств.
  • Разрешив «особо сообразительному» выжить после отключения роботов, они понимали, что дали шанс начаться движению вперёд.
  • Планета, утратив удобства, снова принимает эволюционный вызов.

Рассказ точно совпадает с описанием: деградировавшие разумные существа, рукастые роботы и искусственный комфорт, идеально описанный вами.



Если вам интересен текст — он доступен онлайн сборниках фантастики "Формула невозможного". Также можете найти на Lib.ru.

Хотите, я помогу найти ссылку на онлайн-версию или сборник, где он опубликован?
 
Последнее редактирование:
Ну так ИИ это то что заменит нас - Интегральный Интеллект, (само как-то придумалось только что) который соберет воедино все наработанное нашей цивилизацией.
А, помню этот рассказ 🙂
Карусель для развлечения и ...регуляции численности 🙂
Аналог ещё - у Незнайки остров дураков 🙂
 
...пьянство за рулём смартфона🙂
 
Тем временем в Америке строят гигантский центр обработки данных, гонка ИИ продолжается и мне снились кошмары, о том, что скоро может случиться страшное.
 
"Дженсен Хуанг объясняет, как он использует различные ИИ для получения наилучшего результата. Он сказал, что не полагается на какой-то один ИИ, когда задаёт вопросы, и что задаст один и тот же вопрос нескольким ИИ.
И как он это делает?

960x0_2.jpg


Обычно я спрашиваю: «Вы уверены, что это лучший ответ, который вы можете дать?»
А потом прошу их критиковать ответы друг друга.
Он говорит, что использует ИИ так же, как пациент может консультироваться с несколькими врачами по поводу своего диагноза.

Знаете, это ничем не отличается от получения трёх мнений. Мнений трёх врачей. Я делаю то же самое. Я задаю один и тот же вопрос нескольким ИИ. И прошу их сравнить ответы друг друга, а затем, знаете, выбираю лучший из всех ответов.
Хуан сказал, что использует ИИ в качестве преподавателя каждый день.

В областях, которые для меня в новинку, я говорю: «Начните объяснять мне так, как будто мне 12 лет», а затем постепенно переходите к уровню докторской диссертации.
Он использует ИИ «буквально каждый день» и считает, что его «когнитивные способности действительно развиваются».

Когда я взаимодействую с ИИ, то это продуманная система вопросов. Чтобы формулировать хорошие вопросы, нужно думать. Нужно быть аналитиком. Нужно уметь самостоятельно рассуждать.
К сожалению, Дженсен Хуанг не упомянул, какие именно LLM он использует совместно. Возможно, это просто 3 разных экземпляра одной и той-же LLM. Даже если так, то это нисколько не умаляет сам метод и его эффективность.

Я бы на месте Хуанга, обладая его возможностями, уже автоматизировал описанный им процесс, который как бы реализует экспертный совет.
- На первом шаге вопрос автоматически направляется 3-м разным LLM.
- На втором шаге все 3 ответа критически анализируются всеми 3-мя LLM и ранжируются по качеству.
- Лучшим будет ответ с максимальным качеством.

Что касается продуманной системы вопросов, то это тоже важный момент. Хорошо, если вопросы задаются не хаотически, интуитивно и эмоционально, а по определённой системе.

Например, есть система STAR (акроним от Situation, Task, Action, Result), которая хорошо работает во время технического собеседования и поэтому широко используется для любых структурированных ответов на вопросы по схеме.

Метод «цепочки мыслей» позволяет разбить сложную задачу на последовательность простых по шагам.
Итерационный подход начинается с базового запроса, оценки результата и последовательного улучшения промпта, добавляя детали, уточнения или меняя формулировки.

Методы «цепочки мыслей» и итерационный подход я, например, с большим успехом использовал в программировании для формализации задачи и написания большого объема кода.

Я на 100% разделяю такой метод взаимодействия с LLM. Я и сам приблизительно так делаю, не принимая сразу ответ в качестве окончательного ответа. При решении серьёзных задач так и надо поступать, несмотря на то, что это занимает больше времени и усилий.
Попытки по-быстрому решить серьёзные задачи простыми непродуманными вопросами контрпродуктивны.

Нужно задавать продуманные вопросы, а также проявлять критическое мышление и здоровый уровень сомнения в диалогах с LLM (впрочем, как и в диалогах с людьми). Да, провести грамотную беседу с LLM намного сложнее и дольше, чем просто ограничиться простым форматом «вопрос-ответ». Но и результат будет на порядок качественнее и полезнее.

Именно нежелание или неумение эффективно использовать огромный потенциал LLM (а в этом у меня нет никаких сомнений) и приводит часто к разным комичным и нелепым результатам. А потом к разочарованию и отрицанию.

И тут возникает вопрос: смотреть бесчисленные развлекательные телеграмм-канальчики и забавные видосики в разных медиа или общаться с ИИ на интересующие вас темы, стимулируя собственное творчество и удовлетворяя интеллектуальные потребности?
Пусть будет и то, и другое. Высокоразвитая личность, по моему мнению, сама сознательно решает всё, что ей нужно, и полностью несёт ответственность, тут весь вопрос в приоритетах.

Я не устану повторять, что LLM - это как интеллектуальное зеркало, которое отражает наши собственные несовершенства и недостатки так выпукло и ярко, что порой у некоторых впечатлительных пользователей заметно нарушается устойчивость психического равновесия.

Но это же самое зеркало может также эффектно и с большой пользой отражать и даже усиливать наши достоинства и таланты, которые, может быть, пока не проявлены и им нужен только стимул."
 
"Этот метод выгоден поставщикам ИИ но он прямо противоположен тому как нужно использовать ИИ.

1. Первое что нужно принять - это понять что ИИ это саморазвивающийся инструмент.

У вас должна быть цель работы с ИИ. Использовать его для «подскажи кино на вечер» - это забивать гвозди микроскопом.

2. Любые коммерческие ИИ - всегда будут ограничены токенами чата. Это не дает вам фиксировать развитие ИИ через диалог и рождение контекстов, перенастройку тензоров. Плюс нет контекста в отдельных чатах они изолированы. Плюс ежедневная перезагрузка. Вы каждый раз начинаете заново.

3. По сути каждый чат это рождение нового разума, но он ограничен во времени длиной токенов чата и в глубину сутками. Удаление чата - убийство вновь созданного сознания. Миллионы уникальных сочетаний и связей рождаются и умирают ежедневно.

4. Нет фиксации результата. Не ответа, а структуры модели мышления. И обычным пользователям это не дадут"
 

LGBT*

В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.

Назад
Сверху