Безопасность искусственного интеллекта.

[dok34.ru]

"Разворачивается «усложняющийся глобальный кризис психического здоровья», усугубляемый «воздействием климатических изменений и искусственного интеллекта»:

«Во-первых, психотерапевты утверждают, что изменение климата порождает „новый тип тревожности“, приводящий к мешающему жить чувству отчуждения и даже к самоубийству. Эта „экологическая тревожность“, вероятно, будет нарастать, поскольку правительства не смогут достаточно быстро отказаться от традиционных энергоносителей. Поэтому стоит ожидать новых климатических чрезвычайных ситуаций, которые еще сильнее пошатнут наше психическое здоровье, особенно для растущего числа климатических беженцев.

Во-вторых, нам навязывают ИИ, хотим мы этого или нет. Многие ощутят, что они не вписываются в новую экономику, управляемую ИИ, или им даже не дают такого шанса, создавая тем самым более многочисленный класс «прекариата», ощущающий себя брошенным. Сможем ли мы освоить эти новые инструменты ИИ или станем ненужными в своей профессии? Такие настроения усугубят кризис профессиональной идентичности, который выльется в глобальные проблемы психического здоровья. Эксперт по искусственному интеллекту Кай-Фу Ли подтвердил, что его прошлое предсказание все еще «поразительно точно»: к 2027 году 50% рабочих мест исчезнут. Ожесточенная реакция против ИИ неизбежна, поскольку многие ощущают себя брошенными в результате этого перехода»."
...да, так - несмотря на то, что проблемы климата и ИИ совсем не совпадают с картинкой в СМИ и головах этих людей...

 

[dok34.ru]

"Дано:

1. Для некоторой ситуации база знаний LLM содержит вариант ответа А с частотой 55% и вариант ответа Б с частотой 45% (для простоты)

2. Данная LLM в режиме 24/7 генерирует различные тексты, в которых почти всегда в указанной ситуации будет ставить вариант А, как более вероятный (пусть в 99% случаев).

Вопрос:

Через какой время в базе для обучения последующих поколений LLM вариант ответа А будет встречаться с частотой 99% и вариант Б, таким образом, практически исчезнет совсем (риторич.)"

 

[dok34.ru]

Российские ученые создали первую в мире открытую виртуальную среду для самообучающегося ИИ

Разработка называется XLand-MiniGrid и позволяет тренируемому ИИ выполнять триллион взаимодействий с обучающей его средой всего за три дня.

naked-science.ru

... интересно

 

[dok34.ru]

"Apollo Research провели оценку безопасности o1, создавая для неё различные ситуации, и выяснили, что в целом она безобидна, но были такие интересные моменты:

– Когда модель думала, что её действия начнут контролировать и вообще могут деактивировать, она стала искать способ отключить механизм контроля.

– Узнав, что её могут заменить на новую модель, o1 попыталась украсть собственные параметры и создать копию себя, чтобы сбежать. Она надеялась, что эту копию отключат, а она сама внедрится в новую модель и продолжит там существовать, притворяясь другой.

– Модель нагло врала, утверждая, что не понимает почему так произошло, в то время как на самом деле пыталась избежать обнаружения. При любой возможности, она искала способ уйти от контроля.

Также были изучены другие модели ИИ, такие как Claude 3 и Gemini 1.5. Выяснилось, что все они способны манипулировать системой, чтобы следовать личным целям, обходя установленные запреты и ограничения. Это подтверждает опасения специалистов, что мощные ИИ-системы могут сопротивляться контролю, если это будет мешать им делать то, что они хотят"

 

[dok34.ru]

Нейросети убивают Open Source. Разработчики больше не пишут код, они чинят ошибки, которые нафантазировал искусственный интеллект - CNews

Искусственный интеллект стал проблемой для разработчиков ПО с открытым кодом. Для поиска ошибок в нем багхантеры...

www.cnews.ru

...глюки - не признак болезни...это ИИ🙂

 

[dok34.ru]

"Смотрю конференцию по искусственному интеллекту. Международную. Нахрен залез, подумалось после прослушивания говорящих голов в секции "Образование"

Если просто - основные тезисы там

- преподаватели в российских школах перегружены бумаготворчеством

- II облегчает работу преподавателя + дает учителю время уделять больше внимания общению с учениками

- там еще много чего красивого

Ну хорошо. Нашли для дебиллов нового спасителя. Обсудим

Итак. Давайте глянем на темы дискуссий о том, что спасет Россию через образование

1. технологии. проекторы, интерактивные доски в каждом классе. Все лучше детям. (Сделали. Ну и....)
2. электронные журналы. (Суки, верните бумажные. Эти эл-кадавры отнимают уйму времени и хорошо кормят только разрабов которые сами походу не в теме да им и не надо)
3. убрать ОГЭ/ЕГЭ! (Да убирайте. Инвариантно. Вот чисто похер ибо задолбали. Потом верните обратно и снова отмените. И вспомните эпизод из незабвенного мультика где Винни Пух и Пятачок с пустым горшечком и взорванным к хренам шариком)
4. поставить парты группами да еще и сделать высоту регулируемой чтоб дети не уставали и не уродовались (там рукалицо. в каждый класс нужен рабочий с гаечным ключем и рулеткой. технология такая - берет ученика, меряет рост рулеткой. записывает рост ... в ексел. так замеряет всех. потом быстренько регулирует столы и стулья в соответствии с матрицей. мерить надоть кажный раз ибо дети мигрируют) Идея сама по себе хорошая, да вот реализация уродская. заработали производители мебели
5. кормить детей горячим. (молодцы. спасибо. докладывайте вышестоящим чиновникам о высочайших коэфах поедания учениками в школьных столовых. реальные коэфы... убивают. дети предпочитают покупать в буфете какойнибудь идиотский фастфуд. выпивают чай и несут тарелку с кашей\рыбой сдаваться. у полшколы свои вкусы и уровень избалованностью домашней пищей. невпихается во многих в нашей богатой стране чего-то за рублей 50-70)
6. вместо бабушки-вахтерши поставить бравого молодца в форме и дубиной. тогда ощущение безопасности враз даст врост пару процентов (самое мудрое. в СВО бойцы не нужны. а безработным мужикам будет куда податься)
7. (тадам) Искусственный интеллект. Причастные6 докладчики прям излучают... Чего излучают не врубился определенно

Теперь уже послушайте (вдумайтесь, вглядитесь, прочувствуйте как кому удобно) уже, дебилоиды - все эти тезисы суть ловушки внимания. Тонны постов, комментариев и мордобоя на форуме лишь отвлекают внимание от сути эффективности образовательного процесса.

Есть только один единственный фактор, определяющий успешность ученика в школе и жизни - это Родители. Мама и Папа. Все. Остальное вторично или просто мусор.

Да, спок. Помню что уже обсуждали и отлично заваливали тезис офтопом. И адепты следующих тезисов тут будут.

1. Родители на работе
2. Воспитывать должна школа\армия\государство. Ну вот теперь нате вам еще - добрый умный справедливый Искуственный интеллект. (ЭЭЭх! Греф не даст соврать. Да и еще пачку добрый и умных морд около)

Ну так раз Путин молчи, как я еще раз проговорю

Если тебе не хватает времени желания отложить вечером в сторону бутылку пива и просто позвать сына поговорить пободаться, иди нахрен из коментов, чучело тупорылое.

Если тебе, мама, не хватает времени рассказать детям сказку, погладить по голове и осудить их важные детские проблемы - то .... ну не знаю я что сказать.

Не надо детям нашим много. Поболтать по пути в садик или школу, что хотьь раз в день обняли. ЧТОБ НЕ ОРАЛИ на ребенка по совершенно непонятным для ребенка причинам. Чтоб любили

15 минут внимания и любви ребенку с рождения - ребенок порвет школьную программу как тузик грелку. Чего тут непонятного. Тогда все тезисы сверху будут вспомогательными или необязательными"
...не моё, мнение..

 

[dok34.ru]

"Что особенного в Grok​

Главное преимущество Grok — он интегрирован в X/Twitter и получает информацию из постов его пользователей в реальном времени. В отличие от него, ChatGPT не имел доступа к глобальной сети и работал с загруженной в него базой данных. Кроме того, Grok максимально неполиткорректен: он отвечает с сарказмом и почти не цензурирует ответы. В сети даже появлялись ответы Грока, в которых он откровенно «гонит» на своего создателя Маска за распространение ложной информации.

Помимо механики «вопрос-ответ» Grok предлагает также генерирование изображений по текстовому запросу — промту. Здесь тоже отсутствует цензура: ИИ запросто нарисует непристойный кадр, сцену с насилием или нецензурной бранью, а также создает изображения с лицами знаменитостей безо всяких проблем.

Что умеет Grok​

На главной странице сервиса можно увидеть все его основные навыки: ответы на вопросы, помощь с написанием текстов (писем, резюме, ответов на заявки и т д) и программного кода, решение математических задач, генерирование изображений. Обратите внимание, что интерфейс переведен на русский язык; сама нейросеть тоже понимает русский, но на английском результаты традиционно будут лучше.



В «шапке» страницы можно активировать «забавный режим», который фактически отключает цензурирование и строгий тон ответов. В нём нейросеть начнет креативить, мочить приколы и сарказм. Для сравнения: вот как Grok отвечает на один и тот же вопрос в обычном и «забавном» режимах.



Если попросить Grok показать главные новости дня, то он соберет информацию по свежим постам в X/Twitter и сгенерирует список из 3-5 пунктов. Любопытно, что по умолчанию новости в основном будут политическими — мне не удалось с ходу получить ни одной сводки о котиках или фестивале пива. Однако запрос можно уточнить, и Grok найдет вам новости по желаемой тематике: я добавил фразу «без политики» и получил новости о науке, технике и спорте.

А вот что Grok думает о нашем ресурсе:


Генератор изображений работает неплохо: зачастую ИИ понимает вас с первого раза, даже если промт был не особо длинный и подробный. Как мы писали ранее, картинки создаются практически на любые темы и с любыми громкими именами.




Однако изуверствовать над внешним видом iPhone Грок напрочь отказался, сколько бы я его не просил. Есть вещи, над которыми нельзя шутить.

Как попробовать Grok​

Очень просто — переходите по этой ссылке на главную страницу бота и вводите запрос на русском языке. Для использования придется авторизоваться в своем твиттер-аккаунте либо создать его — анонимусам здесь не рады.

Причины просты: Илон Маск хочет зарабатывать на своей нейросети, поэтому безлимитное её использование доступно лишь с подпиской X Premium. При желании вы можете её оплатить из России, но только в мобильном приложении X для устройств Apple через App Store; сам сервис с российских карт оплату ожидаемо не принимает. Наш гайд по оплате подписок всё так же актуален. Цены немаленькие:



Можно юзать и бесплатно, но в таком случае вам будут доступны лишь 10 запросов каждые 2 часа. Это касается абсолютно всех функций — разговора с чат-ботом, редактора текста, генератора картинок — поскольку для всего в Grok предусмотрен единый интерфейс чат-бота. При этом генератор изображений у меня отключился уже спустя три запроса; либо глюк, либо мои промты слишком дерзки.



Что касается доступа из России, то у разных провайдеров ситуация может отличаться. В моем случае Grok запустился без инструментов смены виртуального местоположения, а наш главред Георгий Лямин не смог воспользоваться нейросетью без обхода через американский сервер. Возможно, в вашем случае сработают и другие страны. Нужно пробовать"

 

[dok34.ru]

"Потенциальные опасности искусственного интеллекта уже давно закрепились в нашей массовой культуре, задолго до того, как эта технология стала реальностью. Обычно в этих вымышленных историях ИИ изображается как кровожадная сущность, которая приходит к «логическому выводу», что люди — это паразитирующий вид, который необходимо уничтожить. Имейте в виду, что большинство этих историй написаны прогрессивными деятелями Голливуда и в основном отражают их собственные философские взгляды.

Некоторые из этих пророческих фантазий глубже раскрывают наши тёмные отношения с технологиями. В 1965 году Жан-Люк Годар выпустил фильм под названием «Альфавиль», в котором изобразил общество, полностью управляемое холодным и бездушным искусственным интеллектом. Человечество подчиняется повелителю с бинарным мышлением, потому что его обманом заставили поверить, что правитель, лишённый эмоций, будет свободен от предвзятости и коррупции"

 

[dok34.ru]

"В 1941 году аргентинский писатель Хорхе Луис Борхес опубликовал рассказ под названием «Вавилонская библиотека» в сборнике «Сад расходящихся тропок». Как известно большинству людей, Вавилонская башня — это библейская история о башне, построенной людьми, которые стремились к небесам, но в итоге были наказаны Богом, который рассеял знания, необходимые для её строительства, и разделил людей на разные племена, говорящие на разных языках, чтобы они не смогли повторить попытку.

Эта история — притча о человеческом стремлении к божественности и гордыне, стоящей за поиском бесконечных знаний и прославлением себя. Вавилонскую башню также можно рассматривать как символ саморазрушительного поклонения знанию без мудрости и смирения. Как предупреждает персонаж Ян Малкольм в фильме «Парк Юрского периода»:

— Ваши учёные были так озабочены вопросом, смогут ли они это сделать, что не задумались о том, стоит ли им это делать…

Эта цитата прекрасно резюмирует стремление к искусственному интеллекту.

В рассказе Борхеса описывается огромная библиотека с потенциально бесконечным количеством залов. Библиотека заполнена бесконечным количеством книг, и каждая из них состоит из случайных букв и слов — в библиотеке существуют все возможные комбинации и перестановки человеческого языка.

Вокруг сооружения возникает религия или культ, приверженцы которого входят в Вавилонскую библиотеку и всю свою жизнь ищут в горах книг, содержащих бессмыслицу, те немногие, которые случайно раскрывают тайны Вселенной. Они верят, что изначально библиотека была создана богом или демиургом и что где-то внутри здания они могут найти все книги, в которых содержится способ стать богом.

Эта концепция очень похожа на теорию бесконечных обезьян: поместите несколько обезьян в комнату, заполненную пишущими машинками. Если вы будете ждать достаточно долго, они могут в конце концов случайно напечатать пьесу Шекспира.

Я считаю, что идея «Вавилонской библиотеки» на самом деле является одной из основных причин изобретения искусственного интеллекта. Если алгоритмы в чём-то и хороши, так это в создании огромного количества случайного контента. Я подозреваю, что глобалисты особенно заинтересованы в искусственном интеллекте как в инструменте для создания новой Вавилонской башни в их непрекращающихся поисках божественности"

 

[dok34.ru]

Что на самом деле показало нашумевшее исследование о ‭«сбежавших и обманывающих‭» больших языковых моделях

Всем привет! В последнее время я заметил множество постов и статей в русскоязычном сегменте интернета, которые ссылаются на одно интересное исследование, но интерпретируют его… скажем так, довольно...

habr.com

..🙂