Безопасность искусственного интеллекта.

[TightBack361]

x.com

x.com

 

[dok34.ru]

"Поскольку опять появились заявления политиков о том, что российские нейросети отказываются отвечать на некоторые вопросы, хочу написать текст, который можно присылать любым не-айтишникам для объяснения этого поведения.

Дело в том, что нейросети нельзя на 100% контролировать. В том смысле, что нельзя их натренировать таким образом, чтобы они никогда и не при каких обстоятельствах не делали определенных высказываний. А практически в любой стране есть высказывания, которые являются либо преступлением, либо как минимум неприличными.

То есть, грубо говоря, нейросеть можно попросить написать хвалебную оду Адольфу Гитлеру - и она ее напишет. Что будет преступлением и в России, и в Германии. Поэтому самый простой способ не дать ей это сделать - просто поставить правило, что если в запросе встречается слово "Гитлер", то не отвечать ничего.

Да, можно попробовать натренировать нейросеть так, чтобы она на такие вопросы отвечала отказом без специального правила. Но практика показывает, что всегда подобрать такой запрос к нейросети, чтобы она ответила не так, как ожидали ее создатели.

Это, кстати, не только российская проблема. В США, например, графическую нейросеть от Гугла настолько успешно обучили американской политкорректности, что она начала рисовать исключительно негров. И эту проблему не могут решить до сих пор.

Да, можно сказать, что все-таки можно достаточно сильно обучить нейросеть, чтобы она отвечала правильно в 99,999999999999999% случаев. Или сделать более гибкие правила, чтобы она не отвечала отказом, а давала более адекватный ответ.

Проблема в том, что и то и другое, это дополнительная работа. Которую быстро не сделаешь, особенно в условиях санкционных ограничений. Впрочем, даже без них это не так уж просто - вот тот же Гугл до сих пор не может OpenAI догнать, хотя казалось бы какие у него проблемы.

И последнее. Поскольку существуют высказывания, которые являются уголовных преступлением, создатели нейросетей вынуждены их цензурировать. Люди, которые призывают отключить эту цензуру, призывают к совершению уголовных преступлений. Это надо помнить всем, кто высказывает подобные призывы."
...не моё, понятно

 

[dok34.ru]

Интересная концепция!

 

[dok34.ru]

...типа " ушёл к Кракенам, в ВР"?

 

[dok34.ru]

"Энтузиаст скормил в ChatGPT условия задач профильного экзамена по математике. Так как я учитель математики, мне было очень интересно...

Результаты следующие:

Он прекрасно решает все, что связано с текстом. Найти же координаты точки на координатной плоскости для него проблема. В общем, распознавание геометрических объектов не на высоте.

Он иногда ошибается в арифметике, что совсем удивительно.

Несложную задачу по стереометрии он решает, как будто он хирург и решил вырезать гланды автогеном. Причем через задницу. С применением инструментария первого курса мех-мата МГУ.

С логикой иногда беда.

Н, тем не менее, он набрал 86 вторичных баллов ЕГЭ. Этого маловато, чтобы поступить в приличный вуз, где серьезная математика, но в любом техническом ВУЗе найдутся специальности, куда он сможет поступить. Средний ьалл по математике - 55 примерно, думаю, он вошел в лучшие 5-7% сдающих. Вот почему запрещают носить с собой телефон )

Ну а подробности - может они интересны кому-то:"

 

[dok34.ru]

Российские ученые нашли способ, как превзойти тензорный процессор от Google

Ученые российской ИИ-компании Smart Engines представили и запатентовали в США принципиально новую модель нейросетей – биполярные морфологические сети. Они позволят создать ускоритель для...

habr.com

...включая заминусованное про студенческую научную работу

 

[dok34.ru]

"У людей есть фича, которой искины напрочь лишены, и которую я бы назвал «способностью прорюхивать контекст». Скажем, если dall-e попросить нарисовать зайца на коленях у девушки, он проворно нарисует. Если попросить нарисовать девушку на коленях у зайца — откажется, сославшись на «политику контента». При этом нарисовать ребёнка на коленях у зайца — зарадибога, девушку на коленях у парня — тоже без особых проблем, а девушку на коленях у зайца — ни за что.

Очевидно, скармливая искину бесконечное количество картинок из сети, владельцы запрограммировали некие фильтры, отбрасывающие порнуху. Плюшевые заячьи уши — распространённый эротический фетиш, да и у коленей, в этом смысле, тоже полно фривольных коннотаций — так что комбинация девушки, коленей и зайца включает в электронных мозгах искина стоп-сигнал. Заставить дурака учесть контекст и намалевать нечто невинное — невозможно, поскольку учитывать контекст он не умеет.

Так что, дорогие кожаные мешки, если в вашей работе нет необходимости учитывать контекст — бойтесь, искин уже примерился к вашему рабочему месту. Если же такая необходимость в вашей работе предполагается — расслабьтесь. Что говорите? Работа без необходимости хоть как-то учитывать контекст — большая редкость? Ну значит, всем коллективом и расслабьтесь.

За это и выпьем.

PS. На вопрос, зачем мне понадобилась девушка на коленях у зайца, промолчу, ухмыльнувшись в усы"
...

 

[dok34.ru]

"Немного пообщавшись по теме с сообществом, таки поборол лень и решил поиграть с промтами. Не то, чтобы прям новый опыт, но (таки да) нейросетки меня хоть и забавляют, но и вызывают некоторую идиосинкразию. Почему? Ну... Проще показать, чем рассказать.
В качестве базы взял фотографии из коллекции уважаемого камрада, известного серией публикаций "Немного истории в фотографиях". Промты там достаточно хороши. Давайте посмотрим, как нейросеть трактует исторические сюжеты.
Промт: Транспортировка якоря «Титаника», 1911 год, Дадли, Англия
Историческое фото

Нейросеть

Промт: Женщины навещают родных и друзей, находящихся на карантине в больнице Уллевол, Осло. Норвегия. Фото Андерса Беера Вильса, 1905 г.
Историческое фото

Нейросеть

Промт: Немецкий самолет скинул контейнер с сообщением для солдат на линии фронта во время газовой атаки. 1914-1918 год.
Историческое фото

Нейросеть

Промт: Владимир Ленин выступает с трибуны, на месте которой позднее установят мавзолей, 1 мая 1919 года. Советская Россия.
Историческое фото

Нейросеть

Промт: Советский танк Т-34 с фугасным огнемётом ФОГ-1. Огнемёт ФОГ-1 представляет собой металлический резервуар с соплом. Он наполнялся зажигательной жидкостью, которая выталкивается посредством пороховых газов от специальной шашки через брандспойты. Принят на вооружение постановлением ГКО №114 от 12 июля 1941 года. Использовался при обороне Москвы.
Историческое фото

Нейросеть

Ну, что сказать... Как бэ все понятно. Разумеется, можно сколько угодно размахивать флагом "до чего дошел прогресс". Но в целом работа нейросетей никакого отношения к творчеству не имеет.
Ну и да, вот этим .... щас забивают интернет. Десяток лет и у нас будет, блин, новая история.
ЗЫ. Лень было копаться, поэтому использовал Кандинского. Если есть возражения, вельком в комменты с примерам"
... собственно творчество или таки не совсем.
Художник руками орудует, но с головой особо не дружит, нет системной картинки в этой голове...
Пока что

 

[dok34.ru]

"Одни его ругают, другие в изумлении, я же, хоть и являюсь дилетантом в этой матчасти, скажу доброе слово

а именно, не секрет, что ИИ заменил модеров, кодеров, техподдержку разработчиков ПО и т.д.

так вот, у меня на компе стоит древняя звуковая карта Asus, в своё время 2010гг она была огонь

да и сейчас по ТТХ вполне на уровне современных девайсов, современный аналог по деньгам от 9-10к руб. и выше

.

но! у Asus, при всём уважении к этому бренду / именно мать предпочитаю любому другому/ есть такая фишка, через 5-6 лет после релиза, иногда чуть дольше, девайс перестаёт поддерживаться, иными словами, система перестаёт его видеть в диспетчере устройств

.

столкнувшись с таким, полез в интернет за решением, чего только не увидел на авторитетных форумах: Оверлокерс, IXBT и им подобных , от перепайки чипа на такой же, только более свежей редакции, что само по себе не дёшево, до выпаивания некоторых деталей или прогрева феном чипа до высоких температур, а так же установок перемычек в некоторых цепях схемы

.

и такие советы, дают авторитетные, и весьма уважаемые по местным меркам юзеры

с приложением скриншотов и подробных инструкций, получая 100500 плюсов в карму и восторженные крики поклонников, жуть короче, для моих кривых рук, космическая задача

правда, по отзывам не многочисленных участников, попробовавших такое "лекарство" методы не работают, перепайка чипа оживляет карту на месяц-два, потом девайс опять превращается в кирпич, все другие решения на уровне психиатрии

.

и такая меня грусть охватила.. мама не горюй, отдать 10к рублей откровенно душила жаба

снова полез в интернет с целью найти подешевле и купить подобное, а попутно решил бомбить техподдержку винды её же средством исправления проблем с совместимостью, на тему своей неработающей звуковухи

так как при запуске средства, оно определяло, но не запускала саму карту и было видно в открывшемся интерфейсе, карта работает, звуковые индикаторы реагируют на звук, хотя звук берётся с комповской встройки

.

и пока я искал выгоду, техподдержка слало мне маленькие патчики, буквально несколько десятков килобайт

шли дни, я боролся как мог с жабой, винда по нескольку раз в день слало патчи, так как я после каждого патча запускал средство устранения и слал отзыв: не помогло

так прошло времени в районе двух недель и вдруг о чудо!!! звуковуха стала запускаться, винда по сей день шлёт мне эти маленькие патчи, три года как уже и карта работает, я счастлив, домашний бюджет жмёт мне руку

если я перестаю их скачивать, девайс тут же превращается в кирпич

.

такие вот дела, если бы как раньше, вместо ИИ в техподдержке сидел бы реальный живой чел, он бы меня, скорее всего тупо забанил, а ИИ работает

он же памятник, иму пофиг, есть запрос, он решает проблему, если она решаема на программном уровне

а она была именно на программном уровне, жадные маркетологи заставляют нас обновить железо практически на такое же, только римейк старого с новым интерфейсом

.

ну и на последок, пы-сы. такзать

шлите местных диванных экспертов, разбирающихся буквально во всём: козе в трещину)"

 

[dok34.ru]

"Четыре авиакомпании США приостановили полеты из-за проблем со связью



В Штатах четыре авиакомпании, в их числе United Airlines, Delta Airlines и American Airlines, сообщили о масштабном сбое. Управление гражданской авиации уточнило, что из-за проблем со связью они приостановили полеты.



Западные СМИ связывают сбой с масштабным сбоем в работе Microsoft, произошедшим накануне. По этой причине вчера на несколько часов приостанавливалась работа авиакомпании Frontier Airlines. Сегодняшние неполадки могут быть того же рода — скорее всего, произошел масштабный сбой IT-систем.



В аэропортах США, Индии и Испании уже скопились огромные очереди из-за сбоя IT-систем — терминалы забиты пассажирами, а онлайн-табло вылетов не работают



В американских аэропортах образовались длинные очереди из пассажиров, которые не могут попасть на рейсы из-за IT-сбоя. Людям объявили, что система попросту не работает и сделать с этим ничего не возможно.



В Индии и Испании ситуация не лучше. В индийском Кочине, по словам очевидцев, полный хаос. На кадрах видны огромные очереди из пассажиров, которые не могут попасть на самолет. Авиакомпании по всему миру также заявляют, что приостанавливают полеты из-за проблем со связью.



Крах информационных систем по всему миру вызван американским антивирусом: сбой после обновления CrowdStrike парализовал аэропорты, банки и госпитали



Неисправное обновление американской компании CrowdStrike вызвало «синий экран смерти» в Microsoft Windows. В итоге с техническими неполадками сегодня столкнулись не только авиакомпании, но и операторы связи, а также банки по всему миру. Сбои затронули США, Европу, Австралию и Индию — пострадали по сути все, кто активно использовал этот антивирус.



Британский телеканал SkyNews отключили от сети из-за продолжающегося глобального сбоя, в Великобритании и Турции следом за США были приостановлены полеты, а в аэропортах Штатов, Индии и Испании уже скопились толпы пассажиров. Халатность американских IT-специалистов привела к настоящему техно-апокалипсису.



Жители штата Аляска в США не могут позвонить в службы спасения из-за крупного локального сбоя связи



Как сообщил местный телеканал News Center Fairbanks, из-за масштабного сбоя связи люди не могут позвонить по номеру 911, а также на прочие номера, не связанные со службами экстренной помощи.



Из-за масштабного IT-сбоя «упали» сайты немецких автопроизводителей BMW и Mercedes — владельцы авто не могут авторизоваться в системе



В Германии от серьезных сбоев не работают сайты компаний Mercedes и BMW. Пользователи не могут авторизоваться в свои аккаунты Mercedes Me и BMW ID.



Масштабные сбои по всему миру связаны с работой американского антивируса CrowdStrike — обновившись, он обрушил работу аэропортов, банков, больниц и крупных предприятий разных стран"
...и без ИИ получаются подобные...
серьёзные, имхо, сбои