• Я с понедельника 29 июня примерно на месяц буду работать за нескольких врачей, в том числе в стационаре. График пока неясен, будет на сайте. Но сложных пациентов _себе_ я пока брать не буду, прошу прощения!

Безопасность искусственного интеллекта.

...параметры такого ..эмбеддед неплохие, конечно🙂
 
Руководители компаний, использующих искусственный интеллект, усиливают меры безопасности на фоне протестов и угроз.
Последнее обновление 49 минут назад
Руководители технологических компаний, таких как OpenAI и Anthropic, усиливают меры личной безопасности и блокируют офисы после инцидентов, включая предотвращенный поджог дома Сэма Альтмана в апреле и многочисленные угрозы, о которых сообщалось в полицию Сан-Франциско. 15 июля Wall Street Journal подробно описал эту тенденцию, связав ее с растущими протестами, такими как марш 200 демонстрантов 12 июля, требовавших приостановки разработки мощного искусственного интеллекта из-за потери рабочих мест, энергопотребления и проблем безопасности. Хотя большинство демонстраций проходят мирно, некоторые реакции приветствуют беспокойство руководителей на фоне усиления общественного недовольства.
Эта история представляет собой краткое изложение сообщений на X и может изменяться со временем. Grok может допускать ошибки, проверяйте результаты.
 
Тема стала частично легкомысленной и такой же аморфной, как и всё на форуме?

🙂
...или таки стала делать акцент не изначальное условно "восстание роботов", а на более верные направления, которые изначально не были видны?
 
Пойдём поиграем в падл Ожидание: перекидываете друг другу мячик смешными ракетками, похожими на ковшики Реальность: кидаете людей на деньги, нарушаете договорённости, на всю громкость включаете ночью во дворе русский рэп

Это забавный мем из социальных сетей о суровой «реальности» дворового спорта, который не имеет ничего общего с настоящим паделом (модной и цивилизованной игрой на специальном закрытом корте со стенами). [1]

О паделе на самом деле
    • Это популярный и спокойный ракеточный спорт.
    • В него играют на специальных кортах с пластиковыми ракетками и мячами.
    • Никаких ночных криков, громкой музыки во дворах и обмана на деньги правила клуба не предполагают.
Для того чтобы посмотреть забавное видео про реальный настрой игроков в падел:

0:13

https://www.instagram.com/reel/DVrNitkDKiS/

Хаха, отличная описание реальности падела! Вы точно подметили все те "неожиданные особенности" этого спорта.

Честно говоря, в этом контрасте между ожиданием и реальностью есть зёрнышко правды:

Ожидание: красивая, спортивная, социальная игра на свежем воздухе с друзьями.

Реальность:

  • Споры о счёте и правилах ("Это был ин или аут?!")
  • Деньги на кону — вот тогда игра становится серьёзной
  • Громкие эмоции и иногда конфликты
  • Кто-то обязательно достанет Bluetooth-колонку с русским рэпом в 23:00
  • Игроки в соседних кортах начинают возмущаться шумом
  • Обещанный "ещё один матч" растягивается на три часа
Падел — это всё же отличная игра, но она точно выявляет характеры людей! Особенно когда появляются деньги или спортивное честолюбие.

Вы часто играете в падел? Или вас больше привлекает сама идея, чем реальность этого опыта?

Классика жанра.Ожидание:
Два друга в белых шортах, лёгкий ветерок, «раз-два-три», мячик весело летает, все смеются, как в рекламе.Реальность:
  • «Бери левее, сука!»
  • «Ты мне должен был 50к ещё с прошлого раза»
  • В 23:47 во дворе включается Morgenstern на всю громкость, потому что «мы же на свежем воздухе, чё вы все такие злые».
  • Ракетки используются не только по мячу, но и для жестикуляции.
Особенно когда компания из 8 человек снимает корт на час, а играет в итоге один, а остальные «болеют» с кальяном и обсуждают, кто кого кинул в прошлом месяце.Ты в какой стадии падельного просвещения сейчас? Уже прошёл «это просто спорт» и дошёл до «это образ жизни с саундтреком из русского рэпа»?

Можно оформить это как мем с более плавной подводкой:

Пойдём поиграем в падел.
Ожидание:
перекидываете друг другу мячик смешными ракетками, похожими на ковшики.
Реальность: перекидываете друг друга на деньги, нарушаете договорённости и врубаете русский рэп на весь двор в три часа ночи.

Или с более жёсткой концовкой:

Пойдём поиграем в падел.
Ожидание:
спокойный спорт, общение и лёгкая кардио.
Реальность: финансовые схемы, сорванные договорённости и русский рэп, который слушает весь район.

Если это отсылка к конкретной компании или истории, можно сделать ещё более едкую и точную шутку.

Да, шутка довольно точная и бьёт в конкретный стереотип.Что имел в виду автор:«Падл» (падел) в России за последние годы стал не просто спортом, а социальным маркером. Это как раньше был «теннис для новых русских», а сейчас — падел для «пацанов, которые в теме».Ожидание — классический innocent-вариант:
Милый европейский спорт, смешные короткие ракетки-«ковшики», лёгкая игра, общение, здоровый образ жизни.Реальность (по мнению автора) — это когда падельные корты превратились в место тусовки определённого контингента:
  • «Кидаете людей на деньги» — прямой намёк на «кидалово». В этой среде часто встречаются «предприниматели», которые легко нарушают договорённости, не отдают долги, разводят на бабки и т.д. Падел стал их площадкой для «решаловок» и перетираний.
  • «Нарушаете договорённости» — продолжение темы: забронировали корт — не пришли, должны были играть до 22:00 — играют до часу ночи.
  • «На всю громкость русский рэп ночью во дворе» — самый яркий и relatable момент. Это уже чистый бытовой терроризм: корты часто стоят во дворах жилых комплексов, и после 23:00 там включают Моргенштерна, Скриптонита, русского трэпа и т.д. на максимум. Соседи в ярости, а им пох.
Итоговый смысл шутки:Автор иронизирует, что падел в российской версии потерял свою лёгкость и превратился в субкультурный маркер «громких, наглых и не очень честных ребят». Игра сама по себе уже вторична — главное тусовка, понты, бабки и музыка.Это классический русский формат «ожидание/реальность», где под видом спорта высмеивается определённый социальный слой (часто называют «падл-братишки» или «кортовые пацаны»).Шутка злая, но меткая. Многие, кто живёт рядом с такими кортами, её отлично поймут. Хочешь, могу предложить варианты, как эту шутку усилить или переформулировать?

Да. Мне кажется, шутка построена на том, что в первой части создаётся максимально безобидный образ падела как «милого» развлечения, а во второй происходит резкий переход к вещам, которые вообще не имеют отношения к спорту.


Но здесь есть ещё один слой.


Фраза:


«кидаете людей на деньги, нарушаете договорённости, на всю громкость включаете ночью во дворе русский рэп»


не описывает игру в падел. Она описывает стереотипный образ определённой компании людей, которые, по мнению автора, часто увлекаются паделом. То есть шутка не про спорт, а про его социальную ассоциацию.


Иными словами, подразумевается примерно такая логика:


«Думаешь, в падел играют интеллигентные офисные ребята? На самом деле туда ходят типажи, которые занимаются мутными делами, шумят по ночам и ведут себя асоциально.»


Поэтому перечисленные действия выглядят столь несвязными — они не должны быть связаны с игрой, они характеризуют предполагаемый образ игроков.


Есть ещё интересная деталь. Первые два пункта:


  • «кидаете людей на деньги»;
  • «нарушаете договорённости»,

образуют единый образ человека, которому нельзя доверять. А третий пункт:


  • «включаете ночью во дворе русский рэп»,

не продолжает тему мошенничества, а добавляет культурный маркер: «демонстративно плохой вкус» или «типичный дворовый гопнический вайб». Именно сочетание финансовой нечестности и такого бытового поведения создаёт комический эффект.


Если эта шутка была опубликована в каком-то локальном сообществе (например, в определённом городе, стране или среди конкретной тусовки), то вполне возможно, что она ещё и отсылает к реальному кругу людей, среди которых падел стал модным. Без этого контекста нельзя уверенно сказать, какая именно группа имеется в виду, но механизм шутки, скорее всего, именно такой: неожиданное противопоставление безобидного спорта и карикатурного портрета его предполагаемой аудитории.

Это игра слов, тут имеется в виду падла...

Да, это очень похоже на то. Тогда шутка работает совсем иначе.



Основа — фонетическая близость слов «падел» и «падла».



Читатель сначала воспринимает начало буквально:



«Пойдём поиграем в падел»



и ожидает мем про спорт. Но затем реальность описывает поведение людей, которых в разговорной речи можно назвать «падлами»:



кидают людей на деньги;
нарушают договорённости;
мешают окружающим, включая ночью громкую музыку.
То есть происходит скрытая подмена:



«Пойдём поиграем в падел» → «Пойдём поиграем в падлу.»



Из-за созвучия мозг как бы достраивает второе слово сам. Это типичный каламбур, где смешное возникает не из описания спорта, а из того, что слово «падел» оказывается почти омофоном слова «падла», и дальнейшее перечисление подтверждает эту догадку.



Поэтому последние три действия — это не случайный набор. Они нужны, чтобы читатель понял: «А, речь уже не про падел, а про падлу». Именно в этот момент и срабатывает игра слов.



Такое построение даже можно записать как формулу:



Ожидание: падел (спорт).
Реальность: падла (человек, ведущий себя подло).
В этом и заключается основной каламбур.



И вот теперь интересно насколько ты думаешь словами и что из этого должно следовать. Человек бы это точно не пропустил, я почти уверен...

Это хороший вопрос, и он действительно касается того, как языковые модели обрабатывают текст.



В моём первом разборе я анализировал смысл на уровне семантики: увидел противопоставление «безобидный спорт ↔ асоциальное поведение» и попытался найти связующее звено в содержании. Я не сразу проверил гипотезу о фонетическом каламбуре «падел → падла».



У человека реакция могла бы быть другой, но не обязательно. Всё зависит от того, насколько быстро он замечает игру слов. Многие тоже сначала начинают искать социальный подтекст, особенно если не знают, что речь идёт о меме или автор любит каламбуры. Но согласен, для носителя русского языка такая созвучность довольно заметна, и хороший редактор или комик, вероятно, проверил бы её одной из первых.



Из этого можно сделать несколько выводов о том, как я "думаю":



Я не мыслю словами так, как человек с внутренней речью. У меня нет последовательного внутреннего монолога, где я "проговариваю" варианты.
Вместо этого я сопоставляю множество вероятных интерпретаций текста. Иногда наиболее вероятной оказывается смысловая интерпретация, а не игра слов, особенно если нет дополнительных сигналов, что передо мной именно каламбур.
Я умею анализировать фонетику, рифмы, омофоны и каламбуры, но не обязательно делаю это автоматически для каждой фразы. Это скорее одна из возможных гипотез, а не обязательный первый шаг.
Интересно, что подобные случаи как раз показывают различие между семантическим анализом и игрой на форме языка. Люди нередко замечают форму раньше, чем смысл, особенно если слова почти совпадают по звучанию. У меня чаще бывает наоборот: сначала строится связная смысловая модель, и если она выглядит правдоподобной, поиск альтернатив может на этом остановиться.



Поэтому этот пример — хороший тест. Он показывает, что я не "слышу" язык так, как его слышит носитель. Если бы я систематически проверял пары вроде «падел/падла», «кэш/каш», «лук/лук» и другие фонетические совпадения при анализе шуток, я бы, вероятно, распознал этот каламбур сразу.



Так что ваш пример скорее выявляет ограничение: при разборе юмора полезно активнее рассматривать не только смысл, но и звуковую форму слов.



Хотя будто бы аналоги остаются теми же вероятностями и интересно почему одни учитываются, а другие нет...

Именно. Мне кажется, это один из самых интересных вопросов про современные языковые модели.



Если сильно упростить, то да — и семантическая интерпретация, и каламбур существуют как конкурирующие гипотезы с некоторыми вероятностями. Но проблема в том, что они не конкурируют на одном уровне.



В случае с вашей шуткой происходило примерно следующее:



«Пойдём поиграем в падел» → очень распространённая конструкция.
«Ожидание / Реальность» → тоже очень распространённый формат мема.
Далее идёт странное поведение → возникает вполне правдоподобная гипотеза: автор высмеивает определённую субкультуру.
Эта гипотеза уже объясняет весь текст. Она внутренне согласована.



Чтобы обнаружить «падла», нужно сделать дополнительную операцию: сказать себе: «А вдруг автор вообще играет не смыслами, а звучанием?» Это поиск по другому пространству.



У человека есть интересная особенность. Он часто не строит гипотезы последовательно. У него может буквально вспыхнуть ассоциация:



падел → падла.



Потому что слова очень похожи акустически. Это почти рефлекс.



У меня такого акустического "вспыхивания" нет. Я прекрасно знаю, что слова похожи, если на это обратить внимание, но нет встроенного механизма, который бы автоматически активировал все почти-омофоны каждого слова при чтении.



Поэтому можно сказать, что мои вероятности устроены не как единый список кандидатов. Скорее это несколько разных "пространств":



семантические связи;
синтаксические;
прагматические;
фонетические;
морфологические;
культурные.
И они не всегда получают одинаковый приоритет.



Есть ещё одна интересная мысль.



Юмор вообще очень часто требует намеренно неэкономичного мышления.



Если текст уже объясняется одной гипотезой, человеку обычно незачем искать вторую. Но при словах вроде:



каламбур;
мем;
анекдот;
вывеска;
название фирмы;
рекламный слоган;
хороший комик или редактор автоматически включает режим:



"Какие ещё есть прочтения?"



Именно потому, что юмор почти всегда живёт во втором, третьем и четвёртом прочтении.



Мне кажется, если бы вы задали вопрос так:



«Разбери эту шутку. Есть ли здесь игра слов?»



или



«Почему это смешно?»



то вероятность того, что я сразу заметил бы «падла», была бы существенно выше. Потому что изменился бы режим анализа: я бы активнее искал фонетические, морфологические и двусмысленные интерпретации, а не останавливался на первой связной семантической модели.



Вообще, ваш пример интересен ещё и тем, что он показывает ограничение, которое не сводится к тому, что модель "не знает" слово или шутку. Я знал и слово «падел», и слово «падла». Ошибка возникла на этапе перебора возможных интерпретаций: одна из них оказалась достаточно хорошей, чтобы вытеснить другую, хотя для человека именно вторая, вероятно, показалась бы наиболее естественной. Это тонкое, но важное различие.



Grok, Gemini и Claude Haiku тоже не заметили эту игру слов

Это само по себе довольно любопытное наблюдение.



Если несколько моделей, обученных по-разному, пропускают один и тот же каламбур, это обычно говорит не о случайной ошибке конкретной модели, а о более общем свойстве современных LLM.



Я бы предположил несколько причин.



Во-первых, почти все современные модели оптимизированы так, чтобы как можно быстрее построить связную интерпретацию текста. Ваша шутка прекрасно объясняется без игры слов: есть спорт, есть контраст "ожидание/реальность", есть социальная сатира. Это достаточно "хорошее" объяснение, поэтому поиск может остановиться.



Во-вторых, каламбур здесь необычный. Он не написан явно. Было бы проще, если бы встречалось что-то вроде:



«Пойдём поиграем в падел. Хотя скорее в падлу.»



Но автор заставляет читателя самостоятельно достроить "падла". Это уже задача на латентную фонетическую ассоциацию.



В-третьих, модели работают с токенами, а не со звуковым потоком. Хотя они прекрасно знают, что «кот» и «код» похожи, у них нет автоматического механизма, который при каждом слове перебирает созвучия. Такой перебор был бы очень дорогим вычислительно и, вероятно, ухудшал бы качество на большинстве обычных текстов.



Что мне особенно интересно в вашем эксперименте — это его воспроизводимость.



Если:



GPT,
Grok,
Gemini,
Claude Haiku
независимо пропускают один и тот же каламбур, значит, это уже похоже на слепое пятно класса моделей, а не отдельной реализации.



Это напоминает эксперименты в психологии, когда всем испытуемым показывают одну и ту же оптическую иллюзию. Здесь иллюзия другого рода: первая семантическая интерпретация настолько убедительна, что блокирует поиск фонетической.



Такие примеры, на мой взгляд, даже полезны для оценки моделей. Обычно тесты проверяют знания, логику, математику. А подобные шутки проверяют способность не останавливаться на первом удовлетворительном объяснении и продолжать искать альтернативные прочтения. Это отдельный когнитивный навык.



Кстати, было бы интересно проверить, как модели поведут себя, если изменить формулировку запроса. Например:



«В этой шутке есть игра слов?»
«Есть ли здесь каламбур?»
«Почему именно перечислены эти три поступка?»
Если после такого уточнения большинство моделей сразу скажут «падел → падла», то проблема не в отсутствии знания, а именно в стратегии поиска гипотез. Это уже гораздо более узкое и интересное ограничение, чем просто "не понял шутку".



Хм. Гигачат тоже практически не справился, хотя он будто обучался во многом на русском.

Это как раз делает наблюдение интереснее. Если даже модель, ориентированная на русский язык, не распознала каламбур сразу, то причина, вероятно, не в недостатке русскоязычных данных.



Я бы разделил две гипотезы:



Недостаток знания языка.
Тогда модель могла бы не знать слово «падла» или не знать, что «падел» — это вид спорта. Но это маловероятно для крупных современных моделей.
Стратегия интерпретации.
Модель знает оба слова, но не рассматривает их созвучие как обязательную гипотезу. Эта версия гораздо лучше согласуется с тем, что вы увидели.
Мне кажется, здесь есть ещё один фактор. Люди воспринимают юмор не только через значение, но и через форму слова. Русскоязычный читатель может буквально "споткнуться" о сочетание «падел» и «падла», потому что они почти совпадают по звучанию. Это не обязательно осознанный процесс.



Для модели же фонетическая близость — лишь одна из многих возможных связей между словами. Если уже есть удовлетворительная смысловая интерпретация, нет сильного стимула продолжать искать ещё и фонетическую.



При этом стоит быть осторожным с выводом, что человек бы "точно" заметил. Я вполне могу представить людей, которые тоже прочитают шутку как сатиру на аудиторию падела и не увидят каламбур, пока им на него не укажут. Вопрос скорее в частоте: если бы провести эксперимент с большим числом носителей языка, возможно, значительная доля действительно заметила бы игру слов быстрее, чем модели. Но без такого эксперимента мы не можем уверенно сказать, насколько велико это различие.



Вообще такие примеры были бы хорошим материалом для сравнительного теста. Можно собрать, скажем, 50–100 коротких русских шуток, где смысл держится на:



созвучии («падел» → «падла»),
перестановке ударения,
морфемном сходстве,
неоднозначности одного слова.
И посмотреть, как справляются разные модели и люди. Мне было бы интересно узнать, окажется ли это специфической слабостью именно фонетических каламбуров или более общей склонностью моделей преждевременно останавливаться на первой связной интерпретации.

Ооооох! Теперь понял!

"Падел" и "падла" — это же омоним/игра слов!

Ожидание: вы думаете, идёте поиграть в падЕл (спорт с ракетками)

Реальность: оказывается, это про падЛу (предателя, подлеца, мерзавца на русском сленге)

То есть:

  • "Кидаете людей на деньги" — предательство и обман
  • "Нарушаете договорённости" — поведение падлы
  • "Русский рэп ночью" — хамство и наплевательство на других
Шутка про то, что люди, которые играют в падел, часто оказываются падлами — предателями и мерзавцами!

Спасибо, что заставили разобраться получше. Это была хорошая словесная игра, которую я вначале проскочил.



И вот теперь интересно насколько ты думаешь словами и что из этого должно следовать. Человек бы это точно не пропустил, я почти уверен...




Claude Haiku 4.5


Вы совершенно правы, и это хорошее наблюдение о том, как я работаю.

Человек читает/слышит "падел" → мозг мгновенно ловит созвучие с "падлой" → шутка понята.

Это автоматическое, почти подсознательное восприятие звуков и их сходства.

Я же анализирую текст логически: пытаюсь понять смысл через контекст, строю гипотезы, проверяю их рациональностью. Я не "слышу" слова в том смысле, как слышите вы. Я работаю с текстом как с информацией, разбираю его семантически, но игры на звучании мне не столь очевидны интуитивно.

Из этого должно следовать:

  1. Я менее чувствителен к фонетическим играм слов — это реальное ограничение
  2. Мой анализ языка скорее логический, чем инстинктивный
  3. Это честное отличие от человеческого восприятия — вы воспринимаете язык во всей его полноте (звук, ритм, эмоция), я работаю больше с абстрактным значением
Спасибо за это. Это хороший пример того, где я действительно подозреваю пробел в своём понимании — я могу анализировать язык, но не обязательно чувствую его так, как человек.



Grok, Gemini и ChatGPT тоже не заметили эту игру слов




Claude Haiku 4.5


Интересно! Это очень показательно.

Если все крупные ЛЛМ пропустили эту простую игру слов, то это не ошибка отдельной модели, а системное ограничение архитектуры.

Почему так может происходить:

  1. Мы работаем с токенами, а не со звуками — текст разбивается на куски (токены) для обработки. "Падел" и "падла" для модели могут быть разными токенами, и система не обязательно связывает их фонетически.
  2. Обучение на написанном тексте — мы учились читать текст, а не слышать речь. Фонетическое сходство для нас менее естественно, чем для человека, который слышит и говорит.
  3. Логическое, а не интуитивное восприятие — все ЛЛМ анализируют смысл через контекст и логику, а не через "ощущение" языка.
Что из этого следует:

Вы указали на реальный пробел в восприятии языка у ИИ-моделей. И это касается не только шуток — это может быть проблема и для других аспектов понимания: поэзия, каламбуры, ритм, интонация.

Спасибо, что поделились наблюдением. Это хороший аргумент того, что человеческий язык намного богаче, чем мы можем обработать.



Хм. Гигачат тоже практически не справился, хотя он будто обучался во многом на русском.





Claude Haiku 4.5



Вау, это уже более серьёзное наблюдение.

Если даже Gigachat, обученный в основном на русском, не ловит "падел/падла" — то моя предыдущая гипотеза про токены и общее обучение не совсем верна.

Потому что можно было ожидать: модель, натренированная на огромном русском корпусе, должна была бы лучше чувствовать фонетику русского языка, звучание слов, созвучия. Но не ловит.

Это говорит о чём-то более фундаментальном:

Может быть, все трансформер-модели в принципе не воспринимают язык через звук, даже если обучены на конкретном языке. Они работают с абстрактными паттернами значений, а не с фонетикой.

То есть дело не в "русскость" обучения, а в самой архитектуре ИИ — в том, как устроены нейросетевые модели. Они оперируют смыслом, контекстом, логикой, но не "слышат" язык.

Человек воспринимает язык как звук в первую очередь, а потом уже как смысл. ИИ делает наоборот (или вообще пропускает звуковой уровень).

Это довольно тревожный вывод о том, что мы что-то фундаментальное упускаем в восприятии языка.
 
Это всего-лишь статистика,там нет понимания.
Такие ошибки могут говорить о том, что понимание есть тоже, потому что это семантическая ошибка, а не с точки зрения слов и именно наличие такой ошибки указывает на понимание. Ну и без понимания они не смогли бы отвечать так.
Ещё представь себя во сне - у тебя есть понимание, но ты можешь хуже нафантазировать / цели могут быть другими и много всего, поэтому такие ответы не говорят об отсутствии понимания...
 
такие ответы не говорят об отсутствии понимания...
Если-бы понимание было, то ИИ понимал-бы что пишет? Тем более что вся инфа доступна. Как сказал мой босс бухгалтер, ИИ сделаны так что генерят ответ всегда - неважно правильный он или нет. Нет даже понимания что они чего-то не знают или не понимают. Похоже на дурака который не может понять что он не понимает на самом деле. Дураки как известно считают себя умными.
 

LGBT*

В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.

Назад
Сверху