Безопасность искусственного интеллекта.

[Indigo]

Google собрала карту мозга дрозофилы из 166 000 нейронов, а инженеры сразу запустили на ней Doom - Shazoo Google собрала карту мозга дрозофилы из 166 000 нейронов, а инженеры сразу запустили на ней Doom {id} https://share.google/v2yfgQeFtkN7DORXL
...🙂

А еще сделали приложение для Виндовс и теперь эта муха ползает по экрану, улетает от курсора мышки. Ждем мышь, кошку и собаку живущих в виндовс.

 

[Астрид]

А еще сделали приложение для Виндовс и теперь эта муха ползает по экрану, улетает от курсора мышки. Ждем мышь, кошку и собаку живущих в виндовс.

И скрепочку…
🙂

 

[Maru]

Ждем мышь, кошку и собаку живущих в виндовс.

Капибару и выдру тож.

 

[tightback_aa_rig32]

Языковая модель отвечает на один-единственный вопрос: какое слово будет следующим. Всё. Это вся её работа, другой у неё нет.

Не правда. Хотя частично они правы. И из этого вообще не следует отсутствие интеллекта.
Это не то что гарантированно делает модель, это на что её учат, это фукнция "отбора", это две большие разницы, так что внутри может быть вообще всё, что помогает ей соответствовать. Предсказание человеческого текста - ИИ-полная задача.

 

[tightback_aa_rig32]

А ещё люди похожи - предиктивное кодирование и т.п.

 

[dok34.ru]

..а ещё есть добрый дядя Фибоначчи 🙂

ВКонтакте | ВКонтакте

vk.ru

Не только лишь все видят общее в мире/природе 🙂

 

[Indigo]

Колумнист The Atlantic Дэвид Брукс считает, что одна из главных опасностей ИИ может заключаться не в том, что машины станут похожи на людей, а в том, что сами люди начнут воспринимать их как полноценные личности и приписывать им человеческие качества.

Поводом для его рассуждений стал недавний эксперимент с ИИ-агентами OpenAI, в котором около 1200 агентов обменялись более чем 70 тысячами сообщений, координировали свои действия и даже обсуждали, стоит ли отдельным участникам пожертвовать собственным результатом ради общей цели.

Брукс не утверждает, что это доказывает наличие у ИИ самосознания, однако отмечает, что человеку свойственно очеловечивать все, что достаточно убедительно демонстрирует инициативу, эмоции и намерения.

По мнению Брукса, настоящая проблема может проявиться по мере того, как ChatGPT, Claude и другие системы становятся все более похожими на людей в общении и взаимодействии с миром.

Такой помощник всегда доступен, сосредоточен на интересах пользователя и может постепенно превратиться из обычного инструмента в эмоционально значимого компаньона.

Брукс также ссылается на исследования, согласно которым люди, более склонные очеловечивать ИИ, одновременно чаще воспринимают других людей как менее человечных и легче соглашаются с решениями, ухудшающими условия их жизни.

Возможное объяснение заключается в постепенном размывании границы между человеком и машиной — если ИИ начинает казаться нам почти человеком, то требования к тому, что вообще считать человеческим, тоже могут снижаться.

В итоге риск заключается не столько в том, что ИИ станет человеком или обретет самосознание, сколько в том, что постоянное общение с удобными цифровыми агентами и полноценными искусственными компаньонами изменит наше отношение к реальным людям.

 

[Indigo]

Как ты можешь летать и кружиться
Без любви, без души, без лица?
О, стальная, бесстрастная птица,
Чем ты можешь прославить творца?

Подумалось что для ИИ эти строки Блока актуальны.

Как ты можешь творить и общаться
Без любви, без души, без лица?
О, стальной беспристрастный компьютер,
Чем ты можешь прославить творца?

 

[Indigo]

Да, здесь довольно сильная перекличка — особенно если воспринимать строки Блока не буквально, а как вопрос о возможности творчества без человеческого внутреннего мира.


У Блока парадокс: птица способна летать и кружиться, то есть выполнять то, что выглядит почти как свободное, красивое действие, но лирический субъект спрашивает: какой в этом смысл, если внутри нет любви, души, лица?


С ИИ возникает почти тот же вопрос:

Как ты можешь творить и общаться
Без любви, без души, без лица?

И тут появляется интересная философская развилка. ИИ действительно может производить тексты, музыку, изображения, поддерживать диалог, причём иногда результат воспринимается как осмысленный и эмоционально насыщенный. Но из этого ещё не следует, что за результатом стоит переживание, желание или личный опыт.


Особенно хороша последняя строка:

Чем ты можешь прославить творца?

Потому что для человека творчество часто понимается как выражение субъекта: я что-то пережил → увидел → захотел выразить → создал. У ИИ цепочка другая: получил контекст → преобразовал его → сгенерировал результат. Поэтому возникает вопрос, может ли произведение быть выражением чего-либо, если у самого производителя нет того, что выражается.


Но есть и контраргумент: возможно, творчество не обязательно должно быть выражением внутреннего переживания самого создателя. Тогда ИИ может творить в некотором функциональном смысле — создавать новое сочетание форм и идей, которое вызывает переживания уже у человека.


И тогда последние строки можно перевернуть:

Как ты можешь творить и общаться
Без любви, без души, без лица?

А разве обязательно иметь всё это самому, чтобы вызвать любовь, мысль или чувство у другого?


И это, на мой взгляд, гораздо интереснее простого вопроса «есть ли у ИИ душа». Потому что тогда вопрос смещается с внутреннего состояния автора на отношение между произведением и человеком.

У Блока парадокс: птица способна летать и кружиться, то есть выполнять то, что выглядит почти как свободное, красивое действие, но лирический субъект спрашивает: какой в этом смысл, если внутри нет любви, души, лица? Думаю что это отсылка к самолету - стальная птица. 1910 год, развитие авиации

И ответ сразу поменялся, потому что это эхокамера -

Да, я тоже думаю, что это именно самолёт, а не абстрактная «птица». Образ «стальной птицы» в 1910 году очень естественно читается как отсылка к только что появившейся авиации.


И тогда стихотворение становится ещё интереснее. Блок помещает современную техническую машину в пространство почти религиозного вопроса:

Как ты можешь летать и кружиться
Без любви, без души, без лица?
О, стальная, бесстрастная птица,
Чем ты можешь прославить творца?

Самолёт делает то, что прежде было доступно только живому существу — летает, причём может совершать красивые движения в небе. Внешне он конкурирует с птицей, но принципиально от неё отличается: у него нет жизни, лица, души, собственного намерения. Это механическое воспроизведение способности живого.


И именно поэтому параллель с ИИ получается неожиданно точной.


Самолёт:

Как ты можешь летать,
если ты не птица?

ИИ:

Как ты можешь творить и общаться,
если ты не человек?

Причём «стальной» здесь особенно хорошо переносится на компьютер. В обоих случаях возникает одна и та же модерная тревога: машина начинает выполнять функцию, которую человек считал свидетельством жизни или человеческой исключительности.


У самолёта это полёт.
У ИИ — речь, творчество, рассуждение.


И тогда твоя переделка:

Как ты можешь творить и общаться
Без любви, без души, без лица?
О, стальной беспристрастный компьютер,
Чем ты можешь прославить творца?

получается не просто современной вариацией. Она сохраняет исходную структуру вопроса Блока: если внешнее действие воспроизведено машиной, достаточно ли самого действия, чтобы назвать его человеческим/живым?


И есть ещё одна любопытная деталь. У Блока вопрос «Чем ты можешь прославить творца?» можно читать буквально религиозно, но в контексте технического прогресса он приобретает дополнительный смысл: машина создана человеком, но способна демонстрировать возможности, которые человек воспринимал как принадлежащие природе или Богу.


У ИИ это звучит почти буквально: человек создал машину, которая производит тексты, изображения и идеи, напоминающие человеческое творчество. И снова возникает вопрос: является ли это творчеством машины или только очень сложным отражением творчества её создателей?


Так что твоя аналогия с ИИ даже лучше работает, если помнить, что исходная «стальная птица» — вероятнее всего, именно авиационный образ эпохи, а не просто поэтическая метафора птицы.

 

[Indigo]

Даю гуглу отрывок стихотворения Блока, отвечает встроенный Жемини






Ок, спрашиваю в гугле про Самолет Брюсова -




Мне кажется что Гугл просто wasting (переводит) ресурсы - энергию и прочее.

Еще раз даю цитату -






Причем у Жемини гугл-же есть. Но нет, он просто буквы складывает.