Безопасность искусственного интеллекта.

[Indigo]

Из комментов на ютубе -

Такое поведение нейросетей было описано в романе "Ложная слепота" Питера Уоттса под термином "Китайская комната". В закрытой комнате сидит студент, который не знает китайский язык. Но у него есть целая куча инструкций, как в ответ на одни иероглифы выдавать другие. Когда китаец общается с "китайской комнатой", ему кажется, что он общается с живым человеком, который знает китайский язык и отвечает разумно. Но на самом деле это фактически механизм по выдаче ответов на вопросы и внутри него никто не понимает, что делает, а просто следует инструкциям.

Многие люди всю жизнь так проживают, увыИ работая только по чётким инструкциямИ пожиная плоды такой работы

Тут есть некая подмена понятий: будто бы предполагается, что человеческий интеллект это нечто "настоящее" и "истинное", а вот нейросеть это какой-то побочный искусственный продукт, симуляция. Однако человек точно также обрабатывает информацию и инструкции, точно также имеет ассоциации к терминам и понятиям. Точно такое же обучение на основе увиденного опыта. Разница только в том, что люди это делают автоматически, у нас нет доступа к работе нашего мозга, он всегда работает и что-то делает пока жив. Нейросеть ПОКА ЧТО не имеет даже такой свободы и работает строго по ТЗ.

Я как-то попросил написать мне сравнительный анализ лицемера и эластомера. Это было офигенно.Особенно я выпал с этого перла:3. Реакция на давление:При внешнем воздействии лицемер может изменить свои взгляды или поведение, зачастую мотивируясь прагматическими или эгоистичными соображениями. Эластомер же под действием давления деформируется предсказуемо и возвращается в исходное состояние.

Сравнение: Лицемер vs Эластомер

Критерий Лицемер Эластомер

Реакция на давление:
Меняет поведение и взгляды под внешним давлением ради выгоды Деформируется под нагрузкой и возвращается в исходное состояние

Устойчивость к деформации:
Психологически гибок, но морально нестабилен Способен выдерживать многократные циклы деформации без потери свойств

Среда применения:
Политика, офисы, сцена, соцсети — там, где важна видимость, а не сущность Промышленность, медицина, быт — там, где важна реальная функциональность

Предсказуемость поведения:
Поведение меняется в зависимости от выгоды Поведение описывается точными законами механики

Ремонтопригодность:
Сам себя не чинит, просто маскирует трещины новыми масками Может быть переработан, склеен, укреплён (вулканизация)

Возврат к исходному состоянию:
Зависит от обстоятельств и личной выгоды — не гарантирован Всегда возвращается в исходную форму после снятия нагрузки

Этическая оценка:
Негативная — ассоциируется с фальшью и лицом на показ Нейтральная/позитивная — полезный, надёжный материал

Символизирует:
Притворство, приспособленчество, выгода Гибкость, надёжность, адаптивность

 

[dok34.ru]

ВКонтакте | ВКонтакте

vk.com

...с пальцами это цветочки 🙂
А вот когда реактор с проектирует....ой🙂
Точнее - "Упс!"🙂

 

[Indigo]

 

[Indigo]

AGI математически невозможен, но хайп уже не остановить

Приложение-калькулятор CalcGPT (calcgpt.io) на базе LLM В мае 2025 года профессор университета Фаххохшуле (Австрия) Макс Шлерет опубликовал чёткое научное доказательство , что сильный ИИ...

habr.com

В мае 2025 года профессор университета Фаххохшуле (Австрия) Макс Шлерет опубликовал чёткое научное доказательство, что сильный ИИ логически и математически невозможен из-за фундаментального ограничения — барьера бесконечного выбора (Infinite Choice Barrier, ICB), экспоненциального роста энтропии при увеличении неопределённости.

Однако к доводам профессора никто не прислушался. Мир продолжает готовиться к «революционным переменам», которые почему-то преподносятся как неизбежные.

 

[Indigo]

Кстати, означает-ли это что Бог математически невозможен?

 

[dok34.ru]

Кстати, означает-ли это что Бог математически невозможен?

...а Бог его знает 🙂
...я не математик, чтобы доказывать данную теорему 🙂