Безопасность искусственного интеллекта.

Добрались руки написать небольшую аналитическую статью. Если так можно выразиться)


Искусственный Интеллект.

В недавнем выступлении, посвящённом ИИ, представитель OpenAI Сэм Альтман заявил, что в ближайшее время программисты потеряют свой вес, поскольку искусственный интеллект достигнет такого уровня, что потребность в программистах сведётся на нет. Альтман упомянул, на мой взгляд, достаточно спорный оборот: человек не сможет достичь того же уровня знаний, что и ИИ, и поэтому победит тот, кто научит правильно писать «промпты».

Считаю, что эта мысль имеет право на существование, но возникает вопрос: а какова роль человека во всём этом процессе? Он создатель или инструмент?

Если так пойдет и дальше, то получается, что вся наша ценность будет заключаться лишь в умении правильно сформулировать запрос для машины? А что тогда с нашим собственным мышлением?

Сама по себе мысль, что "человек не достигнет такого уровня знаний, как AI", настораживает. Получается, что мы заранее расписываемся в своей интеллектуальной несостоятельности? Сдаемся без боя? И если мы просто доверимся машине думать за нас, не разучимся ли мы думать сами? Не станем ли мы просто придатком к этому самому "промпту", без которого машина вообще ничего не сможет?

Ведь если задуматься, обучение, образование, вся система, которая веками складывалась – она же была направлена не только на передачу знаний, но и на развитие самого процесса мышления. Нас учили не просто запоминать, а анализировать, сравнивать, делать выводы, оценивать информацию. Нас учили учиться. А если мы перестанем этому учить, если мы решим, что все "знания уже есть в машине", и нужно только правильно спросить, то что тогда будет с самим процессом познания? Не атрофируется ли он просто за ненадобностью?

Мышление, как и любой другой навык, требует постоянной тренировки. Если мышцы не тренировать, они слабеют, а то и вовсе атрофируются. То же самое и с мозгом. Если мы перестанем его нагружать, если мы перестанем заставлять его думать самостоятельно, он просто разучится это делать. И тогда мы действительно станем зависимыми от машины не только в плане получения информации, но и в самом процессе мышления. Мы потеряем способность думать.

Вот говорят про "удобство", про "эффективность", про то, что ИИ освободит нас от рутины и даст нам больше времени для "творчества и саморазвития". Мне подсказывает, что на деле все может оказаться совсем не так радужно. Ведь если мы перестанем напрягаться, перестанем преодолевать трудности, перестанем стремиться к знаниям, не утратим ли мы саму способность к творчеству? Творчество же не из пустоты берется. Оно рождается из знаний, опыта, постоянного поиска. А если мы все это забросим ради "удобства" и "эффективности", не окажемся ли мы в итоге просто пустыми оболочками, способными только потреблять то, что нам даст машина?

Что такое человек вообще? Не просто же ходячий кусок мяса, который ест, спит и размножается. Человек – это существо мыслящее, стремящееся к познанию окружающего мира, к творчеству. Это существо, которое задает вопросы, которое сомневается, которое ищет смысл в жизни. И если мы откажемся от этого постоянного поиска, от желания понять, разобраться, создать что-то новое, не потеряем ли мы саму свою человеческую сущность? Не превратимся ли мы в просто функционирующие элементы какой-то огромной машины, где главная цель – это "эффективность" и "потребление", а не познание?

Ведь по сути, что нам предлагают? Нам предлагают отказаться от собственного интеллекта, в какой-то мере, в пользу интеллекта искусственного. Нам говорят: "Не напрягайтесь, не думайте слишком много, мы все сделаем за вас. Просто задайте правильный вопрос, и мы вам дадим готовый ответ". Но ведь интеллект – это не просто набор знаний и навыков. Интеллект – это способность мыслить критически, анализировать, сомневаться, творчески подходить к решению проблем. Это то, что делает нас разумными существами, способными адаптироваться, развиваться, создавать. И если мы откажемся от этой способности, если мы перестанем ее тренировать и развивать, не потеряем ли мы что-то очень важное, не разучимся ли мы быть по-настоящему разумными?

Подумайте: эволюция миллионы лет работала над тем, чтобы создать человеческий мозг, способный к сложному мышлению. И что же теперь, мы вот так легко готовы отказаться от этого дара, ради какого-то сомнительного "удобства"? Не выглядит ли это как какой-то самоубийственный шаг, как отказ от собственного будущего? Ведь человеческий разум – это самое ценное, что у нас есть. Это то, что позволило нам достичь всего, чего мы достигли. И теперь мы готовы поставить это под угрозу, ради каких-то сиюминутных выгод? Не слишком ли высокая цена за мнимое "удобство" и "эффективность"?

Само по себе упоминание Альтмана про "промпты" – оно же не случайно. Это как бы предзнаменование, что теперь ценность человека будет определяться не его собственными знаниями, навыками, умением мыслить, а только его способностью правильно "заказывать" работу машине. Как будто мы становимся просто инструментом для ИИ, которые только и делают, что раздают задания и принимают результат. А все творчество, вся интеллектуальная работа, вся самостоятельность – это уходит на второй план, становится ненужным, избыточным.

И вот, глядя на всё это, задаешь себе вопрос: а не идём ли мы по пути интеллектуальной деградации, добровольно отказываясь от того, что отличает нас как вид? Не превратимся ли мы в итоге в общество "промпт-инженеров", утративших способность к мышлению? Ответы на эти вопросы, боюсь, нам ещё только предстоит найти, и от этих ответов зависит будущее человечества.
Некоторые превратятся, некоторые нет 🙂
Имхо.
Промпты это хорошо.
А вот всё, что побольше, чем сайтик или программа/ игрушка - утыкается ( пока) в количество токенов🙂
И в сложность проверки _ всех_ сторон и ньансов , к примеру - ОСи, сделанной ИИ.
С помощью ИИ - норм, имхо.
А вот чтобы хоть ReactOs доделать...ой, я сомневаюсь🙂
 
...в тему 🙂
Посмотреть вложение 9562

Я тоже подумал что собака по кругу ходила 🙂

Screenshot 2025-03-25 131608.jpg


А оказывается она не была привязана 🙂

Screenshot 2025-03-25 131522.jpg
 
Больная тема для любой нейросети. Галлюцинации пока устранить не удалось, и периодически модели продолжают придумывать факты с уверенным видом. Однако одни делают это чаще, другие реже, поэтому стоит выбирать ту, которая чаще выдает правду.

Ситуация немного улучшилась с появлением доступа к интернету. Теперь некоторые модели могут получать актуальные данные прямо из браузера, но не все обладают такой возможностью. Если же сервис работает без веб-доступа, то ответы могут основываться на устаревшей информации.

Прямо как люди.
Правда у людей доступ к инету есть, но многие все равно делают выводы на основе устаревшей информации.
 
Я тоже подумал что собака по кругу ходила 🙂

Посмотреть вложение 9565


А оказывается она не была привязана 🙂

Посмотреть вложение 9566
..я тоже про круг думал, или - что веревка в руках хозяина, и он вместе с ней ходит 🙂
Как я эти дни🙂
Близкий образ 🙂
 
"Одним из наиболее сильных западных влияний на мир, включая Россию, является идея производства продуктов массового искусства — литературы, графики, музыки, фильмов, мультфильмов, рассчитанных на потребление неограниченным кругом лиц и на извлечение прибыли от этого. Если незападные государства производят искусство, как правило, для внутреннего потребления, то западные, помимо этого, давно сделали его предметом экспорта. Здесь я бы хотел фрагментарно очертить основные стадии развития идеи «искусство» (поскольку сама тема очень объёмная) и показать, что на сегодняшний день она практически исчерпала себя.

Идея регулярного производства продуктов искусства для самых широких слоёв населения возникла примерно тогда же, когда были изобретены или значительно развиты средства их дешёвого тиражирования. Печатание книг появилось на несколько веков раньше, чем технологии производства фотографий, затем разного рода дисков, кассет, виртуальных носителей информации (файлов) и, наконец, генерация нейросетями. До этого оперы и симфонии, театральные постановки и прочие действа, подпадающие под искусство, исполнялись, естественно, вживую. Рисовались вживую портреты и другие картины. Это были разовые, хотя и воспроизводимые акты.

Из-за особого характера создания произведения искусства, этот процесс считался куда более возвышенным и обстоятельным делом, чем сегодня. К созданию картины или музыкального произведения подходили со всей серьёзностью и высочайшей подготовкой. Поэтому не совсем корректно с сегодняшних позиций говорить, что, например, Моцарт — это попса XVIII века. Даже «Маленькая ночная серенада» написана с ювелирной точностью и блеском, недостижимым даже сегодня. Соответственно, и роль таких произведений виделась в духовном облагораживании людей и возвышении их над мирскими тяготами. Если тогдашнее искусство и несло функцию развлечения, то, по крайней мере, делало это с совсем других — можно сказать, элитарных — позиций.

«Вакханалия» же массового искусства стала зарождаться во второй половине XIX — начале XX века, когда появилась возможность записи и воспроизведения продуктов искусства (запечатление на фотоплёнке, запись на пластинки и киноленты). С развитием таких технологий появилась возможность коммерциализации продуктов массового искусства. Чем больше копий той или иной записи будет продано, тем больше будет прибыль, — этот принцип плюс конкуренция стимулировали ускоренное производство чтива и разного рода попсы, а также, с другой стороны, усовершенствование качества и объёма носителей информации вкупе со средствами их воспроизведения.

Надо сказать, что популярная в первой половине XX века экзистенциалистская философия, равно как и последовавший за ней постмодернизм, концептуально формировали и идеализировали в обществе образ «свободного художника» — мол, свобода и состоит в том, чтобы быть артистической свободой, когда человек волен «рисовать» свою жизнь так, как ему хочется, невзирая на внешние и социальные ограничения.

Свободой в такой трактовке пронизана вся контркультура 1960-х. Без преувеличения можно сказать, что тогда дух массового искусства вырвался на свободу и заполонил общественную жизнь. Приведу примеры только из массовой музыки. Рок-н-ролл в 60-х; рок, диско, электронные эксперименты в 70-х; нью-вейв 80-х; евродэнс 90-х; pumping house 2000-х; дабстеп 2010-х; какой-то там «грустный дэнс» 2020-х — все эти направления на момент своего появления были глобальны и несли в мир ту или иную идею, состояние, настроение. Свобода искусства превратилась в диктат, а его возвышенный характер окончательно «заземлился», а то и вовсе ушёл в виртуальность.

Сейчас доступность средств производства той же музыки не просто ограничена популярным софтом — её теперь производят нейросети. И это только вопрос времени, когда этическое требование указывать искусственное происхождение продукта искусства будет игнорироваться, и зарабатывание денег, выдавая продукт нейросети за свой авторский, станет нормой.

Подводя итог этому рассмотрению, можно констатировать, что с развитием технологий записи, распространения и воспроизведения в XX веке, искусство совершило резкий и стремительный рывок к массовости, коммерциализации и идейному упадку — в конечном счёте, к измельчанию и обесцениванию. Окончательно же закрепляют это положение генеративные технологии ИИ — хотя вопрос коммерциализации такого «искусственного искусства», как не имеющего временно́й и идейной ценности, всё же остаётся открытым. Только при условии, что его перестанут отличать от созданного человеком"
...не моё🙂
 

Новые комментарии

LGBT*

В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.

Назад
Сверху