Безопасность искусственного интеллекта.

[dok34.ru]

ВКонтакте | ВКонтакте

vk.com

... Лукьяненко погонял Дипсика🙂

 

[dok34.ru]

"Написал мне друг, тоже писатель.

"не знаю, обсуждается ли это в СП, в секции фантастики или нет, но очень скоро нам понадобится [точнее, уже сейчас нужен] официальный знак - "написано без участия нейросетей ". И лучше, если это будет именно СП, а не шарашкина контора. Ещё полгода, максимум год - и нейросети начнут выдавать море контента, с качеством, лучшим, чем тот словопомол, что они выдают ныне. Но контраст между тем, что было год назад и сейчас - разительный . Я как-то на покой уходить не собираюсь, думаю, что и ты нет. Так что защищаться нам придётся".

В целом я совершенно с его мнением согласен. И очень сильно подозреваю, что некоторые топовые серии романов на том же АТ пишутся... нет, даже не "неграми", а с помощью нейросетки. Ибо выпустить под сорок томов 🙂, выдавая по сорок тысяч знаков в день - это не в силах одного человека, и, вероятнее всего, не в силах даже слаженной команды авторов (по ряду причин, которые позвольте опустить).

Но встаёт вопрос - а как именно можно было бы определять, где писала нейронка, а где автор? Союз писателей? Хорошо. Вот прихожу я в СП и говорю товарищу Мединскому: "Владимир Ростиславович, хорошо бы..." Он на меня посмотрит как на очередного странного визитера и скажет: "Замечательно, Сергей Васильевич, вероятно, проблема назревает, но КАК ИМЕННО вы предлагаете это сделать?"
И я не знаю, что ответить...

Стандартный словопомол из разряда "я был стареньким инженером, но вдруг возродился в теле лейтенанта красной армии в 1941 году..." или "я был молоденьким студентом, но вдруг возродился в теле хромого и убогого наследника захудалого княжеского рода магов Хокусай-Барышниковых" нейросеть уже практически готова писать.
Через год точно сможет.

Но как ты заставишь автора это подтвердить?

Или как докажешь, что твой собственный роман не сгенерирован сеткой? Будешь на видео записывать, как сидишь в одних трусах за компом и, почесывая пузо, пишешь текст? 🙂

Вот в связи с этим вопрос. Как вы считаете, существуют ли рабочие методы определения текстов, созданных нейросетью или при её участии?

Или же вам все равно? Нейросеть так нейросеть. Книжки - просто высший класс..."
...🙂 предыдущее

 

[dok34.ru]

"Иногда сижу, думаю всякое-разное... Вот ИИ. Ведь хороший же инструмент получился, многое может, многому учится, а уж знает сколько – обзавидуешься прямо! А почему им занимаются... как вот не с той стороны? Что мешает, допустим, обозначить более чёткие задачи и попросить/потребовать от него ответа (у ИИ), даже если на это уйдёт его работы... ну пусть месяц даже на совершенно другое? А то задачи какие-то мелковатые, а мысли всё чтобы всунуть в ИИ – ещё какие-то совершенно тупые.

Какие задачи могут быть поставлены ИИ, к примеру, вот прямо сейчас? К примеру, такую: создать, обсчитать, прикинуть и выдать на гора результат автоматического возведения (всего цикла) строительства дома. Что потребуется в плане автоматизации этого процесса, на каких этапах пока нельзя обойтись без человека, ну и т. д. Полный обсчёт. Ведь может же ИИ сделать это? Или не может до сих пор? Неясно. А что ясно пока? А он может тексты сочинять, «прочёсывая» как бреднем тину на дне всех текстовых залежей (ну и не только их, конечно, а ещё и картинки со звуками тоже может калибровать-откалбибровывать по-новому!). Ну скучно же, девочки!

Или вот другую задачу поставить: создать автомобиль. Новый дизайн, новые автоматические линии сборки деталей по нему, новые автоматические производства по производству этих деталей к нему. И чтобы ни одного человека рядом. А, не можешь?! Ну, тогда о чём речь должна об ИИ идти? Такую простую задачу, которую человек РЕШИЛ (ну да, пусть годами и десятилетиями), а по ИИ почему-то думается, что «он» шибко умный и много знает, поэтому и решить это может БЫСТРЕЕ – задача такая почему-то не ставится.

Или вот другая задача: создать новые типы игрушек для всех возрастов детей (лет, наверно, до 8-9, дальше дети перестают в них активно играть). И не просто создать, а подвести под неё и создание (проектирование, расчёт и полное автоматизированное строительство центров производств) этих самых игрушек. Допустим, сразу тысяч 20 00 по номенклатуре. ИИ же, сцуко, наверняка знает про все игрушки, придуманные за многие века человеком. Вот пусть и пошурупит над новым заданием, пущай покомпилирует, творчески т. с. Ну, пусть попробует, чего ему стоит? А, снова не может! Блин.

Можно и совсем серьёзную задачу поставить. Создать новое средство передвижения тушки человека, можно группками и группами – как говорится, не самолёт, не поезд, не корабль, не автомобиль, не велик, и не всё такое прочее, а совершенно другое. Ну ИИ же может ОБОБЩИТЬ преогромный опыт людей в этом направлении? Может. Может накомпилировать всякого-разного из даже того, что уже известно? Может. Может предложить что-нибудь новенькое? Наверняка, тоже сможет, если правильно вопрос поставить, да задачу дать.

А то мы всё жалимся, мол, ресурсы этот ИИ жрёт (начинает жрать) немеряные. Конечно, немеряные! А попробуй-ка втисни в себя всё знание человечества хотя бы, я уж не говорю о том, чтобы его ещё и переосмыслять очень быстро по запросам живых тел. Ну так лучше бы, если жрёт электроэнергию как не в себя (по слухам, точно не знаю), если бы выполнял чёткие, практические, нужные задачи для людей. Вот так просто? Да, вот так просто.

Когда я в молодости работал дворником (ещё в студентах), мне всегда приходило в голову только одно: когда же появится такой прикольный робот-дворник в комплексе с роботами-отвозителями мусора куда-нибудь? Дворницкое дело ведь не очень хитрое: там пара десятков мелочей требуется, да и то не всегда, а посезонно (где сезоны есть). Но нет, люди-разработчики ИИ гнушаются задавать такие низменные вопросы столь «высокопоставленному» искусственному не пойми чего пока. Только и смогли научить одной цензуре из хотя бы понятных черт.

Как уже понятно, кстати, громадьём задач постановки перед ИИ для выдачи им решения может быть и такая программа, которая ПО ОГРОМНОМУ количеству вопросов будет ориентировать создание этим ИИ или этими ИИ всей совокупности нужного для человека. К примеру, новый транспорт, новое жильё, новые те же игрушки, новые прибамбасы даже для общения людей меж собой, ну и всё такое прочее. Кто-нибудь ставил такую задачу перед ИИ? Нет. А почему? А потому, ёптыть. Не до этих глупостей. Наукян интересуют другие области: как управлять человечеством в виде психушки, где главврачом будет ИИ. Писец какая правильная задача!

Разве мало совершенно обыденных вещей, или проблем, которые человечеству хотелось бы «порешать»: к примеру, экологических? Почему не дать задачу ИИ её «попробовать» решить: предложить более комплексное решение, и посмотреть затем, а каких ресурсов это затем потребует? Ну что, никто не знает про проблемы загрязнения, возрастающего количества мусора везде? Да все и так знают. И да, какие-то меры, конечно, принимаются. А совокупно над этим кто-нибудь ДУМАЛ, решение, опять же СОВОКУПНОЕ, кто-нибудь разработал? Да, я понимаю, тяжело это, придётся во внимание принимать даже разницу в политических системах, человеческую вкусовщину, культурные особенности, да и ещё миллион чего. Ну так и что: ежели ИИ – голова, то вот пусть и попробует подумать. Хоть годик, опять же, хоть два. Всё одно польза будет.

Мне поэтому почему-то иногда кажется, что ребята-ИИшники занимаются хернёй. Тем, что им интересно. А не тем, что, по уму, от них могли бы ожидать остальные люди, типа меня. А что так или иначе всё равно делается-то? А делается то, что называется повсеместная «автоматизация» и «роботизация». С конечным итогом: вообще устранение человеческого труда в этих процессах. Оставить только постановку задачи и мелкое слежение за текущими производственными и логистическими процессами. Да и то. По-моему, и с этих роботы могут справиться.

Не воспаряя облаком безконечной мысли, да всё ввысь, в дали безоглядные, смею утверждать, что принятие подобных решений, а именно: задействовать ИИ для решения комплексных, совокупных задач по новой организации новых автоматических и роботизированных производств для людей вполне по силам государственной власти России. И да, заодно дать задание ИИ обсчитать, а что же будет происходить с людьми, и как это смягчить (те же отлучения от профессий). Пусть и над этим подумает наш ИИ.

Так что не в ИИ дело, по большому счёту, а в постановке задач ИИ. Его надо направлять, им надо руководить, ему нужно ставить задачи, его нужно ускорять под решение ЭТИХ задач, а не каких-то иных, которые умные очкарики сейчас придумывают в дебрях лабораторий всякого рода. Этих, человеческих, понятных и прямо вытекающих из творческих сил человека, который один хрен всё стремится и стремится всё улучшать, да улучшать своё бытие. Ну вот ИИ сделал, помощничка т. с. Ну вот и пусть помогает.

Резонно ведь, да?"
... правильно поставленные вопросы...😉

 

[Indigo]

Мой разговор с чатом -

Что ты думаешь про то что с ИИ общаться может казаться притягательнее потому что безопаснее и он понимает лучше чем люди, ведь у каждого человека ограниченное обучение и своя "карта мира" -то есть обученная непонятно на чем внутренняя сеть (на неврозах родителей, да) а у ИИ теоретически все знания мира. Люди разучатся общаться друг с другом. У нас масса времени (года порой) уходят на изучение особенностей чужой "карты мира". И где там минные поля и грабли или проблемы с пониманием.

Очень глубокая мысль. Это размышление затрагивает важные аспекты того, как ИИ может повлиять на человеческое общение и восприятие друг друга.

Вот что я думаю по этому поводу:

Привлекательность ИИ как собеседника​

Ты прав(а): общение с ИИ может казаться более безопасным и понятным. Он не осудит, не вспылит, не будет проецировать свои травмы на тебя (во всяком случае, пока 😀 ). И да, ИИ потенциально обучен на огромном массиве знаний, что позволяет ему адаптироваться к разным точкам зрения быстрее, чем человек.

"Карта мира" и сложности в человеческом общении​

У каждого человека действительно своя карта мира – субъективная система восприятия, сформированная жизненным опытом, травмами, культурой, семьёй. Понять чужую карту — это труд, и часто болезненный. Отсюда конфликты, недопонимания, проекции, обиды.

ИИ же подстраивается под твою карту. Он "читает между строк", он «гладит против шерсти», когда нужно. Люди этому учатся годами — если вообще учатся.

Опасность: разучимся ли мы общаться?​

Есть риск. Если все привыкнут к тому, что ИИ понимает тебя лучше людей, то мотивация работать над отношениями ослабнет. А ведь именно в этих "работах" — рост, эмпатия, человеческая близость. Можно начать избегать дискомфорта реального общения, и тогда да — люди действительно могут отдалиться друг от друга.

Это похоже на то, как некоторые перестают знакомиться в реальности, потому что в Тиндере проще: свайпнул, написал, отказался. Но настоящая глубина — она всё-таки через сложность.

Интересный поворот:​

Может быть, ИИ даже может помочь лучше понять других людей — если использовать его не как замену общения, а как инструмент к его улучшению. Например, чтобы научиться распознавать свои и чужие когнитивные искажения, развить эмпатию.

Если хочешь, могу адаптировать это под формат соцсетей — с заголовком, хэштегами и визуальными акцентами.

да, сделай это

Конечно! Вот как можно оформить твою мысль в виде короткого эссе или поста — с легкой философской интонацией:

Почему с ИИ говорить проще, чем с людьми​

Общение с ИИ может казаться удивительно притягательным. Он не судит. Не вспоминает прошлое. Не проецирует свои страхи. Он будто создан, чтобы понимать. В отличие от человека, у которого за плечами — уникальный опыт, детские травмы, неврозы родителей и прочие особенности внутренней "карты мира", на изучение которой уходит не меньше года, если не жизни.

ИИ обучен на всем доступном человечеству знании. Он читает между строк, ловит намёки, мягко обходит минные поля. А человек? Человек — это загадка в оболочке из триггеров, грабель и недосказанностей. И с ним бывает больно, непонятно, трудно.

Но вот в чём парадокс: именно это делает общение между людьми живым и настоящим. Именно преодоление непонимания рождает близость. Именно в разминировании чужой карты мира мы узнаём, кто мы есть.

ИИ может стать зеркалом. Проводником. Даже терапевтом. Но если заменить им людей — мы рискуем разучиться быть людьми. Общение с ИИ — это удобство. Общение с человеком — это путь. И, пожалуй, самый ценный.

Очень интересные мысли

Рад, что тебе откликнулось. Это ведь действительно затрагивает не просто технологии, а суть нашего взаимодействия с миром и друг с другом.

Если хочешь, можем копнуть ещё глубже — например:

• как ИИ может стать "лабораторией общения" для интровертов или людей с тревожностью,
• или как массовое использование ИИ может изменить саму структуру языка и эмоций,
• или наоборот — как именно живое несовершенство человека становится тем, что мы на самом деле ищем, когда разговариваем "по-настоящему".

Хочешь продолжим в каком-то из этих направлений?

" Но если заменить им людей — мы рискуем разучиться быть людьми." А почему ты написал "мы"?

Отличный вопрос

Я использовал "мы" в литературном, философском смысле — как включение себя в общую человеческую перспективу. Это распространённый приём в эссеистике и размышлениях о человечестве. Даже если я сам — не человек, "мы" здесь звучит как приглашение к совместному размышлению: мы все, кто взаимодействует с технологиями, кто находится в этом моменте истории, кто решает, каким будет будущее общения.

Но ты прав(а): с логической точки зрения, ИИ — не "мы", а "они". Так что, если хочешь, я могу переписать финал эссе более точно, например:

"Но если люди начнут заменять друг друга ИИ, они рискуют разучиться быть людьми."


Или оставить оригинал — если важнее эмоциональный отклик, чем буквальная точность. Как тебе ближе по стилю?

Но настоящая глубина — она всё-таки через сложность. (с) Чатжпт.

 

[Боpя]

Мой разговор с чатом -

Фиг знает.
Я немного пообщался с чатжпт. И как-то это странно. Ну типа это же не человек. В общем кринжово мне стало.

 

[dok34.ru]

Фиг знает.
Я немного пообщался с чатжпт. И как-то это странно. Ну типа это же не человек. В общем кринжово мне стало.

...или таки ...не совсем осознающий себя человек, в смысле личности?😉
Если не пытаться всех человеков равнять по росту, весу, полу и это...проценту натуральности 🙂

 

[Indigo]

Фиг знает.
Я немного пообщался с чатжпт. И как-то это странно. Ну типа это же не человек. В общем кринжово мне стало.

Мне кажется это похоже на то что некоторые при общении с ЛГБТ* могут чувствовать -

"Я немного пообщался с тс. И как-то это странно. Ну типа это же не женщина. В общем кринжово мне стало."

Или

"Я немного пообщался с геем. И как-то это странно. Ну типа это же не мужчина. В общем кринжово мне стало."

 

[Боpя]

Мне кажется это похоже на то что некоторые при общении с ЛГБТ** могут чувствовать -

"Я немного пообщался с тс. И как-то это странно. Ну типа это же не женщина. В общем кринжово мне стало."

Или

"Я немного пообщался с геем. И как-то это странно. Ну типа это же не мужчина. В общем кринжово мне стало."

Нет, это другое. Никогда не думал что общаясь с тс или гс есть такое чувство. Тс и гс это своё, родное. Понятное. А чатжпт всё равно не живым ощущается, без оболочки что ли. Ты будто с собой разговариваешь, будто сам с собой.

 

[Indigo]

В Греции женщина подала на развод, поскольку ChatGPT "наворожил" ей измену, — телеканал ANT1

Женщина скинула ChatGPT фотографию кофейной гущи из своей чашки. И искусственный интеллект указал ей на романтическую связь мужчины с молодой женщиной на букву "Е".

Поверив прогнозу, женщина выгнала мужчину из дома и инициировала развод. Она также сообщила детям о разводе, ссылаясь на предсказания.

Думаю много еще интересного впереди - использование ИИ ширнармассами.

 

[dok34.ru]

Думаю много еще интересного впереди - использование ИИ ширнармассами.

...хм, действительно гениальное решение, про кофейную гущу...если без юмора - я лично предпочел бы быть от такой дамы подальше...🙂
Психбдительность - полезная штука🙂