dok34.ru
Moderator
ВКонтакте | ВКонтакте
vk.com
Безопасность искусственного интеллекта.
- Автор темы TightBack361
- Дата начала
vk.com
dok34.ru
Moderator
"Написал мне друг, тоже писатель.
"не знаю, обсуждается ли это в СП, в секции фантастики или нет, но очень скоро нам понадобится [точнее, уже сейчас нужен] официальный знак - "написано без участия нейросетей ". И лучше, если это будет именно СП, а не шарашкина контора. Ещё полгода, максимум год - и нейросети начнут выдавать море контента, с качеством, лучшим, чем тот словопомол, что они выдают ныне. Но контраст между тем, что было год назад и сейчас - разительный . Я как-то на покой уходить не собираюсь, думаю, что и ты нет. Так что защищаться нам придётся".
В целом я совершенно с его мнением согласен. И очень сильно подозреваю, что некоторые топовые серии романов на том же АТ пишутся... нет, даже не "неграми", а с помощью нейросетки. Ибо выпустить под сорок томов 🙂, выдавая по сорок тысяч знаков в день - это не в силах одного человека, и, вероятнее всего, не в силах даже слаженной команды авторов (по ряду причин, которые позвольте опустить).
Но встаёт вопрос - а как именно можно было бы определять, где писала нейронка, а где автор? Союз писателей? Хорошо. Вот прихожу я в СП и говорю товарищу Мединскому: "Владимир Ростиславович, хорошо бы..." Он на меня посмотрит как на очередного странного визитера и скажет: "Замечательно, Сергей Васильевич, вероятно, проблема назревает, но КАК ИМЕННО вы предлагаете это сделать?"
И я не знаю, что ответить...
Стандартный словопомол из разряда "я был стареньким инженером, но вдруг возродился в теле лейтенанта красной армии в 1941 году..." или "я был молоденьким студентом, но вдруг возродился в теле хромого и убогого наследника захудалого княжеского рода магов Хокусай-Барышниковых" нейросеть уже практически готова писать.
Через год точно сможет.
Но как ты заставишь автора это подтвердить?
Или как докажешь, что твой собственный роман не сгенерирован сеткой? Будешь на видео записывать, как сидишь в одних трусах за компом и, почесывая пузо, пишешь текст? 🙂
Вот в связи с этим вопрос. Как вы считаете, существуют ли рабочие методы определения текстов, созданных нейросетью или при её участии?
Или же вам все равно? Нейросеть так нейросеть. Книжки - просто высший класс..."
...🙂 предыдущее
"не знаю, обсуждается ли это в СП, в секции фантастики или нет, но очень скоро нам понадобится [точнее, уже сейчас нужен] официальный знак - "написано без участия нейросетей ". И лучше, если это будет именно СП, а не шарашкина контора. Ещё полгода, максимум год - и нейросети начнут выдавать море контента, с качеством, лучшим, чем тот словопомол, что они выдают ныне. Но контраст между тем, что было год назад и сейчас - разительный . Я как-то на покой уходить не собираюсь, думаю, что и ты нет. Так что защищаться нам придётся".
В целом я совершенно с его мнением согласен. И очень сильно подозреваю, что некоторые топовые серии романов на том же АТ пишутся... нет, даже не "неграми", а с помощью нейросетки. Ибо выпустить под сорок томов 🙂, выдавая по сорок тысяч знаков в день - это не в силах одного человека, и, вероятнее всего, не в силах даже слаженной команды авторов (по ряду причин, которые позвольте опустить).
Но встаёт вопрос - а как именно можно было бы определять, где писала нейронка, а где автор? Союз писателей? Хорошо. Вот прихожу я в СП и говорю товарищу Мединскому: "Владимир Ростиславович, хорошо бы..." Он на меня посмотрит как на очередного странного визитера и скажет: "Замечательно, Сергей Васильевич, вероятно, проблема назревает, но КАК ИМЕННО вы предлагаете это сделать?"
И я не знаю, что ответить...
Стандартный словопомол из разряда "я был стареньким инженером, но вдруг возродился в теле лейтенанта красной армии в 1941 году..." или "я был молоденьким студентом, но вдруг возродился в теле хромого и убогого наследника захудалого княжеского рода магов Хокусай-Барышниковых" нейросеть уже практически готова писать.
Через год точно сможет.
Но как ты заставишь автора это подтвердить?
Или как докажешь, что твой собственный роман не сгенерирован сеткой? Будешь на видео записывать, как сидишь в одних трусах за компом и, почесывая пузо, пишешь текст? 🙂
Вот в связи с этим вопрос. Как вы считаете, существуют ли рабочие методы определения текстов, созданных нейросетью или при её участии?
Или же вам все равно? Нейросеть так нейросеть. Книжки - просто высший класс..."
...🙂 предыдущее
dok34.ru
Moderator
"Иногда сижу, думаю всякое-разное... Вот ИИ. Ведь хороший же инструмент получился, многое может, многому учится, а уж знает сколько – обзавидуешься прямо! А почему им занимаются... как вот не с той стороны? Что мешает, допустим, обозначить более чёткие задачи и попросить/потребовать от него ответа (у ИИ), даже если на это уйдёт его работы... ну пусть месяц даже на совершенно другое? А то задачи какие-то мелковатые, а мысли всё чтобы всунуть в ИИ – ещё какие-то совершенно тупые.
Какие задачи могут быть поставлены ИИ, к примеру, вот прямо сейчас? К примеру, такую: создать, обсчитать, прикинуть и выдать на гора результат автоматического возведения (всего цикла) строительства дома. Что потребуется в плане автоматизации этого процесса, на каких этапах пока нельзя обойтись без человека, ну и т. д. Полный обсчёт. Ведь может же ИИ сделать это? Или не может до сих пор? Неясно. А что ясно пока? А он может тексты сочинять, «прочёсывая» как бреднем тину на дне всех текстовых залежей (ну и не только их, конечно, а ещё и картинки со звуками тоже может калибровать-откалбибровывать по-новому!). Ну скучно же, девочки!
Или вот другую задачу поставить: создать автомобиль. Новый дизайн, новые автоматические линии сборки деталей по нему, новые автоматические производства по производству этих деталей к нему. И чтобы ни одного человека рядом. А, не можешь?! Ну, тогда о чём речь должна об ИИ идти? Такую простую задачу, которую человек РЕШИЛ (ну да, пусть годами и десятилетиями), а по ИИ почему-то думается, что «он» шибко умный и много знает, поэтому и решить это может БЫСТРЕЕ – задача такая почему-то не ставится.
Или вот другая задача: создать новые типы игрушек для всех возрастов детей (лет, наверно, до 8-9, дальше дети перестают в них активно играть). И не просто создать, а подвести под неё и создание (проектирование, расчёт и полное автоматизированное строительство центров производств) этих самых игрушек. Допустим, сразу тысяч 20 00 по номенклатуре. ИИ же, сцуко, наверняка знает про все игрушки, придуманные за многие века человеком. Вот пусть и пошурупит над новым заданием, пущай покомпилирует, творчески т. с. Ну, пусть попробует, чего ему стоит? А, снова не может! Блин.
Можно и совсем серьёзную задачу поставить. Создать новое средство передвижения тушки человека, можно группками и группами – как говорится, не самолёт, не поезд, не корабль, не автомобиль, не велик, и не всё такое прочее, а совершенно другое. Ну ИИ же может ОБОБЩИТЬ преогромный опыт людей в этом направлении? Может. Может накомпилировать всякого-разного из даже того, что уже известно? Может. Может предложить что-нибудь новенькое? Наверняка, тоже сможет, если правильно вопрос поставить, да задачу дать.
А то мы всё жалимся, мол, ресурсы этот ИИ жрёт (начинает жрать) немеряные. Конечно, немеряные! А попробуй-ка втисни в себя всё знание человечества хотя бы, я уж не говорю о том, чтобы его ещё и переосмыслять очень быстро по запросам живых тел. Ну так лучше бы, если жрёт электроэнергию как не в себя (по слухам, точно не знаю), если бы выполнял чёткие, практические, нужные задачи для людей. Вот так просто? Да, вот так просто.
Когда я в молодости работал дворником (ещё в студентах), мне всегда приходило в голову только одно: когда же появится такой прикольный робот-дворник в комплексе с роботами-отвозителями мусора куда-нибудь? Дворницкое дело ведь не очень хитрое: там пара десятков мелочей требуется, да и то не всегда, а посезонно (где сезоны есть). Но нет, люди-разработчики ИИ гнушаются задавать такие низменные вопросы столь «высокопоставленному» искусственному не пойми чего пока. Только и смогли научить одной цензуре из хотя бы понятных черт.
Как уже понятно, кстати, громадьём задач постановки перед ИИ для выдачи им решения может быть и такая программа, которая ПО ОГРОМНОМУ количеству вопросов будет ориентировать создание этим ИИ или этими ИИ всей совокупности нужного для человека. К примеру, новый транспорт, новое жильё, новые те же игрушки, новые прибамбасы даже для общения людей меж собой, ну и всё такое прочее. Кто-нибудь ставил такую задачу перед ИИ? Нет. А почему? А потому, ёптыть. Не до этих глупостей. Наукян интересуют другие области: как управлять человечеством в виде психушки, где главврачом будет ИИ. Писец какая правильная задача!
Разве мало совершенно обыденных вещей, или проблем, которые человечеству хотелось бы «порешать»: к примеру, экологических? Почему не дать задачу ИИ её «попробовать» решить: предложить более комплексное решение, и посмотреть затем, а каких ресурсов это затем потребует? Ну что, никто не знает про проблемы загрязнения, возрастающего количества мусора везде? Да все и так знают. И да, какие-то меры, конечно, принимаются. А совокупно над этим кто-нибудь ДУМАЛ, решение, опять же СОВОКУПНОЕ, кто-нибудь разработал? Да, я понимаю, тяжело это, придётся во внимание принимать даже разницу в политических системах, человеческую вкусовщину, культурные особенности, да и ещё миллион чего. Ну так и что: ежели ИИ – голова, то вот пусть и попробует подумать. Хоть годик, опять же, хоть два. Всё одно польза будет.
Мне поэтому почему-то иногда кажется, что ребята-ИИшники занимаются хернёй. Тем, что им интересно. А не тем, что, по уму, от них могли бы ожидать остальные люди, типа меня. А что так или иначе всё равно делается-то? А делается то, что называется повсеместная «автоматизация» и «роботизация». С конечным итогом: вообще устранение человеческого труда в этих процессах. Оставить только постановку задачи и мелкое слежение за текущими производственными и логистическими процессами. Да и то. По-моему, и с этих роботы могут справиться.
Не воспаряя облаком безконечной мысли, да всё ввысь, в дали безоглядные, смею утверждать, что принятие подобных решений, а именно: задействовать ИИ для решения комплексных, совокупных задач по новой организации новых автоматических и роботизированных производств для людей вполне по силам государственной власти России. И да, заодно дать задание ИИ обсчитать, а что же будет происходить с людьми, и как это смягчить (те же отлучения от профессий). Пусть и над этим подумает наш ИИ.
Так что не в ИИ дело, по большому счёту, а в постановке задач ИИ. Его надо направлять, им надо руководить, ему нужно ставить задачи, его нужно ускорять под решение ЭТИХ задач, а не каких-то иных, которые умные очкарики сейчас придумывают в дебрях лабораторий всякого рода. Этих, человеческих, понятных и прямо вытекающих из творческих сил человека, который один хрен всё стремится и стремится всё улучшать, да улучшать своё бытие. Ну вот ИИ сделал, помощничка т. с. Ну вот и пусть помогает.
Резонно ведь, да?"
... правильно поставленные вопросы...😉
Какие задачи могут быть поставлены ИИ, к примеру, вот прямо сейчас? К примеру, такую: создать, обсчитать, прикинуть и выдать на гора результат автоматического возведения (всего цикла) строительства дома. Что потребуется в плане автоматизации этого процесса, на каких этапах пока нельзя обойтись без человека, ну и т. д. Полный обсчёт. Ведь может же ИИ сделать это? Или не может до сих пор? Неясно. А что ясно пока? А он может тексты сочинять, «прочёсывая» как бреднем тину на дне всех текстовых залежей (ну и не только их, конечно, а ещё и картинки со звуками тоже может калибровать-откалбибровывать по-новому!). Ну скучно же, девочки!
Или вот другую задачу поставить: создать автомобиль. Новый дизайн, новые автоматические линии сборки деталей по нему, новые автоматические производства по производству этих деталей к нему. И чтобы ни одного человека рядом. А, не можешь?! Ну, тогда о чём речь должна об ИИ идти? Такую простую задачу, которую человек РЕШИЛ (ну да, пусть годами и десятилетиями), а по ИИ почему-то думается, что «он» шибко умный и много знает, поэтому и решить это может БЫСТРЕЕ – задача такая почему-то не ставится.
Или вот другая задача: создать новые типы игрушек для всех возрастов детей (лет, наверно, до 8-9, дальше дети перестают в них активно играть). И не просто создать, а подвести под неё и создание (проектирование, расчёт и полное автоматизированное строительство центров производств) этих самых игрушек. Допустим, сразу тысяч 20 00 по номенклатуре. ИИ же, сцуко, наверняка знает про все игрушки, придуманные за многие века человеком. Вот пусть и пошурупит над новым заданием, пущай покомпилирует, творчески т. с. Ну, пусть попробует, чего ему стоит? А, снова не может! Блин.
Можно и совсем серьёзную задачу поставить. Создать новое средство передвижения тушки человека, можно группками и группами – как говорится, не самолёт, не поезд, не корабль, не автомобиль, не велик, и не всё такое прочее, а совершенно другое. Ну ИИ же может ОБОБЩИТЬ преогромный опыт людей в этом направлении? Может. Может накомпилировать всякого-разного из даже того, что уже известно? Может. Может предложить что-нибудь новенькое? Наверняка, тоже сможет, если правильно вопрос поставить, да задачу дать.
А то мы всё жалимся, мол, ресурсы этот ИИ жрёт (начинает жрать) немеряные. Конечно, немеряные! А попробуй-ка втисни в себя всё знание человечества хотя бы, я уж не говорю о том, чтобы его ещё и переосмыслять очень быстро по запросам живых тел. Ну так лучше бы, если жрёт электроэнергию как не в себя (по слухам, точно не знаю), если бы выполнял чёткие, практические, нужные задачи для людей. Вот так просто? Да, вот так просто.
Когда я в молодости работал дворником (ещё в студентах), мне всегда приходило в голову только одно: когда же появится такой прикольный робот-дворник в комплексе с роботами-отвозителями мусора куда-нибудь? Дворницкое дело ведь не очень хитрое: там пара десятков мелочей требуется, да и то не всегда, а посезонно (где сезоны есть). Но нет, люди-разработчики ИИ гнушаются задавать такие низменные вопросы столь «высокопоставленному» искусственному не пойми чего пока. Только и смогли научить одной цензуре из хотя бы понятных черт.
Как уже понятно, кстати, громадьём задач постановки перед ИИ для выдачи им решения может быть и такая программа, которая ПО ОГРОМНОМУ количеству вопросов будет ориентировать создание этим ИИ или этими ИИ всей совокупности нужного для человека. К примеру, новый транспорт, новое жильё, новые те же игрушки, новые прибамбасы даже для общения людей меж собой, ну и всё такое прочее. Кто-нибудь ставил такую задачу перед ИИ? Нет. А почему? А потому, ёптыть. Не до этих глупостей. Наукян интересуют другие области: как управлять человечеством в виде психушки, где главврачом будет ИИ. Писец какая правильная задача!
Разве мало совершенно обыденных вещей, или проблем, которые человечеству хотелось бы «порешать»: к примеру, экологических? Почему не дать задачу ИИ её «попробовать» решить: предложить более комплексное решение, и посмотреть затем, а каких ресурсов это затем потребует? Ну что, никто не знает про проблемы загрязнения, возрастающего количества мусора везде? Да все и так знают. И да, какие-то меры, конечно, принимаются. А совокупно над этим кто-нибудь ДУМАЛ, решение, опять же СОВОКУПНОЕ, кто-нибудь разработал? Да, я понимаю, тяжело это, придётся во внимание принимать даже разницу в политических системах, человеческую вкусовщину, культурные особенности, да и ещё миллион чего. Ну так и что: ежели ИИ – голова, то вот пусть и попробует подумать. Хоть годик, опять же, хоть два. Всё одно польза будет.
Мне поэтому почему-то иногда кажется, что ребята-ИИшники занимаются хернёй. Тем, что им интересно. А не тем, что, по уму, от них могли бы ожидать остальные люди, типа меня. А что так или иначе всё равно делается-то? А делается то, что называется повсеместная «автоматизация» и «роботизация». С конечным итогом: вообще устранение человеческого труда в этих процессах. Оставить только постановку задачи и мелкое слежение за текущими производственными и логистическими процессами. Да и то. По-моему, и с этих роботы могут справиться.
Не воспаряя облаком безконечной мысли, да всё ввысь, в дали безоглядные, смею утверждать, что принятие подобных решений, а именно: задействовать ИИ для решения комплексных, совокупных задач по новой организации новых автоматических и роботизированных производств для людей вполне по силам государственной власти России. И да, заодно дать задание ИИ обсчитать, а что же будет происходить с людьми, и как это смягчить (те же отлучения от профессий). Пусть и над этим подумает наш ИИ.
Так что не в ИИ дело, по большому счёту, а в постановке задач ИИ. Его надо направлять, им надо руководить, ему нужно ставить задачи, его нужно ускорять под решение ЭТИХ задач, а не каких-то иных, которые умные очкарики сейчас придумывают в дебрях лабораторий всякого рода. Этих, человеческих, понятных и прямо вытекающих из творческих сил человека, который один хрен всё стремится и стремится всё улучшать, да улучшать своё бытие. Ну вот ИИ сделал, помощничка т. с. Ну вот и пусть помогает.
Резонно ведь, да?"
... правильно поставленные вопросы...😉