Безопасность искусственного интеллекта.

[TightBack361]

Например чувство красного или синего...

 

[TightBack361]

Появилась новая нейросеть - Sora, она реалистично подгадывает видео и очень качественно.
Что вы думаете по поводу использования таких нейросетей (угадывающих видео) в военной сфере не дипфейки, а боевые роботы(, нейросеть могла бы управлять ими продолжая кадр), или в промышленности? (Sora могла бы управлять роботами которые что-то делают.)
Использование ИИ в военной сфере - плохо, может спровоцировать ужасную гонку вооружений и сильно осложнит контроль и регулирование, в принципе это касается и промышленности, там выгоднее и больше денег, но наверное проще стабилизировать.

 

[dok34.ru]

Появилась новая нейросеть - Sora, она реалистично подгадывает видео и очень качественно.

Удовлетворительно
Есть лучше, есть похуже ( см где подводное, эти...морские коньки очень странно смотрятся

Что вы думаете по поводу использования таких нейросетей (угадывающих видео) в военной сфере не дипфейки, а боевые роботы(, нейросеть могла бы управлять ими продолжая кадр),

В смысле кадр?
Ей требуется управлять его моторчиками, грубо говоря

или в промышленности? (Sora могла бы управлять роботами которые что-то делают.)

В этом и вопрос
Сделать робота ЧПУ, который будет обрабатывать деталь по словесному запросу - видимо можно.
Попробуем сформулировать такой запрос?
Чтобы без чертежа точить на фрезере, например.
Первое - деталь берут и закрепляют.
Словами описать размер детали и точки прикрепления?
Или же дать обычный G-code, например, или вручную закрепить?
Далее, без чертежа задать операцию торцевание, то есть выравнивание верхней поверхности большой относительно фрезой. И начать собственно обработку, формирование углублений, точек крепления, пазов и так далее - размеры, я напомню, придется задавать вслух без чертежей, описать их до микронов...

Использование ИИ в военной сфере - плохо, может спровоцировать ужасную гонку вооружений и сильно осложнит контроль и регулирование, в принципе это касается и промышленности, там выгоднее и больше денег, но наверное проще стабилизировать.

Проще, согласен.
Говорю как оператор станочка ЧПУ, на котором я и делаю описанные операции, на практике
Но по чертежу

 

[dok34.ru]

Open AI Sora. Модели генерации видео как симуляторы мира

Мы исследуем крупномасштабное обучение генерирующих моделей на видеоданных. В частности, мы совместно обучаем модель распространения текста с учетом условий на видео и изображениях переменной...

habr.com

...вот и подсказка прилетела, спасибо!

 

[dok34.ru]

"...при попытке изобразить американских отцов-основателей и солдат нацистской Германии она как будто ниспровергает гендерные и расовые стереотипы, что расценивают как попытку фальсификации истории.

Такими Gemini представляет себе американских отцов-основателей. Источник изображения: Google

Компания приняла решение направить генератор изображений Gemini на доработку менее чем через сутки после поступления первых жалоб.

Пользователи чат-бота запрашивали у искусственного интеллекта картинки с историческими группами или лицами и получали на выходе изображения, на которых в основном были представители рас, отличных от европеоидной. Это спровоцировало появление в интернете теорий заговора, что Google намеренно избегает показывать белых людей.

Сенатор США в 19-м веке по мнению Gemini. Источник изображения: Google

К примеру, когда Gemini попросили создать изображение американского сенатора XIX века, ИИ предложил картинки чернокожих женщин и женщин коренных американских наций. В действительности женщина впервые стала сенатором в США лишь в 1922 году, и она была белой. Таким образом, генератор изображений Gemini стирал историю расовой и гендерной дискриминации"
...это о желании ряда форумчан - " забыть о прошлом", включить те самые блоки и не думать о запретных темах...

 

[dok34.ru]

https://dzen.ru/video/watch/65425ed0cff57f6d7bb4dd37?share_to=link

Кстати - дети это тоже нейросеть
Которую сначала обучают с ошибками
Заведомыми.
А затем стараются поправить
Заголовок хайповый, рекаэоама не глупая, очевидно.
Имхо.

 

[dok34.ru]

"Уже писали про эту профанацию. Сдать экзамен в меде и быть врачом - две большие ращницы. Чуете? Похоже нет.
Еще комп может наизусть сдать таблицы Брадиса. Без ошибок. Или рассказать 100500 стихотворений дез запинки. Это чудо мля! В чем суть экзамена в меде? Ответить сможете?

Можно вложить человеку в память гигантские вороха справочников, географических атласов, руководств по управлению аппаратами и агрегатами. Но подлинно профессиональные знания он должен получать обычным путем, осмысливать их; впитывать, делать частью своего мозга и только после этого переходить к следующей порции. Пример. Вы сейчас знаете названия всех ветров, главных созвездий, мелей и островов. Сможете провести корабль от Инбер Колбта в залив Даглати в пору осенних штормов?
Сварог призадумался и смущенно пожал плечами:
– Не получается что-то…
– Вот видите. Здесь уже нужно поработать головой. Личный опыт и выработанный долгими годами практики профессиональный нюх не программируются"

... примерно так.
То есть, когда условно есть эрекции на картинки голых женщин - идти на свидание...может и преждевременно
А планов на социализацию у новичков обычно нет, они сконцентрировались на онанизме, сорри, прислушиваясь к себе, мешая возбуждению - и помогая навязчивым мыслям
Имхо

 

[dok34.ru]

"В мировых интернетах один из самых весёлых скандалов недели, ув. друзья — это, как известно, гуглова нейросеть Gemini, создающая по запросам граждан изумительные изображения.

Как быстро убедились граждане планеты, Гемини практически не верит в существование белых вообще — и особенно белых мужчин. То есть она на просьбу «нарисуй мне папу римского» выдаёт индийских старушек в тиарах, на просьбу «нарисуй короля английского» выдаёт гигантский выбор негров в коронах, а просьбу «нарисуй белую семью» вообще отвергает, потому что расизм, а семья должна быть инклюзивной.

Попытка сделать контроль ущерба («ну, это ещё молодая модель, она только обучается») провалилась, и сегодня утром гугол объявил о том, что «временно приостанавливает работу Gemini для доработки».

...Данная новость более всего поражает на самом деле не тем, что «надо же, гугл — оказывается, политкорректный!»

Данная новость поражает тем, что гугл, как легко понять, долго тестировал свою модель у себя, сотнями лучших своих умов перед тем, как вывалить на мировой рынок и смешно опозориться.

И в ходе коллективного мозгового штурма сотнями лучших умов — ни у кого не возникло вопроса «блин, чёзафигня». Никто из огромного коллектива мощных специалистов не заметил, что нейросеть — безумная расистка. Или заметил, но рассудил, что энтузиазм наказуем и нефиг связываться.

Все смотрели мимо слона в комнате"
...суть понятна?
Мы не о недоработках либо ошибках Гугла, конечно.
Речь о привычности картины мира, создающей вуали и блоки восприятия, по типу " слона не видно, гетеросексуальности приятной я не встречал" и пр.

 

[Пользователь #98]

Отвечаю на предыдущие вопросы от Back361. Всем привет, кстати. Мужчин с 23!

Смотри, мы не можем нейросеть называть искусственным интеллектом до тех пор, пока мы не поймём, что такое сознание. Грубо говоря, сознание - это:
1) Осознавание себя (как человека, животного и т.п)
2-е) Это способность делать то, что ещё никто никогда не делал.

Грубо говоря:
Представим, у нас есть Нейросеть, обученная на познаниях фантастической литературы. За рамки этой фантастической литературы она никогда не выйдет, а человек мог бы. Ибо он может искать что-то новое, на основе своего опыта создавать это что-то новое.

Мы не можем дать точное понятие сознанию, а следовательно и самому интеллекту.

 

[Пользователь #98]

В наше время никакой опасности, кроме цифровой, нейросеть причинить не может.
Всё остальное делает сам человек.

Нейросеть в данный момент не может восстать, уничтожить интернет и т.п. Всё, что она может сделать - так это вести фейк-войну.
Генирировать ложные ответы, лгать и т.п.