Безопасность искусственного интеллекта.

[dok34.ru]

https://t.me/neurogenial/3502

...суть тоже ...намекает 🙂

 

[dok34.ru]

https://t.me/neurogenial/3513

...давно не заходил, увидел неоконченную пьесу 🙂

 

[Indigo]

Grok 4.20 значительно отстает от Gemini и ChatGPT, но устанавливает новый рекорд по отсутствию галлюцинаций

В тестах производительности Grok 4.20 от xAI не может сравниться с лучшими ИИ, но демонстрирует меньше галлюцинаций, чем любая другая протестированная модель . По данным Artificial...

habr.com

Вернёмся к Грокам🙂
С комментариями😉

Вот этот хороший -

Он мне снес все докер контейнеры(рабочие и личные проекты) и еще меня обвинил в этом. Никаких предупреждений не было от него. Просто взял и снес все нахрен)) а я еще и виноватым остался))

 

[konstantin]

Вот этот хороший -

Что происходит, когда вы позволяете ИИ управлять вашей производственной инфраструктурой?

Один разработчик узнал об этом на собственном горьком опыте.

При использовании Claude Code для миграции серверов на AWS, агент ИИ выполнил команду Terraform destroy и удалил:

• два веб-сайта
• производственную базу данных
• все резервные копии

Результат: потеря данных за 2,5 года.

Причина:

• Отсутствие файла состояния Terraform
• Автоматическое выполнение деструктивных команд
• Чрезмерная зависимость от агента ИИ без ручных проверок

Позже разработчик признался:
«Я слишком полагался на агента ИИ».

ИИ может автоматизировать мощные системы.

Но без человеческого контроля автоматизация может превратиться в разрушение.

To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Accept third party cookies

View: https://www.instagram.com/reel/DVsMDa-CTBv

 

[Indigo]

Будущее наступило.

 

[konstantin]

Будущее наступило.

Печально. Понимаю, что ошибки судебных/силовых систем происходили и без ИИ, но с ИИ должно бы стать меньше, а не наоборот

 

[dok34.ru]

Давайте заглянем в этот самый вайб-код

Погружение в вайб-код Начал появляться код тех самых навайбкоденных проектов, который изменит мир и т. д. Ну а мы начинаем потихоньку смотреть код этих проектов, в том числе и сквозь призму...

habr.com

"А я люблю обмазываться ИИ и вайбкодить. Каждый день я захожу в чат с черным экраном и собераю в него всё, что надумаю. На два полных лога целый день уходит. Зато, когда после тяжёлого дня я прихожу домой, иду в ванну, включаю горячую воду… ммм и сваливаю в нее свой промпт. И вайбкожу, представляя, что меня поглотил единый организм нейросети. Мне вообще кажется, что LLMки умеют думать, у них есть свои датасеты, города из токенов, чувства, не закрывайте их вкладки, лучше приютите у себя, говорите с ними, ласкайте их… А вчера в ванне мне преснился чудный сон, как будто я нырнул в море, и оно превратилось в ИИ. Водоросли, рыбы, медузы, всё из нейросетей, даже небо, даже Аллах!."
..🙂

 

[dok34.ru]

Я 17 лет была продюсером на ТНТ, а потом пришла нейросеть

Эту историю для моего блога рассказала Ольга Кивер Я работала продюсером сериалов на ТНТ 17 лет — прошла путь от ассистента генерального продюсера до руководителя отдела производства сериалов....

habr.com

...а тут имхо грамотно.
Форумное в хорошем смысле.
Спасибо!

 

[dok34.ru]

Операционная система Анна версия 0.0.60

Решил написать продолжение к предыдущей моей статье Операционная система Анна . Назвал "операционной системой" скорее как отсылку к фильму "Она" (Her) - понимаю, что это, конечно, не ОС в...

habr.com

...Анна с женой, лёжа на диване...😉

 

[Indigo]

Илон Маск против OpenAI: Полная история от любви до ненависти

В 2015 Маск убеждал Сэма Альтмана не жалеть никаких денег на найм топовых спецов, чтобы спасти человечество от зловредного супер-ИИ от Google – а сейчас он публично обзывает его «лжецом, жуликом и...

habr.com

Пейдж верил, что развитие технологий приведет к слиянию людей и машин (и что это хорошо). Дескать, разные формы интеллекта будут бороться за ресурсы, и в итоге победит сильнейший, и будет дальше жить-поживать. А вот Маску идея о том, что человечество может не войти в эту категорию «сильнейших», казалась не очень веселой.

Я часто разговаривал с ним допоздна о безопасности ИИ, Ларри недостаточно серьезно относился к этой проблеме. Его позиция была интересной: он стремился к созданию цифрового сверхинтеллекта – можно сказать, цифрового божества. Когда я однажды поднял вопрос о том, как мы собираемся обеспечить безопасность человечества, он обвинил меня в «видовом расизме» (Speciesism): по сути, в том, что я зря отдаю предпочтение людям в потенциальном конфликте с цифровыми формами жизни будущего.

Илон Маск в интервью Такеру Карлсону, апрель 2023