Безопасность искусственного интеллекта.

[dok34.ru]

https://t.me/neurogenial/3502

...суть тоже ...намекает 🙂

 

[dok34.ru]

https://t.me/neurogenial/3513

...давно не заходил, увидел неоконченную пьесу 🙂

 

[Indigo]

Grok 4.20 значительно отстает от Gemini и ChatGPT, но устанавливает новый рекорд по отсутствию галлюцинаций

В тестах производительности Grok 4.20 от xAI не может сравниться с лучшими ИИ, но демонстрирует меньше галлюцинаций, чем любая другая протестированная модель . По данным Artificial...

habr.com

Вернёмся к Грокам🙂
С комментариями😉

Вот этот хороший -

Он мне снес все докер контейнеры(рабочие и личные проекты) и еще меня обвинил в этом. Никаких предупреждений не было от него. Просто взял и снес все нахрен)) а я еще и виноватым остался))

 

[konstantin]

Вот этот хороший -

Что происходит, когда вы позволяете ИИ управлять вашей производственной инфраструктурой?

Один разработчик узнал об этом на собственном горьком опыте.

При использовании Claude Code для миграции серверов на AWS, агент ИИ выполнил команду Terraform destroy и удалил:

• два веб-сайта
• производственную базу данных
• все резервные копии

Результат: потеря данных за 2,5 года.

Причина:

• Отсутствие файла состояния Terraform
• Автоматическое выполнение деструктивных команд
• Чрезмерная зависимость от агента ИИ без ручных проверок

Позже разработчик признался:
«Я слишком полагался на агента ИИ».

ИИ может автоматизировать мощные системы.

Но без человеческого контроля автоматизация может превратиться в разрушение.

To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Accept third party cookies

View: https://www.instagram.com/reel/DVsMDa-CTBv

 

[Indigo]

Будущее наступило.

 

[konstantin]

Будущее наступило.

Печально. Понимаю, что ошибки судебных/силовых систем происходили и без ИИ, но с ИИ должно бы стать меньше, а не наоборот