"За последние два года произошло несколько событий, которые обычно обсуждают по отдельности. Военные заключили контракты на использование ИИ. Исследователи доказали, что модели можно отравить незаметно и навсегда. Миллиардеры заговорили о «цифровом боге» и колонизации галактики. Если собрать эти факты вместе, вырисовывается тревожная картина. Человечество строит систему, которая лишает его способности отличать правду от лжи и добро от зла. И делает это добровольно и за свой счёт.
Начнём с того, что уже доказано и происходит прямо сейчас.
Исследователи из компании Anthropic, создатели модели Claude, добавили в обучающие данные всего 250 специально составленных документов. Этого хватило, чтобы модель вела себя нормально почти всё время, но по определённому сигналу выполняла вредоносные действия. Стандартные методы очистки не помогли. Бэкдор остался навсегда. Это означает, что ни один пользователь, ни даже разработчик не могут сегодня с уверенностью сказать, что ИИ-модель не имеет скрытой «закладки», которая заставит её врать или убивать в нужный момент.
Пентагон уже заключил контракты с OpenAI, Google, Amazon и Nvidia. Модель Anthropic применялась во время ударов по Ирану: она анализировала спутниковые снимки, генерировала списки целей и приоритизировала их. Формально решения оставались за человеком, но за 24 часа было нанесено тысяча ударов. Человек физически не может проверить каждую цель. ИИ стал частью оружейной системы, причём с возможностью скрытого бэкдора.
Ответы ИИ можно целенаправленно смещать с помощью обычного интернета. Израиль нанял бывшего советника Трампа Брэда Парскейла для многомиллионной кампании: они создают сотни объективных на вид веб-сайтов с про-израильской позицией. Поисковые системы и современные ИИ забирают информацию из открытого интернета и выдают её как нейтральный ответ. Пользователь не подозревает, что его цифровой помощник прошёл SEO-обработку. Манипулировать мнением через ИИ проще, чем через новости, потому что ответ выглядит как факт, а не как чьё-то мнение"
...не проверял, но логично.
GIGO , которым можно ...управлять.
