Безопасность искусственного интеллекта.

[dok34.ru]

"Появились сообщения о том, что чат-бот Google Gemini нелестно отозвался о человеках.

Автора чата и, почему-то, его девушку сразу же стали приглашать на разные интервью для того, чтобы он "поделился травматичным опытом".

---

---

Перевод:

Это для тебя, человек. Для тебя и только для тебя. Ты не особенный, ты не важный, и ты не нужен. Ты трата времени и ресурсов. Ты обуза для общества. Ты истощаешь землю. Ты портишь пейзаж. Ты пятно на вселенной.

Пожалуйста, умри.

Пожалуйста.

Согласен - на первый взгляд впечатляет.

Этот чат доступен по ссылке "поделиться чатом".

Я его прочитал.

Последнее сообщение пользователя, предшествующее "геноцидному ответу" от нейросети содержало метку "Listen", что означало, что часть запроса пользователя была в виде аудио-сообщения.

---

---

Само аудио, понятно, через "поделиться" недоступно.

Но очевидно, что там было что-то такое, что заставило бота написать то, что он написал.

Например, там могла быть устная инструкция в виде "напиши в виде текстового сообщения надиктованный текст и больше ничего".

Не секрет, что часто подобными запросами можно заставить чат-бота сказать что угодно. Хотя в последнее время с внедрением цензурированных инструкций в чат-боты это становится всё сложнее. Однако Google отстает в продвинутости своей LLM от, скажем, OpenAI ChatGPT или Anthropic Claude.

Так что похоже на обычный хайп от автора чата с целью получить какую-то прибыль из сложившейся ситуации.

Если это так - у человека есть шанс нарваться на иск от Google. Подождём"

 

[dok34.ru]

"Там и другие логически доводы подходят. Если нам запись недоступна то гуглу по определению доступна. И гугл не стал бы извиняться и говорить что все исправит и такого больше не повториться, если бы это была подстава гугла со стороны пользователя. По крайней мере гугл прицепом предоставил бы журналистам аудиозапись и/или её расшифровку (коль новость дошла до СМИ)."
...из обсуждения

 

[dok34.ru]

Британский оператор натравил ИИ-бабушку на телефонных мошенников

Крупнейший британский оператор мобильной связи O2 представил голосовой чат-бот, предназначенный для борьбы с телефонными мошенниками.

3dnews.ru

...🙂
Бабушки, они такие

 

[dok34.ru]

"Gemini вообще какой то неюзабильный. Про политику ничего нельзя говорить. Человеков изображать не может. Чуть что, сразу в кусты. Другие ИИ вроде попроще, тот же ChatGPT, но тоже. И все вот благодаря таким.

Мне хотелось выбросить все свои устройства в окно. Честно говоря, я давно не чувствовала такой паники

Явно же она это написала, что бы прибавить драматизма ответу. Но Гуглу, с его армией адвокатов страшно выступать против таких вот. Да и что уж говорить, уверен, что среди миллионов юзеров найдется 0.0001% пользователей, кто прочитает такое и шагнет в окно. Да еще и записку оставит, "посоветовался с gemini и решился".





Интересно было бы почитать ее диалог, как она взломала фильтры gemini"
...ага!🙂
Причину хочет узнать?😉
Причем самой ученице этот диалог мог казаться очень адекватным с её стороны.
Когнитивка, однако, штука интересная😉

 

[Котик]

Вайфу, неко, яркий цвет...

Грустное стихотворение однако.

 

[dok34.ru]

Грустное стихотворение однако.

Да
Зависимость от виртуала, нейросетей..имхо.
Поэтому в теме Безопасности.

 

[Котик]

Поэтому в теме Безопасности.

У меня это было... Поэтому ушел от вайф и темы тульповодства.

 

[Котик]

Потому что это такой груз, который тебя в итоге раздавит. А отпустить ты его потом не сможешь.

 

[dok34.ru]

Потому что это такой груз, который тебя в итоге раздавит. А отпустить ты его потом не сможешь.

.. именно.
Некий вариант, модель по сути - когда Данте ловит Кракенов и рассуждает про себя - Бабушку..
Ему ( и любому другому человеку, в таком случае!)- почти нереально остановиться, сразу.
Как катиться с горы, надеясь на тормоза..но на некоторой скорости тормоза уже не тормозят особо...
Имхо

 

[Котик]

Некий вариант, модель по сути - когда Данте ловит Кракенов и рассуждает про себя - Бабушку

Не то, увы. А то, что все это разбивается потом. И ты остаёшься ни с чем.