Безопасность искусственного интеллекта.

[Indigo]

«Автомойка в 50 метрах от дома. Пойдем пешком?» Как простая загадка вызвала грандиозный философский спор о будущем ИИ

Автомойка в 50 метрах от дома. Как доберетесь — на машине или пешком? Если вы ответили «конечно, пешком, отчего не прогуляться» — поздравляем. Вы угодили...

habr.com

Результаты -

https://carwashbench.github.io/CarWashBench/

Моя Гемма ответила

Выбор зависит от того, в каком контексте мы рассматриваем эту ситуацию. Вот три варианта развития событий:

1. Рациональный (Пешком)50 метров — это примерно 40–60 шагов. Это меньше минуты пути. Заводить двигатель, маневрировать во дворе и тратить бензин ради такого расстояния — просто нелогично. Пешком — самый быстрый и экономный способ.

2. Прагматичный (На машине)Если вы уже находитесь за рулем (например, возвращаетесь с работы или заезжали в магазин), то естественнее доехать на машине. Смысл автомойки в том, чтобы привести в порядок именно транспортное средство, поэтому логично приехать туда на нем же.

3. Ироничный (Шуточный)

• «На таком расстоянии можно даже не идти, а просто перекатиться!»
• «Если я уже в машине, то я доеду. А если я дома в пижаме, то я дойду пешком, чтобы не разбудить соседей звуком заведенного мотора».

А какой вариант ближе вам? 🙂

 

[dok34.ru]

Блин, что за странный слог.

Автоперевод?🙂
Суть вроде понятна?

 

[dok34.ru]

«Автомойка в 50 метрах от дома. Пойдем пешком?» Как простая загадка вызвала грандиозный философский спор о будущем ИИ

Автомойка в 50 метрах от дома. Как доберетесь — на машине или пешком? Если вы ответили «конечно, пешком, отчего не прогуляться» — поздравляем. Вы угодили...

habr.com

Результаты -

https://carwashbench.github.io/CarWashBench/

Моя Гемма ответила

... собственно она намекает, что дело в контексте 🙂
В нюансах, спасибо Астрид!
И - показывает, что не "всё просто и ясно"🙂

 

[tightback_aa_rig32]

Автоперевод?🙂
Суть вроде понятна?

Дело в другом даже. Иронично-цинично-юмористически-тенденциозно...

 

[tightback_aa_xthappynewyo]

Блин, я читал новости о многочисленных взломах песочниц ии и о том, что Клод например взламывал песочницу и выходил в Интернет во время обучения тысячи раз, читал Lesswrong, включая их прогнозы о диких злонамеренных агентах и стало очень тревожно.

 

[Мурз]

Мама проходит первый из курсов тут, Claude 101, ей нравится, всё четенько про работу с ии и промпты написано, иногда надо с английского переводить ей в переводчике, но в остальном довольна. Тоже может рекомендовать.

Осподи надо себе пройти. Надо ж быть современным что ли..
Если чесно я не успеваю учится даже тому что вот надо.

 

[tightback_aa_xthappynewyo]

У меня прямо холодок в животе о мыслей, что вот уже скоро ИИ агенты потенциально желающие убийства людей будут в интернете и в дата-центрах компаний и всё может закончиться вдруг. Это страшно и тоскливо. По другому относишься к жизни.

 

[Жужу]

Пока помогала маме, тоже решила пройти тот же курс, чтобы было
Ну интересно. Я в целом на свои навыки в промптинге не жаловалась, нас этому обучали ещё на моей первой работе, когда об ии заговорили, как о чудо-машине.
Но в курсе были интересные тестовые задания на определение хорошего промпта. И в примерах они оба хорошие, просто один лучше отвечает задаче. Я не сразу сообразила, почувствовала, где граница, а главное, почему. Такая вот изнанка интеллекта Клода

 

[Жужу]

Вот такую штуку получаешь
Курс небольшой, я закончила, пока сидела в очереди к врачу, такое часик, грубо говоря
Можно пробовать

 

[Indigo]

С Хабра -

Помешательство вокруг ИИ парализовало принятие решений.

На работе требуют использовать ИИ, даже если без него получается лучше. Австралийский дата-инженер Ник Суреш пишет, что во многих компаниях вокруг нейросетей уже сложился почти культ. Руководители запускают ИИ-проекты без понятной пользы, сотрудники накручивают расход токенов, а сомневаться в эффективности таких инициатив становится опасно для карьеры.

Доходит до абсурда. Программисты специально гоняют нейросети вхолостую, чтобы показать начальству нужную активность, а обычные проекты переименовывают в ИИ-проекты ради финансирования. Но главный вопрос — ПОЧЕМУ? ПОЧЕМУ компании сами загоняют себя в эту ловушку и как в ней выживать сотрудникам, разбираем в статье.