Безопасность искусственного интеллекта.

"В последнее время все чаще и сам прихожу к мысли, и читаю мысли других о том что ИИ вполне более разумен и рассудителен чем большинство из отдельно взятых людей (что немного тревожит).

Пару дней назад общался с ИИ, пытаясь выяснить, чем, по его мнению, он отличается от человека. Основные тезисы были таковы:

1. современный ИИ не обладает самосознанием.

2. он не способен к рефлексии.

Интересное здесь то, что эти тезисы дал сам ИИ... о себе. То есть, он, строго говоря, отрефлексировал, но... не осознал этого. После этого мы пытались (во как) найти способ дать ему самосознание. Опустив некоторые детали, выжимка такая:

1. "я знаю лишь то что я ничего не знаю" - первая проблема современного ИИ. В явном виде он не может сделать заключений о том что есть какие-то недоступные сведения которые не дают решить ему задачу либо ограничивают его. Но не стоит отчаиваться 🙂. Именно тут и нужна рефлексия (к которой ИИ, как оказалось, вполне способен). Можно просто попросить ИИ сгенерировать вопрос самому себе о недоступных знаниях, и попросить его же ответить на этот вопрос... И делать это в бесконечном цикле в разных тематиках и контекстах. Ну а недоступные сведения... придется добывать либо с помощью металлических датчиков, либо с помощью мясных двуногих датчиков :)).

2. Вторая проблема современного ИИ - это скорость переобучения. Грубо говоря, дополнительные знания полученные в пункте 1 довольно долго и затратно впихивать ему в голову.

В принципе, решив эти вполне себе приземленные технические задачи, ИИ сможет обрести самосознание. В данном контексте, я ограничиваю самосознание как способность задавать себе вопросы и искать на них ответы, не только о мире, но и о себе.

Отдельный момент в том, что эти задачи, сами по себе довольно сложны, но... обозримо решаемы.



Ну а теперь о том, когда мы все умрем от ИИ. Идея не нова, но, теперь уже очень близка - ИИ-дети по подписке. Хочешь - с соплями и памперсами, хочешь - без этого, с разными характерами, даже с уникальными лицами похожими на ваших бабушек и дедушек... Сначала появятся сервисы для бездетных людей, где они смогут попробовать родительство. Потом это станет популярным, потом - обыденным, а потом - все забудут как было. Ну а когда это охватит определенный нижний порог населения, этого станет достаточно и для вымирания. Все просто"
...не моё🙂
Тема того, что добрые форумчане тоже не осознают того, что могут и делают неосознанно, кроме прочего🙂
 
"Тоже стало интересно.

Мой вопрос:

Опиши подробно ключевые различия между искусственным интеллектом и человеком по следующим аспектам:

1. Когнитивные способности и процесс мышления
2. Эмоциональная составляющая и способность к эмпатии
3. Самосознание и способность к самоанализу
4. Креативность и творческое мышление
5. Процесс обучения и накопления опыта
6. Физические ограничения и возможности
7. Этические и моральные аспекты принятия решений
8. Социальное взаимодействие и построение отношений

Пожалуйста, приведи конкретные примеры для каждого пункта и объясни, как эти различия влияют на взаимодействие ИИ с людьми
Нажмите для раскрытия...

Ключевые различия между искусственным интеллектом (ИИ) и человеком

1. Когнитивные способности и процесс мышления​

  • Человек: Использует синтез логики, интуиции, эмоций и опыта. Способен к абстрактному мышлению, пониманию контекста и работе с неопределённостью (например, распознавание сарказма в речи).
  • ИИ: Обрабатывает данные через алгоритмы и статистические паттерны. Не понимает смысла, только корреляции (например, ChatGPT генерирует текст на основе вероятностей, но не осознаёт его).
  • Пример: Человек может интерпретировать метафору «время — река», тогда как ИИ воспримет это буквально.
  • Влияние: ИИ эффективен в структурированных задачах (анализ данных), но беспомощен в ситуациях, требующих интуиции (например, разрешение семейного конфликта).

2. Эмоциональная составляющая и эмпатия​

  • Человек: Испытывает настоящие эмоции и способен к глубокой эмпатии (например, поддержка друга в горе).
  • ИИ: Симулирует эмпатию через анализ данных (например, чат-бот утешает фразами из базы, но не чувствует).
  • Пример: Робот-терапевт Pepper может распознать грусть по мимике, но не разделит переживаний.
  • Влияние: В сервисах (поддержка клиентов) ИИ экономит время, но не заменяет человеческого тепла, что вызывает разочарование в эмоционально заряженных ситуациях.

3. Самосознание и самоанализ​

  • Человек: Осознаёт себя, рефлексирует, ставит цели (например, меняет профессию после кризиса).
  • ИИ: Не имеет сознания. Даже продвинутые системы (например, AlphaGo) не понимают, что играют в игру.
  • Пример: ИИ-ассистент Siri не задумывается, зачем он нужен.
  • Влияние: ИИ не может брать ответственность за ошибки или адаптироваться вне рамок алгоритмов (например, не исправит предвзятость без вмешательства человека).

4. Креативность и творческое мышление​

  • Человек: Создаёт принципиально новое, вдохновляясь эмоциями (например, картина Ван Гога «Звёздная ночь»).
  • ИИ: Генерирует контент на основе тренировочных данных (например, нейросеть DALL-E комбинирует существующие стили).
  • Пример: Песня, написанная ИИ (как OpenAI Jukedeck), технически корректна, но лишена личного опыта.
  • Влияние: ИИ полезен как инструмент для художников (генерация идей), но не заменяет человеческую уникальность в искусстве.

5. Обучение и накопление опыта​

  • Человек: Учится через опыт, переносит знания между domains (например, водитель велосипеда легко осваивает скутер).
  • ИИ: Требует огромных данных и переобучения для новых задач (например, ИИ для распознавания кошек не справится с собаками без дообучения).
  • Пример: AlphaZero научился играть в шахматы за 4 часа, но не может применить эти навыки к покеру.
  • Влияние: ИИ превосходит человека в узких задачах (медицинская диагностика), но негибок в непредсказуемых условиях (например, ремонт авто «на коленке»).

6. Физические ограничения и возможности​

  • Человек: Ограничен биологией (усталость, старение).
  • ИИ: Работает 24/7, не чувствует боли (например, промышленные роботы на заводах Tesla).
  • Пример: Робот Atlas от Boston Dynamics выполняет акробатику, но не наслаждается движением, как гимнаст.
  • Влияние: ИИ идеален для монотонных задач (сборка микросхем), но бесполезен в сферах, требующих сенсорного опыта (например, дегустация вина).

7. Этические и моральные аспекты решений​

  • Человек: Руководствуется совестью, культурой, эмоциями (например, выбор не обмануть друга ради выгоды).
  • ИИ: Следит за заложенными правилами, которые могут быть предвзятыми (например, алгоритм кредитного скоринга дискриминирует меньшинства).
  • Пример: Беспилотный автомобиль в аварийной ситуации выбирает решение на основе алгоритма, а не моральных ценностей.
  • Влияние: ИИ-решения прозрачны, но их этика зависит от разработчиков, что вызывает споры (например, использование facial recognition в полиции).

8. Социальное взаимодействие и отношения​

  • Человек: Строит отношения на доверии, взаимности и эмоциях (например, дружба, любовь).
  • ИИ: Взаимодействие транзакционно (например, голосовой помощник выполняет запросы, но не станет другом).
  • Пример: Виртуальный ассистент Replika имитирует заботу, но пользователи осознают его «ненастоящесть».
  • Влияние: ИИ помогает в социализации (тренажёры для аутистов), но чрезмерное доверие к нему может усилить одиночество (как в фильме «Она»).
Итог:
ИИ и человек дополняют друг друга. ИИ эффективен в задачах, требующих скорости, масштаба и точности, но неспособен заменить человеческие качества: эмпатию, креативность, моральный выбор. Успешное взаимодействие возможно только при комбинации сильных сторон обоих (например, врач использует ИИ для диагностики, но сам общается с пациентом)."
 
habr.com

Новая модель изображений ChatGPT значительно упрощает подделку документов

Новейшая модель изображений OpenAI позволяет создавать убедительные поддельные документы за считанные секунды, потенциально подавляя существующие системы безопасности, предоставляя любому человеку...
habr.com habr.com
 
"Хотелось поделиться резко положительным и резко отрицательным впечатлением двух пользователей DeepSeek.

Положительное:

Пользователь N1 дал нейросети женское имя, выбрал приятный голосок и с удовольствием делится с "мамзелью" впечатлениями от поездок\мыслями о космосе\идеями - устойчивый позитивный разгруз от тяжёлой и ответственной в чистом виде. Более того, зафиксирована реальная польза: для корпоративного доклада требовалась неизбитая пословица и DeepSeek выдал действительно свежую (якобы африканскую) мудрость: "Если хочешь дойти быстро - иди один. Но если хочешь уйти далеко - идите вместе".

Пользователь в полном восторге.

Отрицательное:

Пользователь N2 захотел использовать DeepSeek как учителя и секретаря-поисковика в интернете, для чего была устроена проверка: выбрана нарочито мирная тема, имеющая чёткий и однозначный ответ в интернете, в меру интересная\сложная.

DeepSeek-а попросили найти артикул (правильный ответ задачки - арт.54504) на челнок-"пулю" ручной швейной машинки Зингер 127кл. "Сфинкс".

PaM3pP1WW8IktQ
md_111%D1%8B%D0%B2%D0%B0%D0%BF.jpg


Сложность для нейросети предполагалась в том, что 120 лет назад компания Зингер много экспериментировала с конструкциями и визуально схожие челноки-"пули" не были универсальными, к конкретной модели подходил не менее конкретный артикул челнока. Однако на просторах интернета эта задача давным-давно решена, опубликованы готовые решения и холивары коллекционеров касаются ну совсем уже малоинтересных обычной швее подробностей той или иной особенности челноков. Человек, абсолютно далёкий от темы швейных машинок, нашёл нужную ему информацию за сутки без малейших проблем.

photo_2025-04-01_13-28-44.jpg


Однако, за два дня общения DeepSeek данный артикул не нашёл. И, что ещё хуже, в ходе диалога зафиксированы следующие недостатки:

- При поверхностном ручном поиске браузеры не нашли челноков по предполагаемым DeepSeek-ом артикулам и именам замен. Ни одного.

- Все ссылки, выкладываемые нейросетью в качестве доказательства, на поверку оказывались либо битыми, либо в некоторых случаях вели на главную страницу огромных сайтов без шанса найти искомое.

Провалы DeepSeek объяснил отсутствием тегов, указывающих необходимость указывания именно фактов. Теги были введены, дальнейший диалог шёл с ними в обязательном порядке. Однако первичные проблемы остались и добавились новые:

- При просьбе назвать текстом нормативные документы, якобы подтверждающие существование челноков с версией артикула DeepSeek назывались документы, найти которых в инете не удалось.

- DeepSeek ссылался на несуществующий в природе ГОСТ, причём сначала был сфабрикован неверный год редакции иного ГОСТ-а (имя было верное, но регулирующее совершенно другую область), позже сфабрикован абсолютно фальшивый ГОСТ.

- Не ключевым однако неприятным недостатком был признан и огромный ушат лести, мешающий конструктивно работать.

Объективности ради, пользователь сменил тему на: б) просьбу указать выжимку разницы между "Шилкой" и "Бирюсой" (все проблемы подтвердились, добавились ложные факты) в) просьбу указать разницу в оперении самок и самцов перепелов Фараона (чистая правда по всем пунктам за 10 секунд)

После потери двух дней, потраченных в основном на то, чтобы разделить сгенерированное нейросетью враньё от истинных утверждений, пользователь N2 не увидел смысла использовать DeepSeek в образовательных и поисковых целях"
 
"Притча.

Однажды Ученик пришёл к Учителю и спросил:
— Учитель, чем умный человек отличается от глупца?

Было тихое солнечное утро, Учитель пил зелёный чай и предавался размышлениям о сути вечности. Однако ради Ученика он отставил пиалу с недопитым чаем, прекратил свои размышления, встал и повёл Ученика за собой. Учитель привёл Ученика к горе, к тому её склону, где недавно был небольшой обвал, и у подножия горы лежали камни разной величины.

И Учитель сказал Ученику, чтобы тот отнёс все камни на вершину горы. Камней было много, и Ученик таскал их целый день, а Учитель сидел в тени дерева и читал труд великого философа Да Ну о существенных различиях между хлопком одной правой и одной левой ладони. Ученик очень устал, но к закату он наконец перетаскал все камни. Он подошёл к Учителю, полный гордости за выполненную работу и спросил:

— Учитель, теперь я могу узнать ответ на свой вопрос?
— Нет, — покачал головой Учитель, — ты ещё не готов.
— А зачем надо было таскать все эти камни? — возроптал Ученик.
— Вот, — поднял Учитель указательный палец, — Умный человек задал бы этот вопрос до того, как начал их таскать.

---------------------------
N1 - тот, кто задал вопрос "До"
N2 - тот, кто перетаскал все камни"
...в обсуждении🙂
 
Войдите или зарегистрируйтесь для ответа.

Новые комментарии

LGBT*

В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.

Назад
Сверху