Безопасность искусственного интеллекта.

"За последние два года искусственный интеллект стал одной из основных тем в СМИ, и многие известные люди высказали свои мысли по этой теме. Но если вы начнете искать в Интернете подборки цитат об ИИ, то в основном найдете цитаты глав многомиллиардных компаний, футурологов и ученых, проводящих исследования в этой области. Причем эти подборки настолько похожи друг на друга, что порой создается впечатление, что их составлял ИИ.

Цитаты всемирно известных людей, которые обычно не попадают в подобные подборки цитат:



Ричард Столлман (основатель движения свободного ПО (GNU), программист)​

Мы много слышим об искусственном интеллекте, и этот термин несет в себе ужасную путаницу… Потому что, на мой взгляд, термин «интеллект» означает что-то вроде способности знать или понимать какую-то область. Если что-то, на самом деле, не может понять какие-то вещи, мы не должны говорить, что это интеллект, даже если у него есть хоть капля интеллекта, но люди используют термин «искусственный интеллект» для генераторов бреда. Люди говорят о системах вроде ChatGPT, которые ничего не понимают и ничего не знают. Вот почему я называю эти системы генераторами бреда, потому что единственное, в чем они хороши, - это создание гладко звучащего вывода, любая часть которого может быть бредом. Вы никогда не сможете в это поверить - что ж, вы глупы, если поверите. Поэтому я не буду называть их «искусственным интеллектом» или чем-то еще, в чем есть слово «интеллект», потому что, называя их так, я побуждаю людей думать, что то, что они говорят, не является бредом сивой кобылы. Это побуждает людей верить им, и это дает им шанс причинить большой вред.


Поэтому я выделяю две области, где существует настоящий искусственный интеллект. Например, существуют программы, которые могут взглянуть на увеличенную фотографию некоторых клеток и сказать вам, с большей вероятностью оказаться правыми, чем любой врач-человек, являются ли они раковыми. Или, например, существуют системы искусственного интеллекта, которые могут очень и очень эффективно определять, что привлечет внимание людей. Они используются антисоциальными медиа-платформами, и, как ни прискорбно говорить, они работают очень хорошо. Они очень хороши в своем деле, а именно в том, что они делают пользователей или «используемых» зависимыми.

Источник: GNU Project



Джеффри Зельдман (инициатор и король-основатель веб-стандартов, веб-дизайнер )​

Одна из самых горячих вакансий для нелюдей - это создание и размещение спама в гостевых книгах веб-сайтов. Этот рынок в огне!

Если вы думали, что спам в гостевых книгах былых времен был впечатляющим, то вы еще ничего не видели. Новая система рассылки спам-комментариев, ассистируемая ИИ, отличается улучшенным наполнением ключевыми словами, меньшим количеством грамматических ошибок, и, что самое главное, спама стало гораздо больше. Ваш раздел «Комментарии» еще никогда не был таким бесполезным!

Источник: Zeldman on Web and Interaction Design



Эрик А. Мейер (ещё один инициатор и разработчик веб-стандартов, консультант по веб-дизайну, сооснователь движения microformats)​

Каждый форум, в который мы когда-либо вносили свой вклад, включая саму Всемирную паутину, «пылесосится» в поисках наборов обучающих данных для ИИ. Я полагаю, что единственным положительным моментом в том, что я делюсь большей частью своих материалов через свой собственный общедоступный веб-сайт, а не через такие места, как StackOverflow, заключается в том, что меня не «отрезают» от какой-то крупной денежной выплаты, поэтому я не чувствую себя использованным вдвойне.

Источник: Mastodon



Дуглас Крокфорд (гуру JavaScript, создатель JSON)

Мы также стали свидетелями своего рода гонки вооружений в области ИИ. Где Microsoft покупает продукты ChatGPT и предлагает их широкой публике. У Google были продукты, которые, по их мнению, были явно не готовы, но теперь им нужно конкурировать с Microsoft, поэтому они продвигают свои продукты, хотя знают, что еще слишком рано. Сейчас есть и другие стартапы, которые пытаются опередить их. Все это происходит слишком быстро. Меня беспокоят не сами ИИ, а их неправильное применение. Опять же, потому что они выглядят такими умными, но на самом деле таковыми не являются. Нам трудно выносить правильные суждения о них.

Источник: Anywhere Club



Роберт «Дядя Боб» Мартин (соавтор Agile-манифеста, разработчик ПО)

Каждое десятилетие появляются инновации, которые обещают положить конец всем программистам. Сначала это были компиляторы. Потом это был COBOL. Затем это было ОО2. Потом это было логическое программирование. Затем это был ИИ с нечеткой логикой и обратной связью. Потом это была разработка, управляемая моделями. Теперь это большие языковые модели.

Источник: X (бывший Twitter)



Дино Эспозито (разработчик ПО, .Net-гуру, евангелист JetBrains, облачный провидец)

ИИ - это программное обеспечение, и точка. Как программное обеспечение, он получает числа и возвращает числа. Все опасения, на которых акцентируют внимание СМИ, являются результатом работы программных конвейеров, которые могут быть настроены для принятия решений. ИИ - это черный ящик, который возвращает число, и то, что происходит с этим числом, является той же «другой» проблемой, с которой мы все еще сталкиваемся сегодня.

Источник: ShiftMag



Алексей Пажитнов (создатель «Тетриса», геймдизайнер и программист, )​

… тот уровень искусственного интеллекта, который есть сейчас, и который будет в обозримом будущем, очень сильно основан на человеческом опыте, накопленном до сих пор. То есть каких-то оригинальных решений он ни в каком аспекте не выдает. Поэтому для тех эпигонов3, которые сейчас повторяют чьи-то игры, искусственный интеллект действительно станет серьезным конкурентом, потому что он сделает это гораздо лучше. Однако что-нибудь новое, инновационное свежее – я не думаю, что AI в ближайшие 50 лет будет способен выдать. Так что хорошие [гейм]дизайнеры могут спать спокойно.

Источник: Radio Prague International

Гради Буч (разработчик ПО, соавтор UML)​

ИИ: Инкарнация Алхимии

Источник: X (бывший Twitter)



Линус Торвальд (создатель Linux и Git, разработчик ПО )​

… Я один из тех людей, которые очень оптимистично относятся к ИИ, и я с нетерпением жду появления инструментов, которые на самом деле будут находить ошибки. У нас есть много инструментов: инструментарий вокруг ядра [Linux] и разумеется вокруг любого программного проекта. Мы используем их «религиозно», но делать инструменты более умными - это не так уж и плохо. Я в какой-то степени сравниваю это с написанием каких-либо вещей на ассемблере, что я буквально начал делать с первоначальной версией ядра, которая примерно на 50% состояла из языка ассемблера, и использованием компилятора. Использование более умных инструментов - это всего лишь следующий неизбежный шаг. Так что это произойдет, но я не думаю, что это обязательно тот мрак и обреченность, о которых говорят некоторые люди, и я определенно не думаю, что это мир обетованный, о котором говорят люди, протягивающие руки за наличкой. Поэтому вам нужно быть немного циничными по отношению ко всему этому циклу хайпа в технологической индустрии. Я надеюсь, вы все понимаете, что до ИИ это была криптовалюта, а до криптовалюты это были нативные облачные технологии. Я имею в виду, что за хайпом всегда скрывается крупица реальности, но нужно быть осторожным со всем этим BS4 (cкорее всего, аббревиатура BS означает «bullshit» (рус. бред сивой кобылы или чушь собачья); c другой стороны, собеседник Линуса (Дирк Хондел) считает, что эта аббревиатура означает «beautiful science» (рус. прекрасная наука) вокруг этой крупицы.

Источник: YouTube-канал «The Linux Foundation»



Джон Ромеро (родной папа Wolfenstein 3D, Doom и Quake,в целом родоначальник жанра FPS (шутер от первого лица) , геймдизайнер, программист)​

Так что насчет Romero Games, моей компании? Что ж, мы вообще не используем генеративный ИИ в играх, ни в художественной работе, ни в программном коде, ни в аудио, ни в написании сценариев, ни в дизайне, и мы в этом отношении довольно тверды. Очевидно, что иногда ИИ может быть полезен в качестве супер-Google для исследований, для парсинга тысяч ссылок с целью получения потенциально окончательного ответа. Но предстоит сделать еще много работы в этом направлении, и так, ИИ сообщил мне, что я родился в Гватемале. А я родился не там. Меня вырастила моя мексиканская бабушка. Но, по крайней мере, она была мексиканкой, хотя это было бы довольно здорово. Очевидно, я снимаюсь в музыкальных клипах, что для меня стало новостью. И самое лучшее, я сын режиссера фильмов ужасов Джорджа Ромеро, если вы этого не знали. Учитывая названия игр, которые я создаю, и фильмов, которые он снимал, ну, это довольно правдоподобно. Но правда в том, что все это неправда, и, очевидно, это опасно"
 
" новая модель, революционная (https://openai.com/index/learning-to-reason-with-llms/) и без шуток и иронии. Возможно, впервые с момента релиза первых публичных версий будет возможность проведение более масштабных исследований с участием ИИ, ну посмотрим.

• Высокая точность: Модель o1 продемонстрировала результаты в 89-м процентиле по задачам программирования на платформе Codeforces и вошла в число 500 лучших студентов США на отборочном экзамене для Олимпиады по математике (AIME).

• Превосходство над людьми: o1 показала результаты, превышающие уровень PhD по задачам в области физики, биологии и химии на тесте GPQA. Это означает, что модель способна решать задачи, которые обычно требуют глубоких знаний и понимания.

• Сравнение с GPT-4o: В тестах на рассуждение o1 значительно превосходит предшествующую модель GPT-4o, особенно на задачах, требующих сложного анализа и логического мышления.

• Обучение с подкреплением: Модель o1 обучается через алгоритмы обучения с подкреплением, что позволяет ей развивать и улучшать свои стратегии рассуждения. Это включает в себя способность анализировать и исправлять собственные ошибки, а также разбивать сложные задачи на более простые шаги.

• Цепочка размышлений: o1 использует метод "цепочки размышлений", что позволяет ей думать над задачами перед тем, как давать ответ. Это дает возможность модели генерировать более обоснованные и точные ответы.

• Тестирование на реальных задачах в экзаменах: Модель была протестирована на различных экзаменах и задачах машинного обучения, где она показала результаты, сопоставимые с результатами экспертов-людей, опережая 90% экзаменуемых в ведущих Вузах США.

• Способность к обучению: o1 демонстрирует, что ее производительность улучшается с увеличением вычислительных ресурсов как во время обучения, так и во время тестирования, что подчеркивает эффективность ее архитектуры.

Ограниченная модель уже доступна в интерфейсе ChatGPT, еще не тестировал, но интересно, хотя, очевидно не за 2 трлн. OpenAI, находясь в убытках, пытается привлечь всего 5 млрд на развитие и закрытие кассовых разрывов.

Мнение Сергея Карелова "Малоизвестное интересное":

photo_2024-09-13_17-33-08.jpg


Свершилось – на Земле появился 1й ИИ с неопровержимой способностью мыслить не хуже людей.
Новые модели OpenAI - гигантский скачок для человечества.
Выход новых моделей o1-preview и o1-mini от OpenAI войдет в историю, подобно «маленькому шагу человека» по имени Нил Армстронг 55 лет назад.

Эпохальность трояка.
1. Ценность аргументации о неспособности ИИ мыслить мгновенно упала в 0.
Ибо ИИ теперь не только решает задачи, но и обдумывает их решение, в деталях объясняя ход мыслей
2. Подтвердилось, что одномоментного достижения AGI не будет.
А будет очень быстрое проявление у ИИ все новых и новых сверхчеловеческих способностей. И уже очень скоро появится сверхчеловеческий ИИ-математик - рис А, В.
3. LLM перестали быть ИИ. Теперь это «искусственные агенты»
Ибо предъявленные способности этих агентов планировать свои действия демонстрируют их самостоятельный поиск путей решения проблем

«Это новая парадигма масштабирования ИИ, и мы только начинаем», говорит автор моделей Ноам Браун"
 
Эпохальность трояка.
1. Ценность аргументации о неспособности ИИ мыслить мгновенно упала в 0.
Ибо ИИ теперь не только решает задачи, но и обдумывает их решение, в деталях объясняя ход мыслей
2. Подтвердилось, что одномоментного достижения AGI не будет.
А будет очень быстрое проявление у ИИ все новых и новых сверхчеловеческих способностей. И уже очень скоро появится сверхчеловеческий ИИ-математик - рис А, В.
3. LLM перестали быть ИИ. Теперь это «искусственные агенты»
Ибо предъявленные способности этих агентов планировать свои действия демонстрируют их самостоятельный поиск путей решения проблем

«Это новая парадигма масштабирования ИИ, и мы только начинаем», говорит автор моделей Ноам Браун"
Если это так то это печально. Даже не в смысле того что ИИ людей уничтожит, но готовые ответы разучат думать окончательно. Мозг-же наш не любит думать - эта функция в нем появилась как вспомогательная для преимущества в выживании, и требует много ресурса.
Про это много материалов есть. Есть рассказ фантастический как люди прилетели на планету а там какие-то типа животные в типа детском садике с автоматическим питанием. Оказалось что там ИИ за ними ухаживал а они деградировали. Абу-бы понравилось.

 
"... современное магистральное направление развития ИИ требует огромных серверных мощностей и энергозатрат. А это намекает, что простые смертные не смогут реализовывать достижения ИИ в гаражах и коворкингах, скорее, можно предположить, что владельцем и заказчиком ИИ будут ТНК и элиты. Т.е. дивный новый мир может стать уделом избранных.


Если же разрешить ИИ улучшить собственные алгоритмы, чтобы иметь возможность работы "в гараже", то, возможно, фраза "оптимизируй свой код" займет достойное место в списке последних слов наряду с "посмотри, как умею" и "это ружьё не заряжено" 🙂"
 
"Не моё. Отлично сказано про современное положение дел с собесами и наймом в айти:

Уверен, все эти люди прошли пятиэтапный собес с алгоритмической секцией, лайв-кодинг секцией, теоретической секцией, вращанием красно-чёрных деревьев и вопросами про солид.Интересно, на пятиэтапном собесе в какой-нибудь секции был вопрос на знание закона о защите персональных данных применительно к айти?Почему даже в ООО «Рога и копыта» 10 лет назад, где собес был 15 минут и состоял из нескольких вопросов уровня «ты вообще программировать-то умеешь?» — мне сразу же донесли, что персональные данные типа серии-номера паспорта, номеров других документов, номеров банковских карт и т.п. даже хранить в БД нельзя… Максимум какой-нибудь необратимо зашифрованный токен. Тем более не отдавать в апи наружу в открытом виде"
...и не моё🙂
Пока там была Рязанская область и ещё что-то. Сильно много не слили, вероятно🙂
 
" Конспирология чуть чуть - все смотрели недавний фильм в создании которого аж Мишелька которая Обама поучаствовала, "Оставь мир позади"?

Как там дикие Теслы запрудили шоссе и заблокировали его нафиг?

Тесла уже может кататься сама.

По сигналу, и заранее расчитанному плану Теслы раскатываются по точкам, прорываясь при необходимости через КПП и паркинговые шлагбаумы (второе осттавить, электронные деньги счас, можно наверное и пустой тесле рассчитаться при въезде).

ПРоезжают на:

паркинги подземные важных зданий, где уже скажем припаркованы машины, несколько штучек, с простыми бытовыми химикатами,

прорываются на нефтебазы, подкатываясь к уязвимым местам, ночью, скажем, когда охрана херней страдает.

Врезаются на полном газу в трансформаторные станции

Говорят "до свидания" крупным магистралям, которым зачастую нет альтернатив ( набились в пробку, зажглись по команде, удачи растащить, и они же непременно еще машины зажгут, плюс можно подгадать близость всякого рода бензо-газовозов, они по расписанию катаются относительно)

И по команде устраивают суицид, замыкая батарею и зажигая трудногасимый и долгий пожар...

Серьезный инструмент и всегда можно обвинить китайских \ русских \корейских \ иранских хакеров. "



Дополняю - разгоняется машинка отлично, несколько секунд до 100. Весит как новый Крузак, 2,5 тонны. Остановить ее тот еще аттракцион, батарея на уровне пола, попасть в управляющий блок это непросто, вывести из строя батарею даже несколькими попаданиями не удастся, она загорится, но элементов там много, она еще какое то время сможет мчаться. А гранатометов на постах на гражданке нет никогда.

Банальная задача, скажем, вывести из строя аэродром, забор проломят с нескольких направлений, повлетают в ангары с техникой, в топливохранилища, и заполыхают по команде.

У вас по сути миллионы наземных беспилотников, в каждом из которых 400кг зажигательной смеси (вес батареи) и которые от 0 до 100 за 3-4 секунды разгоняются, и мчаться могут на сотни км, при этом уворачиваясь от препятствий и т.п., автопилот на них есть.

И никаких следов. С пейджерами - ясно понятно, Израиль, а с "взломанными" Теслами \ им подобными кого винить?

Производителя? Так то не мы, нас взломали! Хакеров? А каких именно? как доказать? "
 
"Зачем отравляющие.

Психотропные.

В нужный момент - нужные эмоции.

Нужные эмоции - нужные решения.

(ИИ подскажет ключевые слова с предсказуемым, персонизированным результатом"
...оттуда же, обсуждение "умных устройств"...
 
Аватар пользователя madrugado

"Times: на Уимблдонском турнире линейных судей заменит искусственный интеллект​

МОСКВА, 9 окт - РИА Новости. Организаторы Уимблдонского теннисного турнира со следующего сезона впервые за 147-летнюю историю соревнований откажутся от использования линейных судей, заменив их искусственным интеллектом, сообщает The Times.

Сообщается, что на всех 18 игровых кортах, включая Центральный корт, в следующем году будет установлена автоматизированная система Electronic Line Calling (ELC).

"На Уимблдоне изначально не хотели прекращать давнюю традицию и переходить на ELC, но организаторы пришли к выводу, что высокие стандарты турнира могут быть скомпрометированы, если продолжать использовать судей-людей. ELC считается более точной системой судейства, к которой уже привыкли лучшие игроки", - пишет издание.
До сих пор на Уимблдоне требовалось около 300 судей на линии в возрасте от 18 до 80 лет для обслуживания более 650 матчей в течение двух недель.

Ранее Ассоциация теннисистов-профессионалов (АТР) на своем официальном сайте объявила о введении на всех турнирах с 2025 года электронной системы ELC Live, которая заменит линейных судей. Система ELC Live была впервые опробована на итоговом турнире 2017 года в Милане и с тех пор неоднократно тестировалась на других соревнованиях в сочетании с традиционным судейством"
... буднично...шаг за шагом 🙂
Вроде логично, имхо.
Следить за мячиком правильнее не человеку, который моргает, отворачивается и так далее 🙂
 
...практика ИИ
 

Новые комментарии

LGBT*

В связи с решением Верховного суда Российской Федерации (далее РФ) от 30 ноября 2023 года), движение ЛГБТ* признано экстремистским и запрещена его деятельность на территории РФ. Данное решение суда подлежит немедленному исполнению, исходя из чего на форуме будут приняты следующие меры - аббривеатура ЛГБТ* должна и будет применяться только со звездочкой (она означает иноагента или связанное с экстремизмом движение, которое запрещено в РФ), все ради того чтобы посетители и пользователи этого форума могли ознакомиться с данным запретом. Символика, картинки и атрибутика что связана с ныне запрещенным движением ЛГБТ* запрещены на этом форуме - исходя из решения Верховного суда, о котором было написано ранее - этот пункт внесен как экстренное дополнение к правилам форума части 4 параграфа 12 в настоящее время.

Назад
Сверху