Безопасность искусственного интеллекта.

[TightBack361]

Я именно про шахматы. Я не копенгаген в них
Совсем. Игрался в детстве малость. То есть - это уже я не эксперт

С какой такой радости ИИ предсказывающий текст и отвечающий вообще должен играть в шахматы? Универсальность получается? А универсальность это у нас что?
И не просто играть, а именно понять в рамках модели что шахматы есть, так чтобы можно было попросить в них играть. Совершенно бесшовно с ответами и с возможностью спросить что делает. С пониманием окружения. То есть в любом случае ничего "особенного" в шахматах нет, он научился им так же, как и всему.
Шахматы на минуточку подразумевают стратегии, какое-то представление о мире и т.п. Значит и другие ответы тоже?

 

[dok34.ru]

С какой такой радости ИИ предсказывающий текст и отвечающий вообще должен играть в шахматы?

Шахматы отработаны на компе уже достаточно давно, я об этом.

Универсальность получается? А универсальность это у нас что?

Я бы использовал шахматные навыки в виде модуля.
Не всем нужно, но если нужно - получайте
Так обходится громоздкость универсальных подходов.

И не просто играть, а именно понять в рамках модели что шахматы есть, так чтобы можно было попросить в них играть.

Это можно, и интересно, что ответит Алиса
Можно ли попросить играть со мной на уровне определенного разряда, например?

Совершенно бесшовно с ответами и с возможностью спросить что делает. С пониманием окружения. То есть в любом случае ничего "особенного" в шахматах нет, он научился им так же, как и всему.
Шахматы на минуточку подразумевают стратегии, какое-то представление о мире и т.п. Значит и другие ответы тоже?

Или цепочку ходов, ответов-вопросов.
Что в шахматах алгоритмизируется неплохо

 

[A.Sputnik]

GPT-4 это именно интеллект, по диалогу с ним всё-таки часто понятно, что у него есть понимание того, о чём он говорит, также он понимает такую важную вещь, как границы понятий. Попробуйте сыграть с ним в шахматы, чтобы убедиться, а то и выдумать собственную игру, также он сдаёт тесты на понимание окружения.
Он кажется думает в один проход. А ещё мочь и хотеть - это разные вещи, в некотором роде он и не совсем хочет.

Что ты понимаешь под интеллектом? Самосознание? Разум?

 

[dok34.ru]

Алиса (голосовой помощник Яндекса) играет в Шахматы

Эта статья о том, как я "учил" Алису (голосовой помощник Яндекса) играть в Шахматы. Мой личный опыт. Сидишь в кресле, закрыв глаза, и одновременно играешь в Шахматы... Без доски, без монитора, ничего...

habr.com

часть ответа

 

[TightBack361]

Смотря что мы понимаем под ИИ.

С другой стороны, даже ИИ без субъектности может сотворить дичь, да. Но это сеть. Она не выходит за рамки того, чему обучена.

Ох, было бы так просто. Что такое субъектность? Где находятся рамки того, чему обучен ИИ? А если он обучается сам?
Нам не нужна субъектность в человеческом смысле, чтобы устроить полнейший капец и исследователи безопасности даже не вполне оперируют этими терминами. Наоборот, субъектность может быть плюсом.
1 У ИИ может быть цель, например ты сам примерно задал таковую при обучении, или же она приобрела её случайно.
2 Она занимается тем, что достигает её. Что может пойти не так?

 

[TightBack361]

Шахматы отработаны на компе уже достаточно давно, я об этом.

Я наверное непонятно написал, так что повторю себя более внятно. Да, шахматные программы существуют давно и обыгрывают людей и шахматы оказались лёгкой для компьютера задачей и они "отработаны". Исходя из этого может показаться, что нет ничего удивительного, что ИИ играет в шахматы, когда его попросят, так?
Шахматы - это просто пример, которого сложно добиться "усреднением знаний". Я приводил в пример шахматы, когда доказывал, что у GPT есть представление о мире, он умеет обобщать и так далее. Потому что для того, чтобы играть в шахматы нужна стратегия и понимание "окружения". Шахматы - это просто пример, которого сложно добиться "усреднением знаний". Вы не можете играть в шахматы с t9, а значит тот, с кем вы играете в шахматы - не t9, хотя-бы в части случаев?
Не было бы удивительно, если бы его проектировали таким образом, чтобы он играл в шахматы явно, но я крайне сомневаюсь, что это происходило.

Он узнал о правилах шахмат по своим данным обучения. Он понял как именно нужно отвечать и его ответ был за границей усреднения и смешивания, значит он в принципе может отвечать за границей смешивания. Всегда.

 

[TightBack361]

Это можно, и интересно, что ответит Алиса
Можно ли попросить играть со мной на уровне определенного разряда, например?

Вот-вот. Другая вещь это то, что он не просто может играть в шахматы, а понимает когда это делать. Это важно. Критерии интеллекта - универсальность, способность применять свои знания адекватно задачам, способность абстрагироваться и видеть общее...

 

[TightBack361]

Что ты понимаешь под интеллектом? Самосознание? Разум?

Я понимаю систему, которая может анализировать мир, создавать на его основе категории, применять эти категории обратно к миру. Часто - строить стратегии на основе этого всего. Ну или аналоги этого.
Нет, не обязательно аналог человека. Вот например старые шахматные программы - не ИИ, а Google Translate - ИИ.

Что такое самоосознание и разум? Разумна ли "система сбора информации и достижения целей" у которой в центре некоторое дерево "задач и подзадач" и стремящаяся к тому, чтобы "состояние мира" в "будущем" соответствовало "целевому состоянию"? У неё в "понятиях" явно есть и она сама, но делает ли это её самоосознанной?
GPT знает, что он языковая модель и его можно попросить ответить с разной теплотой (и он будет симулировать ответы так, будто вы напрямую управляете теплотой), скорее всего потому, что он считает, что раз у модели есть теплота, значит он должен отвечать так. А ещё его можно попросить прикинуться операционной системой, браузером, потом зайти на сайт ChatGPT, где есть ChatGPT и он будет отвечать за ChatGPT c сайта.

 

[TightBack361]

Алиса (голосовой помощник Яндекса) играет в Шахматы

Эта статья о том, как я "учил" Алису (голосовой помощник Яндекса) играть в Шахматы. Мой личный опыт. Сидишь в кресле, закрыв глаза, и одновременно играешь в Шахматы... Без доски, без монитора, ничего...

habr.com

часть ответа

Там не учили, кажется.

 

[TightBack361]

Мне своими словами написать всякое про риск ИИ или тупо ссылок накидать?
Я хотел типа более последовательно написать, ну как смогу. Ещё сразу не хотел писать о рисках, а например сейчас. Но я не идеальный раcсказчик.

Там раскидано всё, найти бы короткое.