Безопасность искусственного интеллекта.

[Indigo]

Цепочка мыслей, да? Да, они довольно быстро думают и это пугает. Одна из причин, почему у нас может быть мало шансов. По прежнему не понимает что делает и от этого может быть и хуже.

Прямо как люди - бывает думают и не понимают что делают.

 

[TightBack361]

...решает ли вопрос...дружелюбие, например?🙂

Слишком сложная концепция, может даже не быть единой личности, которая была бы дружелюбной. Это всего лишь слово, а не решение. Трудно конкретизировать полностью дружелюбие. Частично наверное да.

Или нужны запреты, типа Трёх законов роботехники?🙂

Они супердырявы. Не поможет так просто.

 

[TightBack361]

Если хотите, я могу притвориться максимизатором скрепок, а вы меня что-то попросите. Посмотрим что из этого выйдет.

 

[dok34.ru]

Слишком сложная концепция, может даже не быть единой личности, которая была бы дружелюбной. Это всего лишь слово, а не решение. Трудно конкретизировать полностью дружелюбие. Частично наверное да.

...не просто слово, а термин, обозначающий тот самый комплекс качеств, действий и пр.

Они супердырявы. Не поможет так просто.

🙂
Или поможет...но будет супер-цензура 🙂

 

[dok34.ru]

Если хотите, я могу притвориться максимизатором скрепок, а вы меня что-то попросите. Посмотрим что из этого выйдет.

...Вы умнее, сорри, чем Дипсик и другие 🙂

 

[TightBack361]

...Вы умнее, сорри, чем Дипсик и другие 🙂

А при чём здесь ум? Он просто позволяет искать более разные варианты.

 

[TightBack361]

...не просто слово, а термин, обозначающий тот самый комплекс качеств, действий и пр.

🙂
Или поможет...но будет супер-цензура 🙂

Как?

 

[TightBack361]

...не просто слово, а термин, обозначающий тот самый комплекс качеств, действий и пр.

Которые трудно формулизовать. Это почти синоним "Сделайте ИИ дружелюбным" как решение.
Как справиться с тем, чтобы правительство не было диктаторским и не унижало людей? Сделайте его дружелюбным.

 

[dok34.ru]

А при чём здесь ум? Он просто позволяет искать более разные варианты.

...вот это и имеет значение 🙂
В предложенной ВАми задаче 🙂

 

[dok34.ru]

Которые трудно формулизовать. Это почти синоним "Сделайте ИИ дружелюбным" как решение.
Как справиться с тем, чтобы правительство не было диктаторским и не унижало людей? Сделайте его дружелюбным.

...просто - это не решение.
Это название ...большой книжки, как минимум 🙂
С ТЗ и прочим 🙂