TightBack361
Club
Искусственный интеллект, созданный для максимального счастья, убьет всех людей и выложит всю галактику с помощью максимально эффективных интеллектуальных программ для счастья. Если для вас это звучит "безумно", то это проблема антропоморфизма, о которой я вам говорил: не представляйте "ИИ" эмоционально подавленным человеком, просто подумайте о машине, которая вычисляет, какие действия приведут к каким результатам, и выполняет действие, результатом которого будет максимизация некоторой функции. Оказывается выбирать функцию, которая не убивает всех, выглядит сложным. Простое устранение ограничений, о которых вы можете думать (например, сделать существующих людей счастливыми, не вмешиваясь в их разум), как правило, приведет к аналогичным «сумасшедшим» результатам, которые вы не думали исключать.
(Кстати точнёхонько мой взгляд на "восстание машин"). Они обычно делают то, что мы их просим, но не то, что мы хотели бы. Как джинн, но только равнодушный.
(Кстати точнёхонько мой взгляд на "восстание машин"). Они обычно делают то, что мы их просим, но не то, что мы хотели бы. Как джинн, но только равнодушный.