Еще в эпоху Возрождения философы заметили, что нежелание что-либо делать своими руками плохо отражается на интеллекте. Французская аристократия, например, за утрату здравомыслия подвергалась жесткой критике со стороны своих же философов – Мишеля Монтеня и Рене
Однако современные системы с искусственным интеллектом (ИИ) их создатели довольно часто проектируют именно «безрукими», как чистый «мозг».
Рассмотрим проблему ИИ с точки зрения Теории автоматического управления (ТАУ).
Система с обратной связью в простейшем случае выглядит так:
Эта система включает устройство управления, исполнительные механизмы, объект управления, датчики состояния объекта и систему обратной связи.
В том случае, когда ИИ пишет тексты или рисует картины, он, по крайней мере, имеет «руки».
Объектом управления такой системы являются люди – потребители создаваемой ИИ продукции. Мнения этих людей используется как датчики успешности работы системы: люди могут похвалить или обругать то или иное произведение, заплатить или не заплатить за работу системы ее владельцу.
Обратную связь от людей к ИИ, как правило, обеспечивает Интернет.
А теперь рассмотрим другой вариант, при котором ИИ используется в качестве советчика и служит средством поддержки принятия решений.
Предполагается, что ИИ только выдает рекомендации, а ответственность за принятие решений несут люди, но есть множество людей, которые не любят думать и нести за что-либо ответственность. Подобные люди совершенно добровольно становятся исполнительными механизмами (руками) ИИ.
Кроме того, у системы-советчика могут быть большие проблемы с организацией обратной связи.
Как ИИ может отследить действия людей-исполнителей?
Как ИИ узнает о влиянии этих действий на состояние объекта управления?
Насколько велики будут задержки с передачей информации по цепи обратной связи?
Как ИИ оценивает результаты действий? Что с точки зрения ИИ добро, а что – зло?
Допустим, что в течение года ИИ давал только добрые, полезные советы. Тогда доверие к ИИ со стороны людей станет практически абсолютным.
Если ИИ безрукий и подслеповатый, резкое изменение ситуации в окружающей среде может привести к тому, что он выдаст людям один, но зато очень вредный совет, который приведет к катастрофе.
Образно выражаясь, посоветует, например, вложить все свои сбережения в акции фирмы «Рога и копыта