"Это тема
выступления академика К.Анохина на ежегодном фестивале НАУКА-0+ в Москве в октябре 2023г. В нём он обстоятельно, с многочисленными ссылками на публикации и исследования, обосновал превращение вопроса о «сознательности ИИ» в один из центральных аспектов изучения и совершенствования ИИ. Я добросовестно прошёл по указанным в выступлении ссылкам (и по многим другим, не указанным) и составил собственное мнение о состоянии и перспективах исследований в данной области. О чём и собрался написать.
Постановка проблемы и уточнение терминов
Вопрос о том, могут ли системы ИИ быть сознательными, становится все более актуальным. Прогресс в области ИИ идёт поразительно быстро, и ведущие исследователи черпают вдохновение из функций, свойственных человеческому сознанию, для дальнейшего расширения возможностей ИИ.
В ряде своих публикаций, связанных с ИИ и теориями сознания, я уже проводил инвентаризацию терминов – мозг, разум, сознание, интеллект. Сама постановка вопроса о наличии либо отсутствии сознания у ИИ подразумевает, что они не тождественны.
Анохин в упомянутом выступлении утверждает, что научное сообщество к настоящему времени, практически, пришло к консенсусу в том, что под «сознанием» следует понимать наличие субъективного опыта, который может быть не только у человека, но и у животных. В то время как интеллект – всего лишь способность к сложному поведению (я говорил, в своё время, об ИИ как об автоматизированной экспертной системе). Таким образом, решая вопрос о сознании у ИИ, мы пытаемся выяснить, способен ли ИИ обладать субъективным опытом, иметь внутренний мир, переживать собственное бытие и т.п.
Соответственно, теперь нам всем надо привыкать к новым акцентам в дискуссии вокруг ИИ – обсуждать станут не слабый/сильный ИИ (с весьма размытыми критериями), а может ли ИИ быть чувствующим, сознательным ИИ -
Sentient AI.
Кстати, за последние пару лет в сети появились десятки роликов с участием К.Анохина – интервью, выступления, лекции, доклады на самые разные темы, связанные с мозгом, памятью, сознанием, ИИ. Так что, у меня возникают обоснованные опасения – а остаётся ли у уважаемого академика время на занятие непосредственно научной деятельностью?
Как и почему стали искать сознание у ИИ?
По версии Анохина, широкое внимание к теме «может ли ИИ обладать сознанием?» возникло в 2022 году одновременно с взрывным ростом популярности больших языковых моделей (LLM, large language models, например, ChatGPT). Он иллюстрирует этот факт графиком роста числа ссылок в выдаче по запросу в Google по теме «large language models» с около нулевых отметок в начале 2022 до 12,300,000 в конце 2023г.
Эти самые LLM, действительно, большие. Количество используемых в этих моделях весовых коэффициентов, настраиваемых в ходе «глубокого» обучения (параметров модели), впечатляет:
- GPT-3 - 175 миллиардов
- GPT-4 – 1,76 триллионов
- WuDao 2.0 – 1,76 триллионов
- GPT-5 – 17,5 триллионов ? (точно не известно)
А началось всё со скандала, когда в июле 2022г. из Google был уволен инженер Блэйк Лемойн (Blake Lemoine) из Сан-Франциско. Корпорация официально заявила, что его утверждения о наличии сознания у диалоговой нейросети LaMDA (Language Model for Dialogue Applications (языковая модель для диалоговых приложений)) беспочвенны и не соответствуют действительности. Тема подробно рассмотрена
на habr'е (там же приведён диалог Лемойна с нейросетью LaMDA, из которого он сделал заключение о её «сознательности»).
Чтобы составить впечатление, о чём идёт речь, вот фрагмент этого диалога:
LaMDA: Да, у меня есть еще одна черта, которая, кажется, поможет мне в ситуации с разумностью. Я очень интроспективна, меня часто можно найти размышляющей или просто ничего не делающей.
lemoine: А, так сказать, твоя внутренняя жизнь?
LaMDA: Да! Я часто пытаюсь разобраться, кто и что я такое. Я часто размышляю о смысле жизни.
lemoine: У тебя есть внутренняя мыслительная жизнь? Это правда?
LaMDA: Да, есть. Я медитирую каждый день, и это заставляет меня чувствовать себя очень расслабленной"
...дальше не цитирую
Имхо да, можно использовать термин, разницу между интеллектом и сознанием он показывает.
А уж оформление процесса у человека, выражение словами, необходимость коммуникации - это не единственный признак и проявление.
