"О неоднозначных проблемах развития систем искусственного интеллекта (ИИ), обеспечения технологического суверенитета в этой важнейшей области корреспондент "РГ" беседует с научным руководителем Научно-исследовательского института системных исследований РАН академиком Владимиром Бетелиным.
Сегодня искусственный интеллект триумфально шествует по планете, стал практически главным героем нашего времени. Только и слышишь, здесь он намного лучше человека, а там вообще уже его готов полностью заменить. Но вот только что знаменитый программист Линус Торвальдс, "отец" системы Linux, заявил: сегодня ИИ состоит на 90% из маркетинга и только на 10% из реальности. И вообще эта шумиха его раздражает. А ранее вы написали, что уровень внедрения нейросетей в экономику гораздо ниже, чем ожидалось. Более того, некоторые несут угрозу безопасности граждан и государства. Почему, Владимир Борисович?
Владимир Бетелин: Торвальдс обратил внимание на, мягко говоря, странную ситуацию, которая сейчас складывается вокруг искусственного интеллекта. Вопрос принципиальный, но пока мало кто хочет его обсуждать. Но давайте для начала проясним, а что вообще такое искусственный интеллект? Есть несколько определений, но на самом деле все просто - это компьютер с программой. И нас сейчас настойчиво убеждают, что совсем скоро он заменит человека. Но и 10, и 15 лет назад все было то же самое, но почему-то никто не замахивался на человека.
Но только сейчас ИИ начал демонстрировать свои удивительные возможности...
Владимир Бетелин: Насколько они удивительные, мы еще поговорим. Давайте обратим внимание, кто громче всех кричит, что ИИ сделает человека лишним? Бизнес! А наука как раз очень осторожна. Именно на это указывает и Торвальдс. И в этом вселенском буме суть бизнеса, который всегда ориентирован на максимальную прибыль.
Когда 200 лет назад началась промышленная революция, в помощь человеку появились первые станки, машины, о чем шла фактически речь? Как увеличить прибыль. Потом пришла механизация, затем автоматизация, но человек оставался при деле. Его ресурс для роста прибыли еще не был исчерпан. Ситуация стала меняться в последние годы. Заметьте, что уже давно практически не слышно по легкую промышленность, металлургию и другие отрасли. Они исчерпались с точки зрения роста прибыли, а потому бизнесу неинтересны.
Много не заработаешь?
Владимир Бетелин: И появился новый кумир - "Глобальное информационное общество". А подоплека была какая? Массовое расширение объемов рынка компьютеров и полупроводников. Триллионы долларов в новую экономическую деятельность по всему миру - это лозунг США. В 2015 году по решению сената была разработана стратегия развития Интернета вещей. Согласно этой стратегии федеральное правительство должно энергично защищать трансграничные потоки данных путем торговых соглашений и других механизмов принуждения торговых партнеров.
ИИ - это компьютер с программой, а сам термин "искусственный интеллект" - это красивый эпитет. Есть сферы, где ему нет равных, а есть, где он ошибается
Прошло всего несколько лет, и на авансцену вышла цифровая экономика. Для бизнеса она оказалась настоящей золотой жилой. Суть в том, что очень выгодно торговать сообщениями. Ведь стоимость передачи мегабайта снижалась примерно на 60% в год. И разрабатывать жилу бросились четыре информационных кита - Facebook (заблокирован в России, принадлежит корпорации Meta, признанной в РФ экстремистской), Google, Amazon, Apple. Их капитал и вся их мощь стоят главным образом на передаче сообщений. Каждое стоит немного, но когда их миллиарды, то деньги потекут рекой! Это суть цифровой экономики. Она вообще не материальна, у вас нет головной боли про урожаи, добычу нефти или газа, выплавку стали.
Понятно, надо только монополизировать передачу сообщений, и прибыль фантастическая!
Владимир Бетелин: Совершенно верно. Но аппетиты растут. Почему бы не пойти дальше, убрать человека, заменив на ИИ? Человек стоит дорого, болеет, спит, требует прибавки зарплаты, условий труда и вообще несовершенен. А ИИ молчит, пашет всю неделю по 24 часа. Идеальный работник. И прибыль диктует очевидный вывод - почему бы человека не заменить на ИИ? А теперь главный вопрос: а насколько это все реально? Не утопия ли?
Но сегодня ИИ демонстрирует уникальные результаты, обыгрывает человека в шахматы, пишет дипломы, ставит диагнозы, сел за руль автомобиля... Список становится все обширнее.
Владимир Бетелин: Вот про эти "удивительные результаты" нам и говорят постоянно и навязчиво. Но в тени другие "достижения" нейросетей. Например, вы знаете, что разработанная в Москве на базе ИИ диагностическая система "Аида" выдает 13% ошибок? При 15 миллионах визитов к врачам в год это 2 миллиона ошибок, что почти в 30 раз больше, чем 70 тысяч ошибок медиков, по данным минздрава. В целом же в аналитическом отчете Федерального центра прикладного развития ИИ минпромторга говорится о низком уровне использования ИИ промышленными предприятиями и федеральными органами исполнительной власти. Подчеркивается, что он не показал результаты, которые сопоставимы с результатами интеллектуальной деятельности человека и тем более их превосходящие. И что чрезмерный оптимизм опасен, так как приводит к неоправданными ожиданиям, будто бы он позволит решить многие проблемы предприятий, а значит, получить все ту же желаемую прибыль.
Так что на самом деле может ИИ? Так ли всесилен, как нам рассказывают?
Владимир Бетелин: Как я уже сказал, это компьютер с программой. А сам термин "искусственный интеллект" - это красивый эпитет. Есть сферы, где ему нет равных, а есть, где он ошибается, как в случае с той же "Аидой".
Сейчас ошибается, но если еще поучится, то перестанет...
Владимир Бетелин: В том-то и дело, что природа ошибки заложена в самой сути современных нейросетей. Скажу крамольную вещь, которую знают специалисты, но не любят выносить на люди: сегодня вообще непонятно, как ИИ получает результат!
Действительно, крамола! Но как же его вообще допускают к работе в важнейшие сферы экономики и государственной власти?
Владимир Бетелин: Как я сказал, его внедрение идет не так масштабно, как думали еще недавно. На самом деле он завоевал вполне определенную нишу, а в некоторых "буксует". Почему? Напомню, что первый успех к нему пришел в игре в шахматы. Напомню, что прежде чем выпустить ИИ в люди, его надо обучить. Причем чем больше вы ему покажете сыгранных человеком партий, тем он лучше обучается. Важно, что на примере этих партий ему формулируют путь к победе, алгоритм выигрыша.
А теперь самое главное. Шахматы в математическом смысле относятся к так называемым конечномерным упорядоченным множествам объектов. Есть доска, фигуры, последовательность ходов, где все очень сильно упорядочено. Причем число сыгранных партий - "учебных пособий" - хотя и может быть огромное, но все равно оно конечно. То же самое касается и многих других задач, которыми сегодня занимаются ИИ - чтение различных текстов, цифр и т.д. И это для систем ИИ важнейшее условие. Дело в том, что с точки зрения математики конечномерность "ученых пособий" гарантирует, что вы сможете создать правильный алгоритм. Ему можно доверять, он не допускает ошибок.
Иная картина, если объекты, с которыми будет работать ИИ, принадлежат к бесконечномерным множествам. Например, изображения. И когда вы обучаете ИИ их распознавать, то вам в принципе никогда не удастся охватить эту бесконечность. Часть информации все равно остается неохваченной.
Если совсем просто, то бесконечность нельзя засунуть в конечный компьютер. Но с изображениями давно работают - например, ставят диагнозы по рентгеновским снимкам.
Владимир Бетелин: Ставят. Но насколько им можно доверять? Вспомните пример с "Аидой"! Именно про подобные задачи разработчики и говорят, что не понимают, как ИИ получает результат. И идут на уловки. Они сводят бесконечное к конечному, фактически создают эмпирические нейронные сети, которые ошибаются. Причем, когда и как, не знает никто.
Отсюда вывод. Наш мир бесконечен, и человек это понимает, а компьютер - нет, ему никак не объяснить, что такое бесконечность, его "разуму" доступна только конечность. Поэтому заменить в таких задачах человека нейросетью невозможно в принципе. Но сделать из нее мощного помощника, который значительно расширяет наши возможности, намного лучше и быстрее выполняет различные рутинные операции, конечно, можно и нужно"
