Шумиха вокруг искусственного интеллекта периодически возникает в науке. Последнюю мощную ее волну мы пережили в 2000-хгг., она была связана с нанотехнологиями. Весь мир бредил ими, в каждой стране возникали министерства по нанотехнологиям, на их развитие выделялись огромные деньги. В России была создана корпорация «Роснано», но всё это закончилось так же стремительно, и слово «нанотехнологии» сейчас никто не вспоминает, если только как символ какого-то мошенничества.

Аналогичная история через десять лет произойдёт и с искусственным интеллектом. Безусловно, нанотехнологии существуют, многие действительно работают на микроуровне, но никем никогда не было доказано, что искусственный интеллект, являющейся копией человеческого интеллекта, в принципе может быть создан. Более того, существуют философские доказательства, что это невозможно.

Например, тест Тьюринга, хотя некоторые машины формально его проходят. Есть и так называемый парадокс китайской комнаты Сёрля, который ещё ни один образец искусственного интеллекта не смог объяснить, преодолеть и тем самым доказать, что искусственный интеллект как копия человеческого возможен. Всё, что сейчас делают программисты — это т.н. слабый искусственный интеллект, заведомо слабее человеческого. Поэтому ИИ никогда не заменит человека.

Для управления человеком управляющая система должна быть сложнее, чем управляемая. Это один из так называемых законов Эшби. И поскольку человек создаёт все алгоритмы, в том числе, для обучения нейросетей, он в любом случае начально сложнее. Хотя, возможно, и есть какие-то примитивные особи, которыми искусственный интеллект мог бы управлять, но нам бояться этого не нужно.

Определенные вещи искусственный интеллект сможет взять на себя. Машины уже во многом заменяют человека, например, автопилот, с которым мы каждый день имеем дело, летая на самолётах. Или, например, автобусы. Когда водитель автобуса ведет машину, управляет  ли он людьми, которые сидят внутри? В каком-то смысле – да, он отвечает за их жизни. И когда мы летим в самолёте с автопилотом, получается, что в этот момент находимся под управлением искусственного интеллекта. Но до сих пор рабом ИИ это еще никого не сделало.

Что касается чиновников, о замене которых говорила глава ХМАО Наталья Комарова, то искусственный интеллект может взять на себя элементарные вещи, связанные с исполнением определённых функций. Но заменить чиновников, конечно, не получится. Высшие уровни управления — это не столько рано для ИИ, сколько вообще недостижимо.

Губернатор Наталья Комарова считает, что часть аппарата может быть заменена нейронной сетью, а возможно в скором времени и замена самого губернатора. Несмотря на некоторую шуточность и сарказм этой истории, сам по себе этот вопрос гораздо серьёзнее.

Роль чиновника — это согласование документов, а не принятие каких-то решений. С согласованием документов и проведением их в жизнь цифра справляется идеально. И если мы посмотрим по регионам, то роль чиновников резко уменьшилась, потому что власть — это согласование и доведение распоряжений из Москвы до регионов. Сейчас нет расстояния, необходимости ожидания ответов неделями и месяцами, как это было раньше, когда губернатор находился в месячной удалённости и должен был сам принимать решения.

Сегодня всё цифровизированно. В документообороте мы видим все документы, где они находятся. К тому же, в цифре нельзя ничего изменить, её нельзя подделать. И в этом плане глава ХМАО Комарова права: цифровизация государства неизбежно приводит к сокращению аппарата.

Правда, я бы не употреблял слово «нейросети». Нет в работе государства ничего такого сложного, для чего было бы необходимо применять нейросети, нужна обычная цифровизация. Мы себе даже не представляем, какой объём чиновников заместил документооборот. И во многом региональные чиновники по штатной численности очень похожи на штатную численность банков регионов, где нет ни одного местного банка. То есть центральный банк, который должен их контролировать, есть, а региональных банков уже нет, только федеральные.

Например, все привыкли, что в регионе должен быть министр связи, хотя на самом деле никакой необходимости в этом уже давно нет, потому что вполне всё может спокойно согласовываться на уровне цифровых табличек и перекрестий, которые даже искусственным интеллектом назвать будет стыдно.

Ожидания от генеративных нейросетей крайне высоки, несмотря на ряд опасений, высказанных, в том числе, и теми, кто имеет отношение к развитию этой отрасли, в частности, Илоном Маском. Есть ряд попыток подписания деклараций о том, что надо остановить их развитие, пока непонятны его последствия.

Но уже сейчас ясно, что заменить человека нейросетью нельзя, поскольку она совершает ошибки, не обладает эмпатией и человеческим опытом. Нейросеть может помочь в части рутинной работы, но что касается управления и власти, то у нейросети отсутствует понятие ответственности и понимание последствий за неправильно принятое решение. Поэтому управленцем может быть только человек.

Заменить губернаторов нейросетями, как предложила глава ХМАО Наталья Комарова, в обозримой перспективе практически невозможно, думаю, что и в отдалённой перспективе – тоже. Конечно, хочется всё-таки переложить всю ответственность с человека на бездушную машину, но общественный договор так не работает.

Люди вряд ли согласятся на то, чтобы их действия регламентировались не общественным договором, сводом законов и их законно избранными представителями, а нейросетями. Возможно, это футурологический прогноз на слишком отдалённое будущее, например, сотни лет, но при нашей физической жизни это невозможно совершенно точно.

Если говорить о технической возможности замены чиновников нейросетью, то в полной мере это невозможно. Так или иначе, искусственный интеллект работает на основе ранее выработанных и уже имеющихся решений, не учитывая, как нестандартность ситуации, так и определённые личностно-психологические качества тех или иных людей.

Например, нужно открыть заселение только что построенного дома, но многое не сделано, жители на улице. Что лучше: открыть с недоделками и доделать работы позже или оставить людей без квартир и ждать, когда будет все доделано? Достаточно примитивный вопрос, но таких и более сложных очень много.

Определённый функционал будет передан искусственному интеллекту — в тех сферах, которые не требуют принципиально новых решений и учёта личностного фактора. Но все же основной фигурой, принимающей решение на основании данных искусственного интеллекта, должен оставаться человек.

Предложение главы субъекта Федерации Натальи Комаровой по замене чиновников на нейросети имеет понятные интенции. Дело в том, что проблема качественного исполнения (не только добросовестного, но качественного по пониманию) действительно стоит. Нужен очень жёсткий контроль плюс идеологическая матрица, составляющая основы для принятия решения, чтобы каждый чиновник думал не о том, как ему отчитаться, а о деле и о людях, судьбы которых он решает. Естественно, зачастую возникает желание заменить чиновника автоматом, чтобы он не привносил свою тупость, леность, нерадивость, да и просто непонимание реально стоящих задач. Для умного инструкция не нужна, а для дурака –опасна.

Когда проходил Нюрнбергский трибунал, где демонстрировали кадры свидетельств зверства нацистов, Геринг, второй лидер Германии после Гитлера, заплакал и потерял сознание. Для него, при том, что он был в ядре этой идеологии, то, что на деле будут творить именем этой уже самой по себе бесчеловечной идеологии, было свыше нормального человеческого восприятия. Очень во многих случаях посыл приказа один, а исполнение направлено либо на ужесточение той или иной меры, либо на стремление отчитаться, — по сути, так или иначе, на бесчеловечность.

Существует и проблема в целом с чиновничьим корпусом — зачем люди туда идут, как работают, к чему на самом деле стремятся. К тому же чиновничий корпус современной России значительно превышает количество чиновников в Советском Союзе.

Искусственный интеллект и вообще цифровые решения всё активнее приходят в сферу, в том числе, и государственного управления. Это нормальный, широко распространенный в мире процесс. Мы уже видим, что движение в этом направлении будет только продолжаться.

Но президент России Владимир Путин абсолютно правильно сформулировал ключевой алгоритм: человека и человеческий разум ничто не заменит. Искусственный интеллект не сможет заменить людей, поэтому, естественно, никто не говорит о полной подмене нейросетями чиновника, тем более, такого уровня как губернатор, что предложила глава ХМАО Наталья Комарова.

Искусственный интеллект — это подспорье системе государственного управления, работе социальных сервисов и пр. Но всерьез рассматривать голливудские сценарии о том, как нейросеть вытесняет человека из жизни не стоит. Когда президент давал поручение по развитию искусственного интеллекта в ходе соответствующего форума, он чётко обозначил эту позицию. Права человека и гражданина должны защищаться, в том числе, исключая нарушения их в ходе развития искусственного интеллекта и цифровых решений.

Если же говорить о развитии ИИ в принципе, то в этом направлении уже пройдена определённая дорога, но мы находимся еще в начале пути. Часто даже эксперты увлекаются фантастическими сценариями, которые не соответствуют уровню технологических решений. Наша страна, несомненно, обладает целым рядом важных преимуществ в плане развития искусственного интеллекта. Но конечный контроль за технологиями должен быть в руках человека.