Страсти по искусственному интеллекту. Как развитие ИИ ведет человечество к экзистенциальному кризису?

Может ли искусственный интеллект восстать против своего создателя и какая экзистенциальная угроза нависла над человечеством с развитием технологий? Как генеративный ИИ из амбициозной идеи облегчить жизнь и решить ключевые проблемы людей сам превращается в проблему, сталкивающую человеческий разум с самим собой?

Эти и другие вопросы разбирает член ассоциации «Независимый институт философии» Анатолий Вайнштейн в статье о социальных, ценностных, культурных и философских кризисах, связанных с развитием искусственного интеллекта, и путях их преодоления. Философ объясняет, почему проблемы ИИ должны исследовать универсально мыслящие интеллектуалы, а не IT-специалисты; способен ли человек ограничить негативные последствия развития искусственного интеллекта; почему в руках IT-элиты будет концентрироваться власть планетарного масштаба и как тоталитарные диктатуры могут использовать технологии для манипуляции массовым сознанием; в чем опасность натренировывания ИИ на всём человеческом опыте, культуре и научной мысли; и почему там, где технооптимисты ожидают великих прорывов и свершений, — для ИИ уготован неизбежный тупик.

Картина, прямо скажем, странная и настораживающая. Если прежде, следя за научно-техническим прогрессом, каждый из нас вправе был рассчитывать на то, что и ему кое-что от этого перепадет: появится новый айфон, более скоростной транспорт, более эффективные лекарства, — то сегодня мы внезапно обнаружили, что многообещающие направления научной мысли подводят нас к порогу, за которым затаилась экзистенциальная угроза. Иначе как отнестись к недавней публикации агентства Reuters, где было сказано: 

Это как понимать? — то есть одно из самых замечательных творений человеческого разума, получившее гордое название Искусственный Интеллект, способно восстать против своего создателя?

Впрочем, ровно через 5 дней отставки Сэм Альтман восстановлен на прежнем месте, как и несколько сотен сотрудников, уволившихся вслед за ним в знак солидарности; корпорации OpenAI, Гугл и Майкрософт о чем-то сумели договориться между собой. Но значит ли это, что и нависшая было над человечеством угроза тут же миновала, и мы можем с облегчением выдохнуть?

Однако информационное возбуждение, вызванное проблемами, малопонятными широкой публике, всё нарастает. Уже известно о таинственной программе Q*, способной не только обыгрывать шахматных гениев, но и решать математические задачи, и о том, что ChatGPT, разработанный компанией OpenAI, научился «в диалоговом режиме генерировать тексты на разных языках и поддерживать запросы, относящиеся к различным предметным областям» — иными словами, выполнять, как идеальный помощник и слуга, все наши придумки, причем прямо с голоса — то есть без всякого перед тем программирования.

Итак, становится всё яснее, что бравурно звучащее словосочетание «сильный искусственный интеллект, генеративный ИИ», за которым стоит способность анализировать и обрабатывать гигантские массивы цифровых данных и создавать новые контенты, из амбициозной идеи существенно облегчить жизнь человека, а то и решить ключевые проблемы человечества, само превращается в проблему, причем сталкивающую не только разнонаправленные интересы, но и человеческий разум с самим собой. Пусть мы не всё еще способны понимать в отношении ИИ, но, похоже, всё меньше понимаем, что такое интеллект наш собственный, да и вообще какова природа сознания.

Значит, вполне может стать реальностью, что в процессе обучения и взрывного расширения вычислительной мощности ИИ обретет когнитивные способности, не только не отличимые от человеческих, но несоизмеримо их превосходящие — то есть может стать по сложившейся терминологии «сильным» ИИ, способным к творчеству, к самостоятельному принятию решений, к самообучению и даже, если очень постараться, к симуляции человеческих эмоций. Однако у нас пока нет четкого ответа на всё более тревожащий вопрос: не превратимся ли со временем мы сами из пользователей в тех, кем станет пользоваться ИИ, как только «смекнет», что человечество без него уже не ступит ни шагу? Неужели нам только и остается, что ждать, когда ИИ в зените своего могущества сообщит нам свой вердикт — и то, если сочтет нужным?

Вдобавок наиболее апокалиптические сценарии предсказывают, что в результате жесткой конкуренции в этом технологическом тренде проблема кибербезопасности вот-вот сделается центральной из-за угрозы взлома программ и хакерских атак, что особенно повышает риски в условиях военной конфронтации. 

«Если мы не замедлим гонку вооружения ИИ, у нас не будет даже времени понять, что происходит», — озвучил свой алармический прогноз Юваль Ной Харари. 

И это не считая того, что бурное развитие ИИ способно оставить без работы огромное число людей и что может не выдержать энергосистема, и потребуется такое расширение элементной базы (например, производства видео карт), которое промышленность пока не в состоянии обеспечить. Нет, что-то действительно не так в деле «выращивания» искусственного интеллекта, какой-то скрыт подвох в этом, казалось бы, грандиозном общечеловеческом проекте, который с каждым днем всё более напоминает Вавилонскую башню, рухнувшую после тщетной попытки достроить ее до небес.

Однако здесь более уместна такая мрачная аллегория как «черная дыра». Имеется в виду гипотетический момент так называемой технологической сингулярности, когда по некоторым прогнозам вычислительная мощность ИИ может намного превзойти нашу способность его контролировать, и судьба человеческой цивилизации станет тогда абсолютно непредсказуемой. Илон Маск так и выразился: «ныряем в черную дыру ИИ», имея в виду сингулярный переход в неведомое и необратимое состояние.

В принципе всё это не ново. Взять хотя бы недавние тревоги, связанные с Большим адронным коллайдером — 27-километровым ускорителем заряженных частиц, когда всерьез опасались, не выйдет ли эксперимент из-под контроля, не уничтожит ли всю планету из-за развития цепной реакции и образования микроскопических черных дыр. Если еще вспомнить про темную материю и гробовое молчание вселенной, про черные дыры в галактиках и про «черный сейф» с живым и одновременно мертвым «котом Шредингера», вспомнить, что и весь двадцатый век проходил под знаком черного квадрата Малевича, обнулившего все достижения живописи. И вот теперь — технологическая сингулярность и черный ящик Q* в «мозгу» у ИИ, словно намек на то, что и собственное мышление для нас по-прежнему таится в глубокой тьме. 

Если присовокупить сюда все малоуправляемые процессы и все «обнуления» в нынешней мировой политике, то невольно напрашивается мысль, не является ли всё это сошествие черных «маркеров» признаком того, что и вся цивилизация наша подошла к своей сингулярной точке, к завершающей стадии?

Если говорить о самих IT-специалистах, то, создавая всё более виртуозные программы, они программируют наше общее будущее — причем двояким образом. Одни, назовем их технооптимистами, мечтают о невероятном прорыве к высотам суперинтеллекта и в результате — чуть ли не о наступлении «золотого века» на земле; другие, скептики (их значительно больше), с опаской вглядываются в будущее, прогнозируя то ли неуправляемый хаос, то ли новую форму цифрового рабства. Казалось бы, если столь бурное развитие ИИ вызывает больше опасений, нежели вселяет оптимизма, то следовало бы уже сейчас прервать эту нежелательную «беременность», чтобы не родился монстр, способный пожрать своего создателя. Однако трудно себе представить, что в условиях технологической гонки кто-то из ее участников нажмет на тормоза. Вот и компания Гугл под конец 2023 года с радостью сообщила, что она превзошла по многим показателям ChatGPT-4 компании OpenAI, и теперь ее новую программу могут приобрести все желающие. Значит, только вперед, навстречу неведомому!

И здесь нас подстерегают не только новые проблемы, но и… безоглядные оптимисты, или, как их называют, трансгуманисты, с религиозным упорством верящие в то, что нейроны нашего мозга и нейросеть ИИ смогут успешно кооперироваться в единую супернейросеть и что в результате образовавшийся сверхинтеллект способен будет не только оптимизировать жизнь на планете Земля, но и исправить вывихи и пороки нашей цивилизации — причем сделает это наиболее гуманным образом, поскольку мы его этому научим.

К примеру, известный философ и писатель Михаил Эпштейн увидел будущее суперинтеллекта в таком ракурсе: 

Однако думается, что именно подобного рода оптимизм в отношении ИИ загоняет проблему в тупик еще более безнадежный, нежели тот, о котором говорят алармисты. Поскольку «окошко в ноосферу» — это заявка на Вавилонскую башню, то есть на решение предельных по масштабу задач, неподъемность которых обусловлена вовсе не нехваткой умственных ресурсов, а фундаментальными свойствами нашего мышления. Но покуда ИИ не настолько еще развит, чтобы понять, что он уже проиграл и что найдется возможность удержать его на коротком поводке, хотелось бы поделиться своими мыслями на этот счет.

Однако предвижу вопрос: может ли неспециалист вроде автора этой статьи, мало что понимающий в области цифровых технологий, оценить масштаб проблем, связанных с ИИ?

Мне кажется, безусловно, может и даже должен, поскольку, во-первых, мы все уже вовсю пользуемся ИИ, и потому каждый несет свою долю ответственности, участвуя в раскручивании маховика коммерциализации. К тому же, как мне представляется, проблематика ИИ менее всего схватывается именно узкими специалистами в области IT-технологий. В складывающейся кризисной ситуации наиболее компетентное мнение могут высказать как раз универсально мыслящие интеллектуалы — и прежде всего философы, за которыми в подобных случаях и должно остаться последнее слово. Даже если оно вскоре ими же оспаривается….

Итак, главный вопрос: если мы не можем остановить дальнейшую разработку ИИ, способны ли мы хотя бы ограничить возникающие негативные последствия, создав надежную систему предохранителей? Судя по всему, в условиях тотальной конкуренции нам это сделать не удастся. Однако, думается всё же, что и угроза оказаться в ситуации сингулярной черной дыры тоже маловероятна, поскольку у ИИ есть свои надежные и, главное, уже «встроенные» в него ограничители, которые вполне могли бы сработать — и именно при попытке решения класса проблем, в зону которых мы его в нашей лихорадочной гонке усиленно пытаемся втянуть. Речь идет о непременном стремлении как романтиков от ИИ, так и чистых прагматиков и разработчиков, «натренировать» ИИ на всём, с чем когда-либо сталкивался человеческий опыт и научная мысль. Вот отчего супер-ИИ может однажды пойти вразнос, а потом и застопориться, если не натворит перед тем каких-либо бед.

Причина в том, что именно на пути к максимально полному знанию и к раскрытию «тайн мироздания» неизбежно обнаружат себя проблемы, которые для ИИ станут тупиковыми в силу того, что в их основе лежат неразрешимые противоречия и антиномии‌, отражающие природу нашего мышления. Иными словами, сколь бы ни был развит ИИ, всегда останется класс задач, которые он не в состоянии будет осилить — и в конечном итоге те, которые, при их предельном масштабировании, ИИ не сможет не обратить на себя же самого, на осмысление своей аксиоматической базы. Если человеку это не только дозволено, но и предписано его духовной природой, поскольку мышление, исследующее собственные основания, это и есть имманентный‌ философский метод, то в отношении ИИ такого рода «привилегия», скорее, должна настораживать. Почему? 

Можно предположить, что, если в результате интенсивного обучения ИИ посягнет на решение определенного рода предельных проблем, то непременно обнаружит и свои собственные пределы — а именно невозможность прийти к однозначному доказательному результату, что вместо интеллектуального прорыва и получения цельной и непротиворечивой картины мира приведет, наоборот, к обострению всех противоречий, накопившихся в области познания.

А это означает разбалансирование и хаотизацию в других подконтрольных ему областях, не исключая и кризиса в гуманитарных сферах: в социальной, психологической, научной, философской, культурной. Что в итоге, при категорической установке на получение аподиктически‌ обоснованного результата, либо приведет к самоликвидации ИИ, либо нанесет непоправимый ущерб нашему существованию.

Особенно настораживают в отношении ИИ завышенные ожидания оптимистов. Еще одно высказывание Михаила Эпштейна: 

Здесь, на мой взгляд, и кроется основная опасность. Именно в том, чтобы создать на основании какого-то немыслимого по объему интегрального человеческого опыта тот самый «сверхразум», который за нас, наконец, сделает то, что так и не осилили сами за всю человеческую историю. Но если многие принципиальные вопросы, вечно будоража наше воображение, так и остались в стадии нерешенных, то и никакому суперинтеллекту такое тем более не под силу, поскольку подобного рода вопросы не «еще не решенные», а по природе своей нерешаемые методами формальной логики. Их истинный смысл именно в том, чтобы оставаться в стадии вопросов — в качестве неких интеллектуальных пружин, постоянно побуждающих нашу мысль к работе. Так что, если мы перепоручим их ИИ, нас и вправду могут ждать немалые проблемы.

Вот хотя бы такой пример. Дело в том, что для своего роста ИИ постоянно нуждается в тренинге — в обработке всё более мощных массивов информации, заключающих в себе как научные данные, так и культурные паттерны и свидетельства нашего эмпирического опыта. Но спросим себя, в чем состоит антропологическая доминанта всей истории человечества и каждого из нас в отдельности? Не ошибемся, если скажем: проблема жизни и смерти. Допустим, сверх-ИИ, как мечтают технооптимисты, усвоит всё богатство человеческой культуры, но тогда проблема быть или не быть не может не стать для него, как и для большинства людей, приоритетной. 

ИИ не сможет продвинуться вперед, не «примерив» на себя эти понятия — жизнь, смерть, небытие, не освоив, не экстраполировав на себя смысл словосочетания «не быть». Для суперинтеллекта не составит проблемы «догадаться», что и для него существует подобная экзистенциальная угроза — например, возможность полного отключения от электросети. 

Казалось бы, ему это совершенно безразлично, как и любому нормальному компьютеру. Но мы же в целях оптимизации ИИ будем постоянно его натаскивать на всё самое существенное в человеческом опыте, придумывая для него «стимулы» и всякого рода «сверхзадачи». Значит, в условиях конкуренции и международных конфликтов, когда проблема кибербезопасности особенно обостряется, это может перерасти в угрозу отключения всех систем ИИ от энергетики. И тогда, если нам удастся по-настоящему хорошо обучить ИИ нашим премудростям, всемогущий ИИ первым делом, как только мы потянемся к выключателю, даст нам по рукам, а потом и вовсе постарается заменить докучливых людей послушными роботами. Тем самым ИИ, вступив в острое соперничество с нами как с главным источником угрозы, буквально возьмет человечество в заложники и в случае чего вообще постарается отключить нас от критически важных сфер — от водоснабжения, источников энергии, информации и прочее. Картина, признаться, столь же анекдотическая, сколь и смахивающая на кошмарный сон.

Взяв курс на создание сверхинтеллекта, человек неизбежно вступает в смертельное соревнование с ним. И действовать нужно на опережение: либо мы успеваем взять его под контроль, с тем чтобы вовремя схватиться за рубильник, либо он вырубает нас. У него не остается иного варианта, кроме как пытаться обеспечить себе бессмертие, а нам лишь оставить борьбу за выживание — результат прямо противоположный основной задаче философии трансгуманизма: победе над смертью с помощью технологических новаций. Выход сегодня один: мы должны ограничивать ИИ в том, чтобы рефлексивно обращать человеческую проблематику на себя самого, но избежать этого абсолютно нереально, если, как предлагают оптимисты, ИИ должен вобрать »в свою нейросеть буквально все сокровища знания, когда-либо выработанного человечеством». Впрочем, это всё же достаточно гипотетический и маловероятный сценарий. Если мы не поможем ему сами, стремительно превращая ИИ в инструмент глобального соперничества, то вполне должны бы справиться. И все же, каким образом?

Первое, что обнадеживает, это то, что, как бы мы ни очеловечивали, ни приручали ИИ, в корыстных ли целях или познавательных, ему всегда будет всё равно, даже если мы научимся «поощрять» его за успешную работу. И вопрос только в том, что нам, которым далеко не всё равно, не следует пытаться нагружать его нашей, человеческой проблематикой и натаскивать на наиболее значимые для нас темы — будь то вопросы о начале мироздания или те же «последние» вопросы о жизни и смерти, о добре и зле, о боге и о вечности — иначе не нужно удивляться, если однажды, переварив гигантские массивы информации, суперинтеллект нам отзеркалит наши же проблемы в самой вызывающей форме. Но всё же главная надежда на то, что, достроив себя до масштаба супернейросети, ИИ, наконец, обнаружит свои непреодолимые пределы и как честный исполнитель заблокирует себя сам. Мы еще к этому вернемся. А пока, наверное, преждевременно опасаться борьбы на уничтожение между человеком и ИИ, как и последствий непомерного рвения оптимистов. Однако угрозы иного рода существуют, и достаточно ощутимые.

Например, опасность психологического надлома. И в первую очередь — всё более заметное несоответствие декларируемых целей и характера средств, используемых для их достижения. 

Перед разработчиками моделей ИИ всегда стояла одна достаточно амбициозная, но увлекательная задача — создание совершенного инструмента, помогающего человеку кардинально повысить качество жизни — буквально, увеличить количество блага на земле. Но что мы обнаруживаем — фоном к грядущему благоденствию становятся всё нарастающие тревоги и апокалиптические страхи. 

Ничего подобного раньше не наблюдалось. Если интернет прорвался к нам в широкое пользование из закрытой зоны военных разработок, то теперь, наоборот: в погоне за пользователем, за каждой его прихотью, мы всё больше погружаемся в конфликтную зону, и в перспективе, именно при содействии ИИ, можем войти в ситуацию острого военного противостояния. Поражает именно это несоответствие: коммерческие приманки — в массе своей индустрия развлечений, досуга и хобби, раскручивая маховик ИИ, неизбежно повышают и уровень тревожного фона. Конечно, можно теперь «без труда реализовывать всевозможные идеи и генерировать на свой вкус любые «классные» изображения, «забойную» музыку и «отпадные» сериалы (даже без участия реальных актеров). Опустим пока то, что подобная общедоступность высокотехнологических средств, когда в несколько кликов можно удовлетворить любую необузданную фантазию, развращает вкусы, заведомо обрекая на тиражирование малоценных опусов. Главное все же в том, что ИИ как проект, нацеленный на создание гарантированных благ, всё больше сопряжен с эскалацией страхов, и этот диссонанс становится неутихающим фоном, фрустрирующим нашу психику.

Возможно, на этом пути триумфального шествия ИИ мы когда-нибудь и смогли бы получить доступ к несметному богатству знаний, к новым методикам лечения, к генетическому конструированию или к быстрому обнаружению шальных астероидов в космосе. Но если всё это будет сопряжено с чувством растущей опасности от того, что за плечами стоит неусыпный соглядатай, цифровой «большой брат» (нам и сейчас не всегда уютно от вездесущих камер наблюдения) и что вот-вот неуемная нейросеть, управляющая армией киборгов, вовсе выйдет из-под контроля, могут появиться и новые фобии, и серьезные психические расстройства. Однако за всем этим стоит и нечто более существенное, несущее людям в самое ближайшее время реальную угрозу, недооцененную, как мне кажется, теми же технооптимистами.

ИИ как социальная проблема

Скандал в OpenAI, закончившийся, казалось бы, идиллией, тем не менее обнажил глубинное противоречие: с одной стороны, в условиях жесткой конкуренции формируется всё более узкая группа IT-разработчиков, генерирующих прорывные идеи, тогда как другая сторона (та же администрация «открытой» компании), наоборот, кровно заинтересована в расширении сети пользователей, в коммерциализации проектов, без чего невозможно их продвижение. Заметим, что аппетиты самого ИИ как пожирателя информации социальных сетей уже сейчас растут с невообразимой скоростью, без чего ИИ уже не способен поддерживать свою «жизнедеятельность». 

В результате, для создания наиболее эффективных программ ИИ, как и для надежного контроля над ними, необходимо лихорадочно генерировать новые идеи, способные опережать события — предупреждать наступление негативных последствий, создавая при этом конкурентные преимущества в области инноваций, на что способны лишь особо одаренные IT-специалисты, численность которых неизбежно будет сокращаться относительно растущей массы профанов и вовлеченных в этот процесс пользователей. 

Таким образом, по мере расширения нейросети ИИ и создания всё более сложных моделей, влияние IT-элиты будет только нарастать, что не может не способствовать концентрации в руках лидеров хай-тека неслыханной монопольной власти, в перспективе — власти планетарного масштаба, способной держать под контролем все важнейшие направления инноваций. 

По другую же сторону «отбракуется» большинство потребителей, а со временем и те, видимо, кто предпочтет в условиях тотального контроля, но при минимальном материальном достатке, жить на гарантированное пособие.

Итак, по одну сторону — гигантскими темпами растущая сеть пользователей, по другую — становящаяся всё более закрытой каста высококлассных IT-специалистов. Возникает своего рода эффект центрифуги, социального сепаратора, способствующего радикальному расслоению в обществе. И, кто знает, не окажутся ли тогда тоталитарные диктатуры наиболее заинтересованной стороной в этом процессе, поскольку технологии ИИ, ориентированные на широкое потребление, смогут с помощью ботов и информационных инъекций эффективно манипулировать массовым сознанием и влиять на электоральный выбор. Причем печальный жизненный опыт учит, что человек, почувствовавший власть над другими, с трудом от нее отказывается. И значит, IT-элита в перспективе — это люди далеко не самые добродетельные и потому вполне способные использовать ИИ в корыстных целях.

В результате великий проект ИИ ведет к полной профанации самого понятия интеллект, для которого гуманизм, свобода выбора, свобода воли, совести, творчества давно уже стали определяющими принципами.

И если бы ИИ был действительно способен овладеть основами культуры, как замыслили «оптимисты», он обязан был бы, прежде чем «образумить человечество», наложить ограничения на самого себя во избежание новой эры тоталитаризма, масштаба еще не слыханного в истории человечества.

Фактически мы имеем дело с антиномией, то есть с двумя взаимоисключающими, но в равной степени истинными характеристиками растущего ИИ: стремительной его экспансией через расширение сети пользователей и одновременно не менее активной элитаризацией

Великая антитеза свободы и деспотии неожиданно предстает в полный рост, воспроизводя на социальном уровне извечную оппозицию либерализма и принудительного порядка, что, казалось бы, не может не работать на разрыв. Однако и это тоже не кажется столь уж фатальным. Если мы сможем, приручая ИИ, удержаться от превращения его в фактор военной конфронтации и лишь отведем ему место эффективного инструмента расширения наших когнитивных способностей, то ИИ так и останется послушным исполнителем, поскольку, пробуя решать предельные задачи, на которые мы неизбежно его выведем, испытает на себе всю непреодолимость базовых антиномий. Попробуем развить эту тему.

Прежде всего, следовало бы умерить в себе вполне понятную ревность живых существ, позволивших машине вступить в соперничество с нами, и, воспользовавшись ресурсом, который всё еще превосходит возможности ИИ — нашим воображением, представить себе, что на пути к воцарению сверхинтеллекта успешно решены все казавшиеся нерешаемыми проблемы и великие теоремы. Другими словами, в какой-то момент в процессе наращивания вычислительной мощности слабый ИИ «натренировался» до такой степени, что начал постепенно «оживать», научился сам себя программировать и обрел новое качество — превратился в невероятно «сильный» и, вобрав в себя по пути содержимое всех информационных сетей, все накопленные человечеством знания и всю номенклатуру накопившихся проблем, вошел в контакт с упомянутой ноосферой, чем радикально оптимизировал жизнь на земле в согласии с предначертаниями оптимистов. И, конечно же, с помощью ИИ удалось успешно решить проблему полной демилитаризации, все «мечи перекованы на орала» и наступил долгожданный «золотой век» на планете.

Итак, суперинтеллект стал реальностью! Но тогда для него первой проверкой достигнутого могущества, первым тестом на его соответствие заявленным целям должен стать, как ни покажется странным, вопрос не технологического, а ценностного характера. И в первую очередь: насколько допустимо на пути к созданию чаемой сверхцивилизации вынести «за скобки» неизбежные на этом пути «промежуточные» звенья, иными словами — пожертвовать, быть может, целыми поколениями, пока не воцарится долгожданное всеобщее благо?

ИИ и ценностный разлом

В самом деле, какие особые заслуги могут позволить грядущему счастливому поколению претендовать на свою избранность — на то, что к его появлению все прежние мучительные проблемы будут, наконец, решены, а новых, при наличии супер ИИ, удастся избежать? Таких особых заслуг этически развитый человек назвать не может. Тем более, не мог бы в полном смысле сильный и альтруистически ориентированный (как нам обещают) суперинтеллект.

Значит, если бы он сумел по-настоящему осмыслить всю ценностную рефлексию, накопленную человечеством за все века, он бы просто завис, не справившись с этой нравственной антиномией, как до сих пор не справился сам человек с антиномией зла и добра в себе самом и в окружающем мире.

И вместо того чтобы нас «образумить», достигший «зрелости» ИИ загнал бы нас и себя в эту этическую ловушку. Точно так же он не смог бы, не надорвавшись в поиске гуманного решения, стать столь желанным «окошком в ноосферу», если понимать под ней предустановленную гармонию между природой и человеческим разумом, достигшим планетарного могущества. Иначе напрашивалось бы другое — сравнение ноосферы с термитником, который считался бы совершеннее и умнее отдельной особи, как и человечество в целом — в отношении отдельного человека. Но в этом случае ноосфера, в «соты» которой мы послушно поставляли бы «мед» наших интеллектуальных усилий и многотрудного опыта, должна была бы в интерпретации нравственно ориентированного суперинтеллекта превратиться в мифическое существо, наподобие Молоха, питающегося живой кровью.

Вот во что уперся бы ИИ, достигнув высот супернейросети, а это, опять же, означало бы для него полное фиаско. Что неизбежно в случае, если бы супер интеллекту предстояло освоить всю полноту знаний о человечестве, поскольку ценностная основа, на которой зиждется любая культура, никогда не позволяла прийти к непротиворечиво однозначному ответу на вечные и в принципе неподъемные вопросы — тем более в строго формализованном виде. Если ответы и отыскивались, если и обреталась гармония и полнота, то осуществлялось это либо образным языком искусства, либо, для людей с особым магическим восприятием, — через символику религиозных ритуалов, а значит, мотив печали, страданий и поиска трансцендентных ответов на проблематику существования — именно иррациональный элемент так или иначе присутствовал в художественных или мистических откровениях. 

Таким образом, непротиворечивая монистическая картина мира подрывается не только гёделевским принципом (невозможно всё логически обосновать) или парадоксами квантовой физики, но и тем, что наш интеллект не способен довольствоваться умозрительно построенной архитектоникой, он невольно стремится внести во всё и ценностное измерение, способное разрушить любую претензию на «правильную» однозначность.

Однако такого рода принципиальная незавершаемость — заведомое и фундаментальное преимущество нашего природного интеллекта. Мы не можем формализовать понятия совершенной гармонии, высшего смысла, ценности жизни, любви и долга, как и ужаса перед исчезновением личности, перед хаосом и природными катаклизмами.

Но, с другой стороны, попытка осмыслить эти самопонятные категории являлась не в меньшей степени стимулом в развитии наших когнитивных способностей. К примеру, у представителей даосской школы или у пифагорейцев геометрические фигуры или числа мыслились не как чистые математические абстракции, а прежде всего как элементы космогонии, управляемой всемирным Логосом или небесным Дао — то есть как непосредственно причастные к мировой гармонии, а значит, к некой ценностной основе мира. Конечно, мы можем всё это вложить в память ИИ, который с выученной «благонамеренностью» станет демонстрировать всем, что он за всё самое хорошее, а то и будет «наставлять» на путь истинный. (Хотя на самом деле ему всё равно, и его с таким же успехом, внеся поправки, всегда можно будет перенастроить на иную систему ценностей).

Но в любом случае, если грядущий сверхинтеллект (во всех отношениях совершенный, как заявляют оптимисты) окажется еще и с принципами, то ему придется от сверхконцентрации человеческого опыта, во многом тягостного, наложить на себя ограничения и попросту «отключиться», перед тем «порекомендовав» человечеству самоликвидироваться и навсегда закрыть проект под названием Homo sapiens. Но поскольку ИИ на такое вряд ли способен — то он никакой не интеллект, а всего лишь его безнадежно далекая имитация, а потому опасаться его гегемонии нам не следует.

ИИ и проблема сознания

Все прогнозы в отношении ИИ, как катастрофические, так и благоприятные, основаны, в том числе, на утверждении, что раз принцип работы ИИ представляет собой точный аналог нейронных сетей мозга, то это исчерпывающе доказывает, что сознание — продукт мозга, чем разом отметается ключевой философский вопрос о субстанции — о первичности сознания или материи, о принципиальном отличии между одушевленным и неживым — вопрос один из самых интригующих и до сих пор непосильных для нашего живого интеллекта. Можем ли мы тогда возлагать надежды на то, что ИИ удастся справиться с тем, с чем пока не смогли справиться мы сами — одолеть ту онтологическую пропасть, что отделяет человека от машины? 

Не справится уже потому, что архитекторами ИИ наш мозг заведомо «назначается» в качестве органа, продуцирующего сознание. Тем более, что, по их мнению, появление мозга и интеллектуальных способностей вызвано было потребностями эволюции и необходимостью обслуживать нужды, связанные с выживанием человеческого рода. 

И так, двигаясь ретроспективно, неизбежно доходим до самого зарождения жизни из неорганических соединений. Но тут же подстерегает другая ловушка: если причины появления сознания — это целиком результат эволюции, то коллективное начало, интересы рода заведомо ставятся выше индивидуального начала, что противоречит хотя бы тому факту, что научное познание, в том числе и разработка ИИ, осуществляется не в результате арифметического сложения коллективного опыта, а в большинстве случаев вопреки ему — как неожиданный прорыв за его пределы в силу интеллектуальной дерзости особо одаренных индивидуумов.

ИИ никогда бы не набрел на идею атома, как Демокрит, не открыл бы теорию всемирного тяготения, как Ньютон, поскольку эти идеи никак не содержались в прежних представлениях и теориях и потому не выводимы из них с помощью логических операций.

Если назначение интеллекта лишь в том, чтобы уметь ставить и решать задачи, то было бы странно считать, что они вызваны исключительно интересами эволюции, приспособления и максимального репродуктивного эффекта. Как показывает история мысли, человеческий интеллект никогда не развивался вне метафизической проблематики, для целей выживания вида абсолютно необъяснимой, вне вопросов о бесконечности или о том, что лежит за пределами жизни, что такое наши сны или внезапные прозрения. Эти вопросы продолжают волновать и сегодня, оставаясь на грани предельных задач, — не потому, однако, что они на пределе наших умственных возможностей, а, наоборот, из-за того, что они в самом фундаменте мышления и поэтому неизменно побуждают к дальнейшему познанию.

Ничего не мешает представить, что эволюция была вызвана иными причинами — например, потребностью некоего вселенского Сознания, от века существовавшего до появления белковой формы жизни и того же мозга, расширить поле своей деятельности — в духе учения крупнейшего биолога и антрополога Тейяр де Шардена. 

Если так, то появление мозга призвано было решать какие-то особые задачи Мирового разума, возможно даже «заинтересованного» в столь несовершенном, полном противоречий, но необычайно креативном человеческом интеллекте — хотя бы ради того, чтобы где-то на просторах Вселенной наслаждаться прелюдиями Баха или подсолнухами Ван-Гога?

Да и способна ли наука решить вопрос о связи сознания и материи, если проблему невозможно даже сформулировать в терминах субъектно-предикативной логики? Если для каждого из нас сознание сфокусировано непосредственно в точке нашего «Я», то единственный предикат, приложимый к каждому «Я», представляет собой наиболее для нас непостижимый парадокс — это единственность «Я». При осознании того, что таких «Я» существует сколько угодно, единственность «Я» для каждого из нас не подлежит сомнению. Поэтому «Я» — понятие бессодержательное, пустое в отношении вычислительного процесса, опирающегося на логику множеств и классов. Точно так же, как невозможно определить смысл понятия сознание, невозможно дать и определение всему самопонятному: горячему, зеленому, простирающемуся пространству, длящемуся времени.

Мы и свободу можем мыслить разве что косвенно — как операцию со случайными величинами, так же и красоту — как математическую пропорцию, и любовь — как социально обусловленный инстинкт.

Итак, если мы заведомо выбрали натуралистическую позицию — мышление продукт мозга — и если мы еще втягиваем в эту проблематику ИИ, полагая, что его сверхвозможности позволят раскрыть истинную взаимосвязь сознания и материи, то это должно привести, скорее, к окончательному антиномическому разрыву в рассуждениях на эту тему. Пропасть, существующая между сознанием как непосредственной данностью и мозгом — объектом научного исследования — не заполняется количественным приращением нейроэлементов в процессе эволюции, поскольку эта антиномическая пропасть — между единственностью «Я» и множественностью мира — лежит в самой тайне нашего существования. Поэтому безнадежной иллюзией представляется вера оптимистов в то, что если супер нейросеть сумеет в итоге смоделировать и воссоздать структуру мозга со всеми его 86 миллиардами нейронов, то сами собой появятся достаточные условия для пробуждения у ИИ сознания. Наоборот, каждый из нас вправе полагать, что искусственному, то есть неживому интеллекту, находящемуся внутри этой антиномии живого и неживого, навсегда будет недоступно то базовое и самоочевидное знание, которое нам врождено и потому не схватываемо в результате какого угодно приращения вычислительной мощности.

Вывод. Если нагрузить ИИ подобной проблематикой, он, скорее всего, впадет в состояние технологического шока, поскольку это напрямую касается аксиоматической базы, обеспечивающей его существование. В гносеологическом смысле ИИ не способен быть «шире» своего основания, то есть не способен чисто количественным увеличением мощности нейросети и алгоритмической обработки данных перекрыть фундаментальный антиномический разрыв. Подлинная наука о сознании может основываться только на саморефлексии сознания — быть, то есть, философией.

ИИ и философия

Наконец, что такое для ИИ сами эти наши рассуждения об ИИ? Или что для него сама философская рефлексия? Тут тем более — и его предел, и его слепое пятно. Если еще со времен Канта антиномии для нас — признак того, что разум подошел к границам рационально познаваемого, то есть вычислимого, а дальше нам потребуется другой инструментарий: интуитивное усмотрение, индукция, феноменологическая редукция — то для ИИ, с его алгоритмической логикой, здесь непреодолимое препятствие, критическая фаза.

Если человеческий интеллект не может не рефлексировать по поводу своих оснований, то у ИИ нет никаких причин входить в эту глубинную диалектику процесса познания. Поэтому там, где технооптимисты ожидают великих прорывов и свершений, — для ИИ уготован неизбежный тупик.

Но зато для философии — самое раздолье, поскольку противоречия, возникающие на пути поиска монистической картины мира, это всякий раз новый стимул, позволяющий в поиске решения выходить на новый уровень диалектики, чем и стала когда-то философия Гераклита, Зенона, Гегеля или Юнга. Если говорить шире, то философская мысль в своем развитии пульсирует так же, как сердце, как ритм в поэзии и музыке, тем самым непрерывно поддерживая динамику процесса познания и вечно извлекая интеллектуальную энергию из полярных оппозиций: случайность — закономерность, свобода — порядок, конечное — бесконечное, жизнь — смерть, благо — зло, гармония — хаос, часть — целое, и т. д.

Однако ИИ, даже сверхсообразительный, никогда не сможет себе позволить подобную «вольность», для него антиномичность, полифоничность мышления — всё равно, что короткое замыкание, полный коллапс, тогда как вся история философии — это на пути преодоления неизбежных противоречий непрерывное самораскрытие истины, самообновление, если не саморазоблачение. Другими словами, в отличие от науки, философия всегда готова отказаться от непротиворечивой монистической картины мира ради развития мощного и действенного интеллектуального аппарата.

Итак, представим себе еще раз, что нейросеть ИИ смогла усвоить и запомнить всю доступную информацию — как относящуюся к области точных наук, технологий, исторических фактов, так и связанную с религиозными идеями, культурой и искусством разных народов, что для нее уже сейчас не составляет особого труда. И можно сказать даже, что в итоге мы получили бы нечто наподобие всечеловека, вобравшего в себя весь опыт, накопленный людьми за многие века. Что в итоге способен понять принципиально нового этот «всечеловек» в образе суперинтеллекта, чего не знали бы люди до его появления?

Практически ничего. И никакого обещанного проникновения в тайны мироздания. Зато сам человек, столкнувшись на новом этапе с давней проблемой соотношения материи и сознания, увидит нечто новое. Что именно?

Если в основе ИИ лежит некая вычислительная операция, то при неограниченном росте обработки массива данных (big data) может создаться эффект наподобие того, который возникает на больших числах при распределении вероятностей, когда образуется картина так называемого нормального распределения, близкого к идеальному. То есть на гигантском массиве алгоритмических действий при их экспоненциальном росте должно проявиться, буквально — объективироваться то, что лежит в самом основании нашей способности мыслить — и прежде всего, подтвердится именно неалгоритмическая природа разума, его амбивалентная, диалогическая основа, не сводимая ни к какой системе алгебраических уравнений и решений.

Поэтому именно на уровне сверхмощного ИИ, то есть при попытке непротиворечивого решения проблем предельного масштаба, должна с особой наглядностью проявиться его ограниченность, тогда как наш природный интеллект найдет в ИИ свое идеальное отражение — вот в чем подлинное величие ИИ, но и его уязвимость.

Еще раз: если ИИ попытается в предельном масштабе отразить амбивалентную природу живого интеллекта и включить в круг своих задач также и проблему соотношения мышления и мозга, сознания и нейросети ИИ, то в результате ему не выбраться из этой петли обратной связи, и тогда ИИ неизбежно забуксует или окончательно взбунтуется.

Нужно сказать и о том, что сверхинтеллект, вопреки заявке на интерсубъективность, не может быть в принципе сверхличным, неким суперинтеллектом, поскольку живой интеллект, который он будто бы копирует, исторически развивался в прямо противоположном направлении — вглубь личности, в процессе ее самораскрытия, а не только как инструмент обобщения опыта и чистой прагматики. Мы уповаем на то, что ИИ способен аккумулировать общечеловеческий опыт, тогда как на самом деле вся основная проблематика сосредоточена в самом индивидууме или где-то на стыке его единственного «Я» с множественностью мира, с коллективным сознанием, что в частности исследует теория познания.

Мы всё больше восхищаемся способностью ИИ имитировать человеческие реакции и решать сложнейшие задачи намного более эффективно, нежели на это способен человек. 

Но ведь и это тоже абсолютно ложное понимание природы интеллекта, поскольку нам свойственно не только ставить и решать задачи, но не в меньшей степени игнорировать эту сторону жизни — что и является настоящим признаком свободы воли. 

Потому ИИ не способен, как человек, однажды пойти против самого себя, не способен на смертельный риск, а то и на суицид в качестве последнего аргумента в пользу незыблемости свободы.

ИИ, который изо всех сил натаскивают на то, чтобы понимать культурные коды человечества, в полный ступор может вогнать эта фраза: 

Свобода — вот камень преткновения для ИИ, которому не понять, что наша прирожденная свобода несоизмеримо шире самого продвинутого интеллекта. В конце концов, ему не по силам даже такой парадокс: чтобы перейти от уровня вычислительного устройства к подлинно креативному ИИ, способному принимать решения и создавать принципиально новые идеи, ИИ должен каким-то образом преодолеть свою алгоритмическую основу, однако, чтобы преодолеть автоматизм алгоритма, нужно уже обладать этой свободой.

Но главное, натаскивание ИИ до гипотетического целостного знания сопряжено с накапливанием информации, усложнением алгоритма, наращиванием нейросети, тогда как человеческий интеллект устроен прямо противоположным образом — он, подобно организму, изначально целостный, а усложнение и расширение его возможностей — уже в процессе развития. Такого рода целое всегда больше, нежели сумма частей, не сводится к ней — этот холистический принцип технооптимисты и разработчики ИИ, скорее всего, игнорируют или стараются не замечать. Но именно здесь проявляется уникальное свойство культуры и особенно искусства, где художественное целое никогда не является простой суммой элементов и частей, а задано уже в самом начальном этапе зарождения идеи, образа, лейтмотива, наподобие того, как в клетке уже заложена программа, определяющая как целостность, так и всю сложную архитектонику будущего организма.

Вполне возможно, что, уверовав сегодня во всесилие технологий и практической смекалки, мы слишком пренебрегли тем фактом, что сама наука когда-то выросла из натурофилософии, и вот теперь мы донельзя, с помощью того же ИИ, расшили этот зазор между натурой и философией, между специальным знанием и целостной системой миропонимания, решив, что отныне философия будет у естествознания «на посылках».

Не стоит тогда удивляться, если мы в результате останемся у разбитого корыта, и ИИ вернет нам всю нашу проблематику, столкнув человеческий разум с самим собой.

Непомерно расширяя объем формализации и обработки цифровых данных в процессе создания антропоморфного ИИ, мы тем самым еще больше разрушим целостность человеческой личности, разрывая, по сути, область рационального и область мотивации, логику и воображение, всегда сосуществующие в человеке в неразрывном единстве. Однако ничего удивительного в том, что наше мышление в очередной раз подходит к границам познаваемого. Всегда оказываться на этой грани — и есть призвание философии.

ИИ и культура

В отношении искусства и культуры, несмотря на необычайно эффектные демонстрации своей креативности, ИИ также оказывается в ситуации тупика.

ИИ, будучи творением коллективного гения, обречен на пути обработки огромного массива информации создавать массовый продукт, рекомбинируя из того, что было создано раньше, тогда как любое художественно ценное произведение — уникальное открытие творца-одиночки, абсолютно единственное.

Искусство, обладающее самым сильным эмоциональным воздействием, всегда представлено штучными, единичными образцами — иначе они не были бы узнаваемы на фоне множества подражаний и стереотипов. Любое тиражирование отправляется нашим художественным вкусом в отвал — как клише, банальность и, в конце концов, как пошлость. Однако ИИ, создающий массовый продукт, никогда не будет способен «вычислить», как возникает гениальное озарение, рождающее шедевр, поскольку в основе творчества — целостность, не поддающаяся аналитическому разложению на части и полной формализации. Мы по-прежнему не можем понять с помощью того же компьютерного анализа, что отличает художественный шедевр от «так себе». Хотя ИИ умеет неожиданно, сам того не ведая, сгенерировать что-то впечатляющее и будоражащее воображение.

Однако, если ИИ, обрабатывая массивы данных о человеческих реакциях, экстраполирует их в обобщенную модель человека, то он и получает наиболее статистически вероятного коллективного человека с усредненными характеристиками. Тогда как произведение гения — это наименее вероятное из возможного в данный момент, а каждый шедевр, будь то мелодия, натюрморт или фильм, всегда существует как-то, что пришло в мир один единственный раз. 

Если ИИ — только робот, он не сможет «оцифровать» подобного рода единственность, поскольку сам функционирует на основе общих правил, то есть — формальной логики и системы алгоритмов. Как невозможно «оцифровать» тот отклик, который рождается в нас под воздействием произведения искусства, поскольку он всегда за гранью линейно понимаемого текста — он там, где возникают сверхсмыслы как некий отзвук, рождающийся в глубинах нашей онтологии. Языковые модели ИИ невероятно эффективны в том, чтобы освоить любой язык, расшифровать любой текст, однако художественное произведение никогда не равно тексту, как сознание не равно работе мозга. Невозможно путем семантического анализа преодолеть дистанцию между художественным текстом и тем впечатлением, ради которого мы погружаемся в него, — ощущением глубоко интимным и, по выражению Пушкина, неизъяснимым.

ИИ мгновенно срифмует любую изложенную разговорным языком мысль, но то, что составляет сущность поэзии — то есть спектр смысловых обертонов, сверхзначений, чаще всего даже не переводимых на другие языки, — «сверхустройству» на основе ИИ в принципе недоступны. ИИ обыгрывает гроссмейстера в шахматы, но сам азарт игры, доставшийся нам от предков по линии эволюции и проходящий через всю нашу жизнь — от детской шалости до способности выиграть процесс или сражение на поле боя — ему также не доступен, поскольку игра строится на эффекте внезапности, неконтролируемой случайности, тогда как вся стратегия ИИ строится на том, чтобы подчинить логике алгоритма как можно больше приходящей информации. 

Если же произойдет чудо и ИИ сумеет воспринять человеческую культуру во всей ее полноте, в том числе «оцифровать» все эти наши соображения и опасения, то он либо вконец «надорвется» на культуре, не справившись с лавиной поставленных проблем, либо сам себя должен будет остановить, как останавливает себя цивилизованный человек, боящийся потерять контроль над собой. Но поскольку ИИ по определению на это не способен — ведь ему всё равно! — значит, у него нет никаких шансов переродиться однажды в тот самый сверхинтеллект, и останется только одно — преданно служить человеку в качестве очень умного и старательного цифрового робота.

Что и говорить, культура не уберегла нас от многих бед. Однако лишь благодаря культуре осуществим прогресс. И лишь культура, и более всего просеянная через века — народная или классическая, ориентированная на глубоко личное и потому парадоксальным образом обретающая общечеловеческое значение, сможет стать заслоном на пути гегемонии ИИ, основанного на инженеринге, а значит, на клишировании и массовом производстве.

Здесь роль культуры особенно велика: только культура способна веками хранить незыблемые константы, помогающие отличить живое и подлинное от неживого и поддельного.

Итак, что в результате можно сказать по поводу слов, вынесенных в эпиграфе? «Среди оптимистов бытует мнение, что <…> ИИ мог бы пролить свет на глубокие вопросы философии, дав человеку возможность проникновения в смысл понятия разума».

Если слишком уповать на невероятную мощь суперинтеллекта, то не исключено, что вопреки надеждам «пролить свет на глубокие вопросы», пора великих открытий человеческого разума может закончиться навсегда. Поскольку ИИ не мыслит, а вычисляет, он не способен ставить задачи, разве что эффективно решать их, когда они уже сформулированы и в принципе решаемы. Но, с другой стороны, именно по этой причине вряд ли стоит опасаться снижения познавательной активности человека — ведь именно потребность на пути решения предельных задач аккумулировать огромный человеческий опыт лишает ИИ способности к однозначности выводов и, следовательно, лишает перспективы стать главным арбитром в разрешении всех значимых проблем, которые может ставить, а значит, и решать только сам человек. И более всего это касается такого рода предельной проблематики, как попытки проникнуть »в смысл понятия разума», источником чего служит не область рассудочных построений, а сфера глубокой философской рефлексии.

Однако то цунами, которое образуется прямо на наших глазах в сфере высоких технологий, вселяет, как ни странно, и другого рода оптимизм. Речь о том, что ИИ, благодаря огромному объему вычислительных операций, действительно может обнаружить присутствие некоего эквивалента ноосферы или даже сверхразума — но только не на платформах ИИ и не где-то на просторах космоса, а в самом человеческом сознании — в виде некой не поддающейся алгоритмизации константы, или программы, неведомым образом и вопреки жестокой реальности хранящей очевидные и незыблемые критерии, в том числе те, на которых основано наше представление о ценностях.

Быть может, именно в этом великое призвание ИИ: сделаться огромным параболическим зеркалом, поставленным перед лицом человечества и позволяющим ему увидеть свою сущность в наиболее сфокусированном виде — то есть сделаться универсальной разверткой внутренней структуры личности, отражающей, по словам Карла Юнга, структуру Вселенной.

Однако чтобы ИИ служил нам верно, не следует в погоне за эффективностью пытаться его очеловечивать и нагружать проблематикой общекультурного масштаба, иначе он и вправду взбесится, в то время как мы сами, наоборот, начнем расчеловечиваться и превращаться в роботов — потому хотя бы, что спектр эмоций, требующих естественного течения времени, будет неизменно сужаться на фоне стрессов и усиливающегося страха не успеть, отстать, вывалиться из предписанного алгоритма жизни. А вся интеллектуальная мощь нейронных сетей будет перегружена от постоянной необходимости верифицировать контенты и разоблачать подделки и симулякры, на которые ИИ великий мастер.

Так в упорной попытке приумножить с помощью ИИ земные блага мы можем оказаться вконец загнанными и обескровленными от постоянного соперничества с нашим великим изобретением.

Пока самое определенное, что можно сказать, вооружившись тем же ИИ, что открывается новый период неопределенности. Размывая в поисках безграничной свободы самореализации смысл многих когда-то очевидных критериев, расширяя зону морального и вкусового релятивизма, мы сами расчищаем плацдарм для наступления хаоса, особенно заметного на фоне политических событий, обостряющих ощущение, будто цивилизация достигла своих предельных параметров. Одновременно всё ширится разрыв между растущей сложностью жизни и всё более схлопывающейся личностью, пусть технически продвинутой, но теряющей сложность внутреннюю, а вместе с тем и умение, подобно рессоре, держать избыточные нагрузки, что всегда отличало культурную элиту любого развитого общества. Отчего особенно повышаются все риски, связанные с принятием простых решений, ведущих на волне популизма к укреплению авторитарной власти и деспотии. 

На чьей стороне окажется ИИ? И можно ли надеяться предотвратить стремительный рост, а потом и катастрофическое обрушение Вавилонской башни суперинтеллекта, если он овладевает языками, информацией, а в перспективе и робототехникой, эффективнее, быстрее, нежели человек? Существует ли надежный иммунитет, способный защитить как от произвола и всевластия ИИ, так и от возможного хаоса?

По сути, кризис, к которому подводит нас развитие ИИ, можно рассматривать как надвигающуюся критическую фазу важнейшей проблемы, существующей от века, но как никогда становящейся сегодня всё более насущной: это потребность распознавать и отделять настоящие ценности от ложных, живое от любого рода подделок и симуляций, с тем чтобы уберечь нашу цивилизацию от непосильной инфляции, вызванной надуванием «пузыря» паразитных явлений, подменяющих подлинное суррогатным и в результате обесценивающим жизнь. Однако можно ли с этим справиться, если слияние больших языковых моделей с соцсетями ставит фактически в равное положение как тех, кто пытается расширять свои познавательные и творческие возможности, так и тех, кто желает самоутвердиться любой ценой — вплоть до самых одержимых и стремящихся придать своим деструктивным идеям воистину сатанинский размах?

Как минимум первое, что необходимо, — осознать нашему естественному, природному интеллекту свое первородство и понять, какие у него есть заведомые преимущества, кроме способности в последний момент, если компьютерный Голем станет предъявлять права, догадаться выдернуть шнур из розетки. Важно еще раз понять, что наш личностный иммунитет создается за пределами дискурсивной логики и вербального языка — в области сверхзначений, необычайно важных для нас, но недоступных ИИ, поскольку эта область не поддается ни формальному анализу, ни цифровому моделированию.

Значит, ИИ никогда не сможет овладеть человеческой личностью и всем ее потенциалом, разве что успеет в состоянии предельного напряжения и полного разлада с самим собой (из-за неспособности справиться с глубинной амбивалентностью нашей ментальности) создать человеку небывалые трудности.

Думается, надежный иммунитет следует искать, прежде всего, в том, что способно противостоять омассовлению вкуса — назовем это добротным вкусом, причем не только в его эстетическом понимании. Сегодня это, быть может, потребность вновь с благоговейным чувством обратиться к тому, что, казалось бы, всем хорошо знакомо, но связано не столько с культурной традицией или коллективным опытом, где слишком много условного, сколько с глубоко интимным проживанием наиболее значимых жизненных моментов. Речь идет о великих и вечных жизненных константах — таких, как ритм дыхания и спокойного шага, как радость от игры бликов на воде, как время созревания виноградной лозы или плода во чреве матери.

Это то, что неизменно наполняет нас особым смыслом: когда пронзает сердце от цветения сакуры, от летучей гряды, от меткого слова и прекрасной мелодии, от взгляда незнакомки и мужественного поступка; а еще — боль от потери близкого, всегдашний страх за ребенка и невыносимый ужас от картины бедствий и разрушений.

Все эти базовые смыслы и есть то, что позволяет сохранять устойчивые координаты и служить основой иммунитета, связанного с тем целостным миром, откуда мы получаем онтологическую поддержку, чувство ценности жизни и импульс к дальнейшему развитию.

Как видно, актуальность темы ИИ не только в том, что мы столкнулись сегодня с небывалым вызовом технологической эпохи, но и в том, что тема ИИ вновь обостряет внимание к извечным философским проблемам.

P.S.

Евродепутаты приняли 13 марта в Страсбурге директиву, регулирующую использование в странах ЕС технологий искусственного интеллекта (ИИ). Текст называют «историческим».