Пределы роботов

Эндрю Смарт — один из самых провокационных и оригинальных голосов в дискуссии о взаимосвязи технологий, философии и познания. Автор книг «Автопилот: искусство и наука ничегонеделания» (2013) и «За пределами нуля и единицы: машины, психоделики и сознание» (2015), не опубликованных на португальском языке, Смарт рассматривает искусственный интеллект (ИИ) так же, как он всегда рассматривал иллюзии человеческого разума: с большой строгостью.

Имея степень доктора философии и магистра когнитивных наук, он сочетает опыт работы в крупных корпорациях, таких как Novartis и Twitter, с исследованиями сознания и технологий. В настоящее время он работает старшим научным сотрудником в Google в Сан-Франциско, где изучает социальное влияние искусственного интеллекта.

В этом интервью, проведенном по видеосвязи, Смарт обсуждает разницу между человеческим восприятием и алгоритмической галлюцинацией, парадоксы искусственного творчества, идеологию Кремниевой долины и дилеммы так называемого когнитивного капитализма — фазы, в которой знания, творчество и данные становятся основными двигателями производства и социального контроля.

Ученый и философ Эндрю Смарт, исследователь Google, считает, что ИИ может быть использован для обогащения уже богатых людей. Изображение: социальные сети

CartaCapital: Для начала, не могли бы вы рассказать о своей работе? Эндрю Смарт: Я в основном работаю с тем, что мы называем «ответственным ИИ», хотя в нынешней политической ситуации в США такие термины, как «равенство» или «разнообразие», стараются избегать. Я посвящаю себя исследованиям социального воздействия ИИ и того, как технологии машинного обучения влияют на разных людей и группы. Меня также по-прежнему интересуют философские вопросы, такие как теория сознания и споры о том, смогут ли эти системы когда-нибудь развить способность к субъективному опыту. Когда я опубликовал книгу «За пределами нуля и единицы», идея ИИ на основе ЛСД была почти философской провокацией. Сейчас эти идеи кажутся менее абсурдными.

КК: Вы утверждали, что машины не могут галлюцинировать, как люди. Вы всё ещё так считаете? АС: Разговоры о «галлюцинации» моделей — это антропоморфизация машины, то есть приписывание ей человеческих характеристик, что я критикую. В то же время наше собственное восприятие — это, в некотором смысле, галлюцинация, попытка нашего мозга привести себя в соответствие с реальностью. Всё, что производит ИИ, — это форма статистической галлюцинации: он генерирует последовательности слов, основываясь на вероятности токенов. Это не знание, а вероятностное моделирование.

КК: Но рассматриваете ли вы также людей как статистических производителей символов, поскольку мы сформированы языком? АС: В исследованиях ИИ существует тенденция рассматривать мозг как систему, которую можно воспроизвести на другом носителе, например, кремниевых чипах. Но я не согласен. Я считаю, что биология имеет значение. Замена нейронов микрочипами не нейтральна. Человеческий опыт, наши отношения с миром, материальны. Статистические модели — это всего лишь модели. Они не являются реальностью и не существуют без нас.

«Человеческий опыт реализуется через наше тело. Статистические модели — это всего лишь модели. Они не отражают реальность».

КК: Это серьёзная дискуссия в научном сообществе, не так ли? АС: Да. Некоторые считают, что ИИ может повторить всё, что делает человек. Другие, как и я, считают, что существуют пределы возможностей статистики и машинного обучения в плане человеческого опыта.

CC: С точки зрения искусства, как вы думаете, ИИ может создать что-то, опережающее наше время? AS: Нет. Искусство передает человеческий опыт, переживаемый телесно. Искусство включает в себя культуру, общество и символику — элементы, которые невозможно воспроизвести одним лишь статистическим моделированием. CC: Как вы думаете, ИИ может испытывать привязанность, одержимость или заботу к кому-либо? AS: Некоторые утверждают, что если ИИ кажется чувствующим, этого достаточно. Но я считаю, что без тела и опыта нет настоящего опыта. ИИ может симулировать привязанность, но не чувствовать. Некоторые компании нанимают «специалистов по здоровью на основе ИИ», как будто модели могут страдать — это просто смешно. Люди настолько очарованы, что забывают, что модели — это всего лишь программное обеспечение, что у них нет сознания и они не страдают.

КК: Недавно представитель Meta в Бразилии высказал почти фуколдианское утверждение: с рождения мы погружены в символическую и когнитивную ситуацию и не знаем точно, откуда берутся коды и символы, помогающие нам организовывать наши мысли. Это интересная точка зрения, но я по-прежнему считаю, что мы, люди, реагируем на окружающую среду адаптивно и телесно. Поэтому я спрашиваю: это ли отличает нас от машин? АС: Это центральный вопрос. В технологической индустрии и исследованиях искусственного интеллекта господствует точка зрения, называемая «вычислительным функционализмом». Она утверждает, что функции мозга, такие как зрение, счёт, язык, могут быть реализованы на любом субстрате, биологическом или нет. Согласно этой точке зрения, неважно, происходят ли вычисления в нейронах или кремниевых чипах. Я не думаю, что какой-либо материал может стать источником опыта. Модели и статистика — прекрасные инструменты, но они нереальны и не существуют вне нас.

Эпоха когнитивного капитализма. В Сан-Франциско, помимо крупных технологических компаний, есть и бедность. Изображение: iStockphoto

CC: В этом году на фестивале SXSW футуролог Эми Уэбб представила эксперименты с ИИ, созданные на основе биологического материала, например, нейронов, выращенных в лаборатории. Вы видели подобные исследования? Что вы думаете об этих попытках объединить ИИ с органикой? AS: Я пока не видела этой работы, но идея гибридного интеллекта — частично биологического, частично искусственного — существует уже несколько десятилетий. Например, у нас уже есть мозговые имплантаты для лечения болезни Паркинсона. Возможно, в будущем мы будем использовать их для улучшения памяти и когнитивных функций. Но мы пока очень мало знаем о том, как безопасно вмешиваться в эти процессы.

КК: Считаете ли вы, что ИИ — это скорее продукт капитализма или нечто, что действительно преобразит человечество, как персональный компьютер? АС: Крупные компании стремятся к прибыли и конкурентоспособности. ИИ используется для обогащения тех, кто и так богат. Есть те, кто верит, что ИИ вылечит болезни, решит климатические кризисы, избавит от работы — своего рода утопия, — а есть и те, кто считает, что он нас уничтожит. Я отношусь к этому скептически. ИИ могущественен, но не обладает магическими способностями.

КК: Во многих рассказах об ИИ, похоже, присутствует стремление к безграничному прогрессу — как будто можно преодолеть человеческие ограничения, даже смерть. Считаете ли вы, что это стремление к бессмертию и тотальному контролю — часть технологического воображения, движимого Кремниевой долиной? АС: ИИ программируется на поиск вознаграждения, как и мы. В Кремниевой долине царит одержимость вечностью, колонизацией Марса, стремлением стать бессмертной машиной. Они хотят спасти человечество, но затем заменить его ИИ.

«В Кремниевой долине многие не хотят бороться с неравенством, просто избегают его. И всё равно считают себя прогрессивными».

КК: Я изучал поведение менеджеров в крупных компаниях, которые напрямую не принадлежат к классу капиталистов, но при этом не считают себя работниками. Считаете ли вы, что эта прослойка руководителей всё больше рискует потерять работу или стать нестабильными? АС: Безусловно. Я участвую в коллективе здесь, в Долине, под названием «Коллективные действия в сфере технологий». Многие специалисты в сфере технологий не считают себя работниками и враждебно относятся к идее трудовых прав. У нас, действительно, много привилегий, но мы постоянно рискуем оказаться в нестабильных условиях и стать «водителями приложений».

КК: Это вопрос заработной платы и символического дистанцирования от рабочего класса. Профессор Элизабет Каррид-Халкетт называет это суммой небольших добродетельных вещей: йога, комбуча, электромобили… Прогрессивный образ жизни, исключающий бедных. Знакомо? АС: Совершенно верно. В Сан-Франциско серьёзная проблема бездомности. В Кремниевой долине многие не хотят бороться с неравенством, а просто избегают его. И при этом считают себя прогрессивными.

*Журналист, профессор и исследователь в области коммуникации и цифровой культуры.

Опубликовано в выпуске № 1373 журнала CartaCapital от 6 августа 2025 г.

Этот текст опубликован в печатном издании CartaCapital под заголовком «Пределы роботов».