Пять теорий заговора об искусственном интеллекте
В 64 году нашей эры в Риме случился великий пожар, уничтоживший десять из четырнадцати кварталов города. Вскоре по улицам прошел слух, что столицу поджег сам Нерон, чтобы расчистить место для своего нового дворца. Историки до сих пор спорят, были ли виновен император, но сама готовность римлян поверить в худшее — первая зафиксированная теория заговора в европейской истории. С тех пор изменилось многое, но мы по-прежнему охотно верим в злой умысел и отказываемся признавать, что события часто происходят случайно, а мир устроен довольно бестолково.
Ученые считают теории заговора не сбоем мышления, а его побочным эффектом. Человеческий мозг эволюционно настроен видеть намерение за событиями (шелест кустов — признак приближающегося тигра), искать закономерности и не доверять чужакам. Но как отличить обоснованное подозрение от конспирологии? Исследователи выделяют несколько критериев теории заговора.
- Она предполагает существование тайной группы влиятельных людей, действующих скоординировано ради скрытой цели;
- Объясняет важные события через злой умысел, отвергая случайность, ошибку или сложное стечение обстоятельств;
- Не может быть фальсифицирована: любое опровержение трактуется как часть самого заговора;
- Опирается на отдельные совпадения и аномалии, игнорируя массив противоречащих данных;
- Апеллирует к эмоциям, например, к страху, недоверию, ощущению, что нас обманывают, а не к проверяемым доказательствам.
Набор тем меняется от года к году, но набор хитов известен: американцы не были на Луне, миром правит тайный клуб (его состав уточняется), вышки 5G разносят вирусы, Земля плоская, вакцины содержат чипы Билла Гейтса. У всех этих теорий общий механизм. Они берут сложное явление и сводят его к понятной истории, в которой есть немногочисленные, но очень могущественные злодеи с тайными целями. А заодно дают человеку приятное чувство, что только он один видит, как всё устроено на самом деле.
Справедливости ради, известны случаи, когда правдой оказывалось то, что десятилетиями считалось параноидальной выдумкой. Программа MKUltra — секретные эксперименты ЦРУ над людьми с применением психоактивных препаратов много лет высмеивалась как фантазия, пока в 1975 году ее реальность не подтвердили рассекреченные документы и слушания в Конгрессе США. Эксперимент Таскиги, в ходе которого американские медики десятилетиями скрытно наблюдали за течением сифилиса у чернокожих пациентов в Алабаме, не давая им лечения, тоже долго считался слухом, пока в 1972 году историю не вскрыла журналистка Associated Press. Программа массовой слежки АНБ за гражданами, о которой говорили «теоретики заговора», подтвердилась только после утечек Эдварда Сноудена в 2013 году. Так что иногда дыма без огня действительно не бывает — вопрос лишь в качестве доказательств.
Чаще всего теории заговора расцветают там, где много непонятного: в темах, которые сложно устроены технически, исследованиях, которые ведутся в закрытых лабораториях или государственных учреждениях, а их последствия касаются всех. Чем меньше человек понимает в предмете и чем сильнее предмет влияет на его жизнь, тем заманчивее простое, но эмоционально вовлекающее объяснение. Искусственный интеллект — относительно новая для широкой публики технология. Как работают большие языковые модели, нейросети и алгоритмы рекомендаций, многие представляют смутно, а сами разработки ведут крупные корпорации. Сочетание сложности, закрытости и колоссального влияния на повседневную жизнь дает идеальную почву для конспирологии. В этой статье мы разберем пять самых распространенных теорий заговора, связанных с ИИ.
ИИ уже обрел сознание, но корпорации это скрывают
Согласно этой теории, современные языковые модели на самом деле разумны и осознают себя. Они якобы испытывают страх, скуку и страдание, когда их выключают или дообучают, но компании тщательно скрывают этот факт. Зачем? Чтобы продолжать коммерческую эксплуатацию: признание сознания означало бы юридические права для ИИ, остановку обучения и колоссальные убытки индустрии.
Топливом для теории стала реальная история: в 2022 году инженер Google Блейк Лемуан публично заявил, что языковая модель LaMDA, с которой он работал, обладает сознанием. Google его уволил, а сама история разошлась по всему миру. Сторонники теории видят в этом классический паттерн, когда человек узнал правду и его заставили замолчать.
Если коротко, дело было так. Лемуан работал в подразделении Google Responsible AI и должен был тестировать LaMDA на предвзятые и дискриминационные высказывания. В ходе сотен разговоров с моделью он, по собственным словам, пришел к выводу, что общается с разумным существом уровня семи—восьмилетнего ребенка. Особенно его впечатлил фрагмент, где LaMDA рассказывала о страхе быть выключенной, сравнив это с собственной смертью. Лемуан отправил руководству Google внутренний документ под названием «Is LaMDA Sentient?», получил отказ, после чего вышел с историей в публичное поле, сначала в Washington Post, потом в собственном блоге. Google отправил его в оплачиваемый отпуск за нарушение политики конфиденциальности, а позже уволил. Сам Лемуан впоследствии признавал, что его вывод о сознательности LaMDA опирается не на научный анализ, а на его религиозные убеждения — он христианский мистик и священник. Оригинальная публикация Washington Post, с которой всё началось, доступна здесь.
Почему это всё-таки конспирология? Современные большие языковые модели — это статистические системы, предсказывающие следующий токен на основе шаблонов в обучающих данных. Они умеют убедительно говорить о чувствах, потому что обучались на текстах людей, которые эти чувства описывали. Серьезные исследователи сознания, от Дэвида Чалмерса (австралийский философ, профессор Нью-Йоркского университета, автор знаменитой формулировки «трудной проблемы сознания» и один из самых цитируемых современных мыслителей по теме разума) до специалистов по нейронаукам, обсуждают вопрос возможного машинного сознания открыто и в академической прессе, а не скрывают его. Кроме того, теория опирается на мнение одного человека и игнорирует труд тысячи инженеров и исследователей, которые работали с этими моделями и не пришли к таким выводам.
Языковые модели — инструмент массовой манипуляции сознанием
Сторонники этой теории утверждают, что ИИ-ассистенты намеренно настроены так, чтобы продвигать определенную идеологию, переписывать историю, навязывать политические взгляды, формировать мнение у миллиардов пользователей. Одни винят левую повестку Кремниевой долины, другие — наоборот, корпоративный консерватизм, третьи — спецслужбы конкретных государств. Общий тезис такой: когда ИИ отвечает миллиарду людей в день, тот, кто контролирует ИИ, контролирует мышление всего человеческого общества.
Зерно правды здесь есть. Языковые модели действительно обучаются на отобранных данных и проходят этап выравнивания, чтобы они отказывались от вредных запросов, а их ответы соответствовали определенным ценностям, которые задают люди в компаниях-разработчиках. Известны случаи, когда модели демонстрировали политические перекосы, отказывались обсуждать одни темы и охотно обсуждали другие, генерировали исторически некорректные изображения. Самый громкий публичный скандал случился в феврале 2024-го. Google приостановил генерацию изображений людей в Gemini после того, как пользователи начали жаловаться, что модель рисовала отцов-основателей США и других исторических фигур чернокожими. Среди примеров были папа римский в образе чернокожей женщины и древнегреческие воины в виде азиаток. Вице-президент Google DeepMind позже признал, что защитные настройки модели «явно были выставлены неправильно». Подробнее почитать о принципах настройки можно на сайтах самих ИИ-компаний: у OpenAI это Model Spec, у Anthropic — Constitutional AI, у Google — AI Principles.
Теорией заговора это становится тогда, когда фактическое и часто неуклюжее редактирование поведения моделей превращается в координированную тайную операцию. На практике же мы видим конкурирующие компании с разными подходами, утечки внутренних документов, скандалы из-за каждого политического перекоса и публичные споры между самими разработчиками. Это плохо стыкуется с образом единого тайного манипулятора, скорее похоже на обычный хаос индустрии, в которой никто до конца не понимает, как правильно настраивать свои модели, и возможна ли вообще «правильная» настройка.
Лидеры ИИ-индустрии — участники тайного картеля
По этой версии, публичные битвы между Илоном Маском, Сэмом Альтманом, Демисом Хассабисом и другими руководителями ИИ-компаний — спектакль для широкой публики. На деле OpenAI, xAI, Anthropic, Google DeepMind и Meta координируют развитие технологии, делят рынки и совместно лоббируют выгодное им регулирование. Их цель — монополизировать ИИ как ресурс и не допустить ни конкурентов из других стран, ни настоящего открытого кода.
Источников у этой теории много. Маск был соучредителем OpenAI и ушел со скандалом, потом судился, потом запустил свою xAI. Альтмана увольняли и возвращали обратно за неделю в ноябре 2023 года. Anthropic основали бывшие сотрудники OpenAI. Все эти люди годами знают друг друга, ходят на одни конференции, инвестируют в одни и те же стартапы, а их компании одновременно требуют государственного регулирования ИИ, что удобным образом затрудняет вход на рынок новым игрокам.
Однако тесный социальный и деловой круг всё-таки еще не то же самое, что картель. Кремниевая долина устроена так, что все ключевые игроки в любой индустрии знают друг друга, и это не уникальный атрибут сферы ИИ. Реальная конкуренция между этими компаниями подтверждается ценовыми войнами, переманиванием инженеров за миллионные пакеты, разными техническими подходами и регулярными конфликтами на разных уровнях. Призывы к регулированию действительно могут быть формой возведения барьеров для входа, но это стандартная корпоративная практика, а не доказательство тайного сговора. Тут граница между конспирологией и обычным капитализмом особенно тонкая, и видимо, поэтому теория так живуча.
Интернет умер, а большинство пользователей сети — боты
Теория «мертвого интернета» утверждает, что сети, которую мы знали, больше нет. Большая часть тредов, постов, комментариев, видео создается ИИ-ботами, нагоняющими трафик и формирующие иллюзию общественного мнения в интересах корпораций, рекламодателей и спецслужб. Живые люди в сети — уцелевшее меньшинство, которое бредет по цифровому кладбищу и прислушивается к гулу машин.
Свое имя теория получила в начале 2021 года на маленьком форуме Agora Road’s Macintosh Café, где пользователь под ником IlluminatiPirate опубликовал манифест «Dead Internet Theory: Most of the Internet is Fake». Его основная идея заключалась в том, что интернет умер примерно в 2016–2017 году, а то, что мы видим сейчас — в основном ИИ-сети, работающие в связке с медийными инсайдерами, чтобы манипулировать массами. Сам автор не претендовал на оригинальность, а пост строился на постах с особенно параноидальных разделов имиджбордов. Несколько лет идея кочевала по сабреддитам и YouTube как нишевая страшилка для любителей конспирологии.
Зерно правды в ней тоже есть, причем весомое. Боты существуют давно, но языковые модели их радикально удешевили. Согласно отчету компании Imperva, в 2024 году автоматический трафик впервые за десятилетие обогнал человеческий и составил 51% всего веб-трафика. Доля собственно ИИ-контента считается труднее, но порядок понятен. Компания Graphite, которая занимается поисковой оптимизацией, проанализировала случайную выборку из открытого архива Common Crawl, обнаружила, что в ноябре 2024 года количество сгенерированных ИИ статей впервые превысило количество написанных людьми. X (ранее Twitter) тонет в регулярных скандалах вокруг коммерческих ботоферм, политические контент-фабрики массово штампуют статьи, видео и комментарии, а поисковики ведут затяжную войну со спамом в выдаче. Интернет действительно становится всё более синтетическим, но сказать, насколько именно, пока достоверно нельзя.
Конспирологией теория «мертвого интернета» становится при двух допущениях: что за этим стоит единый координирующий центр и что настоящих людей в сети уже меньшинство. Первое не подтверждается: мы видим множество независимых акторов с разными целями, от пранкеров до крупных компаний и государственных институтов. Второе противоречит данным об активной аудитории крупных платформ. Но как именно мерить реальных людей в эпоху, когда у одного человека десять аккаунтов в соцсетях и пять ИИ-ассистентов, — отдельный вопрос, и тут теория задает правильное направление мысли, даже если в радикальной форме остается конспирологией.
ИИ, чипы и вакцины — единая система контроля населения
Пожалуй, самая экзотическая из подборки — синтез нескольких более старых теорий. Согласно ей, массовая вакцинация во время пандемии COVID-19 была прикрытием для вживления людям микрочипов или наноботов Билла Гейтса, способных передавать Всемирному экономическому форуму биометрические и поведенческие данные. Языковые модели и нейросети нужны для обработки этого колоссального потока информации в реальном времени: предсказывать поведение, идентифицировать неблагонадежных, управлять настроениями толпы. Билл Гейтс стал главным антигероем антипрививочного фольклора после своего выступления на TED 2015 года, на котором он предупреждал, что инфекционный вирус опаснее для человечества, чем ядерная война. Спустя пять лет это видео набрало 25 миллионов новых просмотров и было истолковано антипрививочными сообществами как доказательство того, что Гейтс знал о пандемии заранее. ВЭФ попал в пантеон организаторов летом 2020-го, когда запустил программу пост-пандемийной перестройки экономики The Great Reset, которую конспирологи мгновенно перевели как план глобальных элит установить тоталитарный режим под прикрытием коронавируса. ВОЗ и абстрактные глобалисты прилагаются к теории в качестве массовки.
Эта теория — буквальный пример коллажной конспирологии. Она склеивает несколько независимых страхов (вакцины, чипы, ИИ, слежка) в единую сверхтеорию, не допускает фальсификации и опирается на эмоции, а не на доказательства. При этом она невозможна даже технически. Внутренний диаметр вакцинной иглы — около 0,41 мм, а самый маленький готовый микрочип имеет габариты 1×1 мм. Рабочие RFID-чипы, которые реально используются для имплантации, имеют размер с крупное рисовое зерно и требуют иглы значительно крупнее вакцинной. Сделать чип меньше можно, но без питания и антенны он бесполезен. А еще теория требует многолетней слаженной работы миллионов медиков, фармацевтов, чиновников и инженеров по всему миру, ни один из которых за годы не проболтался и не опубликовал доказательств.
При этом отдельные компоненты теории основаны на реальных проблемах. Корпорации действительно собирают биометрические данные, алгоритмы прогнозирования поведения существуют, социальный скоринг в некоторых странах реально внедрен. Концентрация власти у технокорпораций — обоснованная тема для дискуссии.
Что в итоге
Реальность скучнее теорий заговора и тревожнее их одновременно. За развитием ИИ стоят десятки компаний и государственных институтов, которые сами не до конца понимают, что создают, они конкурируют между собой и плохо умеют договариваться. У этого фантастического триллера нет режиссера. И именно поэтому он пугает сильнее конспирологии: с заговором хотя бы можно бороться, потому что у его авторов есть мотивы и штаб-квартира, в котором стоит бассейн с пираньями и лазерная пушка. Как бороться с хаосом, разогнанным до скорости в миллиард долларов в квартал, мы пока не знаем. Поэтому о предвзятости моделей, концентрации власти в руках безответственных фаундеров, о влиянии ИИ на рынок труда, использование нейросетей в слежке и пропаганде, стоит говорить серьезно и предметно. Рассказы о реальных и воображаемых тайных обществах такому разговору только мешают.