Человек или ИИ: Кто побеждает? Евгений Черешнев об искусственном интеллекте и будущем человечества

На прошедшей в Москве международной ярмарке интеллектуальной литературы non/fictio№ весна 2025 издательская группа «Альпина» организовала ряд лекций и паблик-токов. Центральной темой мероприятия стало обсуждение искусственного интеллекта, что неудивительно, учитывая стремительное и повсеместное внедрение ИИ в нашу жизнь.

Особое внимание привлекла беседа между Евгением Черешневым, экспертом в области сетевых технологий и автором книги «Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта», и журналистом Егором Аполлоновым. Они обсудили актуальные вопросы этичного и разумного использования ИИ, а также поиска баланса в применении нейросетей.

Предлагаем вашему вниманию наиболее интересные фрагменты этой дискуссии.

Давайте начнем с краткого определения этики, чтобы задать направление нашей беседы. Этика — это раздел философии, изучающий природу морали, понятия добра и зла, справедливости, долга и добродетели. Она рассматривает, как человек должен поступать, почему одни поступки считаются правильными, а другие нет, и какие принципы лежат в основе наших моральных решений. Мораль же — это совокупность неписаных норм и представлений о том, что хорошо и что плохо. Евгений, согласны ли вы с таким определением этики, предложенным ChatGPT?

В целом да, но важно учитывать феномен контекста. То, что считается нормой этики в одних координатах, может вызывать отторжение в других. Например, религиозные практики или семейные традиции сильно различаются в разных частях мира.

Действительно, контекст играет важную роль. Но как быть с этикой ИИ? Можно ли ее унифицировать на глобальном уровне?

Проблема не столько в искусственном интеллекте, сколько в нас самих. ИИ учится на данных, которые мы создаем, и отражает нашу собирательную версию. Возникает вопрос национальных интересов: ответы на спорные вопросы могут различаться у ИИ, созданных в разных странах.

Искусственный интеллект показывает, насколько мы разобщены и как нам не хватает целостной картины по многим вопросам. В отличие от точных наук, которые быстро эволюционируют, признавая ошибки, некоторые аспекты этики менее подвижны.

Есть две основные проблемы в обсуждении этики ИИ. Во-первых, часто эти дискуссии ведут люди, не разбирающиеся в технологиях ИИ. Во-вторых, маловероятно появление единого этического кодекса для ИИ, который был бы универсально принят.

Азимов в своих законах робототехники предложил простой подход, показав, что излишнее усложнение правил непродуктивно. Его законы гласят:

• Робот не может причинить вред человеку или допустить, чтобы человеку был причинен вред.
• Робот должен повиноваться приказам человека, если они не противоречат Первому Закону.
• Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму Законам.
• Робот не может причинить вред человечеству или допустить, чтобы человечеству был причинен вред.

Хотя мы не можем законодательно определить этику ИИ на глобальном уровне, мы можем установить внутренние этические ориентиры для взаимодействия с ИИ.

И насколько это рабочая модель, на ваш взгляд? Ведь мы же сами ответственны за тот контент, который мы создаем. И мы сами задаем те вопросы, которые мы, собственно, формулируем.

Отличный вопрос. Я считаю, что самое ценное, что можно сделать с точки зрения этики общения с ИИ, это вкладываться в систему образования. Необходимо, чтобы ребенок получал определенную «прививку от идиотизма» через хорошее образование и воспитание.

Возьмем, к примеру, такую ситуацию: информацию о создании бомбы можно найти в интернете, но большинство людей не ищут и не используют эту информацию. Почему? Потому что у них есть этическая зрелость, которая говорит: «Я знаю, но не буду использовать». Это результат системы образования, а не регулирования ИИ.

Чрезмерное регулирование ИИ может привести к технологическому отставанию. Вместо этого нужно объяснять баланс между пользой и вредом новых технологий, включая ИИ.

Постоянное использование ИИ для решения всех задач может привести к деградации навыков мышления. Как при тренировках нет другого способа получить результат, кроме как упорно заниматься, так и с мышлением — нужно заставлять себя думать, анализировать, размышлять самостоятельно.

Какая ответственность лежит на нас, на тех людях, за которыми идет подрастающее поколение? Как мы должны себя вести и что говорить, чтобы они правильно моделировали свое общение с ИИ?

Мое глубочайшее убеждение, что детям можно что угодно говорить. Делать они будут ровно то, что видят, а не то, что слышат. То есть своим примером — это единственный способ.

У меня младший сын, ему 5,5 лет. Я себя постоянно дисциплинирую в нескольких элементах. Даже если я очень устал, мы берем и читаем бумажную книжку. Он видит, что папа тоже читает, и поэтому копирует.

Поэтому про телефон — если я понимаю, что сижу в нем слишком долго, я просто его убираю. Говорю, что бы я там сейчас ни делал, мне надо убрать, иначе он будет потом также в нем зависать.

Когда дело касается искусственного интеллекта, я объясняю, что есть такой помощник, но если он будет все за тебя делать, то ты не научишься. Я привожу пример с Лего: «Представь, что кто-то собирает, и ты просто смотришь. Тебе нравится? Нет, ты сам хочешь. Вот то же самое с ИИ.»

А еще важна тактильность. Учить вязать узлы, ставить палатки и прочее — это такой кайф.

Есть ли какой-то возраст, с которого детям можно давать доступ к нейросетям? Или они все равно сами получат к ним доступ?

Это сложный вопрос, сравнимый с доступностью нежелательного контента. Как говорила моя бабушка, «свинья везде найдет свою грязь». Ребенка трудно от чего-то полностью оградить. Я стараюсь формировать правильные привычки. Например, мы не смотрим рекламу, я комментирую это вслух, и теперь сын сам ее проматывает.

Что касается возраста доступа к ИИ, я не буду давать доступ еще несколько лет, а потом неизбежно дам, но постараюсь быть рядом. Я считаю ИИ одной из лучших форм обучения, если использовать его правильно.

Нейросеть-ассистент может быстро дать ответы на вопросы, на которые родители не знают ответа.

А нет опасности, что этот ассистент заменит родителей?

Это не просто опасность, а реальность. Машина будет частично заменять то, что сегодня является работой родителя. Но не стоит пугаться. Исторически мы уже делегировали часть воспитания детским садам и школам. Это технологический феномен, с которым нужно научиться жить, минимизируя вред и максимизируя пользу. Если верить Курцвейлу, то жить осталось недолго, потому что в 2042 году наступит сингулярность. Хотя я ему и не верю.

Ваш прогноз, что великий сверхинтеллект в 2042 все-таки не появится?

Нет. Я думаю, что некая разновидность AGI, не суперинтеллект, а средняя версия, появится существенно раньше. Например, DeepSeek показал уникальное решение с точки зрения системной архитектуры. Есть сервисы типа Perplexity, где под капотом несколько сетей и происходит некая магия из разных решений. Google тоже работает в этом направлении.

Я думаю, это произойдет не только в формате клавиатуры и голосового общения, но и с применением робототехники. Посмотрите на Boston Dynamics, Tesla, китайские, корейские и японские разработки.

В порноиндустрии Японии уже есть куклы, неотличимые от человека. Представьте, если в такой кукле будет GPT следующей версии. Это неизбежно, и фактически уже существует, вопрос только в тестировании и внедрении. И такие технологии могут усилить тенденцию к изоляции, которая уже наблюдается в Японии. Там есть феномен, когда люди предпочитают сидеть дома и минимально контактировать с внешним миром, полагаясь на технологии для удовлетворения своих потребностей.

А давайте немного попугаем людей. Какой ваш самый пессимистичный сценарий развития искусственного интеллекта?

Есть два сценария, которые меня беспокоят. Первый связан с военным применением ИИ. Текущие конфликты показывают, что будущее за теми, у кого технологии работают быстрее и лучше. Идет «война дронов», где ключевую роль играют разведка и маскировка, осуществляемые машинным интеллектом. Дроны могут ориентироваться даже без связи, используя оптику и заложенные алгоритмы. Сейчас решение о применении силы принимает человек, но рано или поздно это изменится ради скорости реакции. Тогда человек будет исключен из процесса принятия решений, что пугает.

Второй сценарий близок к «Дивному новому миру» Хаксли. Огромное количество рабочих мест исчезнет из-за ИИ. Уже сейчас компаниям рекомендуют оценивать, может ли задача решаться с помощью ChatGPT или Google Gemini, прежде чем нанимать сотрудников. Это ведет к расслоению общества. Появится группа «сверхлюдей», умеющих максимально использовать возможности ИИ. Один такой специалист, окруженный различными ИИ-системами, сможет заменить целую корпорацию.

В итоге может возникнуть серьезное расслоение между теми, кто владеет этими технологиями, и теми, кто не понимает их значимости. Как говорится, «сегодня без ИИ, завтра без работы».

Получается, что всем людям надо так или иначе осваивать навык общения с искусственным интеллектом?

Совершенно верно. Это похоже на эволюцию использования компьютеров. Еще недавно многие работали без них, решая задачи вручную. Потом появились компьютеры, и некоторое время была «мутная вода» — кто-то умел ими пользоваться, кто-то нет. Появилось понятие «айтишник».

Сейчас мы пришли к тому, что если человек не умеет базово обращаться с сетевыми сервисами, поиском, облачными хранилищами, видеоконференциями — его сложно держать на работе, он не знает базовых вещей. С искусственным интеллектом будет то же самое, но на стероидах. Разница в том, что видеосвязь — это простой инструмент, а сложные генеративные модели, которые появятся в этом году, потребуют серьезных навыков использования. С какого-то момента, если ты не умеешь формулировать что-то особенное, возникнет вопрос — зачем ты нужен? Ведь машина у всех будет одинаковая, а вот умение задавать правильные вопросы станет ключевым навыком.

А вот вопрос, как научиться, есть ответ на этот вопрос?

Да. Читать много книг, но избранных. Важна кросс-дисциплинарность и насмотренность. Много путешествовать, но не в формате all-inclusive, а познавая другие реальности. Это влияет на качество принятия решений. Также стоит преодолеть деление на гуманитариев и технарей. Сейчас нужно быть и инженером, и понимать математику, и знать историю. Важно зацепиться за несколько дисциплин, например, инженерное дело, маркетинг и психологию. Маркетингом вообще сейчас должны заниматься все, кто хочет достигать целей. Нужно уметь продавать себя, свой продукт и делать так, чтобы вас услышали.

Насколько ИИ используется в космической индустрии? Как это помогает развитию и освоению космоса? Вот Маск собирается на Марс. Долетим ли, не долетим? Может быть, ИИ поможет?

Космонавтика, безусловно, один из главных бенефициаров ИИ. Нам немного врут о роли человека в космосе. Человек — очень хрупкий прибор, требующий особых условий. Поэтому большинство миссий автоматизированы. Например, «Буран» был феноменом, так как взлетел и сел самостоятельно, корректируя траекторию при сильном боковом ветре. Это сделала машина.

Первые исследования дальнего космоса будут проводить машины, а не люди. Однако люди на Марсе будут, хотя бы из соображений маркетинга. Маск планирует отправить грузовик на Марс в 2027 году. Есть люди, готовые лететь в один конец, понимая риски. Проблемы Марса — низкая гравитация, отсутствие защиты от радиации, сложность выживания. Возможно, люди будут жить в пещерах.

Но сейчас нужно признать, что ИИ — это не форма жизни, но очень качественный ее персонаж. Именно эта форма «жизни» будет первой видеть закат на Марсе и восход на далеких планетах. Она покажет нам это через экраны.