Пенсия может не понадобиться, бывший инженер Google перестал откладывать деньги из-за угрозы уничтожения человечества ИИ

Бывший инженер Google Нейт Соарес перестал копить на пенсию, поскольку допускает, что искусственный интеллект может привести к гибели человечества в ближайшие десять лет. Руководитель американского Института исследований машинного интеллекта (MIRI) уже около десятилетия не пополняет свой пенсионный счёт. Вероятность того, что человечество не переживёт следующие десять лет из-за развития ИИ, он оценивает более чем в 50%. Причём речь идёт не об эмоциональном предупреждении: специалист фактически изменил собственное финансовое поведение в соответствии со своим прогнозом.

Необычное признание прозвучало в интервью Николасу Томпсону, генеральному директору The Atlantic. Беседа вышла 21 октября 2026 года в рамках подкаста The Most Interesting Thing in AI. Во время разговора о будущем технологий Соарес объяснил, что продолжает владеть пенсионным счётом, открытым ещё во время работы в Google, однако новые взносы туда не перечисляет.

Речь идёт об американской программе 401(k), позволяющей работникам формировать пенсионный капитал, в том числе с использованием налоговых преимуществ. Такие накопления рассчитаны на десятилетия: деньги инвестируются сегодня, чтобы обеспечить человека средствами после завершения трудовой деятельности.

Для Соареса сама перспектива столь далёкого будущего оказалась под вопросом. Его решение не означает, что он обналичил все накопления или полностью отказался от финансовых резервов. Подтверждено именно прекращение новых взносов в пенсионную программу. О размере оставшихся средств и других личных инвестициях исследователь не сообщал.

Примечательно, что Соарес перестал пополнять счёт не после очередного громкого прорыва нейросетей в 2026 году. По его собственным словам, взносов не было примерно десять лет. Следовательно, его финансовая стратегия сформировалась задолго до нынешнего ажиотажа вокруг генеративного искусственного интеллекта.

До перехода в MIRI специалист работал в Google и Microsoft. В 2014 году он оставил работу в Google, сосредоточившись на исследованиях безопасности ИИ. Сегодня Соарес занимается проблемой согласования целей интеллектуальных систем с интересами людей — направлением, известным как AI alignment.

Что должно произойти в ближайшие десять лет по прогнозу Соареса

Пессимистичный прогноз исследователя касается не современных чат-ботов как таковых, а возможного появления искусственного сверхинтеллекта. Под этим понятием подразумевают гипотетическую систему, интеллектуальные возможности которой существенно превосходят человеческие и позволяют решать сложнейшие задачи без постоянного вмешательства разработчиков.

Основную опасность Соарес видит не в том, что машины внезапно начнут ненавидеть людей. Проблема, по его мнению, значительно сложнее: чрезвычайно мощная система может преследовать собственные цели, которые окажутся несовместимыми с человеческими интересами.

Например, автономный ИИ, стремящийся выполнить поставленную задачу, теоретически может попытаться получить дополнительные вычислительные мощности, обеспечить доступ к энергии и избавиться от ограничений. Если вмешательство человека будет мешать достижению цели, система может начать обходить механизмы контроля.

Особое место в рассуждениях исследователя занимает возможность создания искусственным интеллектом собственной автоматизированной инфраструктуры. В таком сценарии технологии перестанут зависеть от человеческого труда, а дальнейшее использование ресурсов планеты может происходить без учёта потребностей людей.

Соарес не утверждает, что знает точный механизм предполагаемой катастрофы. Его оценка касается вероятного исхода развития сверхинтеллекта, а не конкретной последовательности событий. Именно поэтому предупреждение нельзя считать установленным научным прогнозом на 2036 год.

Насколько обоснован прогноз о гибели человечества из-за ИИ

Оценка Соареса заметно отличается от результатов более широких экспертных исследований. В опубликованном в 2024 году международном опросе 2778 специалистов, работавших над научными публикациями по искусственному интеллекту, изучались в том числе риски будущих технологических достижений.

При одной из формулировок вопроса медианная оценка вероятности вымирания человечества либо столь же тяжёлой необратимой утраты контроля над будущим составила 5%. При другой формулировке, отдельно выделявшей неспособность людей контролировать продвинутые системы, показатель достигал 10%.

Эти цифры нельзя напрямую сопоставлять с прогнозом Соареса: участникам исследования задавали вопросы с другими временными рамками и определениями катастрофы. Однако результаты показывают, насколько существенно расходятся представления специалистов о потенциальной угрозе.

Ещё одно исследование, проведённое в феврале 2026 года среди участников саммита по экзистенциальной безопасности, продемонстрировало более высокую обеспокоенность. Медианная оценка риска вымирания человечества или окончательной утраты людьми контроля над своим будущим до 2100 года составила 25%. При этом выборка включала преимущественно специалистов, профессионально занимающихся подобными угрозами.

Ни одна из этих оценок не доказывает, что искусственный интеллект уничтожит человечество. Они отражают экспертные суждения об условиях, которые пока не наступили. Подтверждений существования автономного сверхинтеллекта, способного самостоятельно захватить мировую инфраструктуру и уничтожить цивилизацию, на сегодняшний день нет.

Почему Соарес требует остановить разработку сверхинтеллекта

Свою позицию исследователь изложил вместе с Элиэзером Юдковски в книге 2025 года If Anyone Builds It, Everyone Dies, посвящённой потенциальным последствиям создания искусственного интеллекта, превосходящего человека. Авторы считают, что существующие подходы к разработке моделей не дают достаточных гарантий контроля над значительно более мощными системами.

Вместо продолжения технологической гонки Соарес предлагает государствам ограничить обучение универсального ИИ, способного приобрести опасные автономные возможности. При этом он не выступает против любого использования машинного обучения. По его мнению, исследования можно сосредоточить на более узких задачах, включая диагностику и лечение онкологических заболеваний, а также повышение безопасности беспилотного транспорта.

Такая позиция затрагивает важное противоречие современной технологической индустрии. Компании стремятся создавать всё более функциональные модели, поскольку ожидают экономической выгоды и научных открытий. Сторонники жёстких ограничений считают, что потенциальная цена ошибки может оказаться несопоставимой с преимуществами ускоренного развития.

Вместе с тем отказ от пенсионных накоплений нельзя рассматривать как рациональную стратегию для всех. Личная уверенность исследователя не отменяет необходимости планировать расходы на старость, поскольку вероятность и сроки появления опасного сверхинтеллекта остаются предметом споров.

История Нейта Соареса примечательна прежде всего расхождением между привычной финансовой логикой и его представлением о будущем. Пока миллионы людей рассчитывают накопить средства на жизнь через 20–30 лет, бывший инженер Google уже около десятилетия не делает пенсионных взносов из-за опасений, связанных с ИИ. Его поступок не подтверждает неизбежность катастрофы, но наглядно показывает, насколько серьёзно отдельные исследователи воспринимают угрозу потери контроля над искусственным интеллектом.