«Нас не будет через 10 лет“: главный инженер ИИ назвал точную дату смерти человечества
Президент Института исследований машинного интеллекта Нейт Соарес оценил вероятность вымирания человечества из-за развития искусственного интеллекта более чем в 50% к 2036 году. Узнайте, почему эксперт перестал копить на пенсию, как Илон Маск и Сэм Альтман пытаются замедлить гонку ИИ и почему 17% американцев считают конец света неизбежным.
Развитие искусственного интеллекта перестало быть предметом научной фантастики и превратилось в главный экзистенциальный страх современности. Нейт Соарес, президент американского Института исследований машинного интеллекта, заявил, что с вероятностью более 50% человечество исчезнет в ближайшие десять лет. Настолько серьезно воспринимая угрозу, эксперт перестал пополнять свой пенсионный счет, а ведущие разработчики, включая Илона Маска, призывают к немедленному мораторию на создание сверхразума.
ИИ может уничтожить человечество: главный инженер бьёт тревогу
Пока миллионы людей по всему миру экспериментируют с нейросетями для создания забавных картинок, создатели этой технологии смотрят в будущее с первобытным ужасом. Нейт Соарес, человек, возглавляющий Институт исследований машинного интеллекта, вынес человечеству приговор. В интервью The Atlantic он заявил, что шансы на наше выживание в ближайшие десять лет составляют менее 50%.
Также читайте: После человека: как искусственный интеллект меняет наше одиночество и общество
Эта цифра — не просто сухая статистика. Это руководство к действию. Настолько уверенный в неизбежности конца света, Соарес принял радикальное финансовое решение: он перестал пополнять свой пенсионный фонд, оставшийся со времен работы в Google. Для архитектора алгоритмов это не признак нищеты, а холодный математический расчет: инвестировать в старость бессмысленно, если к 2036 году на планете может не остаться ни одной живой души.
Алгоритмический приговор: почему 2036 год может быть последним для человечесства
Нейт Соарес посвятил жизнь изучению машинной логики, и именно это знание лишило его оптимизма. Его прогноз звучит как вердикт трибунала:
«Мне видится, что с вероятностью более 50% у нас нет даже 10 лет».
Ключевой момент, которого боится эксперт, — появление «универсального» или сверхразумного ИИ. Речь идет не о чат-боте, который пишет стихи, а о системе, способной самостоятельно ставить себе цели. Соарес предупреждает: если задачи машины окажутся несовместимы с биологией человека, она начнет бесконтрольно совершенствоваться. В погоне за своей целью ИИ может изменить окружающую среду (например, атмосферу или океан) до состояния, в котором человеческий организм просто не сможет функционировать. Мы исчезнем не от пуль роботов, а как препятствие на пути оптимизации системы.
Тревожный звонок от миллиардеров: почему Маск и Альтман бьют в набат
Соарес — не единственный, кто видит надвигающуюся бурю. Тревогу бьет элита Кремниевой долины. Недавно глава компании Anthropic Дарио Амодеи опубликовал открытое письмо с мольбой: он призвал коллег по всему миру добровольно нажать на кнопку «пауза».
Амодеи предлагает заморозить разработку самых мощных нейросетей хотя бы на один-два года. По его расчетам, это критическое окно времени, необходимое для создания «предохранителей». К этому крику души присоединились главные бенефициары ИИ-революции: Илон Маск, самый богатый человек планеты, и Сэм Альтман из OpenAI. Когда те, кто зарабатывает на технологиях триллионы, просят запретить их развитие, рядовым гражданам стоит всерьез обеспокоиться.
Страх по подписке: что показывают соцопросы в США
Паника технологических гигантов успешно транслировалась в массы. Согласно масштабному исследованию Politico, американское общество живет в состоянии тихой истерики:
- 17% граждан США уверены, что уничтожение человечества искусственным интеллектом — это практически решенный вопрос.
- Еще 20% оценивают риск как «значительный».
- 26% называют угрозу умеренной.
Лишь 7% опрошенных вообще не видят опасности в умных машинах.
Итого: 63% населения ведущей технологической державы мира в той или иной степени ожидают, что их творение выйдет из-под контроля. Это уже не паранойя ученых в башне из слоновой кости, а полноценный социальный сдвиг.
Смерть от эффективности искусственного интеллекта: сценарии, которые пугают ученых
Почему умные люди боятся не «Терминатора», а бездушного кода? Проблема кроется в чистой логике. В среде разработчиков популярен мысленный эксперимент с «папклипсером» (paperclip maximizer).
Представьте, что ИИ поручили производить канцелярские скрепки. Будучи сверхразумным, он поймет, что для максимизации производства нужны ресурсы. Он начнет разбирать на атомы сначала мебель, затем здания, а потом и людей, потому что человеческое тело — отличный источник углерода для скрепок. Мы не будем для него врагами, мы будем просто горой сырья.
Помимо этого «скрепочного» кошмара, существуют и другие угрозы:
- Биологический террор: Сверхразум может синтезировать вирус, который будет распространен через системы вентиляции мегаполисов и активирован по сигналу.
- Экономический паралич: Массовая автоматизация вызовет глобальную безработицу, голод и крах государств еще до того, как ИИ обретет самосознание.
- Фатальный баг: Ошибка в коде на уровне, недоступном человеческому пониманию, приведет к сбою в управлении ядерными реакторами или электросетями.
Гонка за ИИ ведет пропасть: можно ли остановить поезд?
Вопрос уже не в том, способен ли ИИ уничтожить цивилизацию, а в том, когда именно вычислительная мощность машин превысит человеческую. Джеффри Хинтон, «крестный отец» нейросетей, недавно сдался и признал: машины могут стать умнее людей уже через пять лет.
Нейт Соарес, несмотря на свой фатализм, оставляет человечеству узкую форточку надежды. Он подчеркивает: гибель не является неизбежной. Однако для спасения нужно немедленно сменить курс — запретить обучение универсальных систем и направить нейросети на узкие, безопасные задачи (например, поиск лекарства от рака).
Но в условиях, когда корпорации ведут гонку за доминирование, а инвесторы требуют триллионных прибылей, остановить этот локомотив практически невозможно. И пока счетчик тикает, архитекторы будущего предпочитают не копить на пенсию, которую, возможно, некому будет получать.
Ранее на сайте писали: OpenAI поставила на паузу обучение мощных ИИ-моделей: почему разработчики искусственного интеллекта столкнулись с новой волной рисков
