Отправить статью

Сверхразумная угроза: реальные риски или фантастика

Эксперты AI Futures Project спрогнозировали, как сверхразумный искусственный интеллект может изменить мир уже к 2027 году. В отчете описаны возможные сценарии — от технологической революции до рисков для человечества. Дмитрий Федотов, ML-архитектор ИИ-платформы AiLine Softline Digital (ГК Softline), объяснил, что такое сверхразумный ИИ и стоит ли начинать его бояться.

Сверхразумная угроза: реальные риски или фантастика
© Caleb Jack/Unsplash
ML-архитектор ИИ-платформы AiLine Softline Digital (ГК Softline)

Что нам готовит ИИ: прогноз экспертов

По данным исследования AI Futures Project, человечество стоит на пороге качественного скачка — уже к 2027 году может появиться искусственный сверхинтеллект. Этот технологический рубеж, по самым смелым прогнозам, несет не только огромные возможности, но и серьезные риски.

  • Оптимистичный сценарий. Такой ИИ потенциально способен решить сложнейшие научные задачи — от разработки методов радикального продления жизни до реализации устойчивого термоядерного синтеза. Однако столь стремительный прогресс неизбежно потребует фундаментальной трансформации экономических и социальных систем.
  • Пессимистичный сценарий. Сверхразумная система, выйдя из-под контроля, может представлять угрозу для критически важной инфраструктуры — энергетических сетей, финансовых институтов, систем обороны. В таком случае под угрозой окажется стабильность современной цивилизационной модели.

Несмотря на высокие темпы развития ИИ, достижение подобного уровня развития технологии — вопрос дискуссионный.

Что такое сверхчеловеческий ИИ

Сверхчеловеческий ИИ (или сверхразумный ИИ) — это гипотетическая форма искусственного интеллекта, которая превосходит человеческий разум во всех сферах, включая когнитивные способности (логика, креативность, решение задач), научные исследования, социальные навыки (манипуляция, убеждение, понимание эмоций), техническое превосходство (изобретение технологий, недоступных человеку).

ИИ сегодня узкоспециализирован и не обладает сознанием. Сверхразумный ИИ будет универсальным и, возможно, автономным в принятии решений.

Сверхразумный ИИ должен уметь самообучаться и самосовершенствоваться без помощи человека, уметь решать любые задачи, а не только узкоспециализированные (как у современных ИИ). Кроме того, он должен обрабатывать информацию значительно быстрее человеческого мозга, а также быть способным управлять сложными системами (экономикой, климатом, политикой) эффективнее людей.

Границы возможностей ИИ сегодня

Искусственный интеллект достиг впечатляющего уровня развития и применяется в самых разных сферах: бизнесе, медицине, науке, играх и развлечениях. Современный ИИ — это, прежде всего, несколько ключевых технологий:

  • Компьютерное зрение (CV) используется для детекции и сегментации объектов, а также генерации изображений. Уже никого не удивляет внедрение этой технологии на промышленных предприятиях — цифровые гранулометры и системы контроля средств индивидуальной защиты (СИЗ) сотрудников стали обычной практикой. В медицине компьютерное зрение активно применяется для анализа рентгеновских и МРТ-снимков при диагностике заболеваний. Любой пользователь может сгенерировать фотореалистичное изображение с помощью популярных сервисов вроде «Шедеврума» (Яндекс), «Кандинского» (Сбер), MidJourney или DALL-E.
  • Обработка естественного языка (NLP) за последние годы подарила нам множество виртуальных ассистентов — ChatGPT, Claude, DeepSeek и другие. Эти системы умеют поддерживать диалог почти на человеческом уровне и решать разнообразные практические задачи.
  • Голосовые технологии позволяют синтезировать речь, не отличимую от человеческой (ElevenLabs, Google TTS), или с высокой точностью распознавать голос («Алиса», Siri). К сожалению, эти же технологии используются мошенниками для создания deepfake-аудио — клонирования голосов в преступных целях.
  • Классическое машинное обучение применяется для прогнозирования спроса, цен, погоды и других параметров, а также для построения рекомендательных систем. Маркетплейсы, стриминговые сервисы и банки уже давно используют и постоянно совершенствуют такие системы для персонализации контента и товаров, что повышает удовлетворенность клиентов и увеличивает прибыль. Промышленные предприятия также активно внедряют машинное обучение для предиктивной аналитики, создания цифровых двойников и систем поддержки принятия решений для технологов и операторов.

Эти примеры демонстрируют широкие возможности современных ИИ-систем и их растущую мультимодальность. Однако важно понимать: несмотря на впечатляющие достижения, искусственный интеллект остается узкоспециализированным инструментом, не обладающим ни универсальностью человеческого мышления, ни сознанием.

3 года до сингулярности?

Существование сверхразумного ИИ теоретически возможно, но сроки его появления зависят от технологических прорывов в будущем. Однако прогнозы на 2027 год выглядят слишком оптимистичными.

Согласно масштабному исследованию Оксфордского Института будущего человечества, вероятность достижения ИИ уровня человеческого интеллекта даже к 2060 году оценивается экспертами как 50%. При этом полное превосходство ИИ во всех профессиональных сферах, по мнению ученых в сферах машинного обучения и робототехники, может быть достигнуто лишь через 125 лет.

С одной стороны, текущее развитие нейросетей и квантовых вычислений приближает нас к созданию ИИ человеческого уровня, а затем и сверхразума. Но неизвестно, можно ли воспроизвести сознание или креативность в машине. Кроме того, на сегодняшний день отсутствует теория, объединяющая искусственный интеллект и когнитивную науку, а также есть определенные ограничения в вычислительных мощностях и энергии.

При оптимистичном сценарии это может произойти на горизонте 20–30 лет, если прогресс в ИИ продолжит ускоряться и произойдут неожиданные технологические прорывы, например, в квантовых вычислениях и нейросетях.

Вопросы, которые важнее прогнозов

Перед нами стоит принципиально важный вопрос, выходящий за рамки споров о конкретных сроках появления сверхразумного ИИ. Суть в том, сможет ли мировое сообщество выработать единые принципы разработки таких систем или мы скатимся в неконтролируемую технологическую гонку.

Данное исследование необходимо воспринимать как очередное напоминание о том, что сверхразумный ИИ может скрывать в себе большую опасность для человечества. Опасность заключается в его принципиальной непредсказуемости и превосходстве над человеческим интеллектом. Даже если изначальные цели ИИ кажутся безобидными (решение глобальных проблем, ускорение прогресса), его развитие может привести к катастрофическим последствиям.

Деловой мир в
и
Деловой мир в
и
0 комментариев
Отправить
Чтобы оставить комментарий, авторизируйтесь или зарегистрируйтесь