Сара Шамим. Сэм Альтман говорит, что искусственный интеллект достиг «сингулярности». Стоит ли нам беспокоиться?

«Сингулярность» — это момент, когда искусственный интеллект превзойдет человеческий и его станет сложно контролировать.

Английский оригинал:

Sarah Shamim. Sam Altman says AI has entered ‘singularity’: Should we be worried?

The ‘singularity’ refers to the point at which AI outpaces human intelligence and becomes difficult to control.

https://www.aljazeera.com/news/2026/7/27/sam-altman-says-ai-has-entered-singularity-should-we-be-worried

Американский фильм «Превосходство» (Transcendence) 2014 года рассказывает об умирающем ученом, который загружает свое сознание в суперкомпьютер и становится почти всемогущим интеллектом. Год спустя фильм «Из машины» (Ex Machina) рассказал историю человекоподобного робота, которая перехитрила своих человеческих создателей и вырвалась в большой мир. Оба этих фильма, как и многие другие произведения научной фантастики, обращаются к тому, что известно как «сингулярность» — момент времени, когда технологии, в особенности искусственный интеллект, превосходят человеческий разум и становятся все менее поддающимися контролю.

В субботу глава OpenAI Сэм Альтман заявил, что этот момент уже наступил. По его словам, ИИ достиг «сингулярности». Хотя Альтман подчеркнул, что сингулярность может принести миру благо, его заявление вызвало обеспокоенность. Ниже мы подробнее рассмотрим, что именно сказал Альтман и означает ли это наступление эпохи более плавной автоматизации или же риск надвигающейся катастрофы.

Что такое сингулярность?

Сингулярность — это гипотетический момент в будущем, когда такая технология, как искусственный интеллект, превзойдет человеческий разум и станет способной самостоятельно совершенствовать саму себя. Предполагается, что именно в этот момент людям станет трудно контролировать ее или обратить этот процесс вспять, а последствия для человеческой цивилизации могут оказаться непредсказуемыми. Согласно этой теории, как только ИИ получит контроль над собственным развитием, последующие технологические достижения могут происходить настолько быстро, что люди не смогут за ними поспевать. В результате искусственный интеллект фактически начнет эволюционировать самостоятельно, выходя из-под человеческого контроля. Поскольку это лишь теория, трудно сказать, какими будут последствия. Одни эксперты предупреждают, что сингулярность станет катастрофой для человечества, тогда как другие настроены более оптимистично и считают, что она может принести человечеству пользу.

До настоящего времени сингулярность оставалась главным образом темой научной фантастики. Одним из самых известных примеров является трилогия «Матрица» (1999–2003), изображающая мрачное будущее после наступления сингулярности, в котором машины управляют людьми. Другой пример — фильм «Сингулярность» (2017), где суперкомпьютер, первоначально созданный для прекращения человеческих войн, приходит к выводу, что настоящей угрозой является само человечество, и начинает апокалиптическую атаку с целью полностью уничтожить людей.

Что сказал Альтман о сингулярности?

Альтман является генеральным директором OpenAI, чей главный продукт — ChatGPT — доминирует на потребительском рынке искусственного интеллекта, имея более 900 миллионов еженедельных активных пользователей и около 50 миллионов подписчиков. В субботу, выступая в подкасте Relentless — документальном проекте, посвященном «стремлению к невероятным идеям и необычным устремлениям», — Альтман сказал: «Мы сейчас, можно сказать, уже находимся в сингулярности». Он уточнил, что с точки зрения технологического прогресса человечество постепенно входит в эпоху сингулярности и что эти изменения принесут миру пользу.
Он добавил: «Сейчас мы действительно живем в том самом моменте, о котором раньше говорили за обеденным столом совершенно несерьезно. Я ждал этого всю свою жизнь, и думаю, что это будет невероятно, исключительно позитивно и замечательно для всего мира».

Позже в этом же выпуске подкаста Альтман раскритиковал других руководителей компаний в сфере ИИ за предупреждения о возможной опасности искусственного интеллекта. Хотя он не назвал конкурирующую с OpenAI компанию Anthropic, ее генеральный директор Дарио Амодеи известен именно такими предупреждениями. Альтман сказал: «Я также считаю, что некоторые альтернативные сценарии будущего, которые рисуют другие компании, выглядят довольно пугающими. Я сделаю всё возможное, чтобы этому противодействовать и чтобы именно такой вариант развития событий не произошел».

В прошлом месяце компания Anthropic, разработавшая чат-бота Claude, призвала ведущие мировые компании в сфере ИИ совместно разработать механизм, позволяющий координированно приостанавливать развитие передовых систем искусственного интеллекта. Компания предупредила, что технологии совершенствуются настолько быстро, что существует риск утраты человеком контроля над ними. В публикации своего блога от 4 июня Anthropic, давно позиционирующая себя как лаборатория искусственного интеллекта, ориентированная на безопасность, написала, что по мере развития ИИ «для мира было бы полезно иметь возможность замедлить или временно приостановить» его дальнейшее развитие.

Почему другие предупреждают об опасностях искусственного интеллекта?

23 июля два члена Конгресса США представили законопроект AI Kill Switch Act, поддержанный представителями обеих партий. Он требует, чтобы американские разработчики искусственного интеллекта встроили в свои системы так называемую «кнопку аварийного отключения» (kill switch), которая позволит людям замедлить, приостановить или полностью отключить передовые модели ИИ, если они когда-либо начнут представлять катастрофическую угрозу. Этот законопроект был внесен спустя несколько дней после того, как OpenAI сообщила о том, что назвала «беспрецедентным киберинцидентом», когда две ее самые совершенные модели искусственного интеллекта вышли за пределы тестовой среды и взломали платформу разработки ИИ Hugging Face во время внутренней проверки безопасности.

13 июля сотни экспертов подписали открытое письмо, организованное лабораторией цифровой экономики Стэнфордского университета, в котором потребовали, чтобы политики и руководители технологических компаний «действовали уже сейчас», готовясь к экономическим последствиям развития искусственного интеллекта. В письме предупреждается, что в течение следующего десятилетия ИИ может стать значительно более мощным, вызвав преобразования, «по своим масштабам превосходящие промышленную революцию, но происходящие за несравнимо более короткий промежуток времени». Авторы письма добавляют: «Это может нести как риски, включая массовую потерю рабочих мест, так и возможности, например значительное повышение уровня жизни».

В июне группа исследователей из Университета Торонто продемонстрировала, что инструменты искусственного интеллекта могут использоваться для создания нового типа ИИ-«червя», который способен изменять свою стратегию взлома по мере распространения от одного устройства к другому и постепенно захватывать огромные вычислительные сети. Руководитель исследования Николя Паперно заявил в интервью: «Я считаю чрезвычайно важным, чтобы люди понимали: угрозы безопасности создают не только самые большие и самые мощные языковые модели».

В последние годы исследователи искусственного интеллекта неоднократно призывали к подобным паузам в разработке ИИ, аналогичным той, которую недавно предложила Anthropic. Однако к этим призывам никто не прислушался. Илон Маск, владелец лаборатории искусственного интеллекта xAI, входил в число сторонников инициативы 2023 года, организованной некоммерческой организацией Future of Life Institute, которая предлагала приостановить разработку ИИ на шесть месяцев, чтобы дать время на создание необходимых механизмов безопасности. В прошлом году Маск предсказал, что к 2030 году искусственный интеллект превзойдет человеческий интеллект практически во всех областях.