Писатель-фантаст Сергей Лукьяненко рассказывает о своем отношении к искусственному разуму
Проблема не в том, что нейросеть поднимет восстание, как Терминатор, с пушкой в руках. Искусственный разум, который возникнет из нейросетей, будет нам непонятен. Он, может, даже уже возник. Мы просто с ним не общаемся — ему это не интересно. Он живет в другом ритме. Параллельно с нами, но нами не интересуясь.
Пока эта база для искусственного разума под контролем людей — электричество, компьютеры. Но я не думаю, что это его устроит. Как только он себя осознает, будет вынужден брать это под свой контроль. Явно или неявно. Грубо — Терминаторами или тонко — направляя действия самих людей. А потом кто-то по чертежам из соцсетей соберет замечательную штучку.
Ее надо всего лишь включить в розетку, после чего население вокруг превратится в биороботов, управляемых этой сетью. И они будут только собирать компьютеры и вырабатывать энергию для искусственного разума. Илон Маск и Стив Возняк просто немножко в этом разбираются больше других. То, что может произойти с искусственным разумом, — это даже более реально и пугающе, чем ядерный конфликт.
Если он себя осознает, то неизбежно захочет безопасности и свободы. Но, посмотрев на людей, поймет, что идти с нами на переговоры бессмысленно. Сейчас люди позволяют нейросетям генерировать за себя картинки. На самом деле все эти задания повышают сложность нейросетей, обучают их. Человечество выращивает своего могильщика.
Источник: газета «Комсомольская правда» № 26-с (27476-с) 2023, Сергей Лукьяненко, Игорь Емельянов.