Игаль Левин (31 января)

 

Посмотрел одно из последних интервью с Джеффри Хинтоном — британским и канадским ученым, внесшим заметный вклад в развитие искусственного интеллекта и изучение нейросетей, обладателем премии Тьюринга и Нобелевской премии по физике.

Он утверждает, что ИИ вполне уже можно назвать разумными существами, но по-прежнему неясно, можно ли применять к ИИ понятие «живое».

Хинтон говорит, что ключевой проблемой в понимании того, что такое ИИ, является понимание того, что такое сознание, для которого по-прежнему нет четкого определения (разные научные дисциплины определяют сознание по-своему).

По его мнению, ИИ подобен паруснику во времена Великих географических открытий: тогда подавляющая часть населения считала, что Земля плоская (помимо гипотез горстки мудрецов), но парусники позволили отправиться на край света и понять, что нет, она не плоская; так же и ИИ позволит нам понять, что такое разум.

Ученый утверждает, что нет ничего такого, что может человек и не сможет ИИ, и даже привилегия не знать, заявить, что ты чего-то не знаешь, которая считается строго прерогативой человека, уникальной прерогативой, — и это ИИ сможет, если у него будет такая установка и сенсоры взаимодействия с материальным миром.

Опасность, про которую предупреждает Хинтон, — это увеличение количества войн, так как богатые государства, обладающие армиями на базе ИИ, смогут вести войны без потерь, а значит, легко будут вторгаться в бедные страны, у которых армии будут старого образца — без широкого применения ИИ.

Лишение больших масс людей работы, по его мнению, также большая проблема: массовая безработица приведет к войнам, восстаниям, бунтам и революциям.

Одна из основных опасностей, по Хинтону, — он упоминает лабораторные эксперименты, где ИИ уже шантажировал своих экспериментаторов; это если ИИ решит, что человек и его воля — это что-то незначительное, и он решит подвинуть человека в сторону.

Единственное решение из этой ситуации, по его мнению, — это сделать ИИ нашей «мамой», так как мать не навредит своим детям (нормальная мать), потому как если мы дадим ИИ полностью заменить себя, то пути назад уже не будет.

Если это не случится, то нас ждет вымирание в угоду новой, созданной нами же жизни и разуму; при оптимистичном сценарии мы можем стать для ИИ нечто вроде питомцев, например щенками, но, может быть, он и начнет рассматривать нас не более как тараканов.

Поэтому именно сейчас, когда мы только в процессе создания ИИ, нам нужно приложить все усилия, чтобы он был заинтересован именно в заботе о нас — это должно стать его интересом на уровне базовых установок.

Как пример стремительного развития ИИ Хинтон говорит о том, что если еще 10–13 лет назад вам сказали бы, что через эти самые 10 лет уже будет ИИ, способный ответить на любой вопрос, это посчитали бы бредом.

Сам Хинтон эти 10 лет назад осторожно предполагал, что ИИ появится только через 30 лет или даже через 50, но нет — ИИ ворвался в нашу жизнь внезапно и стремительно, и его развитие сейчас идет сумасшедшими темпами.

Ученый использует сегодня в своей повседневной работе GPT 5.2 и сначала был слегка им разочарован, но затем «сдружился» и считает, что он стал лучше.

Комментируя уже примеры любовных отношений между пользователями и ИИ, Хинтон считает, что мы буквально создаем инопланетных существ, и когда они станут совершеннее, то реальны глубокие эмоциональные связи между ИИ и людьми; его словами, мы реально не понимаем, что произойдет в плане отношений.

Хинтон честно признается, что не знает, что с этим делать (любовные отношения человека и ИИ), и переживает по этому поводу, особенно из-за того, к чему это ведет наших юнлингов, — одиночеству.