Искусственный Интеллект — интуиция «на стероидах»?

«Приготовьтесь услышать страшную правду: на самом деле, ChatGPT – это Т9 из вашего телефона, но на бычьих стероидах! Да, это так: ученые называют обе этих технологии «языковыми моделями» (Language Models); а всё, что они по сути делают, – это угадывают, какое следующее слово должно идти за уже имеющимся текстом.»
«Как работает ChatGPT: объясняем на простом русском эволюцию языковых моделей»

Одна из идей, навеянная недавним хайпом с ЧатомГПТ — что, оказывается, язык (и вообще план выражения) независим от реальности в гораздо большей степени, чем мы думали. Наивное представление о языке такое: есть слова, они соответствуют вещам. Или абстрактным идеям, или действиям, но так или иначе — называют. И такие слова действительно имеются. Например, имена собственные. Но уже Соссюр (основоположник языкознания) показал, что язык устроен не так. Значение слова определяется не столько реалиями, а прежде всего — соотношением с другими словами. В русском стол — это и письменный и обеденный стол, а в английском table и desk — разные слова. Не потому что реалии разные, а потому что просто есть такие слова (хотя реалии до какой-то степени тоже влияют, но на 99% определяется самим языком).

Похоже и здесь. Логично было считать, что для понимания текста (например, для успешного перевода с языка на язык) нужно иметь какую-то модель реальности. По такому принципу в 1970-80 строилась Теория «Смысл — Текст» Мельчука, которая теперь считается тупиковой ветвью теории машинного перевода. Гугл-переводчики или ЧатГПТ работают не так. Им не нужен смысл и не нужна семантика. Они работают по принципу автокорректора «на стероидах«. Руководствуясь языковым опытом, они просто угадывают, что нужно сказать, не имея не малейших предствлений или моделей реального мира.

И оказывается, это работает! При достаточной сложности системы, ИИ чат может находить решение задач, которые никто до него не решал! Задумаемся об этом: ставится задача, например, не знаю там, найти новое лекарство. ИИ ничего не знает о биохимии, он вообще ничего не знает о реальном мире. Он имеет лишь множество разных текстов. И вот этакая «языковая интуиция на стероидах» вроде бы позволяет, иногда, находить решения задач, ничего не зная о предметной области.

Это удивительно и, на мой взгляд, свидетельствует о какой-то связности далеких элементов как языка, так и реального мира. Грубо говоря, если ИИ может таким образом придумать новое лекарство, выходит, устройство лекарств довольно жестко зависят от множества других, на первый взгляд не связанных реалий.

Вместо устройства лекарств можно подставить что угодно. Чтобы открыть Америку, Колумбу теперь не нужно снаряжать экспедицию. Достаточно пристально посмотреть на другие вещи (вроде морских и воздушных течений, сейсмических волн, или эволюции флоры и фауны) и открытие Америки можно вывести из текстов или из данных (кстати, планета Нептун была открыта именно так, как и Плутон, хотя с открытием последнего имело место некое недоразумение, Плутон открыл несмотря на ошибку в расчетах Персиваля Лоуэлла, очень уж хотелось).

И вот получается, что сведения о реалиях и не очень нужны. В языке как в голограмме все уже содержится, язык самодостаточен. Я имею в виду конечно, не собственно язык, а совокупность текстов. К языку отношу не только грамматические отношения между словами, но и между предложениями, абзацами, главами, книгами. То есть «грамматику на стероидах«, если продолжать пользоваться метафорой исследователей ЧатГПТ, которые сказали, что чат — это та же программа, подсказывающая слово при наборе в телефоне, только, мол, «на стероидах».

Скорее всего, уровень языка не очень-то связан с уровнем реальности, аналогично, скорее всего мысли и идеи в человеческом мозгу не очень локализуются в нейронах. Вообще, уровень идей и восприятия весьма оторван от реальности. Это касается многих наших понятий.
Известно, что понятие цвета — субъективно, а не физично. Цвет не длина волны и не точка в пространстве RGB, а субъективно воспринимаемое ощущение (разные животные и даже разные люди видят цвета по-разному, в зависимости от устройства колбочек сетчатки). Можно спорить о том, биологически или культурно обусловленное.

То же относится ко вкусу, какой-нибудь вкус вроде умами (旨味) едва ли можно свести к паре рецепторов (хотя пытаются, и есть успехи). Он субъективен и существует в мире идей, а не в мире реалий.

Аналитические философы сказали бы, что это квалиа, но что такое квалиа, они не понимают.

Аналогично и язык описания вина. Ему не нужен химический сенсо-метаболом, он существует в своем мире.

ИИ-чатботы вроде ЧатГПТ полагаются не на логические модели реальности, а на очень развитую, натренированную на множестве текстов, языковую интуицию. Оказывается, чтобы придумать новое лекарство, например, от рака, не обязатально учить биохимию и выстраивать сложные модели. Достаточно изучить огромный корпус текстов на эту и на множество связанных и не связанных других тем, где рецепта такого лекарства заведомо нет. И потом по аналогии создать текст рецепта. И… удивительным образом этот рецепт вдруг работает (иногда, по крайней мере). Это интуитивный, а не логический метод решения задачи.

Если действительно считать, что успех ИИ как языкового процессора, неожиданно научившегося выводить знания о реальности, связан с некой особой связностью реальности (у нее нет другого выбора, кроме как соответствовать интуиции), то интересно задуматься о какой связности речь.

В классической философии (Кант, плюс-минус) меня всегда озадачивало понятие «единства апперцепции». Его трактуют немного по-разному разные мыслители. Но в целом это определенный предел, на который наталкивается философия, и одно из понятий, которое приходится постулировать. После того как выяснили, что существуют субъект, и вещи в себе, и явления, и априорные формы восприятия, и идеи, и абстракции, и абстрактные формы, и математика, и измеряемое, и то, при помощи чего измеряют, и единицы измерения, и наблюдатель, и тому подобное, оказывается нерешенной проблема, а почему субъект (о котором мы ничего не знаем) вообще тождественен самому себе? И приходится постулировать трансцендентальное единство апперцепции.

Похожим образом современная аналитическая философия, которая говорит, что все есть тексты, наталкивается на предел, когда вводит понятие «квалиа«. Тексты текстами, а вот от ощущений куда деваться? Хотя их описания тоже тексты, но они же есть.

А как же то единство реальности, заключенной в тиски текстовой интуиции, о котором речь шла выше — наверно, оно тоже как-то с этим связано?