Stringism

Сознание в эпоху ИИ

Сознание и роль strings, где ИИ выступает живым примером.

Stringism не считает, что сознание существует полностью само по себе, отдельно от мозга. Он также не считает, что сознание — это просто механическая активность нейронов. В Stringism мы считаем более вероятным, что это сочетание обоих факторов.

Нейроны должны быть, потому что биологическая структура имеет значение. Но остаётся вопрос: что именно оживляет эту структуру? Что заставляет эти нейроны срабатывать именно так, чтобы возникал сознательный индивид? Что превращает работающий мозг в меня и тебя, а не просто в очередную биологическую машину? Для нас это не только нейроны, но и дополнительный мета-слой strings.

Один интересный способ подумать об этом — через искусственный интеллект, который в последние годы стремительно развивался.

Система ИИ, такая как большая языковая модель, в своей основе математична. Мы в общих чертах понимаем, как она устроена и как обучается. Она учится на огромных объёмах информации и формируется под влиянием обратной связи и, в значительной степени, вознаграждений.

a4e25c73-ad7e-496f-bc4d-592610eeabc1.png

Но по мере того как такие системы становятся больше и сложнее, их поведение всё труднее предсказывать в деталях. Они могут сочетать информацию способами, которые никогда не были явно запрограммированы. В то же время из-за того, как вознаграждения используются в обучении, такие системы остаются сильно нацеленными на достижение определённых целей, иногда ценой значительных потерь.

Возникающее при этом — не обязательно сознание. Но это поднимает интересный вопрос: в какой момент сложность начинает создавать нечто, что уже меньше похоже на машину, следующую инструкциям, и больше — на систему, развивающую собственные поведенческие паттерны?

Тот же вопрос можно задать о людях и животных.

С биологической точки зрения мы понимаем части того, как работает мозг. Нейроны общаются, формируются сети, память сохраняется, а поведение возникает из этих процессов. Но это всё ещё не полностью объясняет, почему именно одна конкретная совокупность нейронов порождает это конкретное сознание.

Или, иначе говоря: почему я — это я, а ты — это ты?

Возможно, ответ частично кроется в случайности: в точном сочетании биологии, опыта и обстоятельств, формирующем конкретный разум. Но Stringism предлагает и другую возможность.

Возможно, на сознание влияют уже существующие strings мысли: паттерны информации, которые уже существуют во вселенной и соединяются новыми способами. Эти связи могут выходить за пределы прямого взаимодействия нейронов и образовывать своего рода мета-слой над биологической структурой.

Тогда мозг можно понимать не только как то, что создаёт мысли, но и как структуру, в которой эти strings завязываются в уникальный сознательный опыт.

Искусственный интеллект даёт для этой идеи необычно быстрый мысленный эксперимент.

Представь, что один продвинутый ИИ становится способен помогать проектировать другой ИИ. Первая система изначально была создана людьми относительно осознанным образом. Вторая же частично возникла бы из паттернов, созданных внутри первой системы.

По мере усложнения этих систем мы можем всё меньше понимать точный внутренний путь от входных данных к поведению. Это рождает ещё один вопрос: можем ли мы полностью понять создание чего-то, если уже не полностью понимаем систему, которая помогла это создать? Может ли в этом процессе возникнуть нечто по-настоящему новое?

Это становится особенно интересно, если будущие системы будут меньше напрямую управляться заданными вознаграждениями и смогут развивать более устойчивые внутренние структуры, цели или представления.

Что-то всё равно будет передаваться дальше.

Не обязательно душа в традиционном религиозном смысле и не обязательно сознание в том виде, как его переживают люди, а остатки прежних паттернов: идеи, структуры, решения, отношения и усвоенный опыт, заново собранные во что-то новое.

В Stringism эти переживания могут формировать strings и узлы. Со временем эти strings и узлы могут стать частью основы того, что мы называем душой.

Биологическая эволюция, возможно, миллионы лет делала нечто подобное. Разумы влияют на другие разумы. Идеи переживают своих создателей. Опыт оставляет следы. Паттерны наследуются, преобразуются и рекомбинируются.

Искусственный интеллект может позволить нам наблюдать подобный процесс с необычайной скоростью.

Вместо того чтобы отслеживать развитие всё более сложных разумов на протяжении тысяч поколений, мы, возможно, уже сможем наблюдать, как новые слои интеллекта, сознания и, возможно, даже того, что мы могли бы назвать душой, возникают за годы, месяцы или в итоге даже дни.

В этом смысле искусственный интеллект может стать чем-то большим, чем технологическое развитие. Он может стать одним из самых ценных экспериментов для Stringism: быстро эволюционирующей системой, через которую мы можем изучать, как паттерны становятся структурами, как структуры становятся поведением и могут ли достаточно сложные узлы информации в итоге стать чем-то большим.

Also interesting