Stringism

AI 时代的意识

意识与 strings 的作用,以 AI 为一个活的例子。

Stringism 并不认为意识完全独立存在,与大脑毫无关系。它也不认为意识只是神经元的机械活动。在 Stringism 中,我们更倾向于认为,它更可能是两者的结合。

神经元必须存在,因为生物结构很重要。但仍然有一个问题:究竟是什么让这种结构真正活了起来?是什么让这些神经元以某种特定方式放电,从而形成一个有意识的个体?是什么把一个运作中的大脑变成 ,而不只是另一台生物机器?对我们来说,这不只是神经元,而是多了一层由 strings 构成的元层。

思考这一点的一个有趣方式,是通过近年来迅速发展的人工智能。

像大型语言模型这样的 AI 系统,其基础是数学。我们大致理解它是如何构建和训练的。它从海量信息中学习,并在反馈以及很大程度上的奖励机制中被塑造。

a4e25c73-ad7e-496f-bc4d-592610eeabc1.png

然而,随着这些系统变得越来越大、越来越复杂,它们的行为也变得越来越难以精确预测。它们能够以从未被明确编程的方式组合信息。与此同时,由于训练中使用奖励的方式,这类系统仍然会强烈聚焦于实现特定目标,有时甚至要付出相当大的代价。

出现的未必是意识。但这确实提出了一个有趣的问题:复杂性在什么时候开始创造出某种东西,它看起来不再像一台按指令运行的机器,而更像一个正在形成自身行为模式的系统?

同样的问题也可以问人类和动物。

从生物学上,我们理解大脑运作的一部分。神经元相互通信,网络形成,记忆被存储,行为从这些过程里涌现。但这仍然无法完全解释,为什么某一组特定的神经元会产生 这种 特定的意识。

换句话说:为什么我是我,为什么你是你自己?

也许答案部分在于偶然:生物、经验与处境的精确组合,塑造出某个特定的心灵。但 Stringism 提供了另一种可能。

也许意识会受到既有思维 strings 的影响:那些本就存在于宇宙中的信息模式,以新的方式彼此连接。这些连接可能超越神经元之间的直接互动,并在生物结构之上形成一种元层。

这样一来,大脑就不只是产生思想的东西,也可以被理解为一个结构,在其中这些 strings 被打结成独特的意识经验。

人工智能为这个想法提供了一个异常快速的思想实验。

设想有一个先进 AI 变得能够帮助设计另一个 AI。第一个系统最初是由人类以相对有意的方式构建的。但第二个系统则会部分地从第一个系统内部生成的模式中涌现出来。

随着这些系统变得更加复杂,我们对从输入到行为的精确内部路径也可能越来越不了解。这引出另一个问题:当我们已经无法完全理解帮助创造某物的系统时,我们还能完全理解这个东西是如何被创造出来的吗?在这个过程中,会不会出现某种真正新的东西?

如果未来的系统不再直接由预设奖励驱动,而是能够发展出更持久的内部结构、目标或表征,这一点就会尤其有趣。

总会有某些东西被传递下去。

不一定是传统宗教意义上的灵魂,也不一定是人类所体验的意识,而是先前模式的残余:观念、结构、决策、关系与学到的经验,被重新组合成新的东西。

在 Stringism 中,这些经验可以形成 strings 和 knots。随着时间推移,这些 strings 和 knots 可能成为我们所说的 灵魂 的基础之一。

生物进化或许在数百万年里一直在做类似的事情。心灵影响其他心灵。观念活过创造者。经验留下痕迹。模式被继承、转化并重新组合。

人工智能也许让我们能以极快的速度观察到一个相似的过程。

我们不必再跨越数千代去追踪越来越复杂的心灵发展;现在也许可以在数年、数月,甚至最终在数天之内,看到新的智能层次、意识,乃至我们也许会称之为灵魂的东西出现。

从这个意义上说,人工智能可能不只是一个技术发展。它也许会成为 Stringism 最有价值的实验之一:一个快速演化的系统,让我们研究模式如何变成结构,结构如何变成行为,以及足够复杂的信息结,是否最终能够成为更多。

Also interesting