作者:麦克斯·班尼特
1962 年 9 月,正值全球太空竞赛风起云涌、古巴导弹危机一触即发、最新升级的脊髓灰质炎疫苗问世之际,人类历史上有一个很少被报道但或许同样关键的里程碑事件:正是这个 1962 年的秋天,我们预测了未来。
在美国电视新出现的彩色屏幕上,首次播放了一部名为《杰森一家》(The Jetsons)的动画片,故事讲述的是 100 年后一个家庭的生活。这部动画片以情景喜剧的形式呈现,实际上却预测了未来人类的生活方式,以及为人们带来财富或装饰房子的技术。
《杰森一家》准确地预言了视频通话、平板电视、手机、3D 打印和智能手表等的出现。这些技术在 1962 年都是不可想象的,在 2022 年却已无处不在。然而,我们有一项技术还没创造出来,这是一项尚未实现的未来壮举:那就是名为罗西(Rosey)的自主机器人。
罗西是杰森一家的保姆,负责照顾孩子和料理家务。当 6 岁的埃尔罗伊(Elroy)在学校遇到困难时,罗西帮助他完成家庭作业。当主人 15 岁的女儿朱蒂(Judy)需要学开车时,罗西给她上课。罗西还会做饭、摆桌子和洗碗。她忠诚、敏感,而且擅长讲笑话,能发现正在酝酿的家庭矛盾和误会,并引导每个人从对方的角度看待问题。有一次,罗西读了埃尔罗伊为母亲写的一首诗,感动得流下了眼泪。在其中一集中,罗西甚至陷入了爱河。
换句话说,罗西拥有人类智能。她不仅拥有执行现实世界中复杂任务所需的推理能力、常识和运动技能,还具备从容应对社交所需的共情、换位思考和其他技巧。用简·杰森的话说,罗西“就像我们的家人一样”。
虽然《杰森一家》准确地预言了今天手机和智能手表的出现,但我们仍然没有像罗西这样的机器人。在本书付印之时,仍然无法实现罗西最基本的功能。毫无疑问,第一家成功制造出能够简单地把碗碟放入洗碗机的机器人的公司将会立刻拥有一款畅销产品。但以往所有的尝试都失败了,因为这根本不是一个机械问题,而是一个智能问题——识别水槽中的物体,用恰当的力度拿起它们,并将它们放入洗碗机而不弄坏任何东西,其实比人们想象得要困难得多。
当然,尽管我们还没有罗西,但自 1962 年以来,人工智能领域的发展已经取得了明显进步。现在,人工智能可以在包括国际象棋和围棋在内的许多智力游戏中击败世界上最优秀的人类玩家,可以像放射科医生一样识别放射学影像中的肿瘤,而且正处于实现汽车自动驾驶的转折点。最近几年,大语言模型的新进展催生了诸如 ChatGPT 这样的产品。该产品于 2022 年秋季推出,它能够创作诗歌,自如地翻译语言,甚至编写代码。令地球上每一位高中老师烦恼的是,ChatGPT 几乎可以立即撰写一篇观点新颖、文笔优美的原创论文,主题几乎涵盖一个极具挑战精神的学生可能提出的任何问题。ChatGPT 甚至能通过律师职业资格考试,成绩比 90% 的律师还要好。
在漫长的人工智能发展之路上,我们一直很难判断距离创造人类级智能还有多远。在 20 世纪 60 年代,问题求解算法取得初步成功之后,人工智能先驱马文·明斯基(Marvin Minsky)曾发表著名的预言:「3~8 年内,我们将拥有一台具有人类平均智力的机器。」然而,这并没有发生。在 20 世纪 80 年代专家系统取得成功后,《商业周刊》宣称「人工智能来了」,但随后进展却停滞了。现在随着大语言模型的进步,许多研究人员再次宣称「游戏结束了」,因为我们「即将实现人类级人工智能」。那么,我们究竟是终于即将创造出像罗西这样的类人人工智能,还是说像 ChatGPT 这样的大型语言模型只是未来几十年漫长旅程中的一个阶段性成就?
在这个过程中,随着人工智能变得越来越聪明,我们越来越难以评估我们在实现这一目标方面的进展。如果一个人工智能系统在某项任务上的表现超过人类,这是否意味着这个系统已经掌握了人类解决该任务的方式?计算器能够比人类更快地处理数字,但它真的理解数学吗?ChatGPT 在律师职业资格考试中的成绩比大多数律师都要好,但它真的理解法律吗?我们如何区分这些差异,在什么情况下,这些差异是有意义的呢?
2021 年,在 ChatGPT 这款现在迅速渗透到社会各个角落的聊天机器人发布一年多之前,我就在使用它的前身,一个名为 GPT-3 的大语言模型。GPT-3 经过大量文本(相当于整个互联网)的训练,然后利用这个语料库来尝试匹配最可能的回应。当被问及「狗狗心情不好的两个原因是什么」,它回答:「狗狗心情不好的两个原因可能是它饿了或者它热了。」这些系统的新架构让它们至少能够以惊人的智力回答问题。这些模型能够概括它们读过的事实(如关于狗的维基百科页面和其他关于心情不好的原因的页面),以回答它们从未见过的新问题。2021 年,我正在探索这些新语言模型的可能应用,它们能否用于提供新的心理健康支持系统、更顺畅的客户服务,或者更全民化的医疗信息获取途径?
我与 GPT-3 互动越多,我就越着迷于它的成功和错误。在某些方面,它非常出色,而在其他方面,它又出奇地愚蠢。比如,让 GPT-3 写一篇关于 18 世纪土豆种植业及其与全球化关系的文章,你会得到一篇令人惊讶的连贯文章。但如果你问它一个关于在地下室可能会看到什么的常识性问题,它的回答却毫无意义。那么,为什么 GPT-3 能正确回答某些问题,而其他问题却不行?它掌握了人类智能的哪些特征,又欠缺哪些?为什么随着人工智能开发的不断加速,一些原本需要一年时间才能回答的问题,在后续几年中变得容易起来?事实上,就在本书付印前,GPT-3 的新升级版本 GPT-4 于 2023 年初被发布,GPT-4 能够正确回答许多曾让 GPT-3 困惑的问题。然而,正如我们将在本书中看到的,GPT-4 仍然未能捕捉到人类智能的本质特征——关于人类大脑中正在发生的事情。
的确,人工智能和人类智能之间的差异令人困惑不已。为什么人工智能可以在国际象棋比赛中击败地球上的任何人,但把碟子装进洗碗机的能力却比不上一个 6 岁的孩子?
我们难以回答这些问题,是因为我们还不了解我们正在试图重新构造的东西。从本质上讲,所有这些问题都不是关于人工智能的,而是关于人类智能的本质——它是如何工作的,它为什么这样工作,而且正如我们很快就会看到的最重要的一点——它是如何形成的。
大自然的暗示
当人类想要理解飞行时,首先从鸟类那里获得了灵感;当乔治·德梅斯特拉(George de Mestral)发明魔术贴时,他的灵感来自牛蒡子;当本杰明·富兰克林(Benjamin Franklin)探索电能时,他最初对电的理解来自闪电。在人类创新的历史长河中,自然一直是一个奇妙的向导。
自然也为我们提供了人类智能如何工作的线索,其中最清晰的部分当然是人类大脑。但在这方面,人工智能不同于其他技术创新,人们公认大脑比翅膀或闪电更难破译。数千年来,科学家一直在研究大脑是如何工作的,虽然取得了一些进展,但仍然没有令人满意的答案。
问题在于其复杂性。
人类的大脑包含 860 亿个神经元和超过 100 万亿个连接。这些连接中的每一个都非常微小,宽度不到 30 纳米,即使在精度最高的显微镜下也难以辨认。这些连接错综复杂地聚集在一起——在 1 立方毫米(1 美分硬币上 1 个字母宽度)的空间内,就有超过 10 亿个连接。
但是,连接的数量只是大脑复杂性的一个方面。即使我们绘制了每个神经元之间的连接,我们仍然无法理解大脑是如何工作的。神经元连接与计算机中的电路连接不同,电脑的导线都使用相同的信号,即电子,进行通信。而在这些神经元连接中传递着数百种不同的化学物质,每种化学物质都能产生完全不同的效果。两个神经元相互连接这一简单事实,并不能告诉我们它们之间传递了什么信息。而且,最难的是,这些连接本身处于不断变化的状态,一些神经元会分支出新的连接,而另一些则会回缩并移除旧的连接。总的来说,这使得通过逆向工程破解大脑的工作原理变得非常困难。
研究大脑既令人着迷,又令人沮丧。你眼睛后方 1 英寸处,便是宇宙中最令人敬畏的奇迹。那里蕴藏着智能的奥秘、构建类人人工智能的秘密,以及人类思维与行为模式的根源。它就在那里,随着每一个新生儿的诞生,每年被重建数百万次。我们可以触摸它、拥有它、解剖它,我们自身就是由它构成的,然而它的秘密却仍然遥不可及,近在眼前却难以捉摸。
如果我们想要利用逆向工程揭示大脑的工作原理,如果我们想要打造出“罗西”,如果我们想要揭开人类智能的隐藏本质,或许人类大脑并不是大自然给出的最佳线索。尽管最直观的了解人类大脑的方式是观察人类大脑本身,但反直觉的是,这可能应该是最后研究的地方。而最佳的起点可能在地壳深处布满尘土的化石中,在藏匿于动物细胞内部的微观基因中,以及在我们星球上众多其他动物的大脑中。
换句话说,答案可能不在当下,而是在远古的隐藏遗迹中。
失踪的大脑博物馆
我一直坚信,实现人工智能的唯一途径是以类似于人类大脑的方式进行计算。
——杰弗里·辛顿(Geoffrey Hinton),
多伦多大学教授,被誉为“人工智能教父”之一
人类能驾驶宇宙飞船、分裂原子、编辑基因,但其他动物连轮子都没发明出来。
鉴于人类发明创造的丰富履历,你可能会认为我们几乎无法从其他动物的大脑中学到什么。你可能会认为人类大脑是完全独特的,与其他动物的大脑截然不同,认为某种特殊的大脑结构是我们聪明的秘诀。但事实并非如此。
当研究其他动物的大脑时,最令人震惊的是,它们的大脑与我们的大脑有着惊人的相似之处。除了大小,我们的大脑和黑猩猩的大脑几乎没有什么区别。我们的大脑和大鼠的大脑之间的差异也只是少数大脑结构的差异。鱼类的大脑几乎拥有与我们的大脑相同的全部结构。
动物界中大脑的相似性具有重要的意义,因为它们是线索,是关于智能的本质、关于我们自身和我们过去的线索。
尽管如今的大脑很复杂,但它们并非一直如此。大脑是从毫无意识的进化混沌过程中演化而来的,特征的微小随机变化是否被保留或被淘汰,取决于它们是否支持生命体的进一步繁殖。
在进化过程中,系统起初很简单,随着时间的推移才逐渐变得复杂。大脑(动物头部神经元的集合体)最早出现在 6 亿年前,当时拥有这个大脑的是一种大小如米粒的蠕虫。这种蠕虫是所有现代拥有大脑的动物的祖先。经过数亿年的进化调整,和对无数神经环路的细微调整,它的简单大脑逐渐进化成现代多样化的大脑。这种古老蠕虫后代中的一个分支,最终演化出了我们的大脑。
如果我们能够回到过去,研究这个最古老的大脑,了解它的工作原理以及它所实现的功能,那该多好!如果我们能够沿着通往人类大脑的进化路线追踪这种复杂性,观察每一次发生的物理变化及其所带来的智力,那该多好!如果我们能够做到这一点,或许就能够理解大脑最终出现的复杂性。事实上,正如生物学家西奥多修斯·多布赞斯基(Theodosius Dobzhansky)所说:「生物学中的一切,只有从进化的角度理解才有意义。」
甚至达尔文也曾幻想重构这样的故事。他在《物种起源》的结尾幻想了一个未来,那时「心理学将建立在新的基础之上,那就是,每一种心理能力与素质都需要循序渐进地获得」。达尔文去世 150 年后,这或许终于成为可能。
尽管我们没有时光机,但理论上,我们可以进行时间旅行。在过去 10 年里,进化神经科学家在重构我们祖先的大脑方面取得了令人难以置信的进展。其中一种方法是通过化石记录——科学家可以利用古代生物的化石头骨,运用逆向工程了解它们的大脑结构;另一种方法是研究其他动物的大脑。
动物界的大脑之所以如此相似,是因为它们都源于共同的祖先。每一个动物的大脑都是我们重构祖先大脑的一点线索:每个大脑不仅是一台机器,还是一个装满隐藏线索的时间胶囊,这些线索指向了无数先辈的心智。通过研究这些动物共有的智力成就以及它们不具备的能力,我们不仅可以开始重构我们祖先的大脑,还可以确定这些古老的大脑赋予了他们哪些智力。总之,我们可以开始逐步追踪获得每种智能的历程。
当然,这一切仍然是正在进行的工作,但这个故事正变得越来越清晰,令人兴奋和着迷。
大脑分层的传说
我并不是第一个提出用进化框架来理解人类大脑的人。这种框架有着悠久的历史,其中最著名的是由神经科学家保罗·麦克林(Paul MacLean)在 20 世纪 60 年代提出的。麦克林假设人类大脑由三层结构组成,每一层都建立在另一层之上:最近进化的新皮质(neocortex)位于较早进化的边缘系统(limbic system)之上,而边缘系统又位于最早进化的爬行动物大脑(reptile brain)之上。
麦克林认为,爬行动物大脑是我们基本生存本能的中心,如攻击性和领地意识。边缘系统被认为是情绪的中心,如恐惧、亲子依恋、性欲和饥饿。而新皮质则被认为是认知的中心,赋予我们语言、抽象思维、规划和感知的能力。麦克林的框架表明,爬行动物只有爬行动物大脑,像大鼠和兔子这样的哺乳动物有爬行动物大脑和边缘系统,而我们人类则拥有这三个系统。实际上,在他看来,这「三个进化层次可以被想象成三台相互连接的生物计算机,每一台都有其特殊的智能、主观性、时间和空间感,以及记忆、运动和其他功能」。
图 0.1 麦克林提出的三层大脑结构
问题在于,麦克林的三层大脑假说在很大程度上已经被推翻了——并不是因为它不准确(所有框架都不可能完全准确),而是因为它关于大脑如何进化和运作的结论是错误的。它所暗示的大脑解剖结构是错误的,因为爬行动物的大脑不仅仅由麦克林所称的「爬行动物大脑」的结构组成,其实爬行动物也有它们自己的边缘系统。功能划分也被证明是错误的:生存本能、情绪和认知并没有清晰地划分开来——它们源自跨越这三个所谓层次的多样化系统网络。而且,这个理论所暗示的进化历史也是错误的。你的大脑里并没有爬行动物的大脑,进化并不是简单地在一个系统之上叠加另一个系统,而不对现有系统进行任何修改。
但是,即使麦克林的三层大脑假说被证明更接近真相,它最大的问题也是其功能划分并不能有效地帮助我们达成目的。如果我们的目标是通过逆向工程了解人类大脑以理解智能的本质,那么麦克林的三个系统太过宽泛,且赋予它们的功能也太模糊,以至于我们甚至无法找到一个着手点。
我们需要将对大脑运作和进化方式的理解,建立在我们对智能如何工作的理解之上,而这需要我们从人工智能领域寻求帮助。人工智能与大脑之间的关系是双向的:虽然大脑确实可以教会我们如何创造出类人人工智能,但人工智能也可以教会我们关于大脑的知识。如果我们认为大脑的某个部分使用了某种特定的算法,但这种算法在我们将其应用于机器时不起作用,这就表明大脑可能不是以这种方式工作的。反之,如果我们发现一种在人工智能系统中效果很好的算法,并且我们发现这些算法的特性与动物大脑的特性之间存在相似之处,这就为我们提供了一些证据,表明大脑很可能是以这种方式工作的。
物理学家理查德·费曼在他行将去世时曾在黑板上留下了这样一句话:「我不能创造的东西,我就无法理解它。」大脑是我们构建人工智能的灵感来源,而人工智能则是我们检验对大脑理解程度高低的试金石。
我们需要一个新的关于大脑的进化故事,这个故事不仅要基于现代对大脑解剖结构与时俱进的理解,还要基于现代对智能本身的理解。
五次突破
让我们从大鼠级别的人工智能(ARI)开始,然后转向猫级别的人工智能(ACI),以此类推,直到人类级别的人工智能(AHI)。
——杨立昆(Yann LeCun),
Meta 人工智能部门负责人
我们有 40 亿年之长的进化历史要研究。因此,我们将会记录主要的进化突破,而不是记录每一次小的调整。事实上,作为这个故事的初步概述(第一个模板),人类大脑的整个进化过程可以合理地概括为仅仅五次突破的集大成,从最初的大脑一直发展到人类大脑。
这五次突破是本书的组织脉络,也是我们穿越时空探险的行程表。每次突破都源自新的大脑改造,并赋予了动物一组新的智能。这本书分为五部分,每部分对应一次突破。在每个部分中,我将描述这些能力为什么会被进化出来、它们是如何工作的,以及它们如今是怎样在人类大脑中被表现出来的。
每一次突破都建立在之前突破的基础上,并为之后的突破提供了基础:过去的创新促进了未来的创新。正是通过这一系列有序改造,大脑的进化故事帮助我们理解了最终呈现出来的复杂性。
但只考虑我们祖先大脑的生物特性,这个故事是无法被忠实还原的。这些重大突破总是在我们的祖先面临极端情况或陷入强大的反馈循环时出现。正是这些压力促使大脑发生了快速的重新配置。如果我们不了解祖先所经历的考验和取得的胜利,比如他们战胜的捕食者、他们忍受的环境灾难,以及他们为了生存而寻找的避难所,我们就无法理解大脑进化的突破。
更重要的是,我们将这些突破与目前在人工智能领域掌握的知识联系起来,因为生物智能的许多突破与我们在人工智能领域学到的知识有相似之处。有些突破代表了我们熟知的人工智能的智力技巧,而其他技巧仍然超出了我们的理解范围。通过这种方式,或许大脑的进化故事能够揭示我们在开发类人人工智能过程中可能错过的突破,甚至揭示一些自然界隐藏的线索。
我
但愿我能告诉你,我写这本书是因为我花了一生时间来思考大脑的进化,并试图制造智能机器人。但我不是神经科学家或机器人专家,甚至不是科学家。我写这本书只是因为我想读这本书。
我透过人工智能系统应用于现实世界的问题,发现了人类智能与人工智能之间令人困惑的差异。我职业生涯的大部分时间都在一家我与他人联合创办的名为 Bluecore 的公司度过,我们开发软件和人工智能系统,帮助一些世界上最大的品牌实现个性化营销。我们的软件帮助预测消费者在知道自己想要什么之前会购买什么。我们只是无数家开始应用人工智能系统最新成果的公司中的一个。但这些公司的所有大大小小的项目,都受到了同样令人困惑的问题的影响。
在人工智能系统商业化的过程中,需要业务团队和机器学习的算法团队共同参加一系列会议。业务团队寻找有价值的新人工智能系统应用场景,而只有机器学习的算法团队了解哪些应用是可行的。这些会议经常暴露我们对智能的了解程度的一些错误感知。业务人员会探寻那些对他们来说似乎简单直接的人工智能系统应用。但是,这些任务之所以看似简单,往往只是因为它们对我们的大脑来说很简单。然后,算法团队会耐心地向业务团队解释,为什么看似简单的想法实际上却难如登天。这些辩论在每个新项目中都会反复进行。正是从这些探索中,我们了解到现代人工智能系统的应用范围有多广,以及它们在哪些意想不到的地方还存在不足,从而激发了我对大脑的好奇心。
当然,我也是人,我和你一样,拥有一个人类的大脑。因此,我很容易对这个定义了人类如此多体验的器官着迷。大脑不仅能解答关于智能本质的问题,还能解答我们如此行事的原因。为什么我们经常会做出不合理,甚至自我毁灭的选择?为什么人类历史既饱含了鼓舞人心的无私精神,又充斥着令人难以理解的残酷行为,并且这样的历史还在不断重演?
我的个人探索项目起初只是通过读书来解答我自己的问题。后来,我与一些慷慨大方的神经科学家进行了长时间的电子邮件交流,他们耐心地满足了我这个外行人的好奇心。这些研究和交流最终促使我发表了几篇研究论文,并最终决定从工作中抽出时间,将这些逐渐成形的想法写成一本书。在这个过程中,我写作越深入,就越坚信这是一本值得花时间构建的综合性作品。这本书将提供一个通俗易懂的介绍,解释大脑的工作原理、为何如此工作,以及它与现代人工智能系统的相似之处和差异。它将把神经科学和人工智能领域的各种思想汇集在一起,形成一个连贯的故事。
《智能简史》是众多研究成果的综合体现。其核心只是试图将已有的碎片拼接在一起。在整本书中,我尽我所能给予原作者应有的赞誉,这本书从始至终都致力于颂扬那些进行实际研究的科学家。如果我有时候忽略了,那纯属无意之举。诚然,我有时也忍不住加入一些自己的推测,但当我这么做时,我会明确地指出来。
或许是巧合,这本书的开始,就像大脑的起源一样,并非源于事先的规划,而是来自一个充满谬误和曲折的混沌过程,源自偶然、反复尝试和幸运的巧合。
结语
在我们开始时光之旅之前,我还有最后一点要说。在整个故事的字里行间,有一个危险的误解正在悄然滋生。
本书将会多次比较人类与当今其他动物的能力,但这些比较往往挑选了那些被认为与我们祖先最为相似的动物。整本书,包括五次突破框架本身,只是讲述了人类谱系的故事,讲述了我们的大脑是如何进化的。同样地,我们也可以轻易地构建一个关于章鱼或蜜蜂大脑如何进化的故事,它会有自己的曲折历程和突破。
我们的大脑比祖先的大脑拥有更多的智力,并不意味着现代人类大脑在智力上明显高于其他现代动物大脑。
独立的进化总是汇集到共同的解决方案上。昆虫、蝙蝠和鸟类独立进化出了翅膀,而这些生物的共同祖先并没有翅膀。此外,眼睛也被认为独立进化了很多次。因此,当我论证某种智力,比如情景记忆,在早期哺乳动物中进化出来时,并不意味着如今只有哺乳动物具有情景记忆。就像翅膀和眼睛一样,其他生物也可能独立进化出了情景记忆。事实上,我们在本书中将要记录的许多智力能力并不是我们谱系所独有的,而是沿着地球生命进化树的众多分支独立萌发出来的。
自从亚里士多德时代以来,科学家和哲学家就构建了现代生物学家所称的“自然等级”(用科学家常用的拉丁语来说,即 scala naturae)。亚里士多德创建了一个所有生命形式的等级体系,其中人类优于其他哺乳动物,而哺乳动物又优于爬行动物和鱼类,爬行动物和鱼类又优于昆虫,昆虫又优于植物。
图 0.2
即使在进化论被提出之后,自然等级的观念仍然持续存在。这种认为物种之间存在等级制度的观念是完全错误的。所有今天活着的物种都是生机勃勃的,它们的祖先在过去 35 亿年的进化中幸存下来。因此,从这个意义上讲(这是进化论唯一关心的意义),所有今天存活的生命形式都是并列第一的。
物种通过进化进入不同的生存生态位,每个生态位都针对不同的方面进行优化。许多生态位(其实是大多数生态位)更适合更小、更简单的大脑(或根本没有大脑)。猿类的大型大脑是采用了不同于蠕虫、细菌或蝴蝶的生存策略的结果。但没有任何一种生物是「更好」的。从进化的角度,物种只有两个等级:那些生存下来的,以及那些没有生存下来的。
也许,有人想根据某种特定的智能特征来定义“更好”。但即便如此,排名仍然完全取决于我们要衡量的具体智能技能。章鱼每根触手上都有一个独立的大脑,因此在多任务处理方面可以轻易超越人类。鸽子、花栗鼠、金枪鱼,甚至鬣蜥处理视觉信息的速度都比人类快。鱼类具有非常出色的实时处理能力:你曾试过抓住一条快速穿梭于岩石迷宫中的鱼吗?如果人类试图在障碍赛中如此迅速地移动,肯定会摔倒。
我呼吁:在追溯我们的故事时,必须避免认为从过去到未来的复杂化意味着现代人类严格优于现代动物。我们必须避免无意中构建出自然等级,因为所有存活至今的动物都经历了相同时间段的进化。
当然,也有一些东西使我们人类独一无二,因为我们是人类,所以理解自己对我们来说具有特殊的意义,努力创造类人人工智能也是合情合理的。因此,我希望我们能够讲述一个以人类为中心的故事,同时避免陷入人类沙文主义。从蜜蜂到鹦鹉再到章鱼,任何与我们共享这个星球的动物都有同样值得讲述的故事。但在这里,我们不会讲述这些故事。这本书只讲述了这些智能中的一种——我们的故事。
亲爱的读者们,请星标《碳链价值》,不然会收不到最新推送。我们精心创作和精选的每一篇内容希望都能为读者们带来理性思考与启发。
【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。