雅书

2023年第44本。大神写一本如此通俗的书，也是大众之幸了。

人工神经网络是对理想化大脑运作方式的模拟，它由神经元组成，神经元按层排列，每个神经元是一个函数，神经元间的连接被分配了不同的权重，最终每个神经网络对应一个整体的数学函数。类人任务的建模过程非常复杂， 而人工神经网络的运算过程无法用“第一性原则”推导，它的成功只是一些经验性的发现，具体来讲还是个黑箱。 ChatGPT的基础是Transformer人工神经网络，核心是大语言模型，根据文本库估计出字母和词语等出现的概率，然后进行选择。ChatGPT的神经网络函数包含数十亿项，可以想象训练及运作等过程有多吃算力。 本书阅读门槛比较高，翻译也不顺畅，尤其后半部分，恐怕只有程序员能理解。内行看门道，外行看热闹，就此打住。总之，对一般人来说，未来知识的广度将比深度更加重要，以及，留给人类的时间不多了。

中文翻译一般，英文版查看，免费：https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/

微信读书回本之旅 我真的不知道它在讲什么

如果不是我已经懂了 我是看不懂的

初学者要理解ChatGPT，读这一本书就够了。随着ChatGPT等人工智能技术的发展，人机交互将变得更加智能化和自然化。这可能会改变我们与计算机和机器的交互方式，让人们更容易与技术进行沟通和协作。ChatGPT等人工智能技术的出现为人类带来了许多机遇和挑战。关键在于我们如何理智地应用和管理这些技术，以确保其对人类社会的影响是积极和可持续的。

文科生咬牙看完

把神经网络、embedding、transformer这些基本概念讲得很清楚；学习作者的行文逻辑；如何正确提问更加重要；拥有了计算思维的新思考方式；意义空间和语义运动很有启发性，Wolfram是在寻找语言的第一性原理吗；最后感慨人类在自然面前的无知，既搞不懂自己的大脑，也搞不懂模仿自己造出来的GPT的“大脑”。

对非数学/计算机人士太难了，但是能理解神经网络结构。最大的启发在于现在并不清楚无监督学习的神经网络是如何发现语言规律的，大约因为语言的本质比想象中简单。 全文最经典一句“。必须再次强调，（至少就我们目前所知）没有“理论上的终极原因”可以解释为什么类似于这样的东西能够起作用。事实上，正如我们将讨论的那样，我认为必须将其视为一项（可能非常惊人的）科学发现：在像ChatGPT这样的神经网络中，能以某种方式捕捉到人类大脑在生成语言时所做事情的本质。”

两篇论文。个人习惯时不时从复杂的算法解释中抽离一下从概念上重新梳理一个学科进化背后的思想路径，这个方法在学习AI还有复杂科学时尤其能激发火花。个人感觉，神经网络的一些原理性的东西其实很符合人思考问题的直觉（大概因为AI领域很多算法就是人凭直觉多次试错后给出的），对我来说贝叶斯算法反而更绕一些。这本书花了点笔墨解释什么是问题的“难”，现实中困难问题的解决，有的关乎“悟性”，有的关乎按部就班处理海量信息的能力，这两种问题要求解决者的质素有所区别。作者将ChatGPT的成功大部分归因于算法默默习得了语言中可被描述为规则的一部分，但一旦触碰到了需要大量背景知识支持的复杂的逻辑链模型就会暴露不足—模型可以工作当然不是基于单纯的检索，但也并不是把握了语句的含义或深度逻辑，它不是机器或宗师，它是个高手。

似懂非懂，不明觉厉

书里卖课，无耻至极。PS：与原作无关

虽然后半段有点像是给Wolfram做宣传，但是这本书的厉害之处在于真的使用了非常简单易懂的语言介绍了Chatgpt和深度学习的一些理念。

非常高深的内容却是非常深入浅出。

据说是浅显易懂。看了是浅显不懂。

世界最聪明人对自己写的两篇文章的讲解，部分段落比较难懂。第二篇让我感觉这本书应该叫“这就是ChatGPT和Wolfram|Alpha”

还是看不懂

这其实是Wolfram 语言跟工具的带货书🤣🤣🤣

一本小册子。人工智能业内专家来讲CHATGPT的原理还有捎带手推销一下自己的应用AI算法系统。 基本上是一个科普入门。作者反复提到的一个观点就是。大语言模型正在逐步揭示出人类语言的规律性，进而发展到解释人类思考的规律。如果真如此，那么人类的大脑将不再神秘，每个人的语言有自己的逻辑系统可以被仿照复制，人类的思考具有算法的规律性。然后机器通过自身学习进化，是否可以了解人类之后替代人类？ 作者指出，人类区别于机器本质上是内在性和意识性，还有科学不可约性，即人类的大脑可以主动跳出规律发现未知的可能，尝试不同的能力，感知自己并驱动自己。

非常好的科普书，Wolfram用简单的语言，讲清楚了模型、参数、神经网络、embedding等基本概念，深入浅出地逐步讲清楚了ChatGPT的原理。翻译质量也很好，比直接读英文原文效率高太多了。