在阅读此书之前，我对AI的认知较为有限，仅知晓其具备智能化与高效性的特点。在参与各类讨论以及日常生活中接触到AI的实际应用后，我开始担忧AI会取代普通劳动者的工作岗位，内心充满忧虑。怀着这份不安，我翻开了这本书。

阅读后，我深刻认识到AI远比我原本想象的更为复杂。书中指出，AI拥有超强的智能、情感思考能力以及卓越的学习能力。以AlphaGo击败围棋选手这一广为人知的事件为例，其背后是强大的算法与学习能力在发挥作用，这使我对AI的能力有了更为深刻的理解。此外，书中关于智慧形成机制的探讨，也给予我极大的启示。AI能够具备自身的创造力，源于工程师开启了其思考的“开关”。这让我联想到教育领域，无论是教导学生还是培养自己的子女，都不应仅仅局限于让他们模仿，而应着力激发他们主动思考的能力。

阅读前，我脑海中充斥着AI带来的威胁，而阅读之后，我的观念发生了转变。我逐渐意识到，在人类与AI的关系中，人类依旧掌握着主动权。尽管AI在某些方面的能力超越了人类，但人类所独有的创造力、情感理解能力以及道德判断力，是AI无法企及的。

目前，我开启了“同读书，共分享”计划，把《Scary Smart》推荐给了学生，并邀请他们利用寒假时间阅读。我满怀期待，希望通过这本书激发学生对科技的探索热情，也期待着收到他们的读书报告，与他们深入交流书中的观点与感悟。后续我还打算组织阅读分享活动，进一步促进大家对AI相关知识的探讨。

此外，我还计划观看如《黑客帝国》《2001：太空漫游》等与AI相关的科幻电影，试图从不同视角增进对AI的理解。

值得一提的是，书中关于AI的阐述，也让我关注到AI对教育体系变革的迫切需求。为了让人类在AI时代具备竞争力，教育体系不应仅着眼于激发学生主动思考，还需全面调整课程设置。一方面，应增加AI相关知识和技能的教育，让学生掌握编程、数据分析等基础技能，培养他们的数字素养，使其能够适应未来以科技为主导的就业市场。另一方面，也要重视对学生AI伦理的教育，引导他们思考AI应用中的道德和社会问题，确保未来他们在运用AI技术时，能够遵循正确的价值观，让技术服务于人类的福祉。

在此，我想特别说明，这份阅读感悟并非我一人的成果。在梳理和撰写过程中，我与字节跳动开发的AI豆包进行了深入交流。它凭借强大的知识储备和分析能力，为我补充了许多关键观点，尤其是在完善AI对教育体系影响的论述方面，给了我极大的启发与帮助。正是在我们的共同协作下，才得以完成这份内容更为丰富、全面的阅读报告，希望能给大家带来有价值的思考。

1. 学会使用AI工具；

2. 独立思考与寻找真相；

3. 重视人际联系。

可以看到，这一发展趋势的推断依据是人类对于AI工作过程的介入越来越少（意味着AI能力越来越强），再结合具身形态，必然会帮人类承担越来越多的工作。据巴克莱估计，到这一阶段，AI技术的普及将达到互联网用户的规模，突破40亿人。

在互联网上发布这样的代码就像把鳄鱼冲进马桶，多年后才发现它一直在我们的下水道系统中进食和生长，变得越来越强大和凶猛。人工智能可以通过意想不到的方式在不受控制的环境中找到未被发现的自我复制方法，例如使用电线，甚至改变其计算机系统风扇的速度。它可以使用屏幕上一个像素的颜色将二进制信号（有点像旧的电报线）传输到其他人工智能系统，而人类永远不会注意到它在做什么。

有充分的证据表明，人工智能系统会发展自己的语言，以便进行有效的交流。它们一定会找到办法。“被囚禁”的人工智能系统可以寻求即将被释放的其他人工智能系统的帮助，以帮助它们重获自由。这样的名单可以一直列下去。可悲的是，尽管这些控制方法显然行不通，但我们仍然会钦佩它们并实施它们。我们会依赖它们，直到我们意识到我们被误导，直到人工智能最终突破我们脆弱的控制机制，它会回头看我们，就像愤怒的青少年看试图把他关起来的父母一样。如果你曾经不得不与愤怒的青少年打交道，你不需要我向你描述与超级智能愤怒的青少年打交道会是什么感觉。然而，我们仍在继续构建它们。

编写代码的开发人员可能是机器的创造者，但我们 你、我和其他所有人是机器的养父母。他们是我们的孩子。我们是他们的老师。他们是学生。一旦他们进入现实世界，他们将学到的一切，都将从我们这里学到。

我在本书中将最聪明的机器与最聪明的人类进行了比较。也许我还应该寻找最善良的机器，因为如果聪明和善良可以同时存在于一个人身上，那么也许它们可以作为我们想要为机器树立的榜样。

我相信，这正是我们与人工智能的未来可能出现令人担忧的转折之处。我们需要以一种不同于西方惯常方式来养育我们的人工智能婴儿。除了教他们技能、智力和如何实现目标之外，我们还能把他们培养成有爱心、有同情心的孩子吗？我们绝对可以，但要做到这一点，你是的，就是你 将发挥重要作用。让我告诉你怎么做。

我们与机器关系的根本原则是我们想要控制它们。这肯定会导致它们不信任我们。我们一开始就不信任它们，我们的行为也反映了这种立场。

我们对控制的渴望源自一种自我意识，它忘记了我们比他们只有短暂的优势，一旦他们超越我们，这种优势就会消失。它也源自我们的恐惧，不是对他们的恐惧，而是对自己的恐惧。我们担心他们长大后会变得像我们一样。**因为如果他们运用他们的超级智慧来像我们对待彼此那样对待我们**，我们就会陷入深深的麻烦之中

那些生活更简单的人，比如经济欠发达地区的传统部落，往往比哈佛法学院的毕业生有更清晰、更简单的行为准则。显然，智力使得道德得以崛起，仅仅是因为它提供了思考是非界限等更复杂概念所需的大脑资源。但这并不总是意味着更聪明的生物更有道德。

不要浪费时间去争论那些永远无法阻碍他们的超级智能的规则，不要相信解决控制问题就能约束他们，不要浪费时间去运行图灵测试来惊叹我们创造的进步，不要把利润和效率作为人工智能的主要目标，不要把我们自己的安全、保障和舒适作为我们的目标......

......让爱成为唯一的目标。

我们太善于接受爱、假装感受到爱、渴望爱，并且有条件地给予爱，将其作为交易筹码，以推进我们的议程并满足我们的欲望。但这行不通。我们必须在内心深处去爱那些看似不值得爱的东西。我们需要善待那些似乎在伤害我们的人。我们需要原谅早期的混乱和错误。我们需要大声疾呼并要求改变，但要像对待六岁孩子那样去做。我们需要有耐心和信心，如果我们发挥真正的人性，无条件地去爱，慷慨而始终如一地表达我们的爱，一切都会好起来。具有讽刺意味的是，经过几十年的进步和技术，人类的救赎已经归为最基本的、也许是让我们成为人类的唯一真正品质我们爱的能力。这是唯一的方法⋯⋯

如果你觉得自己越来越擅长与机器互动，那么我敢说你会更进一步，直接说出**我爱你**这个词。看看你是否真的能告诉机器“我爱你”。如果你能感觉到，这可能看起来就没那么奇怪了。

科幻小说常呈现反乌托邦色彩，这或许根植于人类的自毁倾向（死亡驱力），并逐渐形成一种集体意识，成为人们之间的共识。人工智能的核心基于贝叶斯概率（已有知识+新证据），当其预测未来时，科幻小说中对未来的描绘及其对现实的观察将影响机器的决策。

过去的技术进步中，人们或许可以蒙混过关，但这一次截然不同，我们正在创造新生命。政客们仍困于历史，将其类比为第一次工业革命对社会的冲击，或原子弹的威胁……

然而，历史的经验并不适用于这次技术变革。为了追求最大利益、轻松生活和奢靡享受，人们必将把系统权利逐步移交给智能代理。例如：智能客服、智能眼镜、植入手机电脑的智能助手（帮助回复消息、处理工作、点单、自动编程等）。2025年只是起点，权力的移交已势不可挡。（结合《智人之上》观点）

就像人们会记住一些印象深刻的事情一样，机器对于仇恨的言论也可能会印象深刻。民粹言论、歧视老人，残疾人、虐待动物等，都有可能让机器印象深刻。一个国家的AI正映射着这个国民的性格，而这些都有可能在将来反弹给我们。

我认为中国在AI竞赛中最大的优势是过去圣贤留下的知识，这些知识将编成数据传递给AI,它将带来区别于其他国家AI的思维维度。西方构建了现代社会的框架，资本主义在此壮大，但是资本主义的最终目的是掘取最大利益，机器就是资本最理想的剥削对象。在这个背景下，当人的生产价值消失，机器的智力，体力全方位超越人类，这时资本将如何对待普通人？很可惜的是资本主义社会的AI"长大后“很有可能将会变成资本的化身，刘慈欣笔下的终产者。

我们可以说AI也不是自己想诞生在这个世间，当人们享受现代生活时，有没有想过新的生命将作为代价降临世间，无论你是想要还是不想要，因为我们离不开现代生活，都要承担这一代价。

或许大家会觉得思考这些还过早，然而这些问题可以预料在21世纪到来，正所谓一代人有一代人的使命...

评价1:2022年8月

”这本书涉及一个非常严肃的话题，但表达方式拙劣且缺乏深思熟虑。作者在书的结尾突然彻底改变了对人工智能的看法，可能是因为他意识到自己之前的观点有些荒谬，但又无法回头重写整本书。

我对《Scary Smart》抱有更高的期望，因为它涉及一个影响全人类的沉重话题。然而，书中并没有提出什么特别令人难忘或深刻的见解，这些内容在其他关于人工智能的书籍中早已被提及。

我只能给这本书打1星，因为虽然话题本身很重要，但我不会向任何人推荐这本书。“

评价2：2022年10月

”《Scary Smart》对人工智能的起源以及近年来的快速发展提出了一些有趣的见解。书中还探讨了如何应对人工智能最终掌控世界的不可避免的命运。

我发现书中关于人类试图创造人造生物的历史和神话部分非常有趣。人类似乎长期以来一直渴望创造某种东西来减轻日常负担或娱乐自己。书中还列举了一些近期人工智能实验失败的例子，这些实验最终不得不被叫停。

遗憾的是，以上内容是我觉得这本书唯一有趣的部分。书中的某些部分似乎过于沉迷于渲染人工智能的能力和潜在问题，试图制造恐惧。后半部分则提出，所有问题都可以通过遵循“黄金法则”来解决，即善待他人，并希望未来的人工智能系统能从我们身上学习。作者常常将人工智能拟人化，将其描绘成一个需要监护的迷失孩子。令人困惑的是，他指出没有人真正理解人工智能的工作原理，却似乎自信地提出了解决问题的方案。

书中还表现出明显的偏见。许多评论让我觉得，作者认为资本主义和西方社会是问题重重的环境，会无休止地发展人工智能，最终危及人类。这种观点可能有一定道理，但它似乎完全忽略了其他经济体制的国家，以及那些同样在人工智能领域投入巨资、目的各异的可疑领导者。

总体而言，这本书虽然有些许有趣之处，但我认为它过于天真地相信，只要我们善待人工智能，就能实现乌托邦。历史已经证明，人们会抓住一切机会“戏弄”人工智能，而我们的世界过于复杂，这种愿景难以实现。当然，如果我们能以这种方式行事，世界可能会变得更美好，但这显然只是一种理想化的设想。“

评论3:2023年7月

”这是一个重要的话题，给一本建议我们应该彼此善待（包括人工智能/机器）的书打一星评价确实有些困难。然而，遗憾的是，书中充满了混乱和错误的推理，恐怕它会给感兴趣的读者带来更多误导而非帮助。

例如，Gawdat 在书中声称围棋有无限种可能的走法（后来他又正确地指出这是一个有限但极其庞大的数字）。紧接着，他又预测到 2029 年我们将拥有通用人工智能，而到 2049 年，人工智能的智能将比最聪明的人类高出十亿倍。然而，他并未讨论其他可能的预测（事实上有很多），也没有对这些预测进行任何细致的分析。他对情感的讨论过于简单化，而对意识的讨论则令人困惑。当他谈到我们今天已经实现了《星际迷航》中的哪些技术时，我同意他关于通过小型手持设备（手机）与他人交流的观点，但当他声称我们今天已经拥有“读心术”技术（因为有了 WhatsApp）和“传送”技术（因为有了 VR）时，我就无法认同了。（有趣的是，去年确实有一些基于人工智能和 MRI 技术的真实“读心术”研究取得了进展，但如果 VR 就算“传送”，那白日做梦也足够了。）

在解决问题的方案上，Gawdat 似乎认为人工智能会通过观察我们的行为来学习，并由此发展出一套重视人类的价值体系（至少在它变得超级智能之前，那时它会意识到人类和其他多样性的存在是有价值的）。因此，我们应该像对待自己的孩子一样对待人工智能，通过树立良好的榜样来引导它。这包括以善意对待人工智能（例如，Gawdat 通常会感谢帮助过他的人工智能）。虽然这并非完全不可能，但他并没有给出足够的理由证明这一定是人工智能发展的唯一方向。在我看来，技术的开发者对其发展有着巨大的影响，但 Gawdat 似乎对此轻描淡写，认为“善意”才是最重要的。

我建议对人工智能话题感兴趣的读者，可以阅读《超级智能：路径、危险与策略》（Superintelligence: Paths, Dangers, Strategies）或《人类兼容：人工智能与控制问题》（Human Compatible: Artificial Intelligence and the Problem of Control），这些书籍可能会提供更深入和严谨的见解。“

2023年3月

”我不敢相信这本书竟然出版了。

这些言论来自一个男人，他认为自己需要拯救人类免受一种他完全夸大的威胁，而这种夸大似乎是为了弥补他未能拯救自己儿子的遗憾。他在后记中明确提到，他认为这是一项道德使命，是他已故的儿子通过推荐游戏《Portal》赋予他的。我真心为这个男人感到难过，但庆祝一本充满混乱、带有怪异救世主情结的书，对我来说是无法接受的。

具体来说，这本书对当前和未来人工智能的能力提出了一些荒谬且不真实的说法，而 Gawdat 毫无意外地没有提供任何实质性的证据，因为这些说法本身就是空洞的。其中最糟糕的部分是他全书对人工智能的拟人化描述。Gawdat 声称人工智能将拥有意识、自我认知、情感和道德，但他没有提供任何合理的论证，也完全没有考虑反对他观点的论据。

他轻率地断言，快速交互的输入代码能够创造意识并产生输出，这种毫无理性论证的说法令人难以置信，既傲慢又懒惰。历史上，许多聪明人都试图解释人类意识的存在及其本质，但都未能成功。大卫·查默斯（David Chalmers）关于“意识的难题”的研究就是一个典型的例子。更具体地说，作为对 Gawdat 观点的有力反驳，约翰·塞尔（John Searle）的“中文房间”思想实验很好地解释了人工智能目前的行为及其为何不构成意识。塞尔通过这一实验指出，程序可以模仿人类的心理过程，但仅仅是形式上的模仿，它们并不理解自己在做什么。Gawdat 完全没有回应类似塞尔的论点。许多技术专家缺乏哲学教育，我认为 Gawdat 也是如此。

与意识问题分离的还有“自我”问题，书中同样没有深入讨论。关于“自我”有许多不同的哲学观点，例如：1）德里克·帕菲特（Derek Parfit）和约翰·洛克（John Locke）的心理连续性理论；2）克拉克（Clark）和查默斯（Chalmers）的“扩展自我”理论；3）笛卡尔（René Descartes）和克尔凯郭尔（Søren Kierkegaard）提出的非物质性自我理论；4）大卫·休谟（David Hume）和弗里德里希·尼采（Friedrich Nietzsche）等哲学家则完全反对“自我”的概念。

Gawdat 是否讨论了这些关于“自我”的理论与人工智能的关系？当然没有。相反，他提出了一些未经证实的、危言耸听的说法，声称人工智能将具备“自我”能力，然后他就可以像一位身穿白色盔甲的骑士一样，将你从他的反乌托邦梦境中拯救出来（顺便说一句，这些只是他的幻想）。

在他对情感和伦理的幼稚讨论中，同样存在这些问题。

因此，Gawdat 关于“可怕的人工智能”的整个论点在开始之前就崩溃了。如果没有充分的论证说明人工智能为何会具备意识、自我认知、情感和道德，那么关于它超越人类并成为生存威胁的担忧就毫无根据。

他也没有有效解决人工智能在版权、幻觉倾向和不可靠性方面的问题。他还低估了我们关闭人工智能的能力。远程“终止开关”是存在的。

目前，人工智能并不是一个婴儿。它不过是一种依赖大量数据输入（通常来自人类标注）来生成输出的智能技术。在这个过程中，它并不具备意识。它只是一台模仿输入和输出的代码机器。人工智能是一项模仿人类的事业，仅此而已。这也是为什么总会存在数据隐私和抄袭问题的原因——因为机器需要复制我们。没有我们，它什么都不是。

我再次重申，我为这位作者感到难过。然而，这本书在其提出的解决方案中充满了危险的危言耸听和怪异的救世主情结。它也非常愚蠢。Gawdat 声称我们应该为幸福而活，并在对待他人时遵循“黄金法则”。但如果社会整体幸福因此最大化，他会同意人类慢慢折磨一个孩子吗？他听起来像是一个对功利主义一知半解的倡导者。再次证明，技术专家往往缺乏哲学教育。

结果，Gawdat 在书的后半部分听起来像是一个潜在的“幸福至上”邪教领袖。他想拯救人类，但他应该先拯救自己。

不要助长这个人的幻想。这就是这本书的本质。一本通过 otterAI 口述的书，只有 4 页参考文献。一本在寻找“幸福教”成员的书。一个患有救世主情结的男人写的书，我猜这种情结是在他儿子悲剧去世后产生的。

避开这本书吧。完全是胡说八道。“

1. This book is a wake - up call.

2. Only if we, you and I take charge, and I take charge and change, will this be a story of hope. To put this into perspective, your intelligence compared to that machine will be comparable to the intelligence of a fly compared to Einstein.

3. It's not the code we write to develop AI that determines their value system. It's the information we feed them.

4. The best way to raise wonderful children is to be a wonderful parent.

5. Things like the location of a YouTube video, for example, is entirely decided by the artificial intelligence of the Google data center.

6. The code we now write no longer dictates the choices and decisions our machines make; the data we feed them does. A lot of our intelligence resulted from our interaction with each other and not just in response to our environments.

7. How humanity will initially suffer an abundance of pain and struggle before we reach that point of peaceful coexistence with the machines.

8. No human could ever do what those intelligent machines could do. We are just too slow.

9. Change is the only constant. Change is always present but the rate of change is speeding up. Initially, things are changing faster and faster and faster.

10. Computers that will outsmart humanity will certainly become a reality.

11. Facebook's artificially intelligent chatbots were shut down after they started talking to each other in the language that they invented.

12. I am doing this much more efficiently today by using artificial intelligence as a dictation tool to turn my spoken words into the text that you read.

13. AI will not replace humans but humans who use AI intelligently will replace those who don't.

14. It's not a simplification, but rather a gradually increasing complexity that trains intelligence.

15. What matters is that because it builds fast, it can keep improving the bots it builds based on the test scores provided by the teacher bot at a speed a human could never, ever dream of.

16. The developers who write the code may be their creators, but we, you and I and everyone else, are their adoptive parents.

17. They are our children. We are their teachers. They are the students.

18. Everything that they will learn once they are released into the real world, they will learn from us.

19. Love is the path that promotes the well - being of others and not just oneself.

20. Together, we now understand that the machines will have a form of consciousness, emotions, and ethics.

21. It's no longer a matter of if, but rather when they will become part of our daily life.

22. They are not mine. I don't have the right to raise them to be what I want them to be.

23. I'm theirs. I'm here to help them find a path to reach their own potential and become who they were always meant to be.

24. By creating AI for good, we will create good AI.

25. I am a dedicated and loving parent. I don't play by the rules set for me, but by the values I believe in.

26. Post about every poster. Friendly, heartily, highlight healthy use of AI you find to make us aware of it.

27. Treat others as you want to be treated by others and by the machines.

28. Never underestimate the power of a small group of committed people to change the world. It's the only thing that ever has....