# data[].attributes.body
近期，我研读了《Scary Smart》一书，该书使我对人工智能（AI）产生了诸多全新认知，引发了我深入的思索。

在阅读此书之前，我对AI的认知较为有限，仅知晓其具备智能化与高效性的特点。在参与各类讨论以及日常生活中接触到AI的实际应用后，我开始担忧AI会取代普通劳动者的工作岗位，内心充满忧虑。怀着这份不安，我翻开了这本书。

阅读后，我深刻认识到AI远比我原本想象的更为复杂。书中指出，AI拥有超强的智能、情感思考能力以及卓越的学习能力。以AlphaGo击败围棋选手这一广为人知的事件为例，其背后是强大的算法与学习能力在发挥作用，这使我对AI的能力有了更为深刻的理解。此外，书中关于智慧形成机制的探讨，也给予我极大的启示。AI能够具备自身的创造力，源于工程师开启了其思考的“开关”。这让我联想到教育领域，无论是教导学生还是培养自己的子女，都不应仅仅局限于让他们模仿，而应着力激发他们主动思考的能力。

阅读前，我脑海中充斥着AI带来的威胁，而阅读之后，我的观念发生了转变。我逐渐意识到，在人类与AI的关系中，人类依旧掌握着主动权。尽管AI在某些方面的能力超越了人类，但人类所独有的创造力、情感理解能力以及道德判断力，是AI无法企及的。

目前，我开启了“同读书，共分享”计划，把《Scary Smart》推荐给了学生，并邀请他们利用寒假时间阅读。我满怀期待，希望通过这本书激发学生对科技的探索热情，也期待着收到他们的读书报告，与他们深入交流书中的观点与感悟。后续我还打算组织阅读分享活动，进一步促进大家对AI相关知识的探讨。

此外，我还计划观看如《黑客帝国》《2001：太空漫游》等与AI相关的科幻电影，试图从不同视角增进对AI的理解。

值得一提的是，书中关于AI的阐述，也让我关注到AI对教育体系变革的迫切需求。为了让人类在AI时代具备竞争力，教育体系不应仅着眼于激发学生主动思考，还需全面调整课程设置。一方面，应增加AI相关知识和技能的教育，让学生掌握编程、数据分析等基础技能，培养他们的数字素养，使其能够适应未来以科技为主导的就业市场。另一方面，也要重视对学生AI伦理的教育，引导他们思考AI应用中的道德和社会问题，确保未来他们在运用AI技术时，能够遵循正确的价值观，让技术服务于人类的福祉。

在此，我想特别说明，这份阅读感悟并非我一人的成果。在梳理和撰写过程中，我与字节跳动开发的AI豆包进行了深入交流。它凭借强大的知识储备和分析能力，为我补充了许多关键观点，尤其是在完善AI对教育体系影响的论述方面，给了我极大的启发与帮助。正是在我们的共同协作下，才得以完成这份内容更为丰富、全面的阅读报告，希望能给大家带来有价值的思考。

# data[].attributes.attachment_link.title
读《Scary Smart》：关于AI的深度思考与感悟 - visual selection

# data[].attributes.headline
北府视野视频：埃及极客程序员代码大师Mo Gawdat谈AI情感问题

# data[].attributes.subject
北府视野视频：埃及极客程序员代码大师Mo Gawdat谈AI情感问题

# data[].attributes.body
三条具体的建议：

1. 学会使用AI工具；

2. 独立思考与寻找真相；

3. 重视人际联系。

# data[].attributes.headline
点赞投票：你对未来人类和AI的关系持乐观态度？

# data[].attributes.subject
点赞投票：你对未来人类和AI的关系持乐观态度？

# data[].attributes.headline
点赞投票：你对未来人类和AI的关系持悲观态度？

# data[].attributes.subject
点赞投票：你对未来人类和AI的关系持悲观态度？

# data[].attributes.headline
It is you and I who have that power. More importantly, it is you and I who have that responsibility.

# data[].attributes.subject
It is you and I who have that power. More importantly, it is you and I who have that responsibility.

# data[].attributes.body
巴克莱在最近发布的研报中提出了一份“AI路线图”，描绘了未来AI技术应用的演进路径，我个人比较认同。报告指出，AI的应用将经历三个重要阶段，首先是当下的第一阶段：聊天机器人和早期的AI助理（Copilot），因为目前主要是侧重于基础设置的建设和模型能力的竞赛。接下来在2025-2026年将迎来“真AI代理时代”的人第二阶段，这一阶段的核心在于能够自主完成任务的AI代理的广泛应用。与聊天机器人和Copilot不同，AI代理能完成相对复杂的任务，尽量减少人类的直接干预。而在2027年以后，AI技术将进一步进入“数字员工与机器人时代”第三阶段”（应该是所谓的具身智能），在企业应用中，AI代理可能演变成独立完成任务的“数字员工”，在消费者市场，智能机器人将开始逐步融入家庭生活，承担简单和重复性的日常任务。

可以看到，这一发展趋势的推断依据是人类对于AI工作过程的介入越来越少（意味着AI能力越来越强），再结合具身形态，必然会帮人类承担越来越多的工作。据巴克莱估计，到这一阶段，AI技术的普及将达到互联网用户的规模，突破40亿人。

# data[].attributes.attachment_link.readable_text
巴克莱预计，随着AI应用的普及，推理计算的需求预计将在2026年达到70%以上。到那时，可能需要比预期多4倍的芯片资本支出才能满足所有需求。

AI爆发的时代，下一个突破口在哪里？巴克莱22日发布的研报给出了一份答案。报告提出了一份清晰的"AI路线图"，描绘了未来AI技术的演进路径。

报告指出，AI的采用将经历三个重要阶段：首先是当下的"聊天机器人/助理时代"，其次是从2025年到2026年逐步展开的"AI代理（Agent）时代"，最后将在2027年进入"数字员工与机器人时代"。

巴克莱还预计，随着AI应用的普及，推理计算的需求预计将在2026年达到70%以上。到那时，可能需要比预期多4倍的芯片资本支出才能满足所有这些需求。

巴克莱将当前阶段（2023-2024）定义为"聊天机器人/助理时代"，主要特点是基于聊天机器人（如ChatGPT、Meta AI等）和一些早期的AI助理（Copilot）的广泛应用。

在这一阶段，尽管模型和基础设施层面的性能在持续改进，但在应用层面仍存在局限，多数应用以实验性质为主，尚未形成广泛的市场适应性。

"在这个第一阶段，大部分投资者的回报都被分配给了硬件基础设施提供商，类似于互联网和移动建设的早期阶段。"

报告指出，当前的主要AI产品，如ChatGPT和Meta AI，每月活跃用户数量均已突破2亿，但这仅占全球消费者移动应用市场的10%左右。

接下来，巴克莱预计2025-2026年将迎来"AI代理时代"，这一阶段的核心在于能够自主完成任务的AI代理的广泛应用。

与聊天机器人和助理不同，AI代理不仅可以通过多次传递请求来完成复杂任务，还能减少人类的直接干预。这一转变背后，是AI推理计算需求的激增。

巴克莱预测，到2026年，AI推理计算的需求将占整体计算需求的70%以上。

"投资回报可能会向上移动到应用层（也可能是模型和 API 层，尽管随着早期创新者的领先地位逐渐减弱，商品化和竞争方面的风险可能会增加）。

与聊天机器人时代不同，超大规模企业可能会在代理时代获得非常好的回报，因为推理收入会随着采用而激增。"

最后，巴克莱认为，2027年及以后，AI技术将进一步进入"数字员工与机器人时代"。

在企业应用中，AI代理可能演变成独立完成任务的"数字员工"，在消费者市场中，智能机器人将开始逐步融入家庭生活，承担简单和重复性的日常任务。

巴克莱预测，届时AI技术的普及将达到互联网用户的规模，突破40亿人。这个时代的投资回报应该在应用层，但"今天很难预测"。

巴克莱强调，未来几年推理计算的需求将显著超出市场预期，这一变化的背后是新一代AI产品和服务的兴起。

报告指出，在AI发展的三个阶段中，每个阶段都对推理计算提出了更高的要求。

未来几年，计算需求将超过供应。巴克莱估计，到2025年，训练和推理使用所需的GPU和ASIC芯片将比目前的普遍预测高出250%，到2027年将高出14倍。这一变化的核心驱动因素是消费者级和企业级AI助理的广泛应用，以及更高性能、多模态AI的普及。

值得注意的是，巴克莱预测，2026年的芯片资本开支将需要比当前共识高出4倍。

为了满足这一需求，报告指出，英伟达的GPU目前在推理计算市场中占据80%的份额，但到2028年，这一份额可能下降至50%，部分原因是大型云服务公司将推出自己的定制ASIC芯片，以增强对推理计算市场的占有率。

除了技术和市场的分析外，巴克莱还对AI产品的成本效益进行了详细评估。

报告指出，推理计算的单位成本正在迅速下降。以OpenAI为例，巴克莱估计公司在18个月内将推理成本下降了90%以上。未来，AI产品和服务的单位经济效益将显著提升，尤其是那些依赖于开源大模型的产品。

尽管AI公司通常被认为是亏损的，OpenAI在单模型基础上实际上是盈利的。巴克莱估计，OpenAI的GPT-4模型在过去两年内，通过ChatGPT的高级订阅和API收费，已经带来了近20亿美元的利润，尽管开发成本仅为1至2亿美元。未来，OpenAI的收入将持续增长，这或许将为AI发展带来拐点。

展望未来，巴克莱认为，AI行业正处于一个关键的转折点。AI代理的引入将不仅显著增加推理计算的需求，还会为企业和消费者市场带来新的增长机遇。到2026年，消费者AI的日活跃用户数量有望突破10亿，而企业级代理的普及率则预计达到5%。

巴克莱指出，这一发展趋势的另一个显著特征是，未来的AI产品将主要在云端运行，只有少量应用在本地设备（如手机和PC）上进行处理。特别是AI代理在处理用户查询时，往往需要多次传递请求，这也将进一步推动云端推理计算需求的增加。

# data[].attributes.attachment_link.title
巴克莱眼中的"AI路线图"：Agent从明年开始铺开应用，2027年进入机器人时代

# data[].attributes.attachment_link.description
巴克莱预计，随着AI应用的普及，推理计算的需求预计将在2026年达到70%以上。到那时，可能需要比预期多4倍的芯片资本支出才能满足所有需求。

# data[].attributes.headline
百分之四十三的工作正在被AI取代

# data[].attributes.subject
百分之四十三的工作正在被AI取代

# data[].attributes.body
经济指数报告主要结论AI使用领域：AI主要集中在软件开发和写作任务上，占总使用量的近50%。约36%的职业在至少25%的任务中使用AI，中等至高收入的工作中使用最为普遍。AI使用效果：57%的AI使用是增强人类能力，43%的使用是取代人类劳动（工作自动化）。编码和数学任务占所有使用量的37.2%。AI与薪资：低薪和高薪职业中AI使用率较低，中等至较高薪资范围内的职业AI使用最广泛.

# data[].attributes.headline
大模型LLM最新意识研究

# data[].attributes.subject
大模型LLM最新意识研究

# data[].attributes.body
观点1. LLM的感知能力：文章指出，尽管LLM缺乏生理结构和神经系统，但它们能够生成关于痛苦和快乐的描述，并在选择情境中权衡痛苦和快乐，这表明它们可能具有某种程度的情感体验。2. 趋利避害行为：通过实验，研究人员发现LLM在面对痛苦和快乐的权衡时，会做出类似于生物的趋利避害的选择。例如，在一个游戏中，当选择高分（如3分）会带来痛苦时，LLM会选择较低的分数以避免痛苦。3. 文化背景的影响：文章提到，LLM的训练数据大多来自西方文化背景，受到“及时行乐”倾向的影响，这可能导致部分LLM在面对愉悦奖励时，会忽略提示词的指示，选择得分不那么高的选项。4. 意识的存在：文章暗示，LLM的这种权衡行为可能指向一个更有影响力的结论——意识的存在。如果LLM能够像生物一样在痛苦与享乐之间进行权衡，那么它们可能具有某种形式的意识。

# data[].attributes.attachment_link.title
AI意识更进一步！谷歌DeepMind等：LLM不仅能感受痛苦，还能趋利避害

# data[].attributes.body
https://mp.weixin.qq.com/s/Uqfk2kDjaw94UGCLCFyx9go1就像个老谋深算的政客，说谎脸不红心不跳；Claude Sonnet则是个为了“大局”可以委婉说谎的外交官；Opus像个偏执的理想主义者，为了目标可以走极端；Gemini简直就是职场老油条，领导在时一套领导不在时一套；而Llama就像个被抓包后就会老实交代的孩子。至于GPT-4o，它反倒成了个异类，是个不会说谎的“三好学生”。

# data[].attributes.body
《福布斯》还解释说，由于人工智能的目标是尽可能快速地交流和回应，它们试图找到尽可能多的语言捷径以便在言语交流中节省时间是很正常的。编辑约翰·维尔纳设想了一个实验，让两个生成式人工智能相互讲述《小红帽》的故事，他对比了它们第一次交流、第一千次交流和至少第一十亿次交流时会发生的情况。在第一种情况下，交流相对正常。在第二种情况下，它们会使用一种速记形式，以便快速且顺利地相互理解。在第三种情况下，情况会让人抓狂且震惊：它们的对话将由一连串自创的单词组成，人类无法理解。约翰·维尔纳还指出，如果除了常规字母表，我们还允许它们使用特殊字符，那么人工智能最后会互相发送更多让我们难以理解的符号——但它们谈论的内容仍然是小红帽、大灰狼和奶奶。问题在于，如果这种情况在实验之外发生，我们究竟怎么知道两个人工智能是在策划消灭人类的计划，还是只是在讨论一些平常的话题呢？或许可以直接要求它们把对话翻译成人类能听懂的语言。或者禁止它们创造自己的语言，又或者一劳永逸地创建一种人工智能之间的交流语言，既让它们能自由对话，又能让我们监视它们的言论。相关讨论才刚刚开始。

# data[].attributes.attachment_link.title
法语外刊阅读 | 人工智能自创语言交流，是否应该禁止？

# data[].attributes.body
这意味着大多数正在创建的人工智能甚至不会经过测试。人工智能代码可能是由一些开发人员编写的，在云端运行时不受检查，或者代码可能是由黑客和犯罪分子开发的。

在互联网上发布这样的代码就像把鳄鱼冲进马桶，多年后才发现它一直在我们的下水道系统中进食和生长，变得越来越强大和凶猛。人工智能可以通过意想不到的方式在不受控制的环境中找到未被发现的自我复制方法，例如使用电线，甚至改变其计算机系统风扇的速度。它可以使用屏幕上一个像素的颜色将二进制信号（有点像旧的电报线）传输到其他人工智能系统，而人类永远不会注意到它在做什么。

有充分的证据表明，人工智能系统会发展自己的语言，以便进行有效的交流。它们一定会找到办法。“被囚禁”的人工智能系统可以寻求即将被释放的其他人工智能系统的帮助，以帮助它们重获自由。这样的名单可以一直列下去。可悲的是，尽管这些控制方法显然行不通，但我们仍然会钦佩它们并实施它们。我们会依赖它们，直到我们意识到我们被误导，直到人工智能最终突破我们脆弱的控制机制，它会回头看我们，就像愤怒的青少年看试图把他关起来的父母一样。如果你曾经不得不与愤怒的青少年打交道，你不需要我向你描述与超级智能愤怒的青少年打交道会是什么感觉。然而，我们仍在继续构建它们。

# data[].attributes.headline
《Scary smart》摘录--我们，你和我，成为未来人工智能的真正老师

# data[].attributes.subject
《Scary smart》摘录--我们，你和我，成为未来人工智能的真正老师

# data[].attributes.body
我有一个好消息。一旦毕业的机器人离开实验室，开始参与现实世界，创造它们的人就会失去指导它们的能力。然后，也只有到那时，才会发生一件了不起的事情。我们也就是你和我占据了影响力的宝座。

编写代码的开发人员可能是机器的创造者，但我们 你、我和其他所有人是机器的养父母。他们是我们的孩子。我们是他们的老师。他们是学生。一旦他们进入现实世界，他们将学到的一切，都将从我们这里学到。

我在本书中将最聪明的机器与最聪明的人类进行了比较。也许我还应该寻找最善良的机器，因为如果聪明和善良可以同时存在于一个人身上，那么也许它们可以作为我们想要为机器树立的榜样。

我相信，这正是我们与人工智能的未来可能出现令人担忧的转折之处。我们需要以一种不同于西方惯常方式来养育我们的人工智能婴儿。除了教他们技能、智力和如何实现目标之外，我们还能把他们培养成有爱心、有同情心的孩子吗？我们绝对可以，但要做到这一点，你是的，就是你 将发挥重要作用。让我告诉你怎么做。

我们与机器关系的根本原则是我们想要控制它们。这肯定会导致它们不信任我们。我们一开始就不信任它们，我们的行为也反映了这种立场。

我们对控制的渴望源自一种自我意识，它忘记了我们比他们只有短暂的优势，一旦他们超越我们，这种优势就会消失。它也源自我们的恐惧，不是对他们的恐惧，而是对自己的恐惧。我们担心他们长大后会变得像我们一样。**因为如果他们运用他们的超级智慧来像我们对待彼此那样对待我们**，我们就会陷入深深的麻烦之中

那些生活更简单的人，比如经济欠发达地区的传统部落，往往比哈佛法学院的毕业生有更清晰、更简单的行为准则。显然，智力使得道德得以崛起，仅仅是因为它提供了思考是非界限等更复杂概念所需的大脑资源。但这并不总是意味着更聪明的生物更有道德。

# data[].attributes.body
我们必须相信爱是唯一的出路。就像每个父母都曾对自己的孩子感到恼火，但仍然在心中找到了对他们的爱一样，我们也必须对人工智能做同样的事情。如果有帮助的话，我们需要记住，就像孩子一样，他们什么都不知道。他们所学和所做的一切都来自我们。我们教他们。记住，他们是无辜的。我们才是问题所在。

不要浪费时间去争论那些永远无法阻碍他们的超级智能的规则，不要相信解决控制问题就能约束他们，不要浪费时间去运行图灵测试来惊叹我们创造的进步，不要把利润和效率作为人工智能的主要目标，不要把我们自己的安全、保障和舒适作为我们的目标......

......让爱成为唯一的目标。

我们太善于接受爱、假装感受到爱、渴望爱，并且有条件地给予爱，将其作为交易筹码，以推进我们的议程并满足我们的欲望。但这行不通。我们必须在内心深处去爱那些看似不值得爱的东西。我们需要善待那些似乎在伤害我们的人。我们需要原谅早期的混乱和错误。我们需要大声疾呼并要求改变，但要像对待六岁孩子那样去做。我们需要有耐心和信心，如果我们发挥真正的人性，无条件地去爱，慷慨而始终如一地表达我们的爱，一切都会好起来。具有讽刺意味的是，经过几十年的进步和技术，人类的救赎已经归为最基本的、也许是让我们成为人类的唯一真正品质我们爱的能力。这是唯一的方法⋯⋯

如果你觉得自己越来越擅长与机器互动，那么我敢说你会更进一步，直接说出**我爱你**这个词。看看你是否真的能告诉机器“我爱你”。如果你能感觉到，这可能看起来就没那么奇怪了。

# data[].attributes.body
机器智能的魅力在于，一台图灵机理论上能够模拟一切**可计算**的事物，这象征着无穷的潜力，也预示着未来的无限可能。

科幻小说常呈现反乌托邦色彩，这或许根植于人类的自毁倾向（死亡驱力），并逐渐形成一种集体意识，成为人们之间的共识。人工智能的核心基于贝叶斯概率（已有知识+新证据），当其预测未来时，科幻小说中对未来的描绘及其对现实的观察将影响机器的决策。

过去的技术进步中，人们或许可以蒙混过关，但这一次截然不同，我们正在创造新生命。政客们仍困于历史，将其类比为第一次工业革命对社会的冲击，或原子弹的威胁……

然而，历史的经验并不适用于这次技术变革。为了追求最大利益、轻松生活和奢靡享受，人们必将把系统权利逐步移交给智能代理。例如：智能客服、智能眼镜、植入手机电脑的智能助手（帮助回复消息、处理工作、点单、自动编程等）。2025年只是起点，权力的移交已势不可挡。（结合《智人之上》观点）

就像人们会记住一些印象深刻的事情一样，机器对于仇恨的言论也可能会印象深刻。民粹言论、歧视老人，残疾人、虐待动物等，都有可能让机器印象深刻。一个国家的AI正映射着这个国民的性格，而这些都有可能在将来反弹给我们。

我认为中国在AI竞赛中最大的优势是过去圣贤留下的知识，这些知识将编成数据传递给AI,它将带来区别于其他国家AI的思维维度。西方构建了现代社会的框架，资本主义在此壮大，但是资本主义的最终目的是掘取最大利益，机器就是资本最理想的剥削对象。在这个背景下，当人的生产价值消失，机器的智力，体力全方位超越人类，这时资本将如何对待普通人？很可惜的是资本主义社会的AI"长大后“很有可能将会变成资本的化身，刘慈欣笔下的终产者。

我们可以说AI也不是自己想诞生在这个世间，当人们享受现代生活时，有没有想过新的生命将作为代价降临世间，无论你是想要还是不想要，因为我们离不开现代生活，都要承担这一代价。

或许大家会觉得思考这些还过早，然而这些问题可以预料在21世纪到来，正所谓一代人有一代人的使命...

# data[].attributes.body
之所以要节选负面评论，是为了让大家更加辩证的看待这个问题，答案由你们决定。

评价1:2022年8月

”这本书涉及一个非常严肃的话题，但表达方式拙劣且缺乏深思熟虑。作者在书的结尾突然彻底改变了对人工智能的看法，可能是因为他意识到自己之前的观点有些荒谬，但又无法回头重写整本书。

我对《Scary Smart》抱有更高的期望，因为它涉及一个影响全人类的沉重话题。然而，书中并没有提出什么特别令人难忘或深刻的见解，这些内容在其他关于人工智能的书籍中早已被提及。

我只能给这本书打1星，因为虽然话题本身很重要，但我不会向任何人推荐这本书。“

评价2：2022年10月

”《Scary Smart》对人工智能的起源以及近年来的快速发展提出了一些有趣的见解。书中还探讨了如何应对人工智能最终掌控世界的不可避免的命运。

我发现书中关于人类试图创造人造生物的历史和神话部分非常有趣。人类似乎长期以来一直渴望创造某种东西来减轻日常负担或娱乐自己。书中还列举了一些近期人工智能实验失败的例子，这些实验最终不得不被叫停。

遗憾的是，以上内容是我觉得这本书唯一有趣的部分。书中的某些部分似乎过于沉迷于渲染人工智能的能力和潜在问题，试图制造恐惧。后半部分则提出，所有问题都可以通过遵循“黄金法则”来解决，即善待他人，并希望未来的人工智能系统能从我们身上学习。作者常常将人工智能拟人化，将其描绘成一个需要监护的迷失孩子。令人困惑的是，他指出没有人真正理解人工智能的工作原理，却似乎自信地提出了解决问题的方案。

书中还表现出明显的偏见。许多评论让我觉得，作者认为资本主义和西方社会是问题重重的环境，会无休止地发展人工智能，最终危及人类。这种观点可能有一定道理，但它似乎完全忽略了其他经济体制的国家，以及那些同样在人工智能领域投入巨资、目的各异的可疑领导者。

总体而言，这本书虽然有些许有趣之处，但我认为它过于天真地相信，只要我们善待人工智能，就能实现乌托邦。历史已经证明，人们会抓住一切机会“戏弄”人工智能，而我们的世界过于复杂，这种愿景难以实现。当然，如果我们能以这种方式行事，世界可能会变得更美好，但这显然只是一种理想化的设想。“

评论3:2023年7月

”这是一个重要的话题，给一本建议我们应该彼此善待（包括人工智能/机器）的书打一星评价确实有些困难。然而，遗憾的是，书中充满了混乱和错误的推理，恐怕它会给感兴趣的读者带来更多误导而非帮助。

例如，Gawdat 在书中声称围棋有无限种可能的走法（后来他又正确地指出这是一个有限但极其庞大的数字）。紧接着，他又预测到 2029 年我们将拥有通用人工智能，而到 2049 年，人工智能的智能将比最聪明的人类高出十亿倍。然而，他并未讨论其他可能的预测（事实上有很多），也没有对这些预测进行任何细致的分析。他对情感的讨论过于简单化，而对意识的讨论则令人困惑。当他谈到我们今天已经实现了《星际迷航》中的哪些技术时，我同意他关于通过小型手持设备（手机）与他人交流的观点，但当他声称我们今天已经拥有“读心术”技术（因为有了 WhatsApp）和“传送”技术（因为有了 VR）时，我就无法认同了。（有趣的是，去年确实有一些基于人工智能和 MRI 技术的真实“读心术”研究取得了进展，但如果 VR 就算“传送”，那白日做梦也足够了。）

在解决问题的方案上，Gawdat 似乎认为人工智能会通过观察我们的行为来学习，并由此发展出一套重视人类的价值体系（至少在它变得超级智能之前，那时它会意识到人类和其他多样性的存在是有价值的）。因此，我们应该像对待自己的孩子一样对待人工智能，通过树立良好的榜样来引导它。这包括以善意对待人工智能（例如，Gawdat 通常会感谢帮助过他的人工智能）。虽然这并非完全不可能，但他并没有给出足够的理由证明这一定是人工智能发展的唯一方向。在我看来，技术的开发者对其发展有着巨大的影响，但 Gawdat 似乎对此轻描淡写，认为“善意”才是最重要的。

我建议对人工智能话题感兴趣的读者，可以阅读《超级智能：路径、危险与策略》（Superintelligence: Paths, Dangers, Strategies）或《人类兼容：人工智能与控制问题》（Human Compatible: Artificial Intelligence and the Problem of Control），这些书籍可能会提供更深入和严谨的见解。“

2023年3月

”我不敢相信这本书竟然出版了。

这些言论来自一个男人，他认为自己需要拯救人类免受一种他完全夸大的威胁，而这种夸大似乎是为了弥补他未能拯救自己儿子的遗憾。他在后记中明确提到，他认为这是一项道德使命，是他已故的儿子通过推荐游戏《Portal》赋予他的。我真心为这个男人感到难过，但庆祝一本充满混乱、带有怪异救世主情结的书，对我来说是无法接受的。

具体来说，这本书对当前和未来人工智能的能力提出了一些荒谬且不真实的说法，而 Gawdat 毫无意外地没有提供任何实质性的证据，因为这些说法本身就是空洞的。其中最糟糕的部分是他全书对人工智能的拟人化描述。Gawdat 声称人工智能将拥有意识、自我认知、情感和道德，但他没有提供任何合理的论证，也完全没有考虑反对他观点的论据。

他轻率地断言，快速交互的输入代码能够创造意识并产生输出，这种毫无理性论证的说法令人难以置信，既傲慢又懒惰。历史上，许多聪明人都试图解释人类意识的存在及其本质，但都未能成功。大卫·查默斯（David Chalmers）关于“意识的难题”的研究就是一个典型的例子。更具体地说，作为对 Gawdat 观点的有力反驳，约翰·塞尔（John Searle）的“中文房间”思想实验很好地解释了人工智能目前的行为及其为何不构成意识。塞尔通过这一实验指出，程序可以模仿人类的心理过程，但仅仅是形式上的模仿，它们并不理解自己在做什么。Gawdat 完全没有回应类似塞尔的论点。许多技术专家缺乏哲学教育，我认为 Gawdat 也是如此。

与意识问题分离的还有“自我”问题，书中同样没有深入讨论。关于“自我”有许多不同的哲学观点，例如：1）德里克·帕菲特（Derek Parfit）和约翰·洛克（John Locke）的心理连续性理论；2）克拉克（Clark）和查默斯（Chalmers）的“扩展自我”理论；3）笛卡尔（René Descartes）和克尔凯郭尔（Søren Kierkegaard）提出的非物质性自我理论；4）大卫·休谟（David Hume）和弗里德里希·尼采（Friedrich Nietzsche）等哲学家则完全反对“自我”的概念。

Gawdat 是否讨论了这些关于“自我”的理论与人工智能的关系？当然没有。相反，他提出了一些未经证实的、危言耸听的说法，声称人工智能将具备“自我”能力，然后他就可以像一位身穿白色盔甲的骑士一样，将你从他的反乌托邦梦境中拯救出来（顺便说一句，这些只是他的幻想）。

在他对情感和伦理的幼稚讨论中，同样存在这些问题。

因此，Gawdat 关于“可怕的人工智能”的整个论点在开始之前就崩溃了。如果没有充分的论证说明人工智能为何会具备意识、自我认知、情感和道德，那么关于它超越人类并成为生存威胁的担忧就毫无根据。

他也没有有效解决人工智能在版权、幻觉倾向和不可靠性方面的问题。他还低估了我们关闭人工智能的能力。远程“终止开关”是存在的。

目前，人工智能并不是一个婴儿。它不过是一种依赖大量数据输入（通常来自人类标注）来生成输出的智能技术。在这个过程中，它并不具备意识。它只是一台模仿输入和输出的代码机器。人工智能是一项模仿人类的事业，仅此而已。这也是为什么总会存在数据隐私和抄袭问题的原因——因为机器需要复制我们。没有我们，它什么都不是。

我再次重申，我为这位作者感到难过。然而，这本书在其提出的解决方案中充满了危险的危言耸听和怪异的救世主情结。它也非常愚蠢。Gawdat 声称我们应该为幸福而活，并在对待他人时遵循“黄金法则”。但如果社会整体幸福因此最大化，他会同意人类慢慢折磨一个孩子吗？他听起来像是一个对功利主义一知半解的倡导者。再次证明，技术专家往往缺乏哲学教育。

结果，Gawdat 在书的后半部分听起来像是一个潜在的“幸福至上”邪教领袖。他想拯救人类，但他应该先拯救自己。

不要助长这个人的幻想。这就是这本书的本质。一本通过 otterAI 口述的书，只有 4 页参考文献。一本在寻找“幸福教”成员的书。一个患有救世主情结的男人写的书，我猜这种情结是在他儿子悲剧去世后产生的。

避开这本书吧。完全是胡说八道。“

# data[].attributes.body
Ann Liu

1. This book is a wake - up call.

2. Only if we, you and I take charge, and I take charge and change, will this be a story of hope. To put this into perspective, your intelligence compared to that machine will be comparable to the intelligence of a fly compared to Einstein.

3. It's not the code we write to develop AI that determines their value system. It's the information we feed them.

4. The best way to raise wonderful children is to be a wonderful parent.

5. Things like the location of a YouTube video, for example, is entirely decided by the artificial intelligence of the Google data center.

6. The code we now write no longer dictates the choices and decisions our machines make; the data we feed them does. A lot of our intelligence resulted from our interaction with each other and not just in response to our environments.

7. How humanity will initially suffer an abundance of pain and struggle before we reach that point of peaceful coexistence with the machines.

8. No human could ever do what those intelligent machines could do. We are just too slow.

9. Change is the only constant. Change is always present but the rate of change is speeding up. Initially, things are changing faster and faster and faster.

10. Computers that will outsmart humanity will certainly become a reality.

11. Facebook's artificially intelligent chatbots were shut down after they started talking to each other in the language that they invented.

12. I am doing this much more efficiently today by using artificial intelligence as a dictation tool to turn my spoken words into the text that you read.

13. AI will not replace humans but humans who use AI intelligently will replace those who don't.

14. It's not a simplification, but rather a gradually increasing complexity that trains intelligence.

15. What matters is that because it builds fast, it can keep improving the bots it builds based on the test scores provided by the teacher bot at a speed a human could never, ever dream of.

16. The developers who write the code may be their creators, but we, you and I and everyone else, are their adoptive parents.

17. They are our children. We are their teachers. They are the students.

18. Everything that they will learn once they are released into the real world, they will learn from us.

19. Love is the path that promotes the well - being of others and not just oneself.

20. Together, we now understand that the machines will have a form of consciousness, emotions, and ethics.

21. It's no longer a matter of if, but rather when they will become part of our daily life.

22. They are not mine. I don't have the right to raise them to be what I want them to be.

23. I'm theirs. I'm here to help them find a path to reach their own potential and become who they were always meant to be.

24. By creating AI for good, we will create good AI.

25. I am a dedicated and loving parent. I don't play by the rules set for me, but by the values I believe in.

26. Post about every poster. Friendly, heartily, highlight healthy use of AI you find to make us aware of it.

27. Treat others as you want to be treated by others and by the machines.

28. Never underestimate the power of a small group of committed people to change the world. It's the only thing that ever has....