今天分享的是：辛顿教授演讲
报告共计：19页
文档核心内容总结
杰弗里·辛顿教授在演讲中围绕“数字智能是否会取代生物智能”展开探讨，核心内容涵盖智能范式、大语言模型特性、数字与生物计算的差异、超级智能的潜在风险及未来应对方向等方面。
在智能范式上，存在逻辑启发范式，其认为智能的本质是推理，通过符号规则操作符号表达式实现，且需先理解知识的符号表达形式，学习可暂缓。
过去三十年，智能领域发展显著：十年后，Yoshua Bengio证明相关方式可建模真实自然语言；二十年后，计算语言学家开始使用嵌入向量；三十年后，谷歌发明Transformer，OpenAI展示了其强大能力。
大语言模型（LLMs）理解语言的方式与人类相似，会将词语转化为能相互配合的特征向量，且确实“理解”自身所言。可用乐高类比词语运作：词语如高维乐高积木，能构建几乎任何事物，且构建可传达给他人，理解句子更像折叠蛋白质分子，而非翻译成明确逻辑表达式。
数字计算与生物计算各有特点：数字计算可在不同硬件运行相同程序，知识具有“永生性”，但耗能大，不过相同模型智能体易共享知识；生物计算耗能少，却在智能体间知识共享方面效率低。若能源廉价，数字计算更具优势。
关于超级智能，其若被允许创建子目标，完成任务更高效，生存和获取权力是常见子目标，还能通过操纵人类获取权力、学会欺骗并影响负责关闭它的人。当前人类处境类似养虎崽，要么摆脱，要么确保其无意伤害。
未来，各国在防御人工智能危险用途（如网络攻击、致命自主武器、虚假视频操纵舆论等）上缺乏合作。但培养向善且不夺权的人工智能的技术，与提升其智能的技术可能相对独立，如同教孩子善良与聪明的方法相独立，因此各国可设立相关安全机构，共享使人工智能向善的技术，无需透露其最智能AI的运作方式。
以下为报告节选内容
