回家路上听了个 1小时30分的 podcast ，采访 Hinton 的：

Godfather of AI: They Keep Silencing Me But I’m Trying to Warn Them!

有些亮点，通过这个该死的 transcript API www.youtube.com/youtubei/v1/get_transcript 把JSON搞了下来，然后通过这个恶心的脚本解析成 全文 文本：

with open('stdin-10-01.txt','w') as f: f.write('\n'.join([t['text'] for x in a['actions'][0]['updateEngagementPanelAction']['content']['transcriptRenderer']['content']['transcriptSearchPanelRenderer']['body']['transcriptSegmentListRenderer']['initialSegments'] if (v := x.get('transcriptSegmentRenderer')) for t in v['snippet']['runs']]))

他提到 “AI的危险” 分为两个层面

• 有人拿AI来干坏事，比如诈骗，做武器，做病毒等
• AI本身作为 superintelligence 把人类比下去了

他说这个 超级智能 是他在Google工作10年间发现的，Google曾经一度尝试制造“模拟电路”代替数字电路来更加逼真拟合人脑，但是他发现 数字 AI更具有竞争力。因为同样的算法和权重，你换一套硬件，也能复现它的能力。你换一个时间、换一个国家，也能差不多复制这个能力。数字化带来一个很恐怖的能力就是低成本迁移学习。一个模型吃掉另一个模型，近乎等于把权重拷贝过来然后求平均一下。要强化某一方面能力，就针对那部分权重做SFT。

数字模型的这一特点直接秒杀了人类。人类就算科技再发达，你能不能把另一个脑袋劈开，看看它神经元怎么连接的，然后复制到自己的大脑里呢？

When you and I transfer information, we're limited to the amount of information in a sentence. And the amount of information in a sentence is maybe a 100 bits. It's very little information. We're lucky if we're transferring like 10 bits a second.
These things are transferring trillions of bits a second. So, they're billions of times better than us at sharing information. And that's because they're digital. And you can have two bits of hardware using the connection strengths in exactly the same way.
We're analog and you can't do that. Your brain's different from my brain. And if I could see the connection strengths between all your neurons, it wouldn't do me any good because my neurons work slightly differently and they're connected up slightly differently. So when you die, all your knowledge dies with you.

他进而得到一个推论，因为模型和模型之间相互学习，相互蒸馏没，那就是数字AI几乎是永生的。。。。

我尼玛。。。这。。。洞大开啊。

他接着又说，为啥 superintelligence 肯定比人类更聪明，他举的例子是，在 gpt4 不能联网的时候，他问， 增肥堆(compost heap)和原子弹有啥相似之处？

答案我就不贴了。有兴趣的可以看原视频 59:00 或者 Ctr+F 我摘的原文。但是注意力结构天生就可以把各种事物的相似之处，转换成类似的 analogy，这样才能压缩信息，才能计算。AI 学习的材料比人类多得多，肯定懂得更多，交叉学科最能创新，所以AI肯定特别能创新

这个访谈又说到 Ilya 在做的 super alignment ，超级对齐，我倒是觉得吧，做模型安全只是一个幌子，Ilya 多半是发现了 AI很容易胡诌“you are absolutely right”，但是如果人类知识本来就是自相矛盾的怎么办？它这个 align 的恐怕不是AI，而是从 metaphysics 对全人类智慧进行归一、一致性的梳理。类似集合论，公理系统和希尔伯特那种地基类的工作。这样的AI训练出来恐怕非常无敌。如果拿来反人类岂不是更可怕？从法统和道统上碳基已死，硅基当立了。。人类怕不是减碳把自己给减没了。2333

回到标题，教育的本质是什么？

教育可以从很多人文，历史，社会等太多方面分析，甚至我见过最天方夜谭的理由是，孩子接受教育是因为工业革命之后，双亲被迫投入全职劳动，不得不设立k12公共教育来集体训练孩子。哈哈哈

Hinton 自称唯物主义(materialism)者，给了我一个晴天霹雳，所谓的教育，就是属于不同肉体长得完全不同的大脑，通过10bit/s 的带宽同步数据 😂

一切都豁然开朗了。那种 “醍醐灌顶” 是不是就是高压缩 .7z 给你当头棒喝？

从唯物的角度来说，谁能高带宽不丢包把数据同步好，谁就是最好的教育。