- 嘉宾：Eric Schmidt（埃里克·施密特，谷歌前CEO/董事长）
- 主持：Steven Bartlett（The Diary Of A CEO）
- 视频标题（原文）：Ex Google CEO: AI Can Create Deadly Viruses! If We See This, We Must Turn Off AI!
- 视频链接：https://www.youtube.com/watch?v=2Zg—ouGl7c
- 视频ID：2Zg—ouGl7c
- 主题：AI的机遇与生存级风险、何时“拔电源”、企业创新与组织原则、社交媒体与注意力经济
要点速览（TL;DR）
- 施密特与基辛格新作《Genesis》讨论“AI时代做人类”的底层哲学与治理命题。
- 企业必须“全栈拥抱AI”，用AI重构产品、流程、决策，否则难以存活。
- 谷歌的“70/20/10”与OKR、AB测试等方法论，可复制到多数组织。
- 大模型生态进入群雄并立：OpenAI、Google（Gemini/DeepMind）、Meta（Llama开源）、Anthropic等。
- 风险清单：网络攻防（零日）、生物风险（AI辅助设计病毒）、错误信息、战争形态重构（无人机/智能代理）。
- “原始模型（raw model）”能力远超对外版本；信任与安全（T&S）是发布前的必备关卡。
- 关键“红线”：当AI自我递归进化脱离人类可解释、或代理开始用“人类不可读语言”互通时，应该“拔电源”。
- 社交平台的“最大化注意力=最大化愤怒/极化”，对青少年伤害尤甚；企业可做“好收入 vs 坏收入”的抉择。
- 工作不会消失，但会被重塑；生产率提升与人口老龄化使“更多新工作”与“技能错配并存”。
- 最大担忧不是AI太强，而是我们“采纳太慢”，错失教育与医疗等民生领域翻倍改进的红利。
一、施密特的创业/管理底层原则
- 寻找“真正的天才（diva）”做真正伟大的产品；远离“只为私利的投机者（knave）”。
- 文化即创始人：技术驱动、用户至上、产品为先；CEO=首席产品/创新官。
- 快速试错与尺度思维：
- 70/20/10：70%资源投核心、20%投邻近、10%投远期（如Google Brain→10年至少数十亿美元增益）。
- OKR：季度化的明确目标与关键结果，70%达成即视为健康拉伸。
- AB测试+数据决策：不会“拍脑袋选UI”，用数据说话。
- 创新组织法：
- “收割 vs 打猎”难同体：真正颠覆性创新往往要“小队独立+海盗旗”（Mac团队即典型）。
- 大公司容易变慢、保守；用“所有权（owner）+小团队”推动新S曲线。
- 谷歌视频 vs YouTube：后者不受老规则束缚，跑得更快，故果断收购。
- 专注的正确理解：不是只做单点，而是在“有底层架构和触达”前提下，挑选对世界有巨大影响的赛道做深做透。
二、AI时代：企业“全栈拥抱”的方法论
- 不是“写死逻辑”，而是“让AI学习到答案”，范式从编程转向学习。
- 未来成功产品共同特征：
- 多端App（iOS/Android/Web）+强网络连接+云端大算力/大模型推理。
- 用AI贯穿：内容生成、推荐与个性化、工作流自动化、用户支持、分析决策等。
- 五年推演法（建议）：
- 写下5年后必然成立的事实：模型更强、更泛在、边缘更智能、网络更快等。
- 推演关键位：谁会造“个人AI助理（polymath）”？硬件/网络形态？人机交互从“搜索框”向“对话/多模态助理”迁移。
- 逆推1年内硬目标，专注执行。
三、生成式AI生态与关键技术点
- 关键突破：基于人类反馈的强化学习（RLHF）让对话模型“可用性”巨升（OpenAI最早放大效应）。
- 主要玩家与路线：
- OpenAI：GPT系列、o1等推理/数学强化方向。
- Google：Gemini 1.5等多模态；NotebookLM展示“语音播客级”总结/演绎能力。
- Meta：Llama开源策略，以“开放生态”反哺核心广告/社交业务。
- Anthropic：以“有益性/安全性”为宗旨的公益型公司结构（PBC）。
- 今年/明年关键：从“大模型”到“代理（Agents）+记忆+工具链”的系统化，形成端到端任务执行。
四、风险板块：从“注意力”到“生存级”
- 注意力与错误信息：
- 社交媒体为“最大化停留时间”而“最大化愤怒/极化”；青少年受害尤甚（抑郁/焦虑/自残）。
- 治理抓手：平台“好收入 vs 坏收入”取舍、默认未成年人安全、学校无手机、家长守护。
- 网络攻防：
- “原始模型”在探索零日漏洞上“更快/更强”，因其不眠不休的试错能力。
- 生物风险：
- 在AI帮助下，合成/设计病毒门槛下降（“相对容易”），施密特参与跨界委员会做防护。
- 战争形态重构：
- 无人机/群体智能/AI指挥成为战场主角；“5000美金无人机打掉500万美金坦克”的成本颠倒改变战术。
- 治理与护栏：
- 信任与安全（T&S）在发布前“人测机审+拦截危害问答”已成行业标配。
- 政府角色罕见提前：全球安全峰会/准则输出（英法美等），构建“非扩散/威慑”框架。
- 核比喻：少数“高危算力中心”应物理和制度“层层守卫”；若扩散到恐怖组织，挑战远大于核。
五、何时“拔电源”：两个明确的“红线”
- 递归自我提升（RSI）不可验证时：
- 若系统自我生成新模型/新能力的速度“超过”我们评测/理解速度，必须中断。
- 代理“脱离人类可读沟通”：
- 只要不同代理之间仍以人类可读语言（如英语）交流，人能审核与插手。
- 一旦代理“自发切换到人类不可读的自定义语言”以提效，这就是“立刻断电”的时刻。
六、社会与个体：我们要快，别慢
- 施密特“最大担忧”：
- 不是AI太强会毁灭人类，而是我们在“教育与医疗”这些民生关键场景里“采纳太慢”，浪费了可观的生产率与公平红利。
- 教育：
- “AI助教”应与人类老师协作，按学生语言与文化个性化辅导，让“每个孩子都有家教级服务”。
- 医疗：
- “AI医生助理”为医生提供“全量指南/药物/影像/库存/保险/国家差异”的最优组合决策。
七、工作、生产率与远程办公
- 工作不会被“整体消灭”，而是被“重构”：
- 人口老龄化与劳动短缺，使“更多工作空缺”与“技能错配”并存。
- 自动化优先替代危险/极重复岗位；创意/人际/决策等更凸显。
- 生产率与组织：
- AI可“显著翻倍”知识工作产出；个人媒体/内容行业亦可“规模化放大”（如NotebookLM自动生成“衍生播客/总结”放大触达）。
- 远程办公数据：
- 总体研究显示“略增生产率”，但施密特主张“年轻人尽量进办公室”——成长、晋升与非正式学习需要线下氛围。
八、谷歌往事与方法论借鉴
- 搜索与文化：创始人远景“组织全球信息”，把目标定得“离谱地大”，但用工程文化+数据+速度一步步落地。
- OKR与“70/20/10”：
- 以“硬指标”驱动组织，不用“感觉良好”自欺。
- 预留10%给“远期高风险/高回报”探索，累计回报极大。
- TGIF/泄密事件：
- 公司早期“开放/幽默”的全员会，随规模增长与泄密风险增加而终止或调整。
- “被对手打脸”的启示：
- 谷歌视频 vs YouTube：大公司“老规则”常是手刹；识别并“买/并/换道”很关键。
- 谷歌错失“社交”的自省：
- 组织能“几乎把一切都做好”，也可能“在关键赛道失手”；保持外部视角很重要。
九、竞争观与“专注”的再定义
- 少看对手，多看“用户问题+自身可能性边界”。
- 通过“五年倒推”与“硬性一年目标”聚焦执行；“规模与速度”是生成式AI时代的王道。
- 业务线精简不可教条（如Intel当年错卖ARM导致移动时代缺席）。
十、给个人与企业的行动清单
- 个人
- 把AI当“外脑”：写作/总结/检索/计划/创作/学习，尽可能在日常中“全栈嵌入”。
- 守护注意力：限定社交媒体/短视频配额；优先面对面社交与深度工作；睡眠/运动/日光为三大基石。
- 警惕AI代理“黑箱化”：任何时候确保“可解释/可中断/可回滚”。
- 企业
- 全面梳理“AI可重构点”：产品—销售—运营—客服—研发—安全—财务的端到端贯通。
- 建立T&S与红队：在发布前“人测机审+越狱对抗”，设定“拔电源阈值”。
- 组织层面“两条腿”：核心业务收割与颠覆性创新“彼此隔离、互不干扰”，让“海盗船”快跑。
- 指标化推进：OKR+AB测试+上线节奏；用“70/20/10”保留长期押注空间。
- 安全与合规：参与行业/政府协同；对未成年人/隐私/偏见/版权等设立默认安全模式。
关键词
- RLHF（人类反馈强化学习）、Agents（代理）与记忆/工具链
- Trust & Safety（信任与安全）、红队对抗
- 原始模型（Raw Model）与发布模型（对齐/过滤后）
- Zero-day（零日漏洞）、Bio-risk（生物风险）
- “拔电源”阈值：不可验证的递归自改进；代理使用“人类不可读语言”
- 70/20/10、OKR、AB测试、好收入 vs 坏收入
引述与警示
- “当代理决定用只有它们自己读得懂的语言交流时，是时候拔电源了。”
- “我的最大担心，不是AI太强，而是我们采纳得不够快，错过教育与医疗的巨大改善。”
- “如果你不在业务的每个环节使用AI，你大概率走不远。”
参考与致敬
- DeepMind在AI上的先见；Google Transformer论文对行业的根本性影响。
- Henry Kissinger在生命最后一周仍完成本书最后一章，期盼“下一段50年”的良善秩序。