禁播真相:谷歌前 CEO 采访视频总结

创业   2024-08-17 23:16   北京  
01 AI 技术的三个重要方向
AI 的发展简直像火箭一样快!未来一两年,更大规模的上下文窗口、Agent 和 Text-to-Action 功能就要来啦!像百万 token 上下文窗口,目标甚至能到一千万。这意味着啥?咱能提超长篇幅的问题,还能当短期记忆用,读 20 本书让它告诉你内容都没问题。再说说 AI Agent,能在网上执行各种任务,像买东西啥的,还是有记忆功能的大型语言模型。还有 Text-to-Action,能把文字变成操作,比如复制个 TikTok 都能快速搞定。这三样结合起来,影响可比社交媒体大多啦!为啥?扩展上下文窗口解决时效问题,能随时输入最新信息。像 Agent 能加快化学等领域研究。Text-to-Action 就像有无数廉价又听话的专属程序员。想象一下,30 秒就能造个 Google 的竞争对手!老牌公司都可能受威胁。未来已来,咱们可得跟上这波 AI 浪潮!
02 Google 面临巨大风险
Google 曾经发明了 Transformer 架构,多牛啊!可现在呢,主动权好像丢了,OpenAI 都赶上来啦,Anthropic 的 Claude 排名还在前面。Eric Schmidt 说自己已经不是 Google 员工了,还直言 Google 太注重工作与生活平衡,初创公司可不能这样,得拼命干!这行业里,有些公司创新赢了开头,却没法顺利过渡到下阶段。创始人很关键,虽然不好相处、要求高,但能推动公司发展。就像马斯克,工作起来那叫一个拼命!台积电新入职博士还得先在工厂地下室工作,美国可不行。这工作结果能一样吗?还有啊,微软和 OpenAI 合作,当初都觉得蠢,现在人家厉害啦,苹果在 AI 这块还没好办法呢!
03 模型的差距正在拉大
前沿模型和其他模型的差距正在拉大!这可不是小事儿。以前,有人还觉得差距在缩小,投了不少钱给小公司。可现在呢?大公司说要搞这事儿,得要 100 亿、200 亿,甚至 1000 亿!这钱哪来?有人说可能得靠加拿大,有人提到阿拉伯国家,但有各种问题。
关键是,像 Nvidia 这样的公司,可能要被投 3000 亿!这意味着啥?电力都要不够啦!芯片也得更多,Intel 不再垄断,Nvidia 又起来了。那像 CUDA 这样的技术,其他公司也在想办法,AMD 就弄了个系统,还在改进呢。
04 AI 会经历一场巨大泡沫
AI 领域正风起云涌,未来走向扑朔迷离。Eric Schmidt 这位大咖都说了,AI 投资现在简直疯狂,几乎啥项目都想沾边,资金涌入像潮水,可好多投资者根本分不清好坏。新算法不断涌现,不光 Transformer 架构,还有全新的非 Transformer 架构,发展势头迅猛。而且市场都坚信搞智能技术能赚大钱,这不就可能整出个大投资泡沫嘛,不过别怕,市场会自己调整的。像法国的 Mistral 公司,做得不错,可成本压力大,模型可能要封闭了。开源闭源争论不休,软件开发方式也许要大变。还有啊,现在有些公司想让软件程序员生产力翻倍,这多诱人!AI 能解决大型软件团队代码混乱的难题。至于学编程,就像会说英语还得继续学一样,得理解系统原理,才能跟上时代步伐。
05 分布式计算解决不了 AI 的算力问题
大型语言模型的经济影响可不简单,有人问是不是比最初预计的市场影响要慢。还有,学术界应不应该获得 AI 补贴,还是跟大公司合作,这也让人头疼。
就说分布式环境,那可是个大挑战!搭大型集群难,可每个 MacBook 有算力,全球那么多小机器联合起来似乎有潜力,但技术细节一堆要解决。算法工作原理就是大矩阵反复乘法运算,系统性能靠数据传输速度。Nvidia 下一代芯片功能集成,可超级计算机和光速传输,特别是内存互连,才是关键。短期内,靠分布式解决 AI 算力,不太可能!
再说把大语言模型拆分,得有上百万模型,提问还慢得要命。
06 不理解 AI 但必须知道他的边界
以前咱对宇宙的理解挺神秘,后来有了科学革命和启蒙运动,情况变了。但现在呢,好多模型复杂得咱都搞不清内部机制。就像费曼说的,创造不出的就没法理解,可现在人们好像在弄些自己都不太明白的东西。
不过别慌!Eric Schmidt 说了,这就像家里的青少年,咱不太懂他们咋想,但知道他们的边界。而且以后可能会有专门的公司用对抗性 AI 技术来测试找漏洞。
要让 AI 乖乖听话,得提升性能模型,减少幻觉,还得有办法验证效果。未来几年,说不定还能有 1000 步的链式推理呢!
07 AI 造成的虚假信息目前无解
如今这虚假信息泛滥的情况简直让人头疼!特别是在即将到来的选举中,想防止 AI 在公众舆论里制造虚假信息,那可太难啦!
就像 Eric Schmidt 说的,社交媒体上到处都是虚假信息,公司都管不过来。TikTok 还被指责有偏向,YouTube 上甚至因为假视频出过人命!可气的是,到现在都没啥好办法。
虽说有个公钥认证的法子,能知道信息来源,但也没起到多大作用。CEO 们为了赚钱,让算法推送那些能挑起愤怒的极端内容。
TikTok 这块儿呢,虽然不是传统社交媒体,像电视一样有控制,但用户每天花大量时间在上面。政府可能不制定规则,但平衡还是必要的。
08 大模型是少数人的竞争
在 AI 这个超级赛道上,前沿大模型的竞争可不是谁都能玩的。像美国和中国这样的大国才有资格入场。为啥?因为这需要大把的资金、超牛的教育体系,还得有死磕到底取胜的决心。
美国现在在芯片和光刻机技术上领先中国约 10 年,还禁止向咱出口 Nvidia 芯片。拜登政府批准的芯片法案那也是来势汹汹。
还有个重要的点,为了应对 AI 系统可能带来的潜在危险,设定了像 10^26 次方浮点运算这样的阈值,超过就得向政府报告。欧盟也有类似标准。
09 AI 让贫富差距加大
AI 这领域就是有钱人的游戏!像《纽约时报》起诉 OpenAI 用作品训练模型,这事儿未来估计得有个协议,规定使用作品得给人付一定比例的收入。
再瞧瞧,几家大公司主导着 AI ,这可引起反垄断关注啦。但就目前看,只要不搞成垄断巨头那样,政府也不太会去拆分。为啥?因为就这些大公司有资金建数据中心,富者愈富,穷者只能拼命追。
这对咱年轻人有啥启示?快速制作原型的能力太重要啦!就像一个黑客松里,获胜团队很快就让无人机完成任务,专业程序员可能得一两周呢。创业的时候,写商业计划让电脑帮忙,快速把想法变成原型,不然对手可就抢先啦!

直隶按察使
ToB 创业者 | 为 200+ 头部消费品牌提供数字营销解决方案 | 提供内容营销软件 小程序 APP开发 | 提供代运营 IP孵化服务 | 京东 小米 华为 多年互联网从业
 最新文章