“一九一七年,英国步炮兵协同,一九一八年,德国步枪冲锋枪火箭喷射器协同,一九一四年,火炮,机枪称霸战场,一九一六年,坦克出现。你告诉我,你告诉我,打枪有用吗!?打枪有什么用?(捡起枪)八八式,德国枪,一米二五长,八斤重,口径七九二,铁瞄,五发圆头弹。你玩的再好,在永备工事和坦克面前,你能干什么?你能干什么?你能拿着这个打坦克吗?你打给我看看啊!?打枪打枪,神枪手,你一辈子就会干这个!你没了爪子,红军没了你,没了神枪手连,就tn的不干红军了吗!?神枪手,神枪手,去tnd神枪手(摔枪,指同伴)他,还有他,还有我,曾经都是神枪手,有什么了不起!?组织,纪律!你懂不懂!?科学的组织,钢铁一般的纪律,红军有比铁还硬的决心,比铁还硬的信心,你有没有!?你有没有,你告诉我有没有!?”——电视剧《十送红军》
“There is no single development, in either technology or management technique, which by itself promises even one order of magnitude improvement within a decade in productivity, in reliability, in simplicity.” —— No Silver Bullet — Essence and Accident in Software Engineering, Fred Brooks, 1986
ChatGPT和GPT-4的推出,让很多人感叹OpenAI技术的强大。除了OpenAI,DeepMind的很多工作也让我惊叹,他们仿佛可以流水线生产AlphaXXX。AI技术当然是我很关注的东西,不过我也很关心另一个问题:为什么OpenAI和DeepMind可以走到这一步?
和诸位朋友讨论之后,我认为最关键的是两点:
“投资开创性技术以求未来的巨大回报”的商业环境 现代化的研究指导思想和组织方式 第一点比较麻烦,要求的是成熟的商业-技术闭环,去产生技术研究的驱动力。美国是老牌资本主义国家,这方面我们一时半会很难追上。也许我们应该用别的方式产生驱动力,这是我不懂的领域,就不讨论了。
第二点是本文的重点。
在硅谷工作一年之后,我意识到,优秀的产品靠的不是一两个技术,而是一系列技术的结合。具体的一两个技术,想学总是可以学的,可是要做一整个系统,需要在更大的规模更好更快地发展一系列技术,这就需要先进的指导思想和科学的组织方式。
这让我想到了三湾改编和古田会议之后的红军,在此之后,红军脱胎换骨,与旧军队产生了代差。红军能打胜仗不是靠神枪手,也不是靠一两个会打仗的将领,而是靠先进的指导思想和科学的组织。有了这样的思想和组织,他们做的事情会和旧军队不一样,就算打输了一场战斗或者战役,也迟早星火燎原。
同样的,OpenAI和DeepMind靠的也不是一两个秘密技术或者天才。他们的指导思想包括
倚靠数据而非人的设计 努力scale up,大力出奇迹 快速迭代 有的放矢地(而非散漫地)做辅助性研究和软件工具,提供“轮子” 他们肯定还有其他我不知道的指导思想。他们也一定有科学的组织方式,可以把100位左右的研究人员组织起来,有的放矢地去做研究,最后实现一个大目标。这个规模远远大于高校实验室,而研究又和寻常的工业界软件开发不同,我认为这种组织方式也是新的东西。可以说有这样的思想和组织,DeepMind可以源源不断地生产AlphaXXX,一两个项目的失败根本不重要;OpenAI也迟早能做出让人惊叹的大语言模型。
这样的思想和组织并不是凭空产生的。就好像红军的思想和组织起源于马克思主义,脱胎于当时的国情以及革命初期的斗争经验。OpenAI和DeepMind也一定是继承了其他地方的优秀部分,并结合自己领域的现实情况以及过去的实践产生的。比如
倚靠数据而非人力是基于“我们有海量数据”这样的现实情况 努力scale up是基于过去研究发现“scale up会有更好的效果” 快速迭代是软件开发的指导思想 注重基建造”轮子“也是软件开发的思想 我不知道他们的组织方式是什么样的,但我相信也一定是结合了高校实验室和工业界软件开发的优秀部分,再有所发展。
不应该单一地、静态地理解这样的思想和组织。虽然我们总喜欢说“最关键的是xxx”,但是指导思想和组织方式本身就是一系列的东西,又是在不断发展的。由于面对的问题不同,条件也不同,我们也没法照抄这样的思想和组织(他们也不会让我们抄)。只能说,我们要重视,并在我们的实践中继承发展属于我们自己的指导思想和组织方式。
最后稍微延伸一点。人和人之间也不是说靠一两个技术就能相处愉快的。依靠一系列共同承认的指导思想和处理问题的方式,可以解决未来一系列的问题。