仁者爱人马斯克？从Hinton到有效利他主义

各位，接着聊我跟《奥尔特曼传》作者周恒星的对谈。我们聊到刚才讨论过的Hinton，他和Altman也有某种程度的交集。Hinton最近批评Altman更关心利润而不是关心AI安全，怎么看这种利润和安全之间的取舍？ 我觉得这是两种价值观之间的冲突。Hinton是学术圈的，学术圈特别像加州的一些大学，很多人受自由主义左派影响，是当年从保护环境、反战那一代人成长起来的。学术圈有个问题，就是对商业缺乏认识。而从创业圈的角度来说，对公司、对创业者最大的竞争，是你得先在竞争里活下来。 对Altman来说，他应该也意识到安全这个问题非常重要，包括他当时答应了Ilya会给20%算力来做超级对齐，所谓超级对齐就是让AI的情感价值观跟人类一致。但后面很有可能就是跟谷歌、跟Anthropic的竞争太激烈了，他必须把所有的资源都投入到做大模型里面去，所以后面的矛盾就越来越大。 其实这两点都可以理解吧。我理解Altman，因为作为一个CEO，他首先要赢得竞争、赢得这场战争，这方面的压力应该是最大的。安全是不是他考虑的？我觉得肯定也是，但可能不像Hinton那样，把安全放在那么高的优先级上。 马斯克也经常考虑安全，至少像他说出来的，是我好担心人类未来、赶紧监管起来吧。但我在书里面也写到，从他在OpenAI那段时间，特别是2018年的时候，他的一些言论很明显是个有效的加速主义者。他当时一直批评团队说你们太慢了，你们要快一点，要早点发布，这个很明显跟Altman是一样的，就是从一个资本家、从CEO的角度去push团队尽快，不能让别人赶上了。但他从OpenAI出来之后开始说安全问题，我觉得这更多是一种竞争策略。 书里有一章提到硅谷的宗教。其实在我写这本书之前，很早之前我也写过他们，确实像是宗教一样。但你也知道，历史上的宗教战争也不是为了宗教这件事，而是现实中间所牵涉的利益，只不过找了一个理由，所以你的立场都是可以改变的。就像马斯克，他说牛津大学的MacAskill很符合我的哲学，我的哲学跟他很像，但你刚才也说，他其实也是加速主义，这就和Peter Thiel这些人蛮像，所以其实是一种比较灵活的道德观。 如果我们看马斯克的很多所谓理论和描绘的蓝图，其实是有变化的，并不是像他说的那样，一开始在大学里就想到我要做电动车、做绿色能源、做太空，这其实是后面形成的一整套讲故事的逻辑。按这套逻辑，他的终极目标是去火星，电动车是为了在火星上的运输，火箭是作为从地球到火星的中间运输，X是当时设想的火星上的通讯，还有那个Boring Company挖大隧道的——不过这个现在基本上没什么声音了，算是失败了，另外还有做脑机接口的。他确实有一整套逻辑，里面有他的理想和坚持，但也有很多其实是为了讲故事。 关于他的有效利他主义（EA），美国不管是科技报道还是时政类报道都会写很多这方面的东西。其中一个点叫Longtermism，长远主义。彼得·辛格是第一个讲有效利他的人，他在《饥荒、富裕与道德》这篇文章里说，门口倒了一个饿死的人，你去救他所承担的义务，和去救几千里外一个非洲难民的义务是一样的。就是说人的生命价值是一个抽象的平均值，他把人给数学化了，那么现在的人的价值就和一万年之后的人的价值是一样的。所以马斯克不是经常说我们可以去火星，包括我要生多少个孩子，你们千万别当什么性少数派不生孩子，我们文明就要毁灭了——他要保证未来人类人口的繁荣，这可能已经是一个跨行星物种了，我们倒推出这个价值观，这是个蛮社会工程学的想法。 我记得第一次见马斯克的时候，让我很惊讶的是他说他算了中国的人口，觉得如果中国一直实行计划生育、每家就一胎，很快人口结构就会崩溃，就collapse。我印象很深刻，我说你怎么知道，他说我算出来的。那时候是2013年，他那时候就算这个了。他很擅长通过数理逻辑，蛮冷酷的，就是说我也是讲数理逻辑，不会掺太多情感的东西在里面。所以他很看不惯加州那些左派的东西，掺太多他觉得很荒谬的价值观，这些年还有什么“觉醒头脑病毒”（woke mind virus），整天说这个，也是因为他的儿子变成女儿了吧。 后来我跟马斯克保持了邮件交流，主要是我发一些我们写的英文文章给他看，讲中国的电动车、中国的太空，他有时候挺感兴趣的，会评论几句。我记得有一次北斗卫星发射，我发了一篇文章给他，他就说“恭喜北斗”。我还发过一个月球探月车嫦娥的，他也说祝贺，然后我问他你觉得中国会比你们先去火星吗？他说game on，我们来比赛一下。 所以你看，从Hinton到Altman再到马斯克，表面上争的是AI安全，底下转的都是竞争、利益和一套可以随立场调整的叙事。