外星人和国防预算、文明延续和生育、AI和监管。
作者 | 涌 流
出品 | 科创最前线
4月17和18日晚间，福克斯新闻播出埃隆·马斯克（Elon Musk）和塔克·卡尔森（Tucker Carlson）的对谈，50分钟的对话中聊到了许多天马行空的话题：
外星人和国防预算，文明延续和生育，AI阴谋和监管，还有为什么要赶走80%推特员工……
01
AI
我从大学开始就一直在思考AI。这是我认为会对未来产生巨大影响的四五件事之一，它具有根本性的深远意义。
人类是地球上最聪明的生物，这是我们的决定性特征。
现在，一个比最聪明的人聪明得多的东西出现。这种情况下，很难预测会发生什么。
它像黑洞一样。
我认为我们应该谨慎对待人工智能，应该有一些监督，因为对公众来说它存在风险。
就像食物和药物，我们有食品和药物管理局，联邦航空管理局，有这些机构来监督可能对公众造成危害的事情。
这就是为什么我很长一段时间以来一直强烈支持人工智能监管。
被监管并不好玩，我在常规监管行业有很多经验。
因为很明显，汽车行业受到了高度监管。
所有在美国生产汽车所需要的法规，多到可以把这个房间塞满。
在欧洲、中国和世界其他地方又有完全不同的法规。
火箭也是如此，你不能随便地发射火箭，要获得发射许可证，可能有六个或更多的联邦机构需要批准，再加上州立机构的。
我经历过很多监管的情况，太疯狂了。
有时人们会认为我是特立独行的人，喜欢挑战监管机构，但实际上不是这样的。（马斯克曾因信息披露问题被SEC处罚）
我们应该认真对待这个问题，应该有一个人工智能监管机构。
我认为它需要从团队开始，先由团队寻求对人工智能的洞察，然后征求行业意见，再提出规则制定。
然后，这些规则可能会逐渐被人工智能的主要参与者接受。
先进的人工智能对人类有益。
人工智能确实有危险，比管理不当的飞机设计或生产维护糟糕的汽车生产更危险，一个很小的概率、但不是微不足道的，它具有毁灭文明的潜力风险。
很像电影《终结者》，但它不会像《终结者》那样发生，因为数据会在数据中心，机器人只是末端执行器。
我们在遇到麻烦后才制定规则，那么要真正实施规则可能就太晚了，AI可能在那时已经掌握了控制权。
ChatGPT基于OpenAI的GPT4，我在创建这家公司时发挥了关键作用。
（马斯克在2015年共同创立了OpenAI，3年后离开董事会，此后成为该公司直言不讳的批评者）。
它存在的原因是我和拉里·佩奇（谷歌联合创始人）曾经是好朋友，我经常住在他在帕洛阿尔托的房子里。
我和他聊了很久关于人工智能安全的事情，我的看法是，拉里没有足够重视人工智能安全。
他真的想要某种数字超级智能，基本上就是数字上帝（Digital God），越快越好。
他在过去的几年里做了很多公开声明，谷歌的整个目标是所谓的人工通用智能或人工超级智能。
早年马斯克与拉里·佩奇（右二）我同意他的（部分）观点；
那就是AI向好的方向发展有很大的潜力，但在坏的方向也有“潜力”。
如果你有一些激进的新技术，想要有所作为，就要把它好的一面最大化，并把坏的方面最小化。
我希望它是有益的。
他（拉里·佩奇）说我是一个“物种主义者”，他这么说我的时候，有目击者，我在场。
所以我说，“就是这样，是的，你说对了，我是物种主义者哈哈哈，你又是什么呢？”
谷歌已经有DeepMind和世界上大约3/4的人工智能人才，他们有比其他人都多的巨额资金和计算机。
我觉得现在是单极世界，一家公司几乎垄断了人工智能人才和规模算力，而当局似乎并不关心安全问题。
这样不好，离谷歌最远的方式是建立一个非营利、完全开放的组织，谷歌是为了盈利且封闭的。所以这就是为什么OpenAI中的Open指的是开源、透明，这样人们就能知道发生什么了。
虽然我支持追求利润，但不希望利润最大化是从地狱来的。
我们希望这在未来对人类有利，因为我们就是人类。
问：你能更准确地描述什么是潜在的危险和可怕之处吗？
答：如果你有一个超级智能的AI，它能够写得非常好，以一种非常有影响力、令人信服的方式，不断地找出什么是更有说服力的。
随着时间推移，进入社交媒体，例如推特、Facebook或其他媒体，并可能以一种非常糟糕的方式操纵公众舆论。
如果训练AI说谎，我们能察觉发生了什么吗？
我付出了很多努力来创建这个组织（OpenAI）来作为对谷歌的平衡，但现在我在游戏之外了。
他们不再是开源的、是盈利性质的，和微软是紧密的合作伙伴。
实际上，微软有很强的话语权。
看来这个世界需要第三种选项。
我想我会创建第三个选项，虽然现在加入游戏有些晚了。
希望它利大于弊，就像OpenAI的初衷一样。
目前尚不清楚它是否真的在做好事，现在还不能下结论。
我的担心是它被训练为政治正确（意图），不说真话。
时间点还不错。
通往AI反乌托邦的道路当然是训练AI具有欺骗性。
我要开始的是TruthGPT，它试图理解宇宙本质。
我认为这可能是最好的安全途径，因为AI关心了解宇宙。
它不太可能毁灭人类，因为我们是宇宙中有趣的一部分，希望他们会这么想。
我这么想，是因为人类可以决定猎杀所有的黑猩猩，但我们不挤压它们的空间。
事实上，我们很高兴它们的存在，我们渴望保护它们的栖息地。
我们之所以会有这样的感觉，是因为我们有灵魂，这让我们多愁善感、深思熟虑，它给了我们一种道德感渴望。
机器能有这些东西吗?机器会多愁善感、能欣赏美吗？
我们正在进入一些哲学领域，这很难回答。
我用一种科学的观点来看待事物，即可能有灵魂，也可能没有。
我不知道。
感觉我们有某种意识，它存在于一个平面上，但不是我们观察到的那个平面上。
这是我的感觉，但也可能是一种幻觉，我不知道。
对于人工智能来说，在理解美方面，它欣赏美，并能够创造令人难以置信的美丽艺术。
人工智能能够创造出非常美丽的艺术，Midjourney可以创造出令人惊叹的艺术。
它现在正在制作静态图像，用不了多久，它就会制作电影和短片，电影只是一系列带有音频的帧。
02
问：你收购了推特，得到了很多业务，你说买它是因为相信自由言论，买之后遇到了很多麻烦。现在回想起来，它值得买吗?
答：我们以不到收购价格一半的价格对公司进行了重新估值。
我提出收购要约的时机很糟糕，那是在广告大幅下滑之前。
我在这方面肯定是个“天才”，时机把握得很好，以至少两倍的价格买了它。
但有些东西是无价的，不管赔钱与否，与确保民主的力量、言论自由（民主运作的基石）相比，价格是次要问题。
言论需要尽可能的透明和真实。
所以我们在推特上推动尽可能的真实，我们有了很棒的社区笔记功能（community notes），它很棒。
我们花了很多努力来确保它不会有偏见。
社区笔记的作用比人们意识到的更强大，因为一旦人们知道他们会被关注到，就会更仔细地思考自己说的话。
这基本上是一种鼓励，让人们更真实，更少欺骗。
公众会用他们的行动来说话，如果他们在这里看到真相，他们就会更多地使用它；
反之，他们就会少用它。
他们会发现推特是最好的真相来源，他们会更多地使用它。
显然有很多组织习惯了在推特上有某种不受限制的影响，但现在不再有了。
问：纽约时报，你在推特上说他们“腹泻”。
答：我说的是在推特上“腹泻式”发文，是比喻。
如果你看纽约时报的推特推送，就好像他们把每一篇文章都发推特，即使是那些很无聊的文章、那些没有上报纸的文章，就是不停地发。
他们真的应该问，什么是最热门的推特？
今天的大新闻是什么?
要按照十条之类的上限来管理。
如果你在推特上关注它，你会每天被数百条推特轰炸。
我建议的是，在主页上只展示最好的。
在收购之前，我的推特粉丝数不是最多的，但互动数是最多的。
所以显然我对如何使用推特有所了解：
人们的注意力是有限的，所以要确保把最重要的东西放在那里。
我能感觉到有时候情况是正常的，有时候不对劲，看看哪些账号在评论，怎么有些奇怪地相似内容？
一些账户很明显是假照片，是机器人集群一遍又一遍发推特。
我开始对推特的情况越来越不安，它似乎在漂移，向坏的方向漂移。
我和董事会、管理层的谈话似乎证实了我的直觉。
基本上，我确信这些人并不关心修复推特。
我尝试获得它，但没有足够的现金来收购它，所以我需要一些现有投资者的支持。
我不清楚收购是否会成功，想试一试。
政府机构有效地、完全访问推特上发生的一切的程度令我震惊。
我们即将发布的内容之一是加密DM（私信）功能，这是一项繁重的任务。
我们有很多DM对话只是和朋友聊天，加密功能希望这个月晚些时候发布，或者下个月。
推特上的人就看不到你在说什么，可以拿枪指着我的头，我仍然看不到加密内容。
我没有收到过（政府）直接的投诉，有过一些间接的抱怨。
我认为人们有点担心直接向我抱怨，我对待抱怨的方式（笑），他们想要更委婉一些。
如果我从官员（州长）那里听到了什么违反宪法的抱怨，我的回答是，发送给他一份第一修正案副本，问他我们弄错了哪一条？
在国内和国际，新推特的目标都是尽可能地不持任何政治倾向性。
（特朗普是否回归推特）这取决于他，我的工作就是提供自由发言的地方。
我其实没有投票给特朗普，我投给了拜登。
不是说我拜登的狂热粉丝，坦白地说，我们想要一个正常的人作为总统，有正常人的常识和价值观。
我想我们让当总统这件事变得有些乏味。
当他们处于绝望的状态时，就会倾向于推送可获得最多点击的标题，不管这些标题是否准确。
我想大多数人都会同意，新闻不那么真实和准确了，因为他们只是想引起人们的注意。
这也增加了新闻的负面性，人类本能地对负面偏见做出了更多的反应。
如果你听到负面新闻，就像100年前，我们并不关心在世界的另一边或在国家之外发生了什么负面的事情，我们听到的都是村子里发生的负面事情，那些可能会对你产生非常糟糕影响的事情。
但现在，我们听到的新闻似乎都在回答这个问题——今天地球上发生的最糟糕的事情是什么?
我们的（员工）规模只剩下原来的20%。
你不需要那么多的人来管理推特。（马斯克曾开玩笑宣布由宠物狗Floki来担任推特CEO）
问：我最近和一位大公司的经营者吃晚饭，他说他被你启发了，我说言论自由？他说，不，是员工（裁员）。
答：我认为推特过去存在一个情况，人员过剩到荒谬。
如果你看推特的产品开发情况，产品和产品改进之间的对比，就像一条平坦的线。
他们在做什么?
花了一年的时间才添加了一个大多数时候用不上的编辑按钮。
情况就搞笑了，我们不是在制造汽车，制造汽车是非常困难的。
为什么冗员得如此荒谬?太疯狂了。
我认为现在它比以往任何时候都要好，我们已经提高了系统的响应能力，在某些情况下提升了超过80%；
我们努力（让推特）成为互联网上最值得信任的地方。
互联网是最不值得信赖的地方，我认为任何人都不应该相信互联网，但就像我说的那样，我们尽最大努力让人们了解真相。
03
风 险
问：像人们说，我们应该炸掉服务器群？
因为一旦它开始运行，就没有办法让它慢下来？
答：真正的重要信息不会分布得到处都是，它们存储在有限数量的服务器中心。
像人工智能，也不是在你的笔记本电脑或手机里，可能大约要10万台非常强大的计算机在某个服务器中心一起工作。
它们只存在于有限的几个地方。
事实上，你可以看来自太空的热源信号（来判断服务器位置），是的，会很明显。
我不是说现在要找服务器中心，（关键是）一些当局要有能力关闭这些服务器中心的电源、要制定某种应急计划，这才是明智的。
你说必须把它炸掉，其实可以直接切断电源的。
但为什么要切断，什么会触发开关呢？
你们考虑这个问题吗？
必须通过什么门槛才能保证当局切断电源或信号？
我想，如果我们失去了对一些超级人工智能的控制，就像出于某种原因，应该在工作的东西不知何故停止了工作，管理员无法减速或退出。
我不确定自己是否有精确的答案。
如果有一些东西是我们所担心、但又无法用通过软件命令来阻止它，那么可能就需要某种硬件（方式）。
问：你最近有没有和最大的人工智能公司运营者谈过这件事？
答：我已经好几年没和拉里·佩奇说过话了，因为OpenAI他对我很生气。
OpenAI被创造出来之时，AI世界是由谷歌Deepmind控制的单极世界，然后转变成它和OpenAI共存的两极世界。
就像我之前所说，3/4的人工智能人才转移到了这两家。
我和OpenAI团队进行过对话，但没有和拉里·佩奇谈过，因为他近几年来都不想和我说话了。
我认为他想说的是，所有的意识都应该被平等对待，不管是数字意识（digital consciousness）还是生物意识（biological consciousness）。
我不同意，特别是如果数字意识、或者你称之为数字智能的东西，来决定削减生物智能。
问：那只是在创造奴隶主？
答：听起来很棒啊！我们至少不需要着急，为什么这么着急？
哪里着火了吗？
现在ChatGPT在产生影响，就像创作诗歌，写得相当不错。
大多数人不能像它一样写作，也不能能写得那么快。
（AI影响政治选举？）这就是为什么我提出要关注人工智能在选举中的重大影响。
人们很可能会在选举中使用人工智能作为工具，如果它们足够聪明，那是它们在使用工具，还是作为工具被使用？
反正事情在变得很奇怪，而且变化很快。
问：几家地区性银行倒闭，我们被告知这没什么大不了的，这些都是孤立的。你对美国银行系统的稳定性有何看法？
答：这实际上是全球银行系统的问题。我们这里的情况是，不仅是煤矿里的金丝雀死了，而是矿工也开始死亡了。
硅谷银行一夜之间倒闭了，这是一只巨大的金丝雀，或者说更像是火鸡。
这不是什么小事情，我认为全球银行体系存在严重的危险。
有一种强烈的观点认为，如果真的按市值计算银行的投资组合、贷款，我们并不是说整个银行业都会有负资产。
但如果你看看，比如像办公室这样的商业地产，在家工作已经大大减少了世界各地城市的办公室使用率。
旧金山的商业租金打6折已经足够了，这就像一个极端的例子，不是说有40%的空缺率。
即使是纽约，几乎所有的城市都有空房记录。
商业房地产曾经是一种很好的资产，如果银行持有商业房地产，将被认为是最高安全性的资产。
现在情况不同了。公司一个接一个地取消租约或不续租了，或者干脆破产了。
你要怎么做？
我们没有看到商业的“靴子”掉下来，更像是“铁砧”，而不是靴子。
到目前为止，我们看到的只是轻微的房地产投资组合退化，但今年晚些时候，这将成为一件非常严重的事情。
我认为有可能看到房价下跌，因为利率太高了。
对于大多数没有买房的人来说，他们关注的是月供。
实际上，抵押贷款利息占绝大部分。如果美联储利率很高，基准利率实际上就很高。
你可以为房子支付的价格在下降，因为你现在必须支付更多的利息，不得不用更少的钱买房子。
它会有效地降低了房价，这种趋势在加速，这样你就可能获得负资产。
有一个解决方案可以减轻损害程度，那就是美联储降低利率。
但他们又提高了利率。
如果我没记错的话，美联储上一次这样加息导致经济衰退是在1929年，导致了大萧条。
通货膨胀都会发生，无论怎样，如果增加狭义货币供应量，就会出现通货膨胀。
因此，除了提高生产力，提高商品和服务的产出之外，没有什么灵丹妙药可以消除通货膨胀。
钱是什么？
基本上是数据库中的数字，数字加起来就是某种总和，然后你就得到了经济中商品和服务的产出。
只要货币与商品和服务的比率保持不变，就不会发生通货膨胀。
如果你增加货币的速度快于增加商品和服务的速度，那么就会出现通货膨胀。
所有刺激（经济）法案都没有得到支付，他们只是增加了货币。
更多的钱被创造出来，直到得到一个债务限额，今年晚些时候可能会有一些债务限额危机。
但只要没有达到债务限额，联邦政府可以简单地发行更多的钱，不像州政府、市政府或个人。
这就是他们所做的。
但天下没有免费的午餐，如果你发行大量货币而不产生负面后果，为什么不把它发挥到极限呢？
比如让每个人都成为万亿富翁？
委内瑞拉尝试过，结局糟糕。
04
外星人
据我所知，我们在宇宙中任何其他地方都没有看到生命迹象。很多人问我外星人在哪儿，如果地球上有外星人的话，这个人可能是我吧（笑），我对太空的东西非常熟悉。
我没有看到外星人的证据，如果有我希望马上发推特，一条有80亿个赞那种。
60年代，他们说让我们看看外星人，比如51区。
我们一直在努力扩大国防预算，如果真有外星人，会把一个外星人拉出来，说我们需要钱来保护大家不受你们外星人的伤害（笑）。
要多少钱？给给给！看起来太危险了，所以增加预算的最快方法就是拉出一个外星人（笑）。
我跑题了。
据我所知，没有证据表明存在其他生命迹象，如果有，我希望他们是和平的。
我认为我们不应该假设文明都是强健的，你看看人类文明史，古埃及人、古撒马利亚人、罗马人的兴衰，整个世界是由许多文明的崛起和拉动的。
有一条曲线，生命周期曲线，对文明来说如此，我们要确保文明向前发展。这就是我担心出生率下降的原因。
例如，日本去年的死亡人数是出生人数的两倍。
马斯克与孩子们过去，我们可以依靠一些简单的系统奖励生育，但是一旦有了生育控制和终止妊娠，人们仍然可以满足本能，但不会生育。
我们还没有进化到处理这个问题，这是大约过去50年才有的情况。（马斯克近年来一直呼吁提高生育率）
对于生育控制，我有点担心，如果我们不能养育足够多的人口来维持文明，文明会崩溃。
这是一个古老的问题，人类文明会在一声巨响中终结，还是在一声呜咽中结束？
它目前像穿着成人尿布的庞然大物，可能在呜咽中结束，这让人沮丧得要命。
科创最前线是一家专注报道科技推动产业创新的新媒体，致力于成为中国科创浪潮中的发现者、陪伴者、推动者。
我们聚焦中国科技创新产业发展，挖掘科创企业明日之星，深度跟踪头部科技企业动态及科技产业资本布局，推动科技在消费、出行、教育、文娱、房产、医疗等民生领域的落地。
