OpenAI 和埃隆·马斯克
OpenAI 的使命是确保 AGI 惠及全人类，这意味着既要构建安全、有益的 AGI，又要帮助创造广泛的利益。
我们现在正在分享我们在实现使命方面所学到的知识，以及有关我们与埃隆关系的一些事实。
我们打算驳回埃隆的所有主张。
我们意识到构建 AGI 将需要比我们最初想象的更多的资源
Elon 表示我们应该宣布向 OpenAI 提供 10 亿美元的初始资金承诺。 该非营利组织总共从埃隆那里筹集了不到 4500 万美元，从其他捐助者那里筹集了超过 9000 万美元。
2015 年底创办 OpenAI 时，Greg 和 Sam 最初计划筹集 1 亿美元。 埃隆在一封电子邮件中表示：“我们需要提供比 1 亿美元更多的资金，以避免听起来绝望……我认为我们应该说我们从 10 亿美元的资金承诺开始……我将承担其他人没有提供的任何资金”。 [1]
我们花了很多时间试图设想一条可行的通用人工智能之路。
2017 年初，我们意识到构建 AGI 将需要大量计算。
我们开始计算 AGI 可能需要多少计算量。
我们都知道，我们需要更多的资金才能成功完成我们的使命——每年数十亿美元，这远远超过我们任何人，尤其是埃隆，认为我们作为非营利组织能够筹集到的资金。
我们和埃隆认识到需要一个营利性实体来获取这些资源
当我们讨论以营利为目的的结构以进一步实现使命时，埃隆希望我们与特斯拉合并，否则他想要完全控制。 Elon 离开了 OpenAI，表示需要有一个与 Google/DeepMind 相关的竞争对手，而他将自己做这件事。 他说他会支持我们找到自己的道路。
2017 年底，我们和 Elon 决定下一步的任务是创建一个营利性实体。 埃隆想要获得多数股权、初始董事会控制权并担任首席执行官。 在这些讨论期间，他扣留了资金。 里德霍夫曼弥补了工资和运营方面的差距。
我们无法与 Elon 就营利性条款达成一致，因为我们认为任何个人对 OpenAI 拥有绝对控制权都是违背使命的。 然后他建议将 OpenAI 并入特斯拉。 2018 年 2 月上旬，Elon 向我们转发了一封电子邮件，建议 OpenAI 应该“将特斯拉作为其摇钱树”，并评论说这是“完全正确的……特斯拉是唯一有希望与谷歌相媲美的道路”。 即便如此，成为谷歌制衡的可能性也很小。 它只是不为零”。 [2]
Elon 很快就选择离开 OpenAI，称我们成功的概率为 0，并计划在特斯拉内部建立一个 AGI 竞争对手。 当他于 2018 年 2 月下旬离开时，他告诉我们的团队，他支持我们找到自己的融资数十亿美元的道路。 2018 年 12 月，Elon 给我们发了一封电子邮件，称“即使筹集数亿也不够。 这每年需要数十亿美元，否则就算了。” [3]
我们通过构建广泛可用的有益工具来推进我们的使命
我们正在以多种方式广泛使用我们的技术，以增强人们的能力并改善他们的日常生活，包括通过开源贡献。
我们提供对当今最强大的人工智能的广泛访问，包括数亿人每天使用的免费版本。 例如，阿尔巴尼亚正在使用 OpenAI 的工具将其加入欧盟的速度加快 5.5 年； Digital Green 正在利用 OpenAI 将农业推广服务成本降低 100 倍，从而帮助提高肯尼亚和印度的农民收入； Lifespan 是罗德岛州最大的医疗保健提供商，它使用 GPT-4 将其手术同意书从大学阅读水平简化为六年级水平； 冰岛正在使用 GPT-4 来保护冰岛语。
Elon 明白这一使命并不意味着开源 AGI。 正如伊利亚 (Ilya) 告诉埃隆 (Elon) 的那样：“随着我们越来越接近构建人工智能，开始减少开放是有意义的。 openAI 中的开放意味着每个人都应该从 AI 建成后的成果中受益，但不分享科学也是完全可以的……”，Elon 回答道：“是的”。 [4]
我们很遗憾，我们非常敬佩的人走到了这一步——他激励我们设定更高的目标，然后告诉我们我们会失败，创立了一个竞争对手，然后在我们开始朝着 OpenAI 的使命取得有意义的进展时起诉我们没有他。
我们专注于推进我们的使命，并且还有很长的路要走。
随着我们不断改进我们的工具，我们很高兴能够部署这些系统，以便它们为每个人提供帮助。
我倾向于将博客定位为对公众更具吸引力——拥有公众的支持对我们的成功有很大的价值——然后有一个更长、更详细和棒球内部的版本用于招募，在公众版本的末尾有一个链接。
我们需要选择比 1 亿美元更大的数字，以避免听起来相对于谷歌或 Facebook 的支出来说毫无希望。 我认为我们应该说我们从 10 亿美元的资金承诺开始。 这是真的。 我将涵盖其他人未提供的任何内容。
模板看起来不错，除了默认授予现金红利，可以选择将其转换为 YC 或潜在的 SpaceX（需要了解具体金额）股票。
我还强烈怀疑计算能力对于实现 AGI 是必要的（甚至可能是足够的）。 如果历史趋势有任何迹象的话，人工智能的进步主要是由系统驱动的——计算、数据、基础设施。 我们今天使用的核心算法与 20 世纪 90 年代相比基本没有变化。 不仅如此，在某处论文中发表的任何算法进步几乎可以立即重新实现和合并。 相反，如果没有足够的规模，算法的进步本身就不会产生可怕的影响。
在我看来，OpenAI 今天正在烧钱，而且融资模式无法达到与谷歌（一家 800B 公司）认真竞争的规模。 如果你不能认真竞争，但继续公开进行研究，你实际上可能会让事情变得更糟，并“免费”帮助他们，因为任何进步对他们来说都很容易复制并立即大规模合并。
随着时间的推移，以营利为目的的支点可能会创造更可持续的收入流，并且在当前团队的帮助下，可能会带来大量投资。 然而，从头开始开发产品会抢走人工智能研究的焦点，这需要很长时间，而且还不清楚一家公司是否能“赶上”谷歌的规模，投资者可能会在错误的方向上施加太大的压力。正如我之前提到的，我能想到的最有希望的选择是让 OpenAI 依附特斯拉作为其摇钱树。 我相信，由于公司 DNA 不兼容，与其他大型嫌疑人（例如苹果？亚马逊？）的联系将会失败。 用火箭来比喻，特斯拉已经用 Model 3 的整个供应链及其车载计算机和持续的互联网连接建造了火箭的“第一级”。 “第二阶段”将是基于大规模神经网络训练的全自动驾驶解决方案，OpenAI 的专业知识可以极大地帮助加速。 有了功能齐全的自动驾驶解决方案，我们可以在大约 2-3 年内销售大量汽车/卡车。 如果我们做得很好，交通运输行业足够大，我们可以将特斯拉的市值提高到高 O(~100K)，并使用该收入来资助适当规模的人工智能工作。
我看不出还有什么有潜力在十年内达到谷歌规模的可持续资本。
就算筹集到几亿也不够。 这每年需要数十亿美元，否则就算了。
不幸的是，人类的未来掌握在
他们所做的远不止这些。
我真希望我是错的。
埃隆
祝你新年快乐，
恭喜猎鹰 9 号着陆，这是多么了不起的成就。 现在是时候组建舰队了！
我看到你（以及 Sam 和其他 OpenAI 人）最近做了很多采访，赞扬开源人工智能的优点，但我想你意识到这并不是某种能够神奇地解决安全问题的灵丹妙药？ 关于为什么你所采取的方法实际上非常危险并且实际上可能会增加世界的风险，有很多很好的论据。 这篇博文中阐述了一些更明显的观点，我相信您已经看到了，但还有其他重要的考虑因素：
http ://slatestarcodex.com/2015/12/17/should-ai- 开放/
我很想听听您对这些观点的反驳。
最好的
随着我们越来越接近构建人工智能，开始减少开放是有意义的。 openAI 中的开放意味着每个人都应该从 AI 构建后的成果中受益，但不分享科学是完全可以的（尽管在短期和中期内，出于招聘目的，分享一切绝对是正确的策略）。