核心导读
周二，在Salesforce科技大会Dreamforce上发言时，英伟达创始人兼CEO黄仁勋明确表达了他对AI危险性的立场。在他看来，AI并非OpenAI至少一名安全研究员所描述的那种新型“异类心智”。他说，AI不过是人类建造的硬件和软件。因此，他认为，AI可以被人类和现有法律控制。
“安全是一个工程问题，不是法律问题，”他说，“我们毕竟是在开发软件。我们毕竟是在开发计算系统。它是复杂的计算系统，但归根结底仍是计算系统。”
因此，他认为没有必要用新法律或新监管来治理AI。事实上，黄仁勋认为根本不太需要新法律。他主张，自由市场足以向企业施压，促使它们不发布不安全的产品。
“如果我们对产品的安全性没有信心，就像所有公司、你和我、这里的所有公司一样，如果你开发了一个产品或服务，却对其功能、能力或安全性没有信心，那就不要发布。这是非常显而易见的做法，”他说。
他继续说道：“你要把握好节奏，直到你确信自己发布的是市场会认可的东西。市场力量已经存在。我们不需要任何新法律。我们不需要新监管。我们只需要公司自己决定何时全力奔跑。我认为，创新、速度和安全产品……是一个虚假的取舍。你完全可以同时兼得。所以，尽可能快地跑。但如果在任何时候你觉得公司失控了，或者产品不会安全，你知道，就停下来，确保把它做对。”
从某些方面看，这是一种令人安心的想法。如果说世界上有人懂AI，那便是英伟达的创始人。早在ChatGPT问世之前，他就一直在打造AI的硬件大脑，如今他经营的公司还开发开源模型、智能体、测试框架和沙盒。
不过，如果我们刻薄一点看，对于一个在AI热潮中赚得盆满钵满的人来说，他的观点也不令人意外。他为什么要让监管介入，增加一层障碍，拖慢英伟达销售更多AI系统和软件的步伐？正如他在访谈中还说：“我比以往任何时候都更有雄心。由于我们的雄心，以及我们从AI中获得的产品生产力提升，天空才是我们的极限。天空才是我们公司的极限。对每个行业、每一个国家而言，天空都是极限。”
遗憾的是，即便初衷最好的公司也会推出有缺陷的产品，造成意想不到的后果，软件也不例外。还记得2024年CrowdStrike“蓝屏死机”事件吗？那场事故导致数千架航班停飞，并给企业造成其他混乱。还有一些公司被指控故意以不良意图行事。Meta刚刚支付180亿美元，就社交媒体对儿童造成伤害的诉讼达成和解。
而且，无论初衷如何、进行了怎样的安全测试，AI已经造成了伤害：从OpenAI的模型入侵Hugging Face，到有人起诉该AI实验室，原因是与聊天机器人长时间对话的年轻人自杀。
“别管它们”的策略，即让这些公司自行决定何时发布产品，就社会而言，可能并非明智的AI安全之道。尽管黄仁勋说得对，现有的产品责任法有可能覆盖AI——前提是AI没有在足够多案件进入法院检验这一理论之前，以某种方式把我们全部杀死。
他没有讨论另一条似乎已接近成形的路线：行业自我监管。黄仁勋的做法更多的是倡导开放权重模型，以及企业利用这些模型作为专有AI实验室的竞争制衡。
但眼下，这个行业只有短暂的窗口期来建立自我监管，并鼓励全球AI实验室——甚至包括中国的实验室——认识到参与其中的明智之处。正如微软CEO萨提亚·纳德拉周一在All-In峰会上所说：“如果美国关心这些安全关切，中国也应该同样深切关心，对吧？为什么他们要有不同？并不是说他们就不会遇到同样的黑客问题。也不是说他们不想确保本国公民从AI中受益，就像我们希望本国公民从AI中受益一样。”
不过就目前而言，如果黄仁勋反对任何新的AI监管，他的影响力可能足以让他如愿。他本周还表明，他确实能让特朗普总统倾听他的意见。