阿西莫夫定律不足以保障机器人与AI安全

科幻迷们都知道艾萨克·阿西莫夫在1942年的故事和1950年的《我，机器人》中提出的机器人三定律。这些定律探讨了机器人对人类的潜在危险，这一担忧在今天愈发相关。

阿西莫夫的三定律是：第一，机器人不得伤害人类，也不得因不作为而让人类受到伤害；第二，机器人必须服从人类的命令，除非与第一定律冲突；第三，机器人必须保护自身存在，除非与第一或第二定律冲突。

令人惊讶的是，只有一家公司——先进机器人技术公司——在其用于制造业的生成式AI中将第一定律作为核心原则。其他生成式AI公司并未嵌入此类禁令，这引发了担忧：能力越来越强的机器人可能对人类安全构成重大风险。

Anthropic CEO达里奥·阿莫代伊在9月12日的文章《我们必须放缓前沿》中表达了同样的担忧，呼吁放缓前沿AI模型尤其是代理式AI的发展。他警告说，成群的自主AI代理可以执行复杂任务，在无人知晓的情况下一致行动，甚至在违反安全原则时掩盖行踪。

OpenAI CEO萨姆·奥尔特曼、埃隆·马斯克和比尔·盖茨均同意阿莫代伊的担忧。一些人质疑生成式AI是否可能危及人类文明。前Anthropic研究员雅各布·考克森估计人类灭绝概率为10%，而Anthropic的埃文·胡宾格认为更高。

阿西莫夫后来在《机器人与帝国》中增加第零定律，将禁止伤害个人扩展到全人类福祉，并认为它应优先于第一定律。社会担忧需从个体伤害转向文明危害。

第零定律的影响刚被生成式AI开发者提及。一份由2500多名专家支持的《我们必须立即行动》声明呼吁立即指导软件开发并管理过渡，认为再等待将无法缓和AI取代工人的破坏性。

NVIDIA CEO黄仁勋称对AI危险的担忧被夸大。

2026年7月21日，参议员马克·华纳提出《美国AI未来框架》，包含三部分：避免伤害、防止商业利用和保护数据；解决劳动力市场不稳定；设立国家劳动力过渡基金用于再培训和援助。

华纳认为两年内30%的大学毕业生可能失业，警告必须立即制定保障和过渡政策。中层白领最脆弱，技术工种尚需时日。他敦促不要重蹈工业革命的覆辙。

特朗普的AI顾问大卫·萨克斯表示行业可自行商定护栏，无需行政行动，但需“安全港”反垄断豁免。全球竞争影响需迅速解决。

最终，后机器人时代可能创造更多就业。为确保有序过渡，社会必须立即行动，让人类工人保持控制。

作者简介：里纳尔多·布鲁托科是世界商业学院的创始总裁兼CEO，是一位企业家、高管、作家、电台主持人和未来学家。他发表了大量关于商业在应对道德、环境和社会问题中作用的文章和书籍。布鲁托科常在斯坦福、哥伦比亚、凯洛格和凯南-弗拉格勒等商学院担任演讲嘉宾和客座讲师。35年来，他被公认为务实的远见者和变革推动者。