来源： AdobeStock

OpenAI 硬件团队负责人 Caitlin Kalinowski 于周末辞职。卡利诺夫斯基在社交媒体上发帖表示，她对 OpenAI 最近与国防部达成的协议感到担忧。 

该协议将使 OpenAI 的生成式人工智能系统在安全的国防部计算系统中可用。 

“我从 OpenAI 辞职。我非常关心机器人团队和我们共同建立的工作。这不是一个容易的决定，”Kalinsowski 在 X 上写道。“人工智能在国家安全中发挥着重要作用。但是在没有司法监督的情况下对美国人进行监视，在没有人类授权的情况下实现致命自主，这些都是值得深思熟虑的。这是关于原则，而不是人。我我对 Sam 和团队深表敬意，我为我们共同打造的东西感到自豪。​​​​​​​​​​​​​​​​”

“需要明确的是，我的问题是，在没有定义护栏的情况下匆忙宣布了这一消息，”她在后续帖子中写道。“这首先是一个治理问题。这些对于交易或公告来说太重要了，不能仓促行事。”

Kalinowski 于 2024 年 11 月加入 OpenAI，领导公司更新后的硬件和机器人团队。在公司期间，Kalinowski 帮助建立了公司规模扩大的机器人团队。在 OpenAI 工作之前，Kalinowski 领导 Meta 团队构建增强现实眼镜。

在加入 OpenAI 之前，Kalinowski 曾在 Meta、Oculus VR、Apple 等公司工作。 | 来源：Meta

OpenAI 的防御协议

Kalinowski 的辞职随着人工智能在军事行动中的作用成为越来越热门的讨论。近几个月来，五角大楼向领先的人工智能公司施加压力，要求允许他们的模型用于“所有合法目的”。另一位人工智能开发商 Anthropic 反驳了这一说法。 

Anthropic 希望与美国国防部 (DoD) 签署协议并协商指导方针，以防止其人工智能技术被用于大规模国内监视或完全自主武器。讨论失败后，五角大楼将 Anthropic 列为供应链风险。 Anthropic 表示计划在法庭上反对这一认定。 

OpenAI 在二月底宣布了与国防部的协议。这一消息是在 Anthropic 结束与国防部的讨论几天后发布的。作为与国防部协议的一部分，OpenAI 允许其技术在机密环境中使用。 OpenAI 首席执行官 Sam Altman 声称，该公司的合同包括防止国防部将公司的技术用于监视或自主武器的保护措施。