走向前沿人工智能培训的安全案例

2026年9月28日我们相信我们正在进入一个新时代，在这个时代，在继续任何前沿强化学习培训之前，应该要求提供结构化的安全文档。理想情况下，这样的文件将上升到“安全案例”的水平--在其他安全关键行业中使用的关于风险的全面、结构化、基于证据的论点。我们将安全案例视为我们正在建设的一颗令人向往的北极星，同时承认，由于每一种新级别的人工智能能力都出现了新的复杂性，使它们对人工智能模型像对航空或核电一样严格存在挑战。我们正在制定一个框架来编纂这些做法。以下是我们认为应该成为前沿人工智能培训安全案例的一些初步指导方针。…