训练前后应向何人共享何种信息

在《前沿AI安全承诺》中，十六家公司承诺要在“在训练前后评估其前沿模型或系统所提出的风险，包括……如有必要”（I），并承诺要“披露上述实施情况（I-VI），但除非这会增加风险或在社会效益与商业机密之间的比例失衡的情况下，否则应向公众提供透明度。他们仍应向可信赖的行动者（包括本国政府或指定机构）提供更为详尽的信息，如有必要”（VII）。本短文考察了在训练开始之前应向何人共享何种信息。应向公众共享哪些信息，仅向如本国政府等可信赖行动者共享哪些信息？在进行前沿训练运行之前共享此类信息可建立共同的意识与准备水平，可改善风险评估与管理，并有助于更大的可预测性和问责性。公司可在训练运行前共享的某些信息包括：训练开始和结束的预期日期；预期使用的计算资源（以FLOP计）；预期数据集的描述；前沿模型或系统的预期能力水平，包括潜在风险评估以及该能力是否将接近任何风险阈值；公司将如何在训练期间监控进展、能力与风险；大规模计算集群的地点、所有权、主要能源来源；采取的物理、人员和网络安全措施；以及由哪些内部和外部小组负责进行评估和红队测试，以及他们有多少资源、支持和时间来完成上述工作。