使用场景

用于评估AI模型在自动驾驶领域的潜在风险。

在药物发现中，确保AI模型的推荐不会带来未预见的副作用。

在经济生产力提升中，防止AI模型的决策导致不公平或不道德的结果。

产品特色

确定模型可能具有的潜在严重伤害的能力。

定期评估前沿模型，检测它们是否达到关键能力水平。

当模型通过预警评估时，应用减轻计划。

基于四个领域的初步关键能力水平：自主性、生物安全、网络安全和机器学习研究与开发。

为每个关键能力水平定制减轻措施的强度。

投资于前沿风险评估的科学，并不断完善框架。

遵循Google的AI原则，定期审查和更新框架。

使用教程

第一步：确定模型可能具有的潜在严重伤害的能力。

第二步：定期对前沿模型进行评估，检测是否达到关键能力水平。

第三步：开发预警评估套件，以在模型接近关键能力水平时发出警报。

第四步：当模型通过预警评估时，根据整体利益和风险平衡以及预期部署环境，应用减轻计划。

第五步：根据关键能力水平定制减轻措施的强度。

第六步：投资于前沿风险评估的科学，并不断完善框架。

第七步：遵循Google的AI原则，定期审查和更新框架。