根据数据定义安全关键型人工智能系统的运行条件
Defining Operational Conditions for Safety-Critical AI-Based Systems from Data
专题配图图片仅供信息参考图片仅供参考版权归原作者摘要
Arxiv:2601.22118v4宣布类型:替换摘要:人工智能(AI)在许多领域都在崛起,包括许多安全关键应用。然而,对于现实世界中的复杂系统,定义基于人工智能的系统必须在其中运行的底层环境条件-操作设计领域(ODD)--是极其具有挑战性的。这往往导致对ODD的描述不完整,这与许多领域对基于AI的系统的认证要求形成了鲜明对比。传统上,ODD是在开发过程的早期阶段创建的,利用复杂的专家知识和相关标准。本文提出了一种新的方法,利用基于多维核的表示从先前收集的数据中定义奇后验。该方法通过合成基准和真实世界的航空用例进行了验证。此外,本文定义了两个赔率的相似性,如果它们产生相同的输出,直到勒贝格-零输入集,并在所述假设下证明了校准表示的体积收敛。这种新颖的、按设计安全的、基于确定核的奇数表示是全自动导出的,给出了记录的保证输入,置换稳定,由构造有界,并且在仿射等变的每维归一化下,不随单位的选择而变化。利用拟议的ODD表示支持未来对数据驱动的、安全关键的基于人工智能的系统的认证。
原始资料
arXiv cs.AI · 中文编译
查看来源原文 产品参数、测试条件及最新修订以来源原文为准。