Assurance cases (ACs) are a common artifact for building and maintaining confidence in system properties such as safety or robustness. Constructing an AC can be challenging, although existing tools provide support in static, document-centric applications and methods for dynamic contexts (e.g., autonomous driving) are emerging. Unfortunately, managing ACs remains a challenge, since maintaining the embedded knowledge in the face of changes requires substantial effort, in the process deterring developers - or worse, producing poorly managed cases that instill false confidence. To address this, we present OntoGSN: an ontology and supporting middleware for managing ACs in the Goal Structuring Notation (GSN) standard. OntoGSN offers a knowledge representation and a queryable graph that can be automatically populated, evaluated, and updated. Our contributions include: a 1:1 formalization of the GSN Community Standard v3 in an OWL ontology with SWRL rules; a helper ontology and parser for integration with a widely used AC tool; a repository and documentation of design decisions for OntoGSN maintenance; a SPARQL query library with automation patterns; and a prototypical interface. The ontology strictly adheres to the standard's text and has been evaluated according to FAIR principles, the OOPS framework, competency questions, and community feedback. The development of other middleware elements is guided by the community needs and subject to ongoing evaluations. To demonstrate the utility of our contributions, we illustrate dynamic AC management in an example involving assurance of adversarial robustness in large language models.


翻译:保障案例(ACs)是建立和维护对系统属性(如安全性或鲁棒性)信心的常用工件。尽管现有工具为静态、以文档为中心的应用提供了支持,且针对动态场景(例如自动驾驶)的方法正在涌现,但构建AC仍然具有挑战性。遗憾的是,管理ACs仍是一个难题,因为在面对变更时维护其中嵌入的知识需要大量精力,这一过程阻碍了开发者的参与——甚至更糟的是,可能导致管理不善的案例滋生虚假信心。为解决此问题,我们提出了OntoGSN:一个基于本体的支持中间件,用于管理符合目标结构表示法(GSN)标准的ACs。OntoGSN提供了一种知识表示和可查询的图结构,能够自动填充、评估和更新。我们的贡献包括:基于OWL本体与SWRL规则对GSN社区标准v3进行1:1形式化建模;一个用于与广泛使用的AC工具集成的辅助本体和解析器;用于OntoGSN维护的设计决策库与文档;包含自动化模式的SPARQL查询库;以及一个原型界面。该本体严格遵循标准文本,并已根据FAIR原则、OOPS框架、能力问题及社区反馈进行评估。其他中间件元素的开发以社区需求为导向,并持续接受评估。为展示我们贡献的实用性,我们通过一个涉及大语言模型对抗鲁棒性保障的示例,阐释了动态AC管理的应用。

0
下载
关闭预览

相关内容

PlanGenLLMs:大型语言模型规划能力的最新综述
专知会员服务
32+阅读 · 5月18日
【WSDM2024】DiffKG:面向推荐的知识图谱扩散模型
专知会员服务
28+阅读 · 2024年1月17日
LibRec 每周算法:LDA主题模型
LibRec智能推荐
29+阅读 · 2017年12月4日
国家自然科学基金
17+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
17+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员