AIを含むソフトウェアのための形式検証手法

项目来源

日本学术振兴会基金(JSPS)

项目主持人

末永幸平

项目受资助机构

京都大学

项目编号

25H01113

立项年度

2025

立项时间

未公开

研究期限

未知 / 未知

项目级别

国家级

受资助金额

59800000.00日元

学科

情報科学、情報工学およびその関連分野

学科代码

未公开

基金类别

基盤研究(A)

关键词

形式検証 ; 人工知能 ; ソフトウェア ;

参与者

和賀正樹;五十嵐淳;池渕未来;関山太朗

参与机构

京都大学,情報学研究科;国立情報学研究所,アーキテクチャ科学研究系

项目标书摘要:Outline of Research at the Start:AIを用いたソフトウェアは,AIモジュールのブラックボックス性のために従来の形式検証手法をそのまま適用することが困難である.このようなソフトウェア安全性を向上させるための形式検証手法の確立に向けて,内部動作が明らかではなく,期待される動作の形式的仕様記述も困難であるモジュールを含むシステムの動作を検証するための手法を研究する.より具体的には,AIモジュールを含むソフトウェアへの適用を志向した,形式的仕様が与えられていないブラックボックスな部品を含むソフトウェアのための形式検証手法を研究する。

  • 排序方式:
  • 1
  • /
  • 1.Efficient Black-Box Checking with Specification-Guided Abstraction

    • 关键词:
    • Abstracting;Automata theory;Black-box testing;Cyber Physical System;Embedded systems;Learning systems;Specifications;Temporal logic;Automaton learning;Black boxes;Cybe-physical systems;Cyber-physical systems;Infinite state systems;Internal design;Learn+;Linear temporal logic;Models checking;Unsafe behaviors
    • Matsumoto, Tsubasa;Watanabe, Kazuki;Suenaga, Kohei;Waga, Masaki
    • 《ACM Transactions on Embedded Computing Systems》
    • 2025年
    • 24卷
    • 5期
    • 期刊

    Cyber-physical systems (CPSs) often contain components whose internal design is unknown, making their verification challenging. Although black-box checking (BBC)—an automated black-box testing method that combines automata learning and model checking—can detect unsafe behaviors without requiring a complete model, it becomes computationally expensive for large or infinite-state systems. To address this problem, we propose a specification-guided abstraction that identifies and merges states in the system’s state space if they are equivalent under the verified specifications. Building on this abstraction, we develop an algorithm that directly learns the resulting abstract Mealy machine, thereby bypassing the need to learn the full system behavior first. We then integrate the new learning procedure with model checking to obtain an enhanced BBC framework that efficiently handles large or infinite-state systems, particularly when verifying multiple properties. Our empirical evaluation demonstrates that specification-guided abstraction improves detection and efficiency in uncovering unsafe behaviors in CPSs. © 2025 Copyright held by the owner/author(s).

    ...
  • 排序方式:
  • 1
  • /