A safety analysis method for software including black box part, such as machine learning software

令和４年度は、システム構成要素間の相互作用により発生するハザードの原因を分析するための安全性解析手法であるSystem-Theoretic Process Analysis（STPA）を、組込みシステムの安全性解析に適用するための方法について研究した．なお、本研究ではハザードとは、それを放置するとアクシデント（人、システム自体、環境等に悪影響がある状況）となる状態と定義する．一般的にSTPAはシステム開発の上流工程で使用される手法であるため、組込みシステムのような多数のシステム構成要素（ハードウェア、ソフトウェア、使用者等．以降、コンポーネントと呼ぶ．）が関連する複雑な構成のシステムの安全性解析には適していなかった．本研究では、既存のSTPAに対して、以下の機能を追加したStructured STPA（SSTPA）を提案した．(1)階層的にシステム構成要素を記述する方法（Structured Control Structure Diagram: SCSD)(2)個々のシステム構成要素の挙動を明確に定義する方法（組合型構成要素、順次型構成要素、結合型構成要素）(3)ハザードを生じさせる制御信号を起点にSCSDで記述されたシステムの挙動を逆追跡することでハザードの原因を明らかにする方法SSTPAを列車の踏切制御システムの安全性解析に適用し、手法の評価を行った．評価の結果、従来のSTPAに比べて、より詳細なハザードの発生原因を明らかにできることが分かった．

令和４年度は、システム構成要素間の相互作用により発生するハザードの原因を分析するための安全性解析手法であるSystem-Theoretic Process Analysis（STPA）を、組込みシステムの安全性解析に適用するための方法について研究した．なお、本研究ではハザードとは、それを放置するとアクシデント（人、システム自体、環境等に悪影響がある状況）となる状態と定義する．一般的にSTPAはシステム開発の上流工程で使用される手法であるため、組込みシステムのような多数のシステム構成要素（ハードウェア、ソフトウェア、使用者等．以降、コンポーネントと呼ぶ．）が関連する複雑な構成のシステムの安全性解析には適していなかった．本研究では、既存のSTPAに対して、以下の機能を追加したStructured STPA（SSTPA）を提案した．(1)階層的にシステム構成要素を記述する方法（Structured Control Structure Diagram: SCSD)(2)個々のシステム構成要素の挙動を明確に定義する方法（組合型構成要素、順次型構成要素、結合型構成要素）(3)ハザードを生じさせる制御信号を起点にSCSDで記述されたシステムの挙動を逆追跡することでハザードの原因を明らかにする方法SSTPAを列車の踏切制御システムの安全性解析に適用し、手法の評価を行った．評価の結果、従来のSTPAに比べて、より詳細なハザードの発生原因を明らかにできることが分かった．