セーフティ＆セキュリティ入門(セーフティアンドセキュリティニュウモン)

AI 、 IoT の普及に伴い、セーフティとセキュリティが確保されたシステムの構築は急務となっている。セーフティは「偶発的なミス、故障などの悪意のない危険に対する安全」を示す。一方、「悪意をもって行われる脅威に対しての安全」を確保することをさすセキュリティには、「安心」という意味もある。セーフティとセキュリティが確保されて初めて安全安心なデジタル社会を構築できるのである。本書では「システム思考」と「レジリエンス・エンジニアリング」を駆使し、セーフティ技術とセキュリティ技術を統合的に組み合わせて、安全安心なシステムを構築する方法やその考え方を紹介している。
STAMP (System Theoretic Accident Model and Processes) 、 FRAM (Functional Resonance Analysis Method) 、 GSN (Goal Structuring Notation) などのセーフティ技術、コモンクライテリアなどのセキュリティ標準、セーフティ・セキュリティの統合手法 STAMP S&S 、開発方法論 CC-Case についても解説。本書は、事例を交えて「 AI 、 IoT 時代のシステム安全」を解き明かす「セーフティ＆セキュリティ」の入門書である。
第 1 章 セーフティ＆セキュリティ概説
第 2 章 システム理論と STAMP
第 3 章 レジリエンス・エンジニアリングと FRAM
第 4 章 セキュリティ・バイ・デザイン
第 5 章 IT セキュリティ標準コモンクライテリアと CC-Case
第 6 章 アシュアランスケースと IoT のセーフティとセキュリティ
第 7 章 機械学習システムのセーフティとセキュリティ

日本語で「安全」と訳される概念は 2 つあります。故障や操作ミスといった悪意のない危険から人とシステムを守るセーフティと、悪意を持った脅威から守るセキュリティです。制御システムがネットワークにつながり、 AI が判断に加わるようになると、この 2 つを別々に検討するやり方では安全も安心も確保しきれません。本書はセーフティとセキュリティの両技術を統合して扱うための入門書で、日科技連 SQiP 研究会 セーフティ＆セキュリティ分科会と金子朋子氏の手により、日科技連出版社から 2021 年 10 月に刊行されました。

柱に据えられているのは、システム思考とレジリエンス・エンジニアリングという 2 つの考え方です。システム理論に基づく事故モデル STAMP 、機能共鳴の分析手法 FRAM 、議論を構造化する GSN といったセーフティ側の手法に、セキュリティ標準のコモンクライテリアを重ね、両者を統合する STAMP S&S や開発方法論 CC-Case までを事例を交えて解説します。終章では機械学習を組み込んだシステムの安全確保に踏み込み、 AI を含むシステムの安全をどう論じるかという難題にも触れています。

書名は入門ですが、読者として想定されるのは車載・産業機器・ IoT などのシステム開発や品質保証に携わる技術者で、リスクアセスメントや安全規格の初歩概念に触れた経験があると読み進めやすい難易度です。 STAMP や FRAM を日本語でまとめて見渡せる書籍は多くないため、セーフティとセキュリティの両にらみを求められる設計・評価の担当者には手法選びの出発点になります。安全を「作り込む」だけでなく「論証する」段階まで視野に入れたい人ほど、得るものは大きいはずです。