本日より...AI の安全を保証することになりました(ホンジツ ヨリ エイアイ ノ アンゼン オ ホショウスル コト ニ ナリマシタ)

「本日より、 AI の安全を保証すること」を任されたら、何から手を付ければ良いのでしょうか。従来のソフトウェアであれば、仕様を定め、テストで確認するという道筋がありました。ところが機械学習を使ったシステムは、挙動が学習データから統計的に形づくられるため、仕様を網羅的に書き下すことも、すべての入力を試すこともできません。安全が求められる領域に AI を持ち込もうとした途端、この「保証の難しさ」が現実の業務としてのしかかってきます。

本書は森川聡久氏の著書として 2022 年 11 月に三恵社から刊行されました。物語仕立てを思わせる書名が示すとおり、ある日突然この難題を担当することになった実務者の目線に寄り添う体裁を取っており、堅い規格書や学術論文から入るのとは対照的なアプローチです。 AI の安全性保証は、機能安全やソフトウェア品質の伝統的な考え方と、機械学習固有の性質との橋渡しが論点になる分野であり、その入り口を日本語で提供する書籍はまだ多くありません。

組込みシステムや品質保証の現場で AI 搭載製品を扱うことになったエンジニア、あるいは開発部門の品質責任者が最初の一冊として手に取る場面が想像しやすいでしょう。機械学習の数理に深く踏み込む前に、「そもそも AI の安全を保証するとはどういう営みか」という問題の輪郭をつかみたい。本書の書名は、まさにその状況にいる読者への呼びかけになっています。