AISIは、AIセーフティ・インスティテュート（Japan AI Safety Institute）の略だ。AIの安全性について、評価の手法や基準を検討し、広めるための日本の機関で、2024年2月14日に発足した。情報処理推進機構（IPA）に置かれている。
名前は聞いたことがあっても、企業にとって何の役に立つのかは分かりにくい。AISIは企業のAIを取り締まる機関ではない。私の見方では、企業にとってのAISIの価値は、無料で読める手引きの多さにある。AIの評価、攻撃側から確かめる試験、データの品質、AIの責任者の置き方まで、社内で一から考えると時間のかかることが、公的な資料としてまとまっている。
この記事は、AISIの成り立ちと役割を確かめ、企業が使える資料を、使う場面ごとに整理する。
AISIの成り立ちと役割
AISIのページによると、設立は2023年12月21日のAI戦略会議で岸田首相が表明し、2024年2月14日に発足した。IPAは同日のプレス発表で、AIの安全性に対する国際的な関心の高まりを踏まえ、AIの安全性の評価手法の検討などを行う機関として設立したと発表している。
発足のときに挙げた業務は3つだ。
| AISIの業務（2024年の発表） | 企業から見た意味 |
|---|---|
| 安全性評価に係る調査、基準等の検討 | 何をもって「安全なAI」とするかの目安が出てくる |
| 安全性評価の実施手法に関する検討 | 評価や試験のやり方の手引きが出てくる |
| 他国の関係機関（英米のAIセーフティ・インスティテュート等）との国際連携 | 海外の基準と日本の資料の対応が分かる |
右の列は私の読み方だ。IPAは、事務局をIPA内に置き、幅広い人材を募集して数十人規模の体制を目指すとしていた。AISIのページは、関係省庁や関係機関が協力してAIの安全性の確保に取り組むと書いている。
海外にも同じ名前の機関がある。英国の機関は、2025年2月14日に名前をAI Safety InstituteからAI Security Instituteに変えた。日本のAISIは、発足のときから英米の機関との連携を業務に入れている。資料を検索するときは、どの国のAISIの資料かを確かめておくと取り違えない。
企業が使えるAISIの資料
AISIの成果物のページには、2024年から2026年までに30件の公開が並んでいる。企業が使う場面ごとに分けると次のようになる。日付はAISIのページに書かれた公開日だ。
| 使う場面 | 資料 | 公開日 |
|---|---|---|
| AIの安全性を何で測るか決める | AIセーフティに関する評価観点ガイド（第1.20版） | 2026年7月7日 |
| 攻撃する側の目で試験する | AIセーフティに関するレッドチーミング手法ガイド（第1.10版） | 2025年3月31日 |
| 試験の筋書きを考える | AIシステムに対する既知の攻撃と影響（第2版） | 2026年4月24日 |
| 学習や検索に使うデータの品質を管理する | データ品質マネジメントガイドブック | 2026年5月14日 |
| AIの責任者を置き、体制を作る | Chief AI Officerガイド | 2026年3月17日 |
| 評価を道具で回す | AIセーフティ評価のための評価ツール（OSS） | 2025年9月12日 |
| 海外の枠組みと対応させる | 米国NIST AIリスクマネジメントフレームワーク（RMF）の日本語翻訳版 | 2024年7月4日 |
このほか、ヘルスケア領域の評価観点ガイド（2026年4月2日）や、AIロボティクスに関するセーフティ評価観点ガイド（2026年7月23日）のように、分野ごとの資料も出ている。
評価観点ガイド：何を確かめるかの一覧
評価観点ガイドは、AIの安全性を確かめる観点を一覧にした資料だ。人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性の6つを重要な要素とし、評価の観点を11に分けている。2026年7月7日の第1.20版では、AIエージェントのシステムに特有の観点として「観測と制御」が加わった。評価は一度だけでなく繰り返し行うものとしている。
私の見方では、このガイドは「自社のAIで何を確かめていないか」を見つけるのに使うとよい。11の観点を全部同じ深さで評価する必要はない。業務で使うAIの評価の組み立て方はLLMの評価のやり方に書いた。
レッドチーミング手法ガイドと、既知の攻撃
レッドチーミングは、AIの仕組みを作る側や提供する側が、施したリスクの対策を攻撃者の視点から評価する手法だ。第1.10版では、RAG（検索拡張生成）の仕組みを実装したAIシステムに実際にレッドチーミングを行い、その手順を詳しく解説している。社内の文書を検索して答えるAIを作る会社には、そのまま手本になる。
あわせて読みたいのが「AIシステムに対する既知の攻撃と影響」だ。学術論文から攻撃と影響をまとめた資料で、2026年4月24日に第2版が出た。AISIは、レッドチーミングのリスクと攻撃の筋書きを作るときの参考になるとしている。LLMアプリケーションの代表的なリスクの一覧としては、OWASPのLLMアプリケーションのリスクも使える。
CAIOガイド：責任者と体制の作り方
Chief AI Officerガイドは、主に民間の事業者がCAIO（最高AI責任者）を置いて運用するときの、標準的な実務の指針だ。CAIO本人と任命する人に向けたガイドブックと、CAIOの実務スタッフや経営陣に向けた「Chief AI Officer設置・AIガバナンス実務マニュアル」の2つでできている。どちらも第1.00版だ。
AISIの資料の中で、AIを使う側の会社にいちばん近いのはこの資料だと私は考えている。CAIOの役割と、置く前に決めることはCAIO（最高AI責任者）とはにまとめた。
評価ツール：手で回す評価を道具にする
AISIは2025年9月12日に、AIシステムの安全性を評価するためのツールをオープンソースとして公開した。評価の自動化（自動レッドチーミング）の機能もついていて、GitHubでApache 2.0ライセンスで公開されている。評価観点ガイドを読んだあと、実際にどう回すかを試すときに使える。
AISIの資料を社内で使う順番
資料は多いが、全部を読む必要はない。私の見方では、会社の立場によって読む順番が違う。
| 会社の立場 | 最初に読む | 次に読む |
|---|---|---|
| 生成AIを社内で使う側（作らない） | CAIOガイド | 評価観点ガイドの観点の一覧 |
| 社内向けのAIの仕組みを作る | 評価観点ガイド | レッドチーミング手法ガイドのRAGの例 |
| AIを使った製品を外に出す | 評価観点ガイドとレッドチーミング手法ガイド | 既知の攻撃と影響、評価ツール |
| 海外の取引先から説明を求められる | NIST AI RMFの日本語翻訳版 | 評価観点ガイド |
気をつけたいのは、資料を読むことと、自社のAIが安全になることは別だという点だ。AISIのガイドは、何を確かめるかの観点と手順を示すが、自社の業務のどこにAIが入り、誰がどの権限で使っているかは教えてくれない。私の見方では、ガイドを使う前に、社内でAIがどう使われているかを把握しておく方が先だ。外部の目で確かめる考え方はAI監査とはに書いた。
AISIの資料と、現場の実装をつなぐ
AISIの資料は、何を確かめるべきかを教えてくれる。ただし、確かめた結果、問題が見つかったときに、業務の流れとAIの仕組みの両方を直すのは、それぞれの会社の仕事だ。
私の見方では、つまずきやすいのは、ガイドを読んで評価の表を作ったあとだ。評価の結果を本番のAIの設計に戻し、権限を絞り、記録を残し、運用で直し続ける人が要る。現場に入ってその役を担う職種としてのFDEはFDEとは？Forward Deployed Engineerの意味と仕事内容に書いた。
社内のAIの使い方が、AISIの観点から見てどこが手薄かを確かめたい場合は、AI利用セキュリティ診断のページに、私たちが何を見るかをまとめている。