AIの活用は、この数年で大きく変化しています。
かつてAIは、業務効率化やデータ分析を支援する「便利なツール」として語られることが多くありました。しかし現在では、AIは製品、サービス、工場、医療、交通、インフラなどに組み込まれ、企業活動や社会生活を支える重要な技術として位置付けられつつあります。
このような状況下で企業に求められるのは、「AIを導入すること」だけではありません。今後は、AIが安全に、意図したとおりに、かつ信頼できる形で利用されていることを、社内外へ合理的に説明できるかどうかが、取引・調達・監査対応や市場評価に影響し得ます。
そこで重要になる考え方が、AI Assurance（AIアシュアランス）です。
1. AIは「便利」から「社会・事業基盤」へ
AIはすでに、私たちの身近なところで広く使われています。文章生成、画像認識、チャットボット、需要予測、レコメンド、異常検知など、活用領域は急速に拡大しています。
さらに近年では、AIは単なるソフトウェア機能にとどまらず、製品そのものの価値や安全性、ならびに品質特性に影響し得る技術になっています。
例えば製造業では、Industrial AI（産業用AI）の活用が進んでいます。工場内の設備データをAIが分析して故障の予兆を検知したり、製品の外観検査を自動化したりする取り組みが増えています。Smart factoryやEdge AIの導入により、現場でリアルタイムに判断するAIも増加傾向にあります。
医療分野では、画像診断支援AIなどの活用が進み、自動車分野では、運転支援システムや自動運転の一部機能にAIが関与するケースがあります。さらに、AIエージェントのように、人の指示を受けて複数の作業を段階的に実行する仕組みも登場しています。
このようにAIは、単に「便利な機能」ではなく、判断、制御、予測、推奨に関わる技術へと進化しています。その結果、AIの出力が、製品品質、業務判断、人の安全、企業の信頼に直接影響し得る状況が生まれています。
2. AIには「見えにくいリスク」が存在する
AIは大きな可能性を持つ一方で、従来のシステムとは異なるリスクがあります。特に注意すべき点は、リスクが外部から見えにくい、または運用状況により顕在化の仕方が変わり得ることです。
例えば、AIによる誤判定（誤検知・見逃し）があります。製造ラインの外観検査AIが不良品を見逃せば、品質問題につながり得ます。医療領域でAIが誤った判断を支援すれば、患者の安全に影響する可能性があります。
また、AIにはバイアス（偏り）の問題があります。これは、学習データや設計上の偏りにより、AIの判断が特定の条件や属性に対して不公平な結果を生み得ることを指します。人材採用、与信、監視などの用途では、とりわけ慎重な管理が求められます。
生成AIでは、「幻覚（ハルシネーション）」と呼ばれる、事実と異なる内容をもっともらしく出力する現象も報告されています。業務で無検証のまま利用した場合、誤情報の拡散や判断ミスにつながり得ます。
さらに、AIの判断根拠が説明しにくい、いわゆるブラックボックス化も課題です。なぜその結果になったのかを一定程度説明できなければ、顧客、規制当局、社内の品質保証部門等に対して十分な説明が困難となる場合があります。
加えて、学習データの品質、モデル更新後の性能変化、運用環境の変化（データ分布の変動）、サイバー攻撃によるデータ改ざん等、AIのリスクは開発時だけでなく運用中にも発生し得ます。こうした点から、ライフサイクル全体での管理が重要になります。
3. 「AIが動けばよい」だけでは不十分になりつつある
これまで多くの企業では、AI導入の主な関心は「精度が出るか」「業務効率化できるか」「コスト削減につながるか」に置かれてきました。もちろん、これらは重要な観点です。
しかし、AIが製品や社会・事業基盤に組み込まれるようになると、それだけでは不十分です。今後のAI活用では、例えば次の観点が重視される傾向にあります（要求水準は用途・規制・契約条件により異なります）。
・AIは安全に動作するか
・判断結果を一定程度説明できるか（説明可能性）
・利用者や関係者に対して透明性が確保されているか
・サイバー攻撃や不正利用に対する耐性があるか
・人による監督（Human oversight）が設計されているか
・運用開始後も継続的に監視・改善されているか
特にIndustrial AIやAI搭載製品では、AIの判断が現実世界の設備、製品、人の安全に影響し得ます。そのため「AIが動くこと」以上に、「信頼できる状態で動き続けること」を、組織として説明できる体制づくりが重要になります。
4. 欧州ではAI規制（EU AI Act）が段階的に適用されている
こうした流れを象徴するのが、欧州のEU AI Act（AI規則）です。EU AI Actは、AIのリスクに応じて規制内容を定める包括的な法的枠組みであり、Regulation (EU) 2024/1689として制定されています。
EU AI Actの中心的な考え方の一つが、ハイリスクAI（high-risk AI systems）です。人の安全、健康、基本的権利、重要インフラ等に影響を与える可能性がある用途を想定し、事業者に対して要求事項や義務を課す枠組みが設けられています。ハイリスクAIに関連しては、リスク管理、データガバナンス、技術文書化・記録（ログ等）、透明性と情報提供、人による監督、ロバスト性・正確性・サイバーセキュリティ等が要求事項として位置付けられています。
またEU AI Actは段階的に適用され、全面適用まで移行期間が設定されています（例：一定の規定は先行して適用され、ハイリスクAIに関する主要規定は2026年8月以降に適用開始となる旨が示されています）。
この動きは欧州企業だけの問題ではありません。欧州市場へ製品・サービスを提供する企業、欧州企業のサプライチェーンに関与する企業、グローバル顧客から監査を受ける企業において、契約要件や評価基準として影響が及ぶ可能性があります。
5. AI Assurance（AIアシュアランス）という考え方
では、企業はAIの信頼性をどのように示せばよいのでしょうか。そこで重要になるのが、AI Assuranceです。
AI Assuranceとは、AIが安全で、信頼でき、適切に管理されていることを確認し、説明可能にするための取り組みです。単にAIモデルの精度（性能）だけを評価するのではなく、組織的・運用的な管理を含めた観点で確認します。
例えば、次のような観点が対象になり得ます。
・AIの利用目的と適用範囲は明確か
・想定リスクは評価され、対策が計画・実装されているか
・学習データや評価データは適切に管理されているか
・出力結果を人が確認・介入できる仕組みはあるか
・モデル変更（更新・再学習）時の管理プロセスはあるか
・サイバーセキュリティ対策は十分か
・運用開始後の監視、是正、改善が行われているか
また、AIガバナンスの枠組みとして、ISO/IEC 42001（AIマネジメントシステム）も注目されています。ISO/IEC 42001:2023は、組織がAIマネジメントシステムを確立・実施・維持し、継続的に改善するための要求事項を規定した国際規格です。
AI Assuranceは、AIを一度評価して終わりにする活動ではありません。企画、開発、導入、運用、更新、廃止までを含むライフサイクル全体で、信頼性を維持するための仕組みとして捉えることが重要です。
6. なぜ第三者評価の位置付けが重要になり得るのか
AIの信頼性を自社内で確認することには限界が生じる場合があります。開発部門や品質保証部門による内部確認は重要ですが、顧客、規制当局、取引先等に対して信頼性を説明する局面では、客観性や独立性が求められることがあります。
これは製品安全の分野と共通する構造です。電気製品、産業機器、医療機器、無線機器等では、第三者機関による評価・認証が製品の信頼性を支える役割を果たしてきました。同様にAIにおいても、要求事項（規制・規格・契約要件）への適合状況を、独立した立場から確認するニーズが拡大し得ます。
例えば次の点を、第三者の視点で整理することが有用となる場合があります。
・AIが安全に設計・運用されているか
・サイバーセキュリティ上のリスクが管理されているか
・国際規格・規制要求に照らしたギャップはどこか
・技術文書化、運用記録、説明可能性の水準は妥当か
Nemkoは、製品安全、品質、サイバーセキュリティ、国際認証に関わってきた第三者機関として、AIを含む新技術に対しても「安全・品質・信頼」の観点から、評価・認証・アセスメント支援を提供する立場にあります。
特に、Industrial AI、Smart factory、OT/ICS、IoT、医療機器、AI搭載装置等の領域では、AIの性能だけでなく、安全性、セキュリティ、規格適合性を一体で検討することが重要です。
AIは、信頼の確保なしには社会実装が進みにくい側面があります。自社のAI活用がどのようなリスクと説明責任を伴うのかを整理し、適切な管理・検証の枠組みを整備することが、第一歩となります。
AI Assuranceに関するお問合せは、japan@nemko.comまでご連絡ください。