はじめに
AIを実際の業務で使う立場であるAI利用者には、利便性を享受するだけでなく、適正な利用と継続的な見直しを行う責任があります。AI事業者ガイドラインでも、AI利用者は、AI提供者が意図した範囲内で継続的に適正利用し、必要に応じたAIシステムの運用を行うことが重要であると整理されています。
1. AI利用者は「使うだけ」の立場ではない
AI利用者は、事業活動において、AIシステムまたはAIサービスを利用する事業者と定義されています。一見すると、AI開発者やAI提供者に比べて技術的な責任は軽く見えるかもしれませんが、AIの出力が最終的にどのような判断に使われるかを決めるのは、多くの場合AI利用者です。そのため、利用者は「ただ使う側」ではなく、AI活用の結果に対して重要な責任を負う主体です。ISO/IEC 42001がAIを利用する組織にも適用できるとされているのは、この点を反映しています。
2. 適正利用の基本は何か
AI事業者ガイドラインでは、AI利用者に対し、まず安全を考慮した適正利用を求めています。具体的には、AI提供者が定めた利用上の留意点を遵守し、設計時に想定された範囲内で利用すること、またAIの出力について精度やリスクの程度を理解し、様々なリスク要因を確認したうえで利用することが示されています。AIを便利に使い切ることよりも、適切な範囲に取りどめて使うことが重要です。
3. 入力データとプロンプトに潜むリスク
生成AIや外部AIサービスを活用する場面では、入力情報そのものが大きなリスク要因になります。AI事業者ガイドラインでは、個人情報や機密情報を不適切に入力しないよう注意を払うこと、また入力データやプロンプトに含まれるバイアスにも留意し、責任をもってAI出力結果の事業利用判断を行うことが示されています。AIの出力がおかしい場合、必ずしもAIモデルだけが原因とは限らず、利用者側の入力が結果に影響することも少なくありません。
4. AIの出力をどう扱うべきか
AI利用者が最も注意すべき点の一つは、AIの出力をそのまま最終判断に使わないことです。AI事業者ガイドラインでは、AIの出力結果が公平性を欠くことがないよう、AIに単独で判断させるだけでなく、適切なタイミングで人間の判断を介在させる利用を検討することが共通の指針として示されています。特に、採用、人事評価、信用判断、医療、顧客対応など、個人や社会への影響が大きい場面では、人間が合理的な判断を行う仕組みが重要です。
5. 利用者にも求められる説明責任
AI事業者ガイドラインは、AI利用者が、関連するステークホルダーに合理的な範囲で情報提供し、必要に応じて説明責任を果たすことも求めています。特に、AIの出力結果を特定の個人または集団に対する評価の参考とする場合には、人間による合理的な判断のもとで説明責任を果たすことが示されています。AIを活用して業務判断を行う以上、その結果に対して説明可能な状態をつくるのは、利用者側の責任でもあります。
まとめ
AI利用者に求められるのは、便利に使うことではなく、適正に使い、説明できる状態を保つことです。特に、入力情報の管理、人間による確認、出力結果の取り扱い、説明責任の確保は、AI業務利用の基本になります。次回は、AIマネジメントシステムの中心論点のひとつであるAIリスクマネジメントを取り上げます。
Nemkoは、ISO/IEC 42001規格に基づく認証、規格解説セミナー、ギャップ分析、内部監査員研修など、ISO/ IEC 42001に関わるサービスを提供しています。
AIマネジメントシステムの導入や、ISO/IEC 42001への対応をどこから検討すべきか迷われている場合は、MS認証部（japan@nemko.com）までお問い合わせください。記事内容を踏まえたうえで、より詳しい確認やご相談につなげていただけます。