Jul 21, 2026
はじめに
AI開発者は、AIモデルやAIシステムを直接設計・変更できる立場にあります。そのため、AIが後工程でどのように提供され、どのように利用されるかを見据えながら、リスクをできる限り事前に把握し、必要な対策を講じることが求められます。AI事業者ガイドラインでも、開発者は、データ、バイアス、安全性、セキュリティ、検証可能性、情報提供など、多面的な観点で管理を行う必要があると整理されています。
1. AI開発者の責任が重い理由
AI開発者は、AIモデルの構造、学習データ、学習方法、評価方法などを設計する立場にあります。この初期設計での判断は、後にAIが提供・利用された際の性能、偏り、安全性、説明のしやすさに大きく影響します。そのため、AI事業者ガイドラインでも、AI開発者は「AIモデルを直接的に設計・変更できるため、AIが提供・利用された際にどのような影響を与えるか、事前に可能な限り検討し、対応策を講じておくことが特に重要」と整理されています。
2. 学習データの扱いで押さえるべきこと
開発者がまず重視すべきなのは、学習等に用いるデータの適切性です。AI事業者ガイドラインでは、データ前処理時に、個人情報や知的財産権に留意が必要な情報が含まれる場合には、法令に則って適切に扱い、保護措置を実施することが求められています。また、データの質が不十分であれば、出力の妥当性や公平性にも影響が及びます。AIの性能はモデルだけで決まるものではなく、データの質にも大きく左右されるという視点が必要です。
3. バイアスへの配慮はなぜ必要か
AI事業者ガイドラインでは、学習データや学習過程にバイアスが含まれうることに留意し、データの質を管理するための相当の措置を講じること、さらにAIモデルが代表性のあるデータセットで学習され、不公正なバイアスがないかを点検することが求められています。特に、採用、人事評価、顧客審査、医療、金融、品質判定など、人や社会に影響を与える分野ほど重要になります。重要なのは、どこに偏りが入り得るかを理解し、点検し、説明できる状態を整えることです。
4. 開発段階での安全性・セキュリティ・検証可能性
AI事業者ガイドラインでは、人間の生命・身体・財産・精神・環境に配慮した開発として、予期しない環境を含む様々な状況下での利用に耐えうる性能を求め、リスクを最小限に抑える方法を要求しています。また、採用する技術の特性に照らして、適切なセキュリティ対策を講じること、いわゆるセキュリティ・バイ・デザインの考え方も示されています。さらに、AIの予測性能や出力品質は、活用開始後に大きく変動する可能性もあるため、事後検証のための作業記録を保存し、品質の維持・向上を行うことが重要です。
5. 開発後の情報提供と文書化
AI開発者の仕事は、モデル完成で終わりではありません。AI事業者ガイドラインでは、AIシステムの技術的特性、安全性確保の仕組み、予見可能なリスクとその緩和策、不具合の原因と対応状況などに関する情報提供を行うこと、さらに、開発過程、データ収集やラベリング、使用アルゴリズム等を文書化することが求められています。こうした情報は、後工程のAI提供者やAI利用者が適正にAIを扱うための前提になります。
まとめ
AI開発者に求められるのは、モデルを作ることだけではありません。データ、バイアス、安全性、セキュリティ、検証可能性、情報提供、文書化まで含めて、後工程を見据えた設計が必要です。次回は、AI開発者が作ったAIを実装し、利用者に届ける立場であるAI提供者の役割を整理します。
Nemkoは、ISO/IEC 42001規格に基づく認証、規格解説セミナー、ギャップ分析、内部監査員研修など、ISO/ IEC 42001に関わるサービスを提供しています。
AIマネジメントシステムの導入や、ISO/IEC 42001への対応をどこから検討すべきか迷われている場合は、MS認証部（japan@nemko.com）までお問い合わせください。記事内容を踏まえたうえで、より詳しい確認やご相談につなげていただけます。