序文
少子高齢化や人口減少が進む中、企業では、限られた人員で業務を継続すること、熟練者の知識を次世代へ引き継ぐこと、高齢者を含む多様な利用者へ安定したサービスを提供することが課題となっています。こうした課題への対応として、文書検索、問い合わせ対応、記録作成、点検結果の整理など、日常業務へのAIやデジタル技術の活用が進んでいます。
一方、AIやDXを導入しただけで、人手不足や技能継承の問題が解決するわけではありません。対象業務、利用者、使用するデータ、運用体制及び人による確認方法によって、得られる効果と生じるリスクは異なります。
総務省及び経済産業省の「AI事業者ガイドライン（第1.2版）」では、少子高齢化に伴う労働力の低下などの社会課題に対してAIの活用が期待される一方、人間中心、安全性、公平性、プライバシー保護、透明性及びアカウンタビリティなどを考慮し、AIのライフサイクル全体でリスクを管理する考え方が示されています。
ISO/IEC 42001:2023は、AIシステムを利用する製品又はサービスを提供若しくは使用する組織を対象に、AIマネジメントシステムを確立、実施、維持及び継続的に改善するための要求事項と手引を示す国際規格です。AIに関する方針、目的、役割、リスク及び運用を、組織的に管理するための枠組みとして活用できます。
高齢化に伴う課題から導入目的を考える
AIやデジタル技術を導入する際には、最初に解決したい課題を明確にします。「人手不足を補う」「業務を効率化する」という説明だけでは、どの業務をどのように改善するのか、導入後に何を確認するのかが明確になりません。
対象となる業務には、会議録や報告書の作成、社内規程や作業手順書の検索、定型的な問い合わせへの回答案の作成、点検記録や測定結果の整理、過去の不適合や設備トラブルの検索などが考えられます。
その上で、どの作業を短縮するのか、どの情報を探しやすくするのか、どの判断を支援するのかを具体化します。AIが処理する範囲、人が確認する範囲、誤りや停止が生じた場合の対応及び責任を負う部門も明確にします。
ISO/IEC 42001では、AIの利用を組織の目的や方針と関連付け、AIに伴うリスク及び機会を把握した上で、必要な管理方法を決定する考え方が示されています。高齢化への対応でも、AIの導入件数ではなく、業務の継続、技能継承又は利用者へのサービス改善という目的に対して、AIがどのような役割を担うかを明確にすることが重要です。
導入後は、処理時間や処理件数だけでなく、誤り、差戻し、問い合わせ、確認作業及び担当者の負担がどのように変化したかを確認します。作業時間が短縮されても、確認や修正に多くの時間が必要となれば、当初の目的を達成していない可能性があります。
AIによる技能継承の可能性と限界
熟練者の退職や人員構成の変化に対応するため、作業手順書、過去の不適合、保守記録、問い合わせ記録及び熟練者への聞き取り結果を、AIで検索できるようにすることは、必要な知識へのアクセスを改善する可能性があります。
設備トラブルの発生時に過去の類似事例を検索する、顧客からの問い合わせに関連する仕様書や社内規程を探す、教育時に過去の失敗事例を確認するといった活用が考えられます。
ただし、元となる情報が古い、不完全又は実際の作業条件と異なる場合には、適切でない回答が生成される可能性があります。
ISO/IEC 42001の枠組みでは、AIに利用するデータや情報を、目的に応じて管理することが求められます。技能継承にAIを利用する場合には、AIが参照する正式な情報源、文書や記録を更新する責任者、登録及び閲覧の権限、回答を検証する方法、誤りを修正する方法並びに古い情報を使用させないための管理を明確にします。
また、技能継承に必要な力量を維持するためには、AIを利用する担当者が、回答の根拠や限界を理解できることも必要です。AIの回答を確認する力量がなければ、古い情報や誤った回答をそのまま利用する可能性があります。
熟練者が持つ身体感覚、音や振動の変化への気付き、製品の外観や作業現場の微妙な変化、周囲の状況に応じた判断などは、文書化した情報だけでは十分に再現できない場合があります。AIは、教育や実地訓練を置き換えるものではなく、知識の整理、検索及び学習を支援する手段として位置付けることが適切です。
高齢者を含む利用者への配慮
高齢者を含む利用者へAIやデジタルサービスを提供する場合は、利用者がサービスの内容、AIの役割及び操作方法を理解できることが重要です。
利用者が、スマートフォン、タブレット、パソコン又は専用端末に表示される案内や入力項目を理解し、目的の操作を無理なく完了できるかを確認します。途中で迷った場合や誤操作した場合でも、修正や再開ができ、必要に応じて音声など別の操作方法を選べるようにします。また、AIが案内や回答を行っている場合は、そのことを利用者に分かるように伝えます。回答に誤りや疑問がある場合に、担当者へ問い合わせたり、内容の確認や訂正を依頼したりできる方法も明確にします。
ISO/IEC 42001では、AIシステムが個人、集団及び社会へ及ぼす影響を考慮し、影響を受ける関係者との関係を含めて管理する考え方が示されています。
総務省及び経済産業省の「AI事業者ガイドライン」では、人間中心、透明性、公平性及びアカウンタビリティなどの考え方が示されています。これを踏まえ、年齢、身体状況、使用する端末又は通信環境の違いによって、操作のしやすさやAIの回答精度に差が生じていないかを確認します。
AIやオンラインでの手続が難しい利用者には、電話、対面又は書面による手段も用意します。年齢だけで一律に判断せず、実際の利用状況に応じて必要な支援を検討します。
人による確認を実効的にする
「AIが示した内容は、最後に担当者が確認して判断する」と決めるだけでは、十分とはいえません。担当者が何を確認し、どのような場合にAIの出力を使わないかまで明確にしておく必要があります。担当者に必要な知識、権限又は確認時間が不足している場合、内容を十分に検証しないまま利用してしまう可能性があります。
確認方法は、AIを利用する業務と、誤りが生じた場合の影響に応じて決めます。社内文書の要約と、製品の安全性や顧客の財産に関わる判断では、必要な確認の水準が異なります。見守り、健康支援、金融、交通又は行政サービスなど、利用者への影響が大きい業務では、より慎重な確認が必要です。
ISO/IEC 42001では、AIに関係する役割、責任及び権限を明確にし、必要な力量を確保して、計画した方法でAIを運用するための管理体制を整えることが求められます。人による確認についても、単に「人が確認する」と定めるのではなく、誰が、何を、どの基準で確認するのかを組織の仕組みとして定める必要があります。
組織は、担当者が確認する内容、AIの出力を採用しない条件、利用を停止する条件、専門部門へ連絡する方法及び問題発生時の対応を明確にします。判断に迷った場合に、上司、法務、情報システム、品質保証又は専門職へ相談できる体制も必要です。
人手不足への対応としてAIを活用する場合であっても、出力内容の確認、データの更新、利用者への対応、システムの保守及び障害対応などの業務は必要となります。AIによって削減される作業だけでなく、AIの運用及び管理に必要な人員、時間及び力量も把握することが重要です。
導入後も継続して管理する
AIは、導入時に問題なく動作していても、その後の業務や利用条件の変化によって、回答の精度や適切性が低下することがあります。例えば、新しい製品や設備が追加されたにもかかわらず、AIが参照する手順書や記録が更新されていない場合、旧製品の仕様を基に点検方法や対応手順を示す可能性があります。また、社内規程や法令が改定された後も、古い文書が残っていれば、現在の要求に合わない回答を行うことがあります。外部のAIサービスでは、提供者による仕様変更によって、同じ質問でも以前と異なる回答が示される場合があります。
ISO/IEC 42001では、AIマネジメントシステムを導入時だけの取組とせず、監視、測定、評価及び改善を継続することが求められます。ISOは、同規格について、AIを責任ある方法で利用しながら、技術や利用環境の変化へ対応するための継続的な管理の枠組みであると説明しています。
そのため、導入後は、AIの回答が実際の業務内容や参照資料と一致しているかだけでなく、誤った回答の件数、担当者による修正や差戻し、利用者からの問い合わせや苦情、人による確認が実施された割合などを確認します。問い合わせ記録、不適合記録、障害記録及び担当者からの改善提案も、AIが実際の業務で有効に機能しているかを判断する情報となります。
重大な誤回答が発生した場合や、業務内容、利用者、法令、契約条件又は参照データが変わった場合には、そのまま利用を続けないことが重要です。対象業務を限定する、一時的に利用を停止する、人による確認を追加する、参照データを更新するなどの対応を行い、再び利用できる状態かを確認します。
ISO/IEC 42001:2023は、特定のAI技術や使い方を定める規格ではありません。組織がAIを利用する場合に導入目的の設定、影響の把握、データ及び力量の管理、人の役割の明確化、運用結果の監視並びに継続的改善を、一つのマネジメントシステムとして機能させるための枠組みです。
まとめ
AIやDXは、高齢化に伴う人手不足、技能継承及び多様な利用者へのサービス提供を支える有効な手段となり得ます。ただし、導入すること自体が目的になってしまうと、十分な効果を得られないだけでなく、誤った回答、古い情報の利用、確認作業の増加又は利用者への不利益につながる可能性があります。
組織は、まず解決すべき課題とAIの利用目的を明確にし、AIが担う業務、人が確認する範囲、使用するデータ、責任者及び問題発生時の対応を具体的に定める必要があります。技能継承に活用する場合には、参照情報の更新と検証を継続し、人による教育や実地訓練と組み合わせることが重要です。また、高齢者を含む利用者へサービスを提供する場合には、操作の分かりやすさ、問い合わせや訂正の方法、電話や対面などの代替手段も検討します。
ISO/IEC 42001:2023は、こうした取組を個別の対応で終わらせず、目的の設定、リスクの把握、役割と責任の明確化、データ及び力量の管理、運用状況の確認並びに継続的改善を、組織全体で進めるための枠組みです。
高齢化への対応としてAIを活用する際には、削減できる作業だけでなく、運用に必要な人員、時間及び確認体制も把握しなければなりません。AIを人の代わりとして一律に捉えるのではなく、人の判断や経験を支援する手段として適切に管理することが、持続的な業務運営と信頼できるサービスの提供につながります。
マネジメントシステムの認証に関するお問い合わせは、MS認証部 (japan@nemko.com)までご連絡ください。