目次
AI(人工知能)が文章を作り、情報を分析し、採用や業務の判断を支援する時代になりました。
企業だけでなく、医療、福祉、教育、行政など、私たちの生活に近い領域でもAIの活用が進んでいます。
しかし、AIが誤った情報を提示したり、その出力をもとに人間が不適切な判断をしたりした場合、誰が責任を負うのでしょうか。
AIを開発した企業なのか。サービスを提供した企業なのか。それとも、AIの回答を確認せずに利用した人間なのでしょうか。
経済産業省などが公表する「AI事業者ガイドライン」では、AIの開発者、提供者、利用者それぞれの立場に応じた取組が整理されています。
また、2025年に全面施行された「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI法）は、AIの研究開発と活用の推進、適正な活用に向けた取組などを定めています。
ただし、これらの枠組みがあることと、個別の事故や損害について誰が法的責任を負うかが一律に決まっていることは、同じではありません。
私は、医療や福祉の現場に関わり、支援する側の判断が、相手の生活や将来を大きく左右することを見てきました。技術が高度になっても、判断の結果を受け止めるのは、現実の社会で暮らす人間です。
本稿では、政府や公的機関が公表している資料に基づき、AIの誤判断をめぐる責任の所在と、企業や組織が取り組むべき課題を整理します。
AIの責任を考えるための基本原則
まず、AIに関する責任を考える際には、「AIが誤った」という事実だけで、責任を負う主体を決めることはできないと理解する必要があります。
経済産業省と総務省が公表してきた「AI事業者ガイドライン」は、AIに関わる主体を、主に次の3つに分けて整理しています。
・AI開発者：AIモデルやAIシステムを開発する主体
・AI提供者：AIシステムやサービスを提供する主体
・AI利用者：提供されたAIを業務などで利用する主体
実際には、ひとつの企業が複数の役割を担うこともあります。
例えば、外部企業が開発したAIを、別の事業者が自社サービスに組み込み、そのサービスを企業や行政が利用する場合、開発・提供・利用という複数の段階が存在します。
このとき問題が起きた原因が、
「開発段階の不具合」なのか、
「サービスへの組み込み方」なのか、
「利用者による運用」なのかによって、確認すべき事実は異なります。
同ガイドラインは、こうした主体ごとの取組を整理した指針です。個別の事案における法的責任を自動的に決定するものではありません。
法律上の責任は何によって決まるのか
AIの誤判断によって損害が生じた場合、AIに関するガイドラインだけでなく、事案に応じて既存の法律が問題になります。
例えば、民法第709条は、「故意または過失によって他人の権利または法律上保護される利益を侵害した者の損害賠償責任」について定めています。
AIを利用したことだけで、直ちにこの条文による損害賠償責任が成立するわけではありません。実際の事案では、誰がどのような行為をしたのか、故意・過失があったのか、権利侵害や損害が生じたのか、行為と損害との間に因果関係があるのかなどを検討する必要があります。
また、契約関係がある場合には、契約上の義務や責任の範囲も検討対象になります。製品やサービスの性質によっては、別の法律が関係することもあります。
「AIの回答が間違っていたから、AIを開発した企業が必ず賠償する」という単純な仕組みではありません。
反対に「AIはあくまでツール(道具)だから、利用者がすべての責任を負う」と一律に決めつけることも適切ではありません。
責任の判断には、具体的な事実と適用される法令の確認が必要です。
企業には何が求められているのか
企業がAIを業務に導入する場合、単に導入すること自体を目的にするのではなく、利用に伴うリスクを企業がしっかりと把握、管理することが重要です。
経済産業省の「AI事業者ガイドライン（第1.2版）」では、人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ（説明責任）などが共通指針として整理されています。
例えば企業がAIを採用選考の補助に利用する場合を考えてみます。
AIの出力だけで候補者を機械的に除外するのではなく、利用目的と評価基準を明確にし、出力の妥当性を確認できる体制を整えることが、リスク管理の具体的な検討事項になります。
また、利用するAIの特性や限界、想定されうるリスクを事前にできる限り把握し、問題が生じた際に対応できる手順を整えることもとても重要です。
ここで注意したいのは、こうした具体策のすべてが、あらゆる企業に同じ形で課される一律の法的義務だという意味ではないことです。必要な対応は、適用法令、利用目的、リスクの大きさなどによって異なります。
AIを導入した企業には、単に「便利になったか」だけではなく、どのようにして安全性や公平性を確保するか、またそれが企業全体として周知、把握されているかという視点が求められます。
個人情報の扱いにも責任がある
AIの誤判断、ハルシネーションを考えるとき、回答の正確性だけに目を向けるのは十分ではありません。入力した情報が、どのルートでどのように取り扱われるかも重要な問題です。
個人情報保護委員会は、2023年6月、生成AIサービスの利用に関する注意喚起を公表しました。
同委員会は、個人情報を含むプロンプトを生成AIサービスに入力する際、入力した情報が回答の生成以外の目的で取り扱われる場合などについて、個人情報保護法に違反する可能性があることを示しています。
また、サービス提供事業者が入力情報を機械学習に利用しないかなどを確認するよう注意を促しています。
例えば、企業が顧客の氏名、連絡先、相談記録などを含む情報を外部の生成AIサービスに入力する場合、利用目的や情報の取扱条件を充分に確認しなければなりません。
医療・福祉の現場であれば、患者や利用者に関する情報を取り扱うため、より慎重な管理が必要とされます。
この問題は、AIの答えの正誤とは別の問題です。
回答が正確であっても、個人情報の取扱いに問題があれば、それ自体が適切な利用だったとはいえません。
行政や公共サービスでのAI利用
行政がAIを利用する場合も、利便性だけでなく、「個人の権利や情報の適切な取扱い」を考慮する必要があります。
個人情報保護委員会の2023年の注意喚起では、行政機関等が個人情報を含むプロンプトを入力する場合、特定された利用目的のために必要最小限の利用・提供であるかを十分に確認するよう示されています。
ここから確認できるのは、行政機関等によるAI利用についても、個人情報保護法上の規律を踏まえた取扱いが必要だということです。
例えば、行政の相談窓口でAIを文書作成や情報整理に使う場合、住民の個人情報をどこまで入力するのか、利用するサービスのデータ取扱条件はどうなっているのかを確認することが重要になります。
ただしこの注意喚起は、行政によるAI利用を一律に禁止するものではありません。また、AIを利用した行政判断のすべてについて、人間が必ず再審査しなければならないと、この資料だけから結論づけることもできません。
実際の利用では、対象となる行政手続き、個別の法令、組織の規程などを踏まえた検討が必要です。
日本のAI法は何を定めているのか
日本では、AIに関する法律上の枠組みも整備されていますが具体的な罰則や法案など、まだ不完全と言える部分もあります。
「人工知能関連技術の研究開発及び活用の推進に関する法律」は、2025年に全面施行されました。政府広報によると、同法はAIの研究開発と活用を推進しながら、適正な研究開発・活用のための透明性の確保などを進める枠組みを定めています。
同法には、国、地方公共団体、研究開発機関、AIを活用する事業者、国民などの関係者についての規定もあります。
一方で、AI法が施行されたことをもって、AIによる誤判断の損害賠償責任がすべて一律に決まったわけではありません。
例えば、AIの出力によって不利益が生じた事案については、AI法の存在だけを根拠に責任者を決めるのではなく、具体的な行為や損害、適用される法律を個別に検討する必要があります。
また、経済産業省のAI事業者ガイドラインは、事業者がAIのリスクに対応するための指針です。
法律とガイドラインは役割が異なるため、両者を混同しないことが重要です。
誤判断に備えるための実務設計
AIによる誤判断のリスクを管理するには、問題が起きてから責任者を探すだけでは十分ではありません。
導入前から、どのように確認し、問題を記録し、改善するのかを検討する必要があります。
経済産業省のAI事業者ガイドラインとその活用資料を踏まえると、企業や組織では、次のような点を検討できます。
1．利用目的と適用範囲を明確にする
AIを何のために利用し、どのような判断には利用しないのかを整理します。
2．出力を検証する方法を決める
AIの回答を確認する担当者や、確認すべき情報、誤りを発見した場合の対応手順を定めます。
3．問題発生時に追跡できるようにする
利用したシステム、判断に使った情報、確認の経過などについて、業務上必要な範囲で記録する方法を検討します。記録に際しては、個人情報や機密情報の保護にも配慮が必要です。
4．問題を報告し、改善につなげる
誤りが見つかった場合に、担当者が報告できる窓口を設け、原因の確認や運用の見直しにつなげます。
これらは、ガイドラインの考え方を実務に落とし込むための例ですが、すべての組織に同一の手順が一律に義務づけられているという意味ではありません。
重要なのは、AIの導入を完了した時点で管理を終わらせないことです。
利用状況やリスクを確認し、必要に応じて運用を見直す仕組みが、責任ある活用を支えます。
AI時代こそ、責任を人間の言葉で定義する
私は、AIの誤判断をめぐる問題は、技術の精度だけで解決できるものではないと考えています。
AIがどれほど高度になっても、
・企業が何を目的に導入するのか
・どのような情報を入力するのか
・出力をどこまで信用するのか
・問題が起きたときに誰が対応するのか
という設計は、組織が向き合わなければならない課題です。
医療や福祉の現場では、ひとつの判断が、その人の生活、尊厳、将来の選択肢に影響することがあります。
効率化を目的に導入した技術であっても、その結果として生じた不利益を、利用者や患者だけに負わせる仕組みであってはなりません。
同時に、AIを使ったという理由だけで、開発者や利用者の誰かを一律に責めることも適切ではありません。事実を確認し、それぞれの役割、行為、法的義務に照らして、責任を判断する必要があります。
企業や行政に求められるのは、AIの導入実績を増やすことだけではありません。
AIを使う目的、判断の確認方法、問題が起きたときの対応とそれを説明できる体制を整えることです。
私は、技術の進歩と同じくらい、責任の所在を明確にする社会の仕組みが重要だと考えます。
AIはあくまでも学習型のツールであり、複雑な感情を持つ人間とは全く異なる存在だということです。利用する側がそれを理解し倫理的な境界線を確立することが必要なのです。
AIに任せられる作業を増やす時代だからこそ、人間が管理し、引き受けるべき判断と責任をあらかじめ明確に分けておく。
それが、AIを社会の信頼につなげるための基本だと考えています。
