AIを組織図に載せた会社で、ミスの責任は誰が負うのか
悠 Yu Niibori AIエンジニア プロフィール
出典 5件
要点
対象:AIに名前を付けて仕事を任せ始めた会社の担当者
作成者をA I社員と示すと誤りの発見が減った 経産省の手引きは使い方で2 類型に分ける AIの名前の隣に確認者の名前を書く AIエ ージェントに名前と役割を付け、組織図に載せる会社が出てきました。1
この記事の目次(6節) AIを組織図に載せる会社は、少なくない 作成者が「AI社員」と示された書類は、誤りが見つかりにくかった 経産省の手引きは、A Iの使い方で責任の考え方を分けている ここから先は想像です この未来が近づくときに現れる兆し 自社で試せること
載せたA Iがミスをしたとき、責任は誰が負うのでしょうか。経済産業省(経産省)の手引きの考え方から、この先を予想します。
Googleのように、エージェントに名前とメールアドレスを持たせる製品も出ています(Geminiのエージェント発表の記事 )。名前を付けたA Iを同僚と呼ぶ会社の例は、別の記事 でも扱いました。
AIを組織図に載せる会社は、少なくない
北米と欧州の1 ,200人を超えるマネージャーと経営幹部に尋ねた調査では、3 1%が、自社の経営陣はA Iを仲間や社員として扱っていると答えました。1
4人に1 人近くは、A Iエ ージェントを組織図や業務の流れの図に正式に載せているとも答えています。1
作成者が「AI社員」と示された書類は、誤りが見つかりにくかった
ボストン コンサルティング グループ(BCG)の研究者が、次のような実験をしました。2
実験の計画は、研究の内容を事前に公開する「事前登録」で確かめられます。参加者は、人事か財務の仕事をする中堅から上位の管理職です。全員に同じ下書きと、仕込んだ同じ誤りを見せ、変えたのは、A Iや作成者の示し方だけです。3
Fortuneによると、文書の作成者は、ふつうの社員、A Iツール、名前を付けたA I「 社員」の3 通りで示しました。管理職には、その文書を確認してもらっています。2
AI「 社員」が作ったとされたグループは、ほかの2 つより誤りを見つけた数が少なくなりました。責任を自分ではなくA Iのせいにする回答も多く、同僚に確認を頼む人が多い傾向でした。2
ただし、F ortuneの記事は、グループごとの人数も、差が偶然とはいえないかを調べる検定も載せていません。2
AEAの研究登録簿(AEA RCT Registry)には、この研究が「In development」と表示されています。査読を受けた論文かどうかは、分かりませんでした。3
BCGのクロップ氏は、責任を押しつけ合う状態になりやすいと指摘し、A Iには責任がないと語っています。2
経産省の手引きは、A Iの使い方で責任の考え方を分けている
経産省の手引き本体は、読めていません。以下は、法律事務所のサイトと、ネット通販向けニュースサイトの解説にもとづきます。
新しい法律ではなく、いまの法律の読み方
経産省は、「AI利活用における民事責任の解釈適用に関する手引き」の第1.0版を4 月に公表しました。更新は6 月です。4
新しく法律を作るものではなく、いまの法律の読み方を整理したものです。5
主に、他人に損害を与えたときの賠償責任(不法行為責任)を扱い、欠陥のある製品による被害(製造物責任)にも触れています。5
契約上の責任は対象外ですが、当事者が責任の分け方を決めるときの基準にはなります。5
人が最終判断をする「補助・支援型」
手引きは、A Iの使い方を2 つの類型に分けています。1 つ目は、人の判断を助けるだけに使う「補助・支援型」です。4
最終的には、人の判断や行動をはさむ前提です。手引きは、配送ルートの最適化AIや画像生成AIを例に挙げています。4
この類型では、使う人は立場に応じた注意義務(損害を防ぐために払うべき注意)を負い続けます。A Iの出力をそのまま採用しても、責任が軽くなるわけではないと説明しています。5
人の代わりに動く「依拠・代替型」
2つ目は、人の判断や行動を代わりに担う前提で使う「依拠・代替型」です。外観検査のA Iや、自律走行ロボットが例です。4
依拠・代替型では、使う人は、A Iを適正に使う体制を整えて運用することが中心の義務になります。4
運用の段階では、A Iの精度を監視するなどの合理的な対策をとっていたかが、問われる可能性があります。4
AIの使い方の2類型
A
B
補助・支援型
依拠・代替型
人の判断を助けるだけ
人の判断や行動を代わりに担う
最終判断は人がする
出力をそのまま使っても
責任は軽くならない
AIが判断や行動を担う
個々の場面の判断より
体制づくりと運用が問われる
中身が妥当かを確かめる
正しく使う体制を作って運用する
例: 配送ルートを選ぶAI、画像を作るAI
例: 外観検査のAI、自分で走るロボット
AIエージェントは、どちらにも当たりうる
経済産業省の手引きが分けるA Iの使い方の2 類型。最終判断を人がするか、A Iに任せるかで、利用者の注意義務の中心が変わる。
AIエ ージェントは、どちらの類型にもなりうる
手引きは、A Iエ ージェントを補論で扱っています。使い方や精度によって、2 つのどちらにも当てはまりえます。まずどちらの類型かを見極め、その類型の考え方で責任を判断します。4
AIエ ージェントの責任を一律に整理するのは、現時点では難しいものの、この2 類型の枠組みが基礎になるとされています。5
例に挙がったのは、顧客対応のA Iです。人が担当した場合と同じか上回る精度なら依拠・代替型、足りなければ補助・支援型です。4
この例で分け目になったのは人と比べた精度で、組織図に載せたかどうかではありません。組織図を基準にした記述は、読んだ解説には見当たりませんでした。
ここは見立てです。解説を見る限り、「社員」と呼ぶだけで確認する人の責任が軽くなるとは考えにくいです。
ここから先は想像です
AIを組織図に載せる会社が増え、責任の所在が問われ始めたら、どうなるでしょうか。
組織図で、A Iの名前の隣に、その出力を確認する人の名前を必ず添える会社が出てくるでしょう。確認する人の名前がないA Iは、責任者のいない仕事と見なされそうです。
確認の書類には、確認した人が署名する欄が付くかもしれません。
社内の決まりに、A Iの仕事ごとに「補助・支援型」か「依拠・代替型」かを書く欄があれば、トラブルのあとで責任の所在を整理するとき、どちらの使い方を想定していたかをすぐ確かめられそうです。
5年後には、取引先に「御社のA Iは補助・支援型ですか、依拠・代替型ですか」と聞かれ、答えを契約書に書くことが増えるかもしれません。
一方で、A Iを「社員」と呼ぶこと自体を考え直す会社も出てくるでしょう。A Iが増えても、1 人が目を配れる数には限りがあります(ダンバー数の記事 )。
10年後には、A Iの肩書より先に、A Iを確認する人の肩書を決める会社が増えているかもしれません。
この未来が近づくときに現れる兆し
組織図で、A Iの名前の隣に、確認する人の名前が並ぶ
確認の書類に、確認した人の署名欄が付く
社内の決まりや契約書に、A Iの仕事の類型を書く欄が出てくる
自社で試せること
いまAIに任せている仕事を3 つ書き出し、「人が最終判断をする(補助・支援型)」か「人の代わりに動かしている(依拠・代替型)」かに分けてみてください。
分けにくい仕事は、人が出力を確認しているかを先に調べてください。
AIに名前を付けているなら、その名前の隣に、出力を確認する人の名前を書いておくと、確認が抜けにくくなるかもしれません。
作成者を伏せた書類として読む、という方法もあります。名前に引きずられずに読めるかどうかを試すのも一案です。ここは提案で、実験の結論ではありません。
次に読む