Uberの運転手4人が、それぞれある日、仕事を受けられなくなりました。不正行為などの疑いを理由に、運転手用のアカウントを恒久的に停止されたのです。
運転手たちはオランダの裁判所で争いました。Uberの説明はこうです。停止は機械が勝手に決めたのではない。リスク管理の担当チームのうち少なくとも2人が調べ、全員一致で決めた、と。
2023年4月、アムステルダムの控訴裁判所は、4人のうち3人について、この説明を認めませんでした。Uberが出した記録からは、その確認が「単なる象徴的な行為を大きく超えるもの」(筆者訳)だったとは示されていない、という判断です。運転手は意見を聞かれておらず、Uberは、最終的に決める前に運転手の話を聞いた例も示せませんでした。
残る1人については、停止の前に本人と個別に面談していたことが、人の関与を認める材料になりました。
2人で確認したと言っても、人が判断したとは認められないことがある。この判決が突いた問題は、その後アメリカの州やEUで作られた、自動の仕組みを人の処遇に使うときのルールにも表れています。
「2人の全員一致」は、何が足りなかったのか
この裁判では、EUの個人データ保護のルール(GDPR)のもとで、アカウント停止が「自動処理だけで行われた決定」に当たるかどうかが争点の一つでした。人が実質的に関わっていれば、自動処理だけの決定にはなりません。だからUberは、2人が確認したと主張しました。
最初に断っておくと、この裁判で問われたのは、停止に人がどう関わったかです。自動処理の判定が間違っていたと認められた事件ではありません。
裁判所が見たのは、確認した人数ではありませんでした。判決が挙げた点を整理すると、次の3つです。
- 担当者が、関係するデータをすべて検討したのかが分からない
- 停止される本人の言い分を聞いていない
- 本人の話を聞いてから決めた例を、Uberが示せなかった
疑いの根拠となるデータは、ほとんどUberの手元にあります。運転手の側からは、何が問題とされたのかも分かりません。そのため裁判所は、Uberの側に、より詳しく説明する責任を求めました。結果として、Uberは3人に対し、自動化された決定についての情報を1か月以内に提供するよう命じられ、守らなければ1日4,000ユーロを支払うことになりました。
担当者が自動処理の結果を見て承認したと言っても、それだけでは足りなかった。問われたのは、担当者が何を検討し、本人の事情をどう判断に入れたのかを、記録で示せるかどうかでした。
カリフォルニアは、解雇と懲戒に絞った
アメリカのカリフォルニア州では、2026年9月30日、ニューサム知事が「No Robo Bosses Act(ロボット上司禁止法)」と呼ばれる法案SB 947に署名しました。2027年7月1日から、雇用主は、解雇や懲戒をAIなどの自動意思決定システムだけで決めてはいけなくなります。
実は、同じ趣旨の法案は1年前に同じ知事に拒否されています。拒否の手紙で知事は、どんな無害なツールを使う事業者にも通知の義務を課すなど、対象が広すぎると指摘しました。一方で、懲戒や解雇にシステムを使う場面については、懸念を共有するとも書いていました。そこで今回の法案は、働く人にとって最も重い、解雇と懲戒の場面に絞られました。報道によると、仕事に影響するあらゆるAIについて知らせる義務や、ギグワーカーの保護は外れ、ライドシェアの運転手も対象外です。
報道をまとめると、法律が求めることは次のとおりです。
- 解雇・懲戒を、自動意思決定システムだけで決めてはいけない
- 主にシステムを使って決める場合は、評価や人事記録などの裏付けとなる情報を使って、人がその決定を確かめる
- システムを使ったことを、本人に書面で知らせる。本人は、システムが使ったデータの説明を求められる
出力を見て承認するだけでなく、裏付けとなる情報で確かめる。人の確認の中身を問うという点で、Uberの裁判と共通しています。
EUのプラットフォーム労働指令は、確認する人の権限も定めた
EUでは、2024年10月に「プラットフォーム労働指令」が採択されました。配達や配車のように、アプリを通じて仕事をする人を対象にしたルールで、加盟国は2026年12月2日までに、これを国内の法律にしなければなりません。
この指令は、アカウントの制限・停止や契約の終了など、働く人にとって重大な決定は、人が行わなければならないとしています。そのうえで、自動の仕組みを監督する人について、こう定めています。
- 監督と評価の役割を担う者は、自動化された決定を覆すことを含め、その役割を果たすために必要な能力、研修、権限を持たなければならない。これらの者は、その役割を果たしたことを理由とする解雇、懲戒その他の不利な扱いから保護される。(筆者訳)
確認する人が、自動処理の結論に「いいえ」と言える立場にいること。言ったことで自分が不利益を受けないこと。指令は、確認する人の立場まで条文に書いています。
決定を受けた側にも、手当てがあります。理由の説明を求めることができ、事実や理由について話し合える担当者を用意してもらえます。アカウントの停止などの理由は、遅くとも効力が生じる日までに書面で示す必要があります。
日本でも、AIの点数だけでは解雇の理由を説明できない
日本では、まだこうした仕組みの使われ方自体が米欧と違います。OECDが2024年に6か国の中間管理職6,000人超に行った調査では、仕事の指示・監視・評価にアルゴリズムを使うツールの企業の導入率は、アメリカで90%、調査対象の欧州4か国の平均で79%、日本では40%でした。日本では、使っている企業の多くが1種類だけだったといいます。これは、AIで解雇を決めている企業の割合ではありません。
同じ調査で、管理職が挙げた懸念で最も多かったのは、「判断が間違っていたときに、誰が責任を負うのかがはっきりしない」(28%)でした。Uberの裁判で問われたのも、まさにこの点です。
では、日本の会社がAIの点数を人事に使ったらどうなるか。よくある例で考えてみます。
コールセンターで、AIが通話を分析し、応対の評価点を毎月出しているとします。ある社員の点数が半年続けて最下位でした。上司は点数の表を見て、配置転換や処分を考え始めます。けれど、その社員は、ほかの人が避けるクレーム対応の電話を多く引き受けていたかもしれません。そうした事情は、点数の表には出てきません。
日本の労働契約法16条は、こう定めています。
- 解雇は、客観的に合理的な理由を欠き、社会通念上相当であると認められない場合は、その権利を濫用したものとして、無効とする。
AIの点数を使う場合も、その点数がどんな勤務の実態を示していて、なぜ解雇の理由になるのかは、会社が検討しなければなりません。カリフォルニアやEUの制度を、そのまま日本の法的な義務として扱うことはできません。それでも、「システムがそう判定した」だけでは理由にならない点は、日本でも変わりません。
確認者を増やす前に、決めておきたい3つのこと
ここまで見た判決と2つのルールは、対象も法的な仕組みも違います。それでも、日本の会社がAIを人の評価や処遇に使うときの運用を考えるうえでは、次の3点が参考になります。
- 誰が覆せるのか: AIの結論に「いいえ」と言える権限を持ち、言っても不利益を受けない人を、確認者にしているか(EUの指令が定めた点)
- 何で裏付けるのか: 評価、勤務の記録、現場の上司の話など、根拠となる情報で結論を確かめる手順があるか(カリフォルニアの法律が求めた点)
- 本人の話をどこで聞くのか: 決める前に本人の事情を聞き、判断を変えた・変えなかった理由を残しているか(Uberの裁判で、人の関与を認める材料になった点)
先ほどのコールセンターの例なら、点数の表に、引き受けた電話の内容と、本人との面談の記録が添えられているかどうかです。
Uberは、少なくとも2人が全員一致で決めたと説明しました。それでも、3人については実質的な人の関与を示せませんでした。AIを人事に使うなら、確認者の人数を増やす前に、その人が何を見て、誰の話を聞き、どんなときにAIと違う結論を出せるのかを決めておく。それが、海外のルールと判決から日本の会社が持ち帰れることです。
なお、EUのAI規制全体の考え方は世界初のAI包括規制「EU AI法」。日本企業にも関係あるのかで、アメリカの連邦政府の規制緩和の流れは規制緩和にかじを切るアメリカ。世界のAIルールはどこへ向かうかで紹介しています。
参考文献・資料
Gerechtshof Amsterdam ECLI:NL:GHAMS:2023:793(2023年4月4日判決)
Fountain Court Chambers "Amsterdam Court upholds appeal in algorithmic decision-making test case: Drivers v Uber and Ola"(2023年4月6日)
Office of the Governor of California, Veto message for Senate Bill 7(2025年10月13日)
KQED "Newsom signs slate of AI workplace laws barring 'robo bosses' and surveillance"
HR Dive "California revamps AI protections for workers in flurry of bill signings"
ITPro "California bans firing by 'robo boss'"
Directive (EU) 2024/2831 on improving working conditions in platform work(EU官報)
OECD "Algorithmic management in the workplace"(OECD Artificial Intelligence Papers No.31、2025年)
e-Gov法令検索「労働契約法」