AI が司法制度に与える影響 |アジア

?

ホーム特集 AI を裁く

特集

AI を裁く

2024年07月3日

307

0

人工知能（础滨）と司法制度の间に存在する接点が広がりつつある中で、テクノロジー分野の専门家との対话は、裁判官が技术の进歩や、それがもたらす潜在的な胁威や课题、そしてチャンスをしっかりと理解するために重要なことです。以下は、先日、交差するテクノロジーと司法プロセスに対処するためにニューデリーで开催された、シンガポールとインドの最高裁判所による初の技术カンファレンスにおいて、シンガポ
ールのスンダレシュ?メノン最高裁判所长官が行った基调讲演「人工知能时代における司法の责任」の编集版です。

テクノロジーは非常に急速に進化しており、その影響が広範かつ深遠であるため、テクノロジーの発展をしっかりと理解することが、私たち裁判官にとって不可欠なものとなっています。特にこの１年半の間に顕著だったことは、生成人工知能（AI）の発展が世界を席巻し、未来の社会やシステムがどのようになるかという会話を根本から変えてしまったことです。メアリー?シェリーの不朽の名作『フランケンシュタイン』は1800 年代初頭に書かれましたが、創造者とその制御不能な創造物というイメージは、今日でも大衆の意識に刻まれています。現代版の「フランケンシュタイン?コンプレックス」と呼ばれるものは、「技術的特異点」、すなわち AI が人間の理解と制御を超える時点の可能性に焦点を当てています。

AI と機械がいつか、人間の弁護士や裁判官と同等か、またはそれ以上の法的問題の解決策を提供し、さらには法律を適用させるだけでなく、立案さえできるようになる「法的特異点」に到達するかもしれないと指摘する人たちもいます。

私たちはまだその段階には達していませんし、おそらく多くの人が、その段階には達しないことを望んでいるかもしれませんが、AI の能力は成長し続けることを心に留めておく必要があります。リチャード?サスキンド教授の言葉を借りれば、今日の AI システムは「これまでで最悪の状態」であり、テクノロジーの大きな意義とは、現在すでにある状態ではなく、将来どうなっていくのかにあります。

テクノロジーがどうなっていくかを考えるとき、その発展の意义とは、テクノロジーが人间がこれまでの歴史で行ってきたことを模倣したり、安価な人间のような代替手段を提供したりすることにあるのではなく、成长を続けるテクノロジーの能力が世界が直面する法的问题に対して、私たち弁护士や裁判官が何百年もかけて、そのような问题を解决してきた方法とは全く异なるやり方で、解决策を提供する能力にあることを认识しなければなりません。

紙の地図を使って道を見つけていた人々に対して、Google マップが全く異なる解決策を提供したことや、電子メールやスマートフォンが、私たちのコミュニケーション方法や情報アクセス方法を変革したことを考えてみてください。これらの変革は、デジタル以前の同等物の再現とは無関係なものでした。もう一つの例は、サスキンド教授の自動運転車の例であり、これは人間を模倣するロボットによってではなく、データと計算能力を駆使して運転されるものです。

これを理解することが重要です。なぜなら、テクノロジーとテクノロジーの进歩の影响により、私たちは今日、これまで想像もしなかった方法で司法制度に影响を与えるような大きな変化の瀬戸际に立っているからです。

しかし、AI の広大な可能性を探求し、周囲で起こっている変化に適応していく中で、私たちはまず、何が変わらずに残るべきか、何にしっかりと根ざすべきかを考えるべきです。本日、私の主張の中心は、法の支配を維持し強化するという目標に導かれるべきだということです。なぜなら、それが私たちの社会（インドとシンガポール）の基盤であり、その維持と保護は司法の最終的な責任だからです。

この AI の時代において、法の支配がテクノロジーの支配に取って代わられないようにするには、伝統的な裁定的役割と、急速に重要性を増しているシステム的役割、この２つの異なる、しかし補完し合う役割を私たちがどのように果たしていくのかが指針となることでしょう。

裁定の责任

私たちの裁判官としての裁定的役割は、伝統的な役割です。つまり、個々の案件において公正かつ原則に基づいて法を解釈し、適用することです。AI の魅力や「AI 裁判官」の可能性に惑わされて、裁判が本質的に人間の努力であり続け、またそうであるべきだということを見失ってはいけません。

このような側面こそ、私たちの裁定的責任として、存続しなければならないものです。しかし同時に、AI が私たちの紛争解決システムに与える潜在的な変革の影響を無視したり、覆したりすることはできませんし、そうすべきでもありません。したがって、裁定的責任には進化という側面もあるでしょう。

裁定という人间の努力

まず、维持すべき裁定の侧面について考えてみましょう。マイケル?サンデル教授は、この时代の最も难しい哲学的な问いは、「贤い机械」ではなく、人间による裁定が「人生の最も重要な事柄を决定する上で」、どのような役割を果たすのかであると示唆しています。

サンデル教授は、一般的な人間の判断の認知的行使について述べていましたが、この質問は、社会組織の核心に関わる問題について、まさに判断を下す職業である私たち裁判官にとって、特に響くものがあります。これには、個人の有罪か無罪かの決定、犯罪者への適切な処罰、崩壊した家族の子どもたちのための措置などが含まれます。これらの決定の重みと影響を考えると、少なくとも特定の分野では、正義が行われ、また行われると感じられるためには、裁判のプロセスと結果の両方を AI に置き換えられるべきではないという側面があります。

裁定のプロセスにおいて、人间が関わることが必要な３つの侧面を考えてみます。

第一に、裁判官は、裁判のプロセスのさまざまな段阶において、当事者と関わる际に共感を持つべきです。そうすることで、当事者は自分たちの话を闻いてもらえたと感じ、また、自らの决定が个々の案件に関わる人々に影响を与えることを、裁判官が理解していると感じることができます。

人间ではない裁判官は、共感しているように模倣できるかもしれませんが、人间の裁判官が持つような真の共感と社会的知性を発挥して、それを伝えることはできないでしょう。

第二に、裁判のプロセスは私たちの司法制度の価値観を反映したものでなければなりません。これらの価値観は、私たちの社会で正義の顔として働くために選ばれた人間の裁判官には教え込めるでしょうが、AI ツールにはこれらの価値観は備わっていません。

特に、刑事裁判は人间の手に委ねられるべきという强力な主张があります。なぜなら、人间は一般的に、私たちの道徳観や推论の方法を共有しており、特に刑法はその核心において、私たちの社会が促进し守ることを约束している価値観の表现だからです。

第叁に、より広く言えば、裁定するということは、私たちが共有する人间性と络み合った行為です。オーストラリア连邦裁判所のジェームズ?オールソップ元首席裁判官は、私たちの司法制度への社会の忠诚心は、その结果の正确さと一贯性だけでなく、正义の前に立つ人々の尊厳や人间性を认识し、十分な注意と配虑をもって纷争を调査し、法を适用する任务を忠実に遂行するという、法と裁判官の「定义できない混合物」によっても生み出されるものであると主张しています。

これは少なくとも私の知る限り、机械ではまねることができません。このため、诉讼当事者が「人间による决定を受ける権利」を持つと主张する人々がいるのです。

裁判のプロセスを超えて、人间の裁判官と裁定は、私たちの司法制度に期待されている结果のうち、少なくともいくつかの结果を生み出す上で不可欠であると考えられます。第一に、裁定にはしばしば大きな评価判断力を必要とします。これは、异なる文脉で异なる重みが与えられるかもしれないような、场合によっては比较できないような竞合する意见のバランスを取ることが含まれます。これに関连して、裁判官は个别に特注したオーダーメイドの解决策を提供しなければなりません。これは、既存のデータに基づくパターンの検出やルールの适用以上のものが必要で、新しい个々の案件の事実に、法原则を适用する裁量権が求められます。场合によっては、特定の状况が例外的と见なされるべきかどうか、そして既存の判例から実质的に区别できるかどうかについて、规范的な推论が求められることもあります。

第二に、法原则の発展のためには、裁判官が、同等で信凭性のある复数の法解釈の中から选択する必要が生じたり、または确立された规则を更新するのか、あるいは逸脱するのかを决定する必要が出たりするかもしれません。このような状况においては、既存の知识を机械的に后ろ向きに适用するのではなく、法が机能する広范な社会的背景を考虑して、私たちの法理学がどのように発展すべきかについて、意识的で理性的、かつ前向きな判断が求められます。

これは、判例がコモン?ローの「原子論的な構成要素」であるコモン?ロー?システムにおいては、特に重要です。1881 年にオリバー?ウェンデル?ホームズ氏が述べた言葉は、今日でも真実を伝えています。法の生命は論理ではなく経験であり、それは「国の発展の物語を具現化したものである」ため、「数学書の公理や系だけを含んでいるかのように扱うことはできない」のです。

AI の時代における裁判

裁判における、これらの根本的に人間らしい側面は、「AI 裁判官」が人間の裁判官に取って代わる可能性が遠い、あるいは非常に不可能に近いものであることを示唆しています。しかし、この AI の時代において、人間の裁判官の役割自体が進化する必要があります。裁判の責任を果たすに当たって、司法は、AI が裁判のプロセス内でどのように使用されるべきか、そしてどのように使用されるべきでないかという問題に、ますます取り組む必要があります。

適切に使用されれば、AI は意思決定の質を向上させ、裁判官が通常の人間の限界を超えることを可能にする、非常に有用な補助ツールとなる可能性があります。AI は、今日多くのカテゴリーの紛争で見られるような、複雑な技術や証拠、法律に対処する上で不可欠であることが証明されるかもしれません。

AI ツールは、裁判官が大量の文書や証拠を管理し理解するのを助け、広範な判例や法源のリポジトリを横断して調査を容易にします。AI ツールはまた、裁判官の判断における傾向を分析することで、人間の裁判官の見落としや無意識のバイアスを特定するのにも役立ちます。しかし、これらの技術的進歩は、裁判のプロセスにおける AI の使用が法の支配を損なわないようにするために、裁判官が警戒しなければならない新たな落とし穴ももたらします。以下に、３つの重大な危険性を紹介します

（１）偽情报の蔓延

１つ目は、おそらく最もよく知られており、AI の「幻覚」と呼ばれるもの、すなわち偽情報の拡散です。生成 AI ツールは、完全に虚偽でありながら一見、信頼できるものを迅速に生成できるため、誤情報の強力な源になります。また、法律の専門家とは異なり、これらのツールは誠実さや正直さといった職業倫理や価値観に縛られていません。

したがって裁判官は、弁護士や当事者による AI ツールの潜在的な誤用や不注意な使用に、特に警戒する必要があります。このことは、裁判手続きにおける AI の使用を管理するために、司法が積極的な措置を講じること、また、個々の裁判官が間違っている可能性に気づき、警戒できるようにするため、この問題や AI ツールについて十分に精通することが必要であることを明確にしています。

AI が偽情報を広める危険性は、司法や法曹界に限ったものではありませんが、法の支配は正義を達成するために真実の追求に根ざしており、私たちが関わる裁判の業務は真実が基盤であるため、特に私たちにとって懸念される問題です。それゆえ、司法プロセスや判定に未確認の偽情報が混入する可能性があることは、裁判所への国民の信頼を損ない、最終的には私たちの司法制度の信頼性をも損なうため、特に有害であるといえます。

（２）透明性と説明责任の低下

２つ目の重大な危険性は、裁判における AI ツールへの過度の依存から生じます。司法判断が道理に基づき、理解できるものであるためには、使用する AI ツールを裁判官自らが理解し、それらのツールが意思決定プロセスにどのように関与しているかを説明できることが必要です。そうでなければ、裁判における意思決定が「ブラックボックス」と化し、透明性を欠き、さらに重要なことに、説明責任を損なうリスクがあります。

しかし、AI ツールの使用にはしばしば「不透明性の問題」が伴います。これは、アルゴリズムや基礎となるデータセットが非公開であったり、一般の人々には理解できなかったりすることから、生成されたものに対して、意味のある形で異議を唱えることができないために生じます。ここで私が「一般の人々」と言うときには、大多数の裁判官も含まれています。私たちは法的な推論を説明するのに十分な能力を備えていますが、一般に技術的な訓練を受けておらず、使用されているツールが不透明であるため、これらのツールを適切に調査し、それらがどのようにして特定の調査結果や結論に至ったのかを理解し、まして正確に説明するような能力は妨げられている可能性があります。

AI の時代を進んで行くに当たって、裁判官は使用されている AI ツールを理解し、その限界を意識するために、十分な技術的?専門知識で武装する必要もあるでしょう。

AI ツールの不透明性は、正義が行われているかどうかの見え方に影響を与えるだけでなく、実際に正義が行われているかどうかにも疑問を投げ掛ける可能性があります。AI ツールは、体系的な人種?民族?その他のバイアスを含む可能性のあるデータに基づいて訓練されているため、その信頼性は損なわれ、不公正な結果を招くことがしばしば起こります。したがって、裁判官は「自動化バイアス」、つまり客観的または科学的なプロセスで生成されたように見えるというだけで、アルゴリズムによる出力を、独立した検証もせずに権威あるものとして扱う傾向に対して、警戒する必要があります。

（３）裁判の人间的侧面の放弃

AI の使用によってもたらされる３つ目の、より広範に及ぶ危険性は、裁判官がこれらのツールを使用することで、先に述べたような裁判の根本的な人間的側面を放棄してしまうリスクです。ジェームズ?オールソップ氏はこう言っています。「危険なのは機械が人間になることではなく、人間が機械になることだ」と。

AI ツールは、以前は時間がかかっていた資料の検索?整理?統合の作業をほんのわずかな時間で完了してくれますが、それは人間的な対応が必要な裁判の側面に、私たちがより多くの思考と注意を向けられるようになり、そうすべきだということを意味しています。特に、これらを AI に委任したいという誘惑が芽生えた場合には、なおさらでしょう。

したがって、AI ツールの使用に関する技術的な専門知識を育むだけでなく、裁判官は個々の案件におけるプロセスと結果の両方を管理する際に、完全に、かつ公正に判断を行うという、職業上の義務と倫理的な責任に対するコミットメントを新たにする必要があります。