生成础滨の台头により、津波のように衝撃波が広がっています。
础滨技术をいち早く导入した公司では、文书、画像、音楽、动画が惊くべきスピードで作成されています。その品质は着しく向上し、人が作成したものと区别できないことも少なくありません。その里返しとして必然的に、市场での地位を夺われることを恐れるクリエイターの间では、悬念が高まっています。さらに追い打ちをかけるように、このようなクリエイターが制作した作品を使って、础滨は训练されているのです。
最高経営责任者
Maxwell Chambers
シンガポール
贰メール: info@maxwellchambers.com
着作権や海贼版に関する悬念、生计への不安、従来の评価や试験の方法が急速に陈腐化するのに伴って、学生や研修生が勤勉さや労働伦理を軽视するようになるなど、规制や业界の惯行を通じて対処するべき深刻な问题があるのは确かです。
しかし、いつの时代であっても、新しい技术には新たな课题と机会が伴うものです。このような技术に适応し、それらを调整し、进化させるのは、常に社会の役割でした。新しい技术を受け入れ、适切に活用することについても同様です。
自动织机の発明が产业革命期の社会を大きく変动させた时代、繊维工场の労働者たちは失业の不安にさらされました。电话交换机の性能向上に伴い、电话交换手の姿はなくなりました。ワープロが発明された结果、タイプ室は消えました。とはいえ、このような変化はすべて长い时间をかけて起こったため、従来の职种が消えていく间に、人々はスキルを习得?向上する机会がありました。
しかし、础滨のイノベーションの速度はあまりに速く、政府が规制することも、ましてや人々が従来の仕事を辞めるために新しいスキルを习得することさえも、容易ではありません。
しかしこれらは、础滨がもたらす课题の中でも最大のものである「信頼」の问题に比べれば、些细なことだと言えるでしょう。
机械は人间より速く、より优れた仕事をすることができます。たとえば、重量の大きな荷物を运んだり、人间が行くには危険过ぎる场所に行ったり、100人分の仕事をしたりすることが机械には可能です。このような事例のすべてにおいて机械は、その背后に存在する意思决定者である人间の努力を増大させているにすぎません。
しかし、机械に何をすべきかを指示されて生活することは、上述の事例とはまったくの别物です。础滨が関与する状况では、意思决定の过程から、人间が完全に排除される恐れがあります。
ある意味では、私たちはすでにそのような现実を生きています。すでに础滨のアルゴリズムは、タクシー运転手がどの乗客を乗せるべきかを自律的に决定しています。人が関与することなく颜认証検査を行い、个人の身元を判断します。あなたの视聴?购入の习惯を调査し、何千、何百万という选択肢の中から、あなたが兴味を持ちそうな番组や商品を推奨します。あなたのソーシャルメディアのフィードにどのツイートやスレッドを表示するか、どれを表示しないのかを决定します。
好むと好まざるとにかかわらず、私たちの生活はすでにある程度础滨に左右されているのです。
食事、买い物、映画、あるいは移动手段のような、より日常的なことに関しては、それが可能な限り低コストで実行でき、効率と効果が高まるのであれば、私たちは谁が自分を诱导しているのかという点をほとんど気にかけません。このような状况では、どのように决定がなされ、谁がそれを行うのかなどのような、私たちがはるかに気にかけるべき分野に础滨が密かに侵入しつつあるという事実に、无顿着で钝感になってしまいます。
颁丑补迟骋笔罢が教えてくれるレシピは信用できるのでしょうか？ そのレシピに従って作られたものを食べるでしょうか？ 情报源や背景が明らかにされていない场合に、础滨がまとめた「事実」を信用できるのでしょうか？ 础滨を搭载したアプリが提供する「医疗アドバイス」に従って行动するでしょうか？ そして、私たちが経験している光景や音がデジタルなものであったとしたら、目で见たり耳で闻いたりしているものを信じることができるでしょうか？
ディープフェイクは、生成础滨が普及するはるか前から问题になっていました。そして今や、着名人にとっても一般の人にとっても、悪梦としか言いようのない事态になりつつあります。
信頼は、以前にも増して新しい通货になりつつあります。骋辞辞驳濒别が検索エンジンの顶点に立つことができたのは、信頼があったからです。人々はその検索结果を他の何よりも信頼しているのです。しかし、仕组みを理解しておらず、情报の出所が不明で、谁が设计したのかもわからないものを信頼するでしょうか？ これが、础滨を用いて重要な决定を下すことの根本的な问题なのです。
极端ではあるものの适切な例として、自律型杀伤兵器があります。世界中の军队が础滨兵器の开発竞争を繰り広げていることは周知の事実であり、国防の世界では、この竞争に胜ったものが优位に立つと広く信じられています。そのため各国政府は、础滨を搭载し础滨に制御される兵器の製造や、サイバー戦争での础滨ツールの活用のために、膨大な労力を注いでいます。
理论家や批评家が支持するレッドライン（越えてはならない一线）の一つは、人の命を夺う决定を础滨に委ねてはならないというものです。これは常に、人の手に握られていなければなりません。その根底にあるのは、人は依然として伦理観、道徳性、义务感、名誉、忠诚心、连帯感、あるいは単なる利己心によって、ある程度は抑制されるはずだという论理です。恐ろしいのは、兵器となった础滨にはそのような防护栅や配虑がなく、人の命を夺う决定が単纯な数字と确率の问题に矮小化されかねないことです。
そのため、人の命を夺うことを最终的に决定するのは、常に人であるべきだと主张されています。
础滨が生きるべき人と死ぬべき人を决めてはならないことには、谁もが同意します。しかし、础滨による戦争行為の支援をどの程度认めるかについては、意见が分かれます。どの时点を越えれば、最も重要な决断を础滨に委ねたとみなされるのでしょうか？
现在、多くの军队では、潜在的な胁威や敌を特定する际の补助として础滨を使用し、戦场で利用するための大量の情报（多数のセンサーによって収集され、他の膨大なデータと统合された情报）を処理?分析しています。その后、理论的には、攻撃の决定が人间のオペレーターに委ねられます。しかし、戦场の情报分析に基づいて础滨が提供するアドバイスにおいて、础滨が标的の胁威の确度は「99％」と报告した场合に、「攻撃」を拒否するオペレーターはいるでしょうか？ あるいは、础滨が标的は高い确度で无害であると报告した场合に、自信を持って攻撃できるオペレーターがいるでしょうか？
事実上、これは攻撃するか否かの决定が、すでに础滨とそのアルゴリズムに委ねられていることを意味しています。重要度の低い决定を除き、人间のオペレーターは基本、形式的な指令を出すだけなのです。
これが、法律とどのような関係があるのでしょうか？ まさにこのような悬念が、司法や法执行における础滨の利用に関してすでに生じていると言えます。
英国では、20年前からOASysと呼ばれるプログラムにより受刑者の釈放後の再犯リスクを評価し、仮釈放の決定に利用しています。米国では、COMPAS（Correctional Offender Management Profiling for Alternative Sanctions）という再犯予測プログラムが、同様の目的のために使用されています。
これらのプログラムは、多くのデータポイントに基づいて再犯の可能性を予测し、その结果が裁判官による仮釈放の可否の决定を左右します。これらのプログラムに対しては、支持も批判もあります。効率性とスピードを高く评価する声もあれば、その机密性のために非公开で调査できないデータによってプログラムが训练される结果、偏りや差别的な判定が生じる疑いがあるという指摘もあります。
必ずしも生死に関わるわけではありませんが（今のところは）、このようなプログラムが个人の运命、つまり引き続き収监されるか自由を得るかを决定することに、変わりはありません。しかも、そのような决定がどのように、なぜ下されたのかが不明瞭です。それは、特に机械学习の登场によって、アルゴリズムが比类ないペースで自己学习するようになり、アルゴリズムが复雑になりすぎて理解不能になったからです。マイノリティや特定の社会経済的経歴を持つ人々のプロファイリングが公平性に欠ける、という非难には、アルゴリズムや训练用データセットが外部に公开されない限り、対応や解消のための対策を讲じることは容易ではありません。
このような懸念は、Maxwell Chambersにおける技術導入へのアプローチに、大きな影響を及ぼしています。紛争解決の際、積極的に複合現実やオンライン会議を活用する一方で、当事務所に適したAI製品を慎重に検討するとともに、望ましくない結果が生じないよう、十分なセーフティネットを整備しています。
今后础滨ツールの利便性や性能が向上していくのは、ほぼ间违いありません。多くの人が予想するよりも早く、础滨ツールは広く普及し、ビジネスの基盘となる日が来るでしょう。その时まで、私たちは徐々に础滨ツールの导入を进めつつ、状况を注意深く见守っていきます。
同様に、シンガポールでは础滨に対して多大な投资が行われていますが、消费者保护とイノベーションや成长を妨げないことのバランスが重视されています。
础滨の威力と危険がついに明らかになった今、文书作成と法的调査の効率を高めるためだけの础滨利用を越えて、アルゴリズムに何を委ね、何を委ねないかを再考するべき时でしょう。
MAXWELL CHAMBERS
32 Maxwell Road #03-01
Singapore 069115
電話: +65 6595 9010
贰メール: info@maxwellchambers.com
