AIは犯罪防止に貢献するが、人間が監督をする必要がある

あなたの顔を認識し、あなたが行く場所、あなたが会う人、そしてその際に行う行動など、あらゆることを把握しているスマートシティに住んでいると想像してください。

自律型AIは、ある人物がどのくらいの確率で犯罪を犯すかを報告するシステムを時間をかけて作り上げました。その危険性が高い場合には、警察は予防のための行動を取ります。超監視社会、そして予測による警察権力執行の時代へようこそ。

インドと中国の両国は現在、犯罪率を下げ、攻撃前にテロリストを特定するために、そうしたレベルの監視を実行しています。

日本もまた、2020年の東京オリンピックを前にして、予測システムの導入を検討しています。ロンドンなどイギリスの各地でも、同様の技術が使用されています。

あなたの住む町でもすでに導入が始まっているかもしれません。

関連記事:Friend or foe? Just look at the way a person moves

このような広範囲にわたるリアルタイムの監視が可能になるのは、より強力で計算能力の高いコンピュータが、数千台のビデオカメラから得られる顔認識と歩行分析のデータの奔流を処理し、それらの意味を理解することのできる高度なAIが、それらすべてを統合しているからです

少し前までは、私たちは目つきの鋭い警察官に頼って町の安全を確保していました。それは私たちが、顔を見ればお互いを認識できるほど小さなコミュニティに住んでいた頃の話です。

しかし、都市は拡大を続け、警察官だけで監視をするには大きくなりすぎたため、有線テレビの防犯カメラ(CCTV)、顔認識、初期段階の予測システムが活用されるようになったのです。

超監視社会のモラル

予測による警察権行使の倫理的な問題については意見が分かれています。

プライバシー保護を求める人々とリバタリアンたちは、このレベルの監視には反対でないにしろ、懸念を抱いています。彼らはそうしたシステムが差別の道具になるのではないかと感じています。

一方で、公共の安全と反テロの支持者は、予測技術は、テロリストの攻撃やその他の公共の安全に対する脅威を未然に防ぐことに大きく貢献すると主張しています。

両方の意見に説得力と妥当性があるため、問題は、公共の利益と個人の自由の間の、どこで線引きを行うかということです。

その答えはケースバイケースです。それぞれの管轄地域で、あらゆる関係者の意見を考慮するような答えを出すために交渉をしなければなりません。

2001年9月11日にアメリカでのテロが起きて以来、空港での監視や検査は劇的に厳しいものになりました。
時間が経つと、空港利用者は、その状況が自分たちや同乗者の利益にもっとも適うものとして、受け入れるようになりました。

プライバシーは玄関で始まり、玄関で終わる

自分の家ではプライバシーがあるという事実は、一般的に受け入れられています。あなたがドアを閉めれば、誰も見ていないし、聞き耳も立てていないと考えて良いでしょう。

例外は、あなたが家にいつつも犯罪行為に関わっていて、地域社会を脅かしている場合です。このようなケースでは、これを基準として、個人の権利と公共の利益の線引きが行われています。

しかし外出中は、見ようと思えば誰でもあなたのことを見ることができます。彼らはあなたがしている会話を盗み聞きしているかもしれません。公共の場所での視線からのプライバシーの権利はありませんし、これまで存在したこともありません。

しかし監視と判断決定は別物です。そして残念なことに、予測による警察権行使のための技術は、抑圧の装置として使われる可能性があります。このリスクをオープンで民主的な社会で管理することはかなり困難なものですが、権力の抑制と均衡を図ることによって克服することができるはずです。

リスクと利益を天秤にかける

予測による警察権行使のあらゆる面を考慮すると、それが継続的に使用される正当性はあるように感じられます。

例えば、オーストラリアでは過去3年間で15件のテロ行為が、コンピュータアルゴリズムを活用した警察によって未然に防がれたと報じられています。

問題は、どのようにリスクを受け入れ可能なレベルにまで最小化するのかということです。

簡潔な答えとしては、アルゴリズムをどのように取り入れるかなどを含めた、あらゆるAI予測による警察行為における倫理的な透明性を保証する、法的な枠組みを作り上げることでしょう。

それによって、予測システムに取り込むデータが正確で偏っていないことが強く保証されます。あらゆるコンピュータシステムに当てはまるように、アウトプットの質はインプットの質に左右されます。諺にもあるように、ガラクタを入れればガラクタしか出てきません。

予測システムに存在する固有のバイアスに関して、現在抱かれている懸念に対応する必要があります。

すべての警察部隊が等しく組織されているわけではないという意見があります。アメリカでは、12000もの地域警察組織があります。それぞれに当然違いがあり、それはリーダーシップの質と利用可能なリソースを反映しています。

人間とAIの協力関係

警察は完ぺきではありませんし、人間の警察官は常に正しい仕事をするわけではありません。

関連記事:Close up: the government’s facial recognition plan could reveal more than just your identity

しかし警察に採用されるAIに関して言えば、権力の抑制と均衡の制度によって鍛え上げられた、経験豊かな人間の警察官の持つ研ぎ澄まされた直感が、警察行為において果たすべき役割が常に存在すると私は考えています。
そうしたAI技術は常に人間の管理下に置き、判断決定の支援で貢献をするべきです。

そのようにAIを活用することで、あなたの町に超監視社会の時代が訪れた場合にも、ある人物が公共の安全を深刻に脅かすかを判断するのは、たとえそれがどれほど賢かったとしても、機械ではなく責任のある人間ということになるでしょう。

1987年の映画『ロボコップ』で描かれたAIが誤作動をするシーン(警告:刺激的なシーンを含みます)

 

この記事は、The Conversation に掲載された「AI can help in crime prevention, but we still need a human in charge」を翻訳したものです。