英国司法省は、現在潜在的な殺人犯を
予測することを目的とした選別的な
AIアルゴリズムの開発に取り組んでいる。
当初
「殺人予測プロジェクト 」
と呼ばれたこのツールは、被害者、目撃者、
容疑者に関する情報を含む英国警察の
データを利用したものだ。
このプロジェクトは、市民的自由団体
『Statewatch』からの情報公開法の要求を
通じて明らかになったものだ。
このプログラムは、10万人から
50万人に関するデータを利用し、
メンタルヘルス、中毒、自殺、障害などの
分野をカバーする機密情報を収集している。
この団体Statewatchは、アルゴリズムによる
犯罪予測の危険性について、特にデータが
法執行機関内の偏見と関連する可能性を
考慮し、この機密情報の使用に懸念を
表明している。
Statewatchの研究者
ソフィア・ライアルによれば、制度的に
偏った警察や内務省のデータを
使用することは、制度的差別の強化に
つながる可能性があるという。
「犯罪を予測するアルゴリズム・システムは
本質的に欠陥があることが、研究によって
何度も明らかになっている」
と彼女は述べている。
このような懸念に対して、法務省の
担当者は、このプロジェクトは純粋に
研究目的であることを明らかにした。
法務省は、このプロジェクトの目的が
保護観察中の個人、特に重大な
暴力犯罪を犯す可能性のある個人が
もたらすリスクをより理解することに
あるとしている。
この調査結果の報告書は、近日
発表される予定になっている。
このイニシアチブは、法執行における
AIの使用について、特に今までの類似技術の
欠陥実装の歴史を考慮すると、より重要な
問題を提起するものだ。
AIが作成した警察報告書から、監視技術による
プライバシー侵害に至るまで、これらの
ツールの利点とリスクについては、
かなり懐疑的な見方がされているようだ。
0 件のコメント:
コメントを投稿