AIが誤認識で人を射殺していた

5年前のイエメンにて、米軍のドローンに搭載したAIがターゲットを誤認識して無実の人を殺していたそうです。
初めは顔認識の誤検知率が高いっていう理由かと思ったら違う理由でした。

殺害の標的も選出 背徳的な用途にAIが使われている実態

殺されたのは2人で、1人は警官、もう1人はイマーム(イスラム教の導師)。
イマームはどうやらアルカーイダを批判する説教をしていたそうです。
なので米軍に敵対的な人物ではなかったと。
それにも関わらず米軍のドローンが殺したのは、
顔認識に間違った情報が登録されたからのようです。

米軍はイエメンに情報源がほとんどないそうです。
それで別の情報源から入手した情報に基づいてターゲットの顔データを登録。
この顔データが間違っていたと。

ロンドン警察が採用した顔認識AIは、誤検知率が98％だったそうです。
しかし米軍のAIは顔データが間違っていたのだけど、
正確にその顔を検知したゆえに誤射で殺した訳です。

軍事用AIはかなり進化してそうですね。
軍事機密だろうから、それを犯罪捜査には転用しないでしょうね。