AIのせいで水道管補修が放置されていた

アメリカのミシガン州フリントで、老朽化した水道管を探すAIを開発。
ところが、そのAIが使われなくなり補修作業が進まずに放置されているそうです。

フリントの老朽化した水道管は鉛製で、銅製に変える計画でした。
しかし、水道管は各住宅の地下に埋設されている為に、いちいち地面を掘って確認する必要があったそうです。

そこでAIを学習させて、既に問題が無いとわかっている住宅と問題がある住宅を判定できるようになったとのこと。

AIの判定で8833件の住宅が抽出され、実際に地面を掘ってみると6228件が問題のある住宅と判明。
精度は70%でした。

そこでフリント市はAECOMという企業と500万ドルの契約を行い、水道管補修を依頼。
ところがAECOMはAIの使い方がわからず、使わなくなってしまったそうです。

またフリント市の市長は水道管補修を「公平」に行うと約束。
水道管の補修は、埋設時期の違いで古い地域ほど多くなります。
この事をわかってない市民が、補修が公平に進んでないと苦情を訴えたそうです。
そこで市長はAIを無視して、フリント市を10の区画に分けて、600件ずつ抽出して検査するよう指示。

AIを使わないせいで老朽化した水道管を発見するのが大幅に遅くなり、約10000件の住宅が検査もされずに放置されているとのこと。

How a Feel-Good AI Story Went Wrong in Flint

コメントを残す

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください