驚き 2015-07-02

“アルゴリズムの限界”google、黒人をゴリラと間違える。

\この記事をシェアする/

今、世界で話題になっているgoogleのアルゴリズム問題。google photosというgoogleのサービスでgollira(ゴリラ)と検索をすると黒人の友人の画像が検索結果に出てきたといいます。

@jackyalcineさんが6/28に 「Google Photos, y’all fucked up. My friend’s not a gorilla. 」と一言、怒りのコメントと写真をアップしました。

「Google Photosは最悪。友達はゴリラじゃない。」

さらに、google photos内でゴリラと検索すると大量の二人の画像が!!!

Alcinéさんは、Googleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんに連絡。ZungerさんはAlcinéさんに謝罪とバグの報告に感謝。その日のうちにバグは修正されました。

googleのYonatan Zungerは、この現象に対して、「機械自体には偏見はないが、私たちが気をつけないと機械が私たちから人種差別を学んでしますのです。」と言っています。要は、googleのアルゴリズムは正常でも、インターネット上にゴリラと黒人を関連付ける情報がたくさんあるので、それを機械が学習してしまうということでしょう。

googleのアルゴリズムに脅威を覚えました。。

フォローをお願いします(1人1回) マークでOK