AIと人種差別に関わる有名な事例の一つに「three black teenagers（10代の黒人3人組）」がある。 「three white teenagers（10代の白人3人組）」というキーワードでグーグル画像検索を実行すると、楽しそうな白人の3人組の画像が表示される。 一方、「three black teenagers」と入力すると、警察署で撮影されたとみられる容疑者の画像が表示される、というものだ。
これは、インターネット上にアフリカ系米国人の犯罪者の顔が多く存在していたためとみられる。 米マイクロソフト 規制関連分野担当 バイスプレジデントのデイヴィッド A. ハイナー氏は、この現状について 「機械学習は、世界をそのままモデリングしてしまう。世界に人種差別があれば、それがAIに反映されてしまう」と表現する。
