USA Spain Brazil Russia France Germany China Korea

Artificial Intelligence driven Marketing Communications

 
Jul 30, 2020 1:42 AM ET

AIを使用して名前に基づいて性別を識別するサービスは非常に偏っているように見えます


AIを使用して名前に基づいて性別を識別するサービスは非常に偏っているように見えます

iCrowd Newswire - Jul 30, 2020
画像: ジェンダー化

一部のハイテク企業は、彼らが立ち上げるときにスプラッシュを作り、他の企業は腹フロップのように見えます。

Genderifyは、AIの助けを借りて自分の名前、メールアドレス、またはユーザー名を分析することによって、誰かの性別を特定することを約束する新しいサービスで、後者のキャンプにしっかりと見えます。同社は先週Product Huntで立ち上げましたが、ユーザーがアルゴリズムのバイアスと不正確さを発見したため、最近ソーシャルメディアで多くの注目を集めています。

例えば、「メーガン・スミス」という名前をGenderifyに入力すると、サービスは「男性:39.60%、女性:60.40%」という評価を提供しています。しかし、その名前を「メーガン・スミス博士」に変更すると、評価は「男性:75.90%、女性:24.10%」に変わります。「Dr」という接頭辞を付けた他の名前も同様の結果を生み出し、他の入力は一貫して男性を歪めるようです。例えば、「Test@test.com」は男性96.90%、ジョーン・スミス夫人は94.10%と言われる。

この叫び声は非常に大きかったので、執筆時点では、サービスのウェブサイトGenderify.comがオフラインになり、無料のAPIにアクセスできなくなりました。

このようなバイアスは機械学習システムに定期的に登場しますが、Genderifyの軽率さは、この分野の多くの専門家を驚かせたようです。AIが社会に与える影響を研究するAI Now Instituteの共同創設者であるメレディス・ウィッテカーの反応はやや典型的でした。「私たちは荒らされていますか」と彼女は尋ねました。「これは技術+正義の世界をそらすことを意味する精神耳ですか?それはすでにクリンギーテックエイプリルフールの日ですか?

ジェンダーの問題は、自分の名前に基づいて誰かの性別に関する仮定を行うことではありません。人々はいつもこれを行い、時にはプロセスで間違いを犯します。だからこそ、人々がどのように自己識別し、どのように対処したいのかを知ることは礼儀正しいです。Genderifyの問題は、これらの仮定を自動化することです。男性/女性のバイナリに個人を並べ替えながらスケールでそれらを適用する (そして、非バイナリとして識別する個人を無視する) プロセス内のジェンダーのステレオタイプを強化しながら (例: あなたが医者の場合は、おそらく男性です).

この潜在的な害は、ジェンダー化がどのように適用されるか、どこで適用されるかによって異なります。たとえば、サービスが医療チャットボットに統合された場合、ユーザーの性別に関する仮定は、チャットボットが誤解を招く医学的アドバイスを出すことにつながる可能性があります。

ありがたいことに、このサービスはこの種のシステムの自動化を目指していないようですが、主にマーケティングツールとして設計されています。GenderifyのクリエイターであるArevik Gasparyan氏は、プロダクトハントで「Genderifyは分析、顧客データの強化、マーケティングデータベースのセグメント化、人口統計などのデータを取得できます」と述べています。

同じコメントセクションで, Gasparyan は、偏見と非バイナリ個人を無視する一部のユーザーの懸念を認めました, しかし、具体的な答えを提供しませんでした.

あるユーザーは、「男性も女性でもないと識別することを選択したとしましょう。ジェンダー差別を避けるにはどうすればよいでしょうか。ジェンダー・バイアスにどう取り組んでいますか?Gasparyanは、サービスが「既存のバイナリ名/性別データベース」に基づいて決定を下し、同社は「名前/ユーザー名/電子メールの概念を性同一性から分離する」ことによって「トランスジェンダーと非バイナリの訪問者の経験を改善する方法を積極的に検討している」と答えました。Genderifyの全体の前提は、このデータが性同一性の信頼できる代理人であることを考えると、混乱を招く答えです。

私たちは会社に手を差し伸べ、私たちが受け取ったコメントでこのストーリーを更新します。

 
 
 
 

Contact Information:

James Vincent



Tags:    Japanese, United States, Wire