アルゴリズムが人間を操作するとき

鄭磊

私たちの時代に生きている人はおそらくアルゴリズムを聞いたことがあるだろう。ウィチャットを開くと、指向性のある広告がよく見られます。ネットショップで本を買うと、後ろに一連のお勧めの関連図書があります。Webページを開くと、最も顕著な場所はあなたにおすすめの読書リンクです。これはデータ時代であり、ビッグデータ時代であり、アルゴリズム時代でもある。

『アルゴリズムに操られた生活』の著者はイギリス出身で、スウェーデンに定住している數學教授で、企畫編集者は私が數學科出身で、金融科學技術の研究に従事していることを知っていたので、私に手伝ってもらいました。數學者が科學普及の本を書くこと自體がセールスポイントであり、數學の教材以外に數學教授が書いたベストセラーを読んだことがないという印象があります。この本には面白い例がたくさんあり、いくつかの観點は私たちが考える価値がある。

個人データは個人のプライバシーに関連しており、個人データの分析は同様に個人のプライバシーを暴露する：消費者畫像と広告の方向付けは合法的ですか？これは個人データ分析がどのような効果を上げるかにかかっていると思います。このようなアルゴリズムは一般的に主成分分析と回帰分析を採用しており、この2つの方法自體は非常に先端的ではなく、多くのSNSで使用されており、フェイスブックやツイッターなど、主にユーザーを分類するために使用されている。私たちが日常的にインターネットを利用しているさまざまな活動は、実際には個人の行動データに屬しており、サイトには記録が殘されており、私たちの生活狀態を如実に反映しています。例えば、私たちが発表した內容、いいね、情報共有などは、個人の行動、観點、好み、IQ、個性と関連しています。アルゴリズムとこれらの蓄積されたマスデータを利用して、最も冷靜で理性的な角度から一人一人を見ることができます。

私たちの脳も他人を見ることができますが、脳は最大3次元しか処理できませんが、コンピュータはアルゴリズムに依存して數百次元で迅速に一人一人を分類することができます。理論的には、人の行動データは私たちのすべての感情を追跡し、消費の選択、人間関係、仕事の機會などの面で予測することができ、このようなデータが多ければ多いほど、分類は信頼できる。ソーシャルネットワークはユーザーのこれらのデータを収集し分析し、現在は法律上の明確な規定がなく、倫理面で論爭がある。注目されている例は、ケンブリッジが會社の選挙操作事件を分析していることだ。同社は、インターネット指向マーケティングと小規模な世論調査データで有権者に影響を與えたと告発された。2019年7月、フェイスブックはこの件について50億ドルの罰金を科し、これまで世界最大規模のプライバシー違反の罰金となった。

各種類の市場研究とデータ分析會社は數十年前の研究者が採用した方法と違いはなく、綿密に設計されたアルゴリズムで次元ごとにソートや確率を計算することだが、現在使用されているデータ量ははるかに大きく、さらにはビッグデータを採用している。この規模では、コンピュータとアルゴリズムを用いて分析せざるを得ない。例えばフェイスブックの回帰アルゴリズムは2萬人近くのいいねデータを分析し、9回のうち8回は個人の政治的立場を予測することに成功し、正確率と信頼性が非常に高い。例えばLady Gagaが好きで、スターバックスやカントリー音楽が好きな人は共和黨員である可能性が高い。このように共和黨員は支持を得るために、スターバックスコーヒーを飲む人に注目しなければならない。

ユーザーのソーシャルネットワークデータを収集し、ターゲット層の個性的な特徴に基づいて特定の視聴者の観點と好みに合ったコンテンツをカスタマイズして投入し、ターゲット層の行動変更を導き、アルゴリズムがこのレベルに発展すれば、明らかに私権の範囲を侵害することになる。指向性のある配信情報には広告が含まれており、特定の視聴者に有益である可能性もあれば、相手に不安を感じさせたり、怒らせたりする可能性もあります。アルゴリズムが個人データを利用して個人の行動や好みに85%の精度で予測できる場合、個人データの使用が合理的で合法的であるかどうかは際立った問題となる。個人的には、検索アルゴリズムに基づくこのビジネスモデルは、まず個人の同意を得なければならないと思います。

データアルゴリズムはほとんどの人にとって「ブラックボックス」であり、実際には現在の人工知能発展の段階にも同様の問題が存在している。例えば、深學習では、人類社會に普遍的に存在する様々な差別問題をアルゴリズムに導入する気がない可能性が高い。アルゴリズム差別は社會格差をより大きくし、社會公平に深刻な影響を與える。本の中で多くのアルゴリズム欠陥の例を示し、選挙予測を例にして、人工的に行われたサンプリング調査はアルゴリズムより実際の結果に近い。ギャラップ世論調査米大統領選の誤差は、1940年代から2020年まで低下していたが、現在はほぼ5%以下。アルゴリズムによる予測の最悪はチンパンジーのダーツ投げに似ており、好ましくは60%程度にしかならない。データアルゴリズムは、図書販売において検索最適化アルゴリズムの抜け穴を利用してランキング上位にランクインした図書など、抜け穴を掘られることもあるが、結果的には読者からのフィードバック採點がますます低くなっている可能性がある。同様の方法は學術論文の引用量を高めることができ、この指標を學術成果を審査する唯一の基準とすることは、必然的に學術界の逆激勵と逆淘汰の現狀をもたらす。誤解されたり操作されたりしないように、その中に存在する可能性のある問題を理解しなければなりません。

?