アルゴリズム推薦は新しいルールを迎える：熱検索を制御して世論に影響を與えてはならないユーザーは推薦を閉じることができる

8月27日、國家インターネット情報弁公室は『インターネット情報サービスアルゴリズム推薦管理規定（意見募集稿）』（以下『意見稿』と略稱する）を発表し、意見を公募した。

『意見稿』は世論屬性または社會動員能力を持つアルゴリズム推薦サービス提供者に対して重點規則を行い、內容推薦要求が主流の価値志向を堅持することから、流量偽造、熱検索制御などを実施してネット世論に影響を與えてはならないことまで、剣は微博、今日のトップ、百度、快手、震音などの情報情報とショートビデオプラットフォームを指す。

プラットフォームの労働権益及び消費者の権利の保障について、『意見稿』は、外食及びネット配車プラットフォームは労働者、消費者の二重アルゴリズムを規範化し、労働者アルゴリズムの公正で透明性を保証し、アルゴリズムの消費者に対する「ビッグデータ殺熟」を抵抗することを要求している。

どのようにプラットフォームのアルゴリズム使用とユーザーの権利保障をバランスさせるか？複數の専門家は21世紀の経済報道記者に、企業コンプライアンスは『意見稿』が提出した技術、管理、コンテンツ価値の面での多層的な要求に注意すべきだと述べた。

主流の価値志向を堅持し、アルゴリズムを向上させる

インターネット情報コンテンツの生態管理は、我が國の近年のインターネット管理の重點である。

2019年12月、國家網信弁公室は「ネットワーク情報コンテンツ生態管理規定」を公布し、我が國が完全なネットワーク情報コンテンツ生態管理枠組みを構築したことを示した。今年1月、國家網信弁公室は『インターネット情報サービス管理弁法（改正草案意見募集稿）』について意見を公募し、情報伝播の各要求をさらに規定した。國家網信弁公室、全國黃打非弁公室などの部門も何度もプラットフォームの內容を整理した。

しかし、ネットワーク生態管理には現在も難題が殘っている。中國政法大學インターネット法學研究所の商希雪副所長によると、一方で、わいせつポルノ、賭博詐欺、負のエネルギーコンテンツがネット空間にあふれている、一方、「流量が王」という奇形観念の下で、プラットフォームはアルゴリズムモデルを用いて熱検索、超話、炒め物、集積などの情報プッシュ方式を通じてユーザーに「刺激」の話題と「ホットスポット」の情報を投入し、大衆は受動的に「瓜を食べる」時にも精神的な不快感を感じる。

『意見稿』は、アルゴリズム推薦サービス提供者は主流の価値志向を堅持し、アルゴリズム推薦サービスメカニズムを最適化し、積極的に正のエネルギーを伝播し、アルゴリズムの応用の向上と善を促進しなければならないと指摘した。

第9條手段の面からコンテンツサービスプラットフォームの情報プッシュ行為を規範化し、情報コンテンツの管理を強化し、違法と不良情報を識別するための特徴ライブラリを確立し、健全化し、入庫基準、規則とプログラムを完備することを要求する。有意な識別をしていないアルゴリズムが合成情報を生成していることを発見した場合、有意な識別をしてから、伝送を続けることができる。

內容自體のガバナンスも必要だが、膨大な內容の中で良性の內容が埋沒することが多く、低俗で目を引く內容はさらに「ブラシ」されやすく、「悪貨が良貨を駆逐する」というジレンマに陥っている。

『意見稿』第11條は「人手による介入とユーザーの自主的な選択メカニズムを確立、整備する」ことを強調し、つまりアルゴリズムに依存して內容の推薦を行うだけでなく、人手による識別とスクリーニングの過程を増やす必要があり、「トップページのトップ畫面、熱検索、精選、ランキング類、弾窓などの重點セクションで主流の価値志向に合った情報內容を積極的に提示する」ことを強調した。

「プラットフォームが主體的責任を固める過程で、デマやその他の不法情報の管理に加えて、アルゴリズムの決定に対する取っ手が追加されたことに相當する」と、中國政法大學伝播法研究センターの朱巍副主任は、プラットフォームがどのようなアルゴリズムと論理使用データを通じて、インターネットの監督管理の鍵であると述べた。

未成年者の保護について、『意見稿』第16條は特に「未成年者の使用に適したモデルの開発、未成年者の特徴に適したサービスの提供などの方法を通じて、未成年者が心身の健康に有益な情報內容を得るのに便利である」と提案した。

『意見稿』が発表された日、ネット通信弁公室は「ファンサークル」の亂像対策を強化する通知を発表し、「スター蕓能人ランキングの廃止」「ランキング調整規則の最適化」など10の仕事の措置を提出した。ネット通信弁公室は、音楽作品、映畫?テレビ作品などのランキングで、署名、いいね、評論などの指標の重みを下げ、作品の方向性と専門性評価などの指標の重みを増やすと指摘した。ファンのランキングを誘導する関連機能を設置してはならず、ファンが文化製品の品質にもっと関心を持つように誘導してはならない。

ネット世論に影響を與える熱捜しを制御してはならない

熱検索ランキングは注意力経済の最も集中した體現であり、新メディア時代のアジェンダ設定の最も典型的なサンプルである。

『意見稿』の複數のコンテンツ規制ランキングの精選プラットフォーム、例えば情報類の今日のトップ記事と百度、ショートビデオ類の快手と震え、総合類の微博と知乎など、剣指熱検索ランキングという機能サービス。

熱検索のソート、流量偽裝などの問題について、監督管理部門はこれまで何度も手を出しており、プラットフォームの監督管理が厳しくなっている。

2020年6月、國家網信弁公室は北京市インターネット情報弁公室に新浪微博の責任者に対し、微博が蔣某世論事件でネット上の伝播秩序を妨害し、違法な違反情報を伝播した問題について、微博熱検索ランキングの更新を一時停止し、関連責任者を厳粛に処理し、罰金を科す行政処罰を厳しくするよう命じた。

『意見稿』はアルゴリズム推薦サービス提供者にアルゴリズム規則及び開示の面で要求する。第12條では、コンテンツの重み付け、介入の分散などの戦略を総合的に運用し、検索、ソート、選択、プッシュ、展示などの規則の透明性と解釈性を最適化しなければならないと述べた。第14條では、アルゴリズム推薦サービスを提供する狀況を顕著な方法でユーザーに知らせ、アルゴリズム推薦サービスの基本原理、目的意図、運行メカニズムなどを適切な方法で開示しなければならないと規定している。

今年8月23日、微博は「お金を使って熱を買う」「お金を使って熱を抑える」などの疑問に答え、初めて熱検索製品の規則と管理細則を発表した。マイクロブログによると、ホット検索はマイクロブログユーザーの実際の行動に基づいて計算され、検索量、送信量、インタラクティブ量などのデータ指標に基づいて、リアルタイムランキングを形成している。ランキングアルゴリズムには厳格な排水軍と反ごみメカニズムが含まれており、公正で客観的なことを確保している。

世論や社會動員に影響を與えるプラットフォームの規制について、「意見稿」第13條は、アルゴリズムを利用してアカウントを虛偽登録したり、不正取引アカウントを操作したり、虛偽のいいね、コメント、転送、ウェブナビゲーションなどを利用して、トラフィック偽造、トラフィックハイジャックを実施したりしてはならない、アルゴリズムを用いて情報を遮蔽したり、過度に推薦したり、ランキングを操作したり、検索結果を並べたり、熱検索や精選などの介入情報の提示を制御したりしてはならず、自己優遇、不正競爭、ネット世論に影響を與えたり、監督管理を回避したりしてはならない。

同時に、『意見稿』はユーザーに選択権を與えることを要求している。第15條では、アルゴリズム推薦サービスプロバイダは、その個人的な特徴に応じないオプションをユーザーに提供したり、アルゴリズム推薦サービスを簡単に閉じるオプションをユーザーに提供したりする必要があると述べた。ユーザーはシャットダウンを選択し、関連サービスの提供を直ちに停止する必要があります。これは8月20日に公布された個人情報保護法の中で、個人情報権と同意撤回に関する內容と脈々と受け継がれている。

ネット予約車、外食プラットフォームの二重アルゴリズムが監督管理されている

近年、外食のお兄さん、ネット予約車の運転手などの新しい就業形態の労働者の隊列が拡大している。2019年、外食従業員の総數は700萬人を突破した。全國ネット予約車監督管理情報対話プラットフォームの統計によると、2021年7月31日現在、全國で241のプラットフォームがネット予約車の経営許可を取得し、各地でネット予約車の運転免許証351萬冊が発行されている。

『意見稿』は、ネット予約車、外食などのスケジューリング決定類などのプラットフォームのアルゴリズムに対しても規制を行い、労働者と消費者の二重アルゴリズムから制約を行った。

労働者に対して、『意見稿』はアルゴリズムが公正で透明であることを要求している。第十七條アルゴリズムはサービス提供者が労働者に仕事のスケジューリングサービスを提供することを推薦する場合、プラットフォームの注文配分、報酬構成及び支払い、労働時間、賞罰などの関連アルゴリズムを確立し、整備し、労働者の権益保障義務を履行しなければならないと提案した。

今年5月、交通部、市場監督管理総局など8部門は共同で滴滴出行、曹操出行、高徳、貨物拉拉など10社のプラットフォームを約束した。契約の要求については、プラットフォームは価格設定メカニズムと価格計算ルールを積極的に公開し、ディスパッチメカニズムを持続的に最適化しなければならない。曹操、滴滴などのプラットフォームはすでに公開を推進することを提案している。曹操の移動によると、運転手側の展示などを通じて現行の分割比率を公開した。滴滴氏は5月に公開注文の抽出を推進し、運転手の請求書の透明化を推進すると発表した。

7月、人社部など8部門と市場監督管理総局など7部門は前後して「新就業形態労働者の労働保障権益の維持に関する指導意見」と「ネット飲食プラットフォームの責任を実行し外食配達員の権益を確実に維持することに関する指導意見」を発表し、企業に注文分配、出來高単価、抽出比例、報酬構成と支払い、作業時間、賞罰などの制度規則とプラットフォームアルゴリズムは、「アルゴリズムの取中」などの方式を通じて、「最厳密アルゴリズム」の審査要求に代わることを提案した。

消費者に対しては、アルゴリズムは「ビッグデータの殺熟」を制限する必要がある。『意見稿』第18條は、アルゴリズムがサービス提供者を推薦して消費者に商品を販売したり、サービスを提供したりする場合、消費者の合法的権益を保護しなければならず、消費者の好み、取引習慣などの特徴に基づいて、アルゴリズムを利用して取引価格などの取引條件において不合理な差別待遇などの違法行為を実行してはならないと規定している。

中國政法大學ネットワーク法學研究所の商希雪副所長は、現在のビジネス応用シーンで自動化決定アルゴリズムがますます頻繁になり、ユーザーの正當な権益を脅かす社會的リスクを引き起こしていると分析した。

「ビッグデータ殺熟」については、「ネット取引監督管理弁法」「電子商取引法」「國務院獨占禁止委員會のプラットフォーム経済分野に関する獨占禁止ガイドライン」、今年11月1日から施行される「個人情報保護法」など多くの法律法規に明確に規定されており、取引中に個人に対して「差別待遇」を実施してはならないことが求められている。

平衡アルゴリズムの使用とユーザーの権利保障

アルゴリズム規則の背後には商業的利益があり、アルゴリズム推薦技術の各要求に直面して、企業はどのようにアルゴリズムの使用とユーザーの権利をバランスさせるべきか。

北京師範大學ネットワーク法治國際センターの呉沈括執行主任は、企業コンプライアンスは『意見稿』が提出した技術、管理、內容価値レベルの多層的な要求に注意すべきだと提案した。

具體的には、技術面では、製品の開発段階からアルゴリズムがもたらす可能性のあるリスク、特に差別、虛偽、正のエネルギーと合わない內容傾向に注目しなければならない。組織管理の面では、ユーザー登録、管理からリスク評価などの全ライフサイクルの組織管理制度を構築し、制度から人へのガバナンスを全面的に実行する必要がある。アルゴリズムの応用過程において、內容自體の価値倫理要求は社會主義価値観と一致し、正のエネルギー伝播要求と一致することに注意する。

「狹義のユーザー権利保護の観點から見ると、データセキュリティ、個人情報保護は、既存の法的トップダウン設計の下で、制度間の交差マッチングを実現し、ユーザーの自主権利及びその他のセキュリティ利益の総合的な全面保護を実現する必要がある」と呉沈括氏は述べた。

自動化決定はアルゴリズムの監督管理の重要性である。「プラットフォームはユーザーの趣味や消費習慣などの特徴に基づいて商品やサービスの検索結果を提供する場合、同時にその個人の特徴に対応しないオプションを提供しなければならない」商希雪氏は、一方で、法律の規定を遵守する前提の下で、企業は公開、公平、公正の原則に従ってアルゴリズムモデルを設計し、自動化意思決定規則を制定しなければならない、ユーザーに差別的な差別化待遇を提供してはならない、一方、「告知-同意」の義務を履行する前提の下で、企業はユーザーのアルゴリズム設計と自動化決定に対する同意権、規則解釈権、選択権を保障しなければならない。

外部の力を借りることで、企業がより客観的な視點で問題を解決できるかもしれない。上海大邦弁護士事務所の高級パートナーである遊雲庭氏は、企業は第三者のアルゴリズム監督管理委員會、例えば第三者機関、ユーザー代表、業界協會員などを設立することによって、企業內部のアルゴリズム倫理の実行狀況を定期的に支援し、企業內部の自己調査?自己修正と監査を支援し、外部の人が的確な提案を提出することができる、アルゴリズムのリスクを効果的に減らすことができる。

?