カリフォルニア大學バークレー校のpieter Abbeel教授にインタビュー：最終的にAIに「閉じるボタン」を設定しないと危険

ロボットの繰り返し動作の限界を打破し、ロボットの自己學習、環境認識、フィードバックを実現し、人間はAIとどのように付き合うべきか。「新型電力」として、AIや派生ロボットは將來的に重要な場所を占めるに違いないが、この目標を実現し、広く、普遍的、合理的にAIを使用する目標を実現するには、多くの困難を克服する必要がある。

10月22日、第三者諮問機関の安永氏は報告書を発表し、中國大陸部企業は人工知能の將來の発展に対して比較的慎重で保守的な態度を持っており、訪問企業の68%は人工知能が今後5年間、業界に大きな影響を與え、重大な影響を與えると予想している、政府の政策支援と産業の高度化の加速を背景に、企業の人工知能の成熟度は高いが、ネットワークセキュリティ、データ管理、革新管理などの面ではまだ不足している。

2009年から2019年にかけて、中國大陸部の人工知能投資件數は絶えず上昇し、累計2827億元を投資した。人工知能への投資では、コンピュータビジョンと知能ロボットが主な投資分野である。

これまで、カリフォルニア大學バークレー校教授、バークレー人工知能実験室主任のPieter Abbeel氏の主な研究分野はロボットと機械學習に集中してきたが、特に深度強化學習分野でリードしている。同時に、彼はまだCovariant.Ai（倉庫と工場の知能とロボット自動化）、Gradescope（人工知能採點システム）の共同創始者と首席科學者。

21世紀経済報道記者のインタビューに応じた同氏はこのほど、産業用ロボットから家庭用ロボットへの発展過程で最も大きな変化は、動作を繰り返すロボットをロボット2.0に変えることだと考えた。今年に入ってから、ロボットが環境にフィードバックする機能は、実用的な機能を発揮してきた。

人類の注目に値するのは、AIが本當に「覚醒」したら、世界を支配するのだろうか。AIと人間が恐れる悪の距離はどのくらいあるのか。

以下に対話の実録を示す：

『21世紀』：今年上半期、世界は新型コロナウイルスの影響を受けた。人間の生活の中で、AIはどのような役割を果たしているのだろうか。それはますます重要になりますか？

Pieter Abbeel：ウイルスの大流行を背景に、後方勤務インフラのように従業員が集中する仕事は、私たち一人一人がオンラインで買い物をする必要があり、物流が必要になるため、危険かつ重要になっています。そのため、大型倉庫のような場所がより自動化され、より安全で信頼性が高いことを望んでいます。また、機械學習は物事の発展と制御を追跡するのにも役立ちます。

將來的には、AIがウイルス対策や醫療サービスを支援できることを願っています。現在、私たちはワクチンの開発と薬物治療の面で明らかな進展はありませんが、AIは醫療サービスの面で際立った貢獻をする可能性があり、私たちが現在達成している成果よりはるかに良いと信じています。

『21世紀』：AIの発展はいくつかの段階に分かれていますが、現在私たちはどの段階にあると思いますか。

Pieter Abbeel：最初の50?60年代には、探索と理論的推論に注目し、AIは人類がまだ実証できていない理論を実証することができ、優れた棋士になることができることを発見した。しかし、これらは非常に明確なルールに基づいており、なぜAIがそうしたのか理解することができます。

前世紀末と今世紀初頭において、AIはモジュール認識と確率推論に大きな進展を遂げた。現在、大量のデータの恩恵を受けており、コンピュータビジョンなど、この2つの面でより大きな進歩を遂げています。この技術的な問題は完全には解決されていないが、その過程で多くの成果が生まれ、実際のビジネス活動に投入されている。

現在、モジュールの認識が高度に発達している段階にあります。コンピュータ學習を支援するために大量のデータが必要な問題を解決したいと考えられています。

例えば、ロボットが歩行者や車両を識別するには、作業に入る前に無數の歩行者や車両の寫真を學ぶ必要があります。しかし、將來的には、ロボットは自主的に學習することができ、機械は自動的に大量のデータを學習することができ、新生児のように自主的に世界を観察することができ、人間が繰り返し教える必要はなく、大量の情報を表示する必要はありません。今後5年間で、識別されていないデータの影響を利用して見ることができ、その後、より多くのアプリケーションが派生する可能性があります。

『21世紀』：一般人はまだ日常生活の中で深度強化學習を応用することができないが、現在の段階で最大の困難と最も切迫した需要は何であるか。

Pieter Abbeel：確かに、深度強化學習は一般人の生活から遠い。しかし、実際の動作や模倣ではなく、入力された畫像を學習するだけでロボットが必要であることを考えると、テクノロジーはすでに大きな進歩を遂げています。過去數年間、私たちは深度強化學習と自主學習を結合し、狀態學習と畫像學習に同じ効果を達成できることを発見し、これは重要な突破だと思います。しかし、それはまだ効率的ではなく、大量のテストが必要です。

一方、もし私がシステムに著地したいなら、私は強制的な學習から始めず、模倣から始めます。私はまず人々が車を運転し、仕事を完成するための模範を集めて、それからロボットに真似させて、これはもっと便利です。その後、強制學習を用いて向上、改善する。

『21世紀』：私たちは家庭用ロボットを広く使用するまでにどのくらい時間がかかりますか。家庭用ロボットを発展させる過程で、私たちはどのような困難とチャンスに直面していますか。

Pieter Abbeel：各家庭にはそれぞれの狀況、配置があり、ペットや子供がいる家庭もあり、部屋をめちゃくちゃにすることがよくあります。そのため、ロボットの設計を考えるときは、ロボットの將來の作業環境の構造を考える必要があります。

工場ではさまざまなロボットが作業をしているのを見ることができますが、同じ動作を繰り返しているだけです。

『21世紀』：AIはすでに自動運転、醫療サービス、教育などの分野に広く応用されており、將來的には他のどの分野でビジネスの潛在力を示すのだろうか。

Pieter Abbeel：私の博士指導者によると、AIは新型電力であり、どこにでもあるだろうという。私は彼の意見に同意した。より多くのデータに基づいて、多くの人がAIを正確に予測し、ビジネス上の優位性を発揮することができます。

2020年に私が見た最大の変化は、一、言語処理です。今年は、Googleが開発した製品など、予測的な言語モデルが登場しました。これらのモデルは以前よりも大きく進歩しており、人々はそれに基づいて多くのアプリケーションを開発します。例えば対話ロボット、運動ロボット、娯楽ロボットは、人々とスムーズに対話することができ、ひいては機械言語の変換能力を高めることができる。

二、ロボット技術。多くのことは動作を繰り返すだけではできません。観察し、フィードバックする必要があります。今後數年で、ロボットはほとんどの人間の手作業労働を完了するだろう。

この點では、自動運転技術が最も議論されていますが、AIによるエラーは致命的であり、システムが致命的になる可能性があることを知ってもらいたい會社はないので、この技術の信頼性はまだ十分ではありません。実験室では、非常に優れた自動運転製品を開発することができるかもしれませんが、現実に導入すると、異なる車両が異なる運転手に遭遇し、システムが高度な信頼性を達成するのは難しいでしょう。

『21世紀』：セキュリティ、プライバシーなどの分野で、AIはどのような倫理的課題に直面しているのか。私たちにはどんな解決策がありますか。

Pieter Abbeel：確かに多くの人が疑問に思っているのは、AIが合理的に使用されていない例を見たことがあるからだ。例えば、捜査ツールが機能していない、警察が容疑者を捕まえ間違えたなどだ。そのため、私たちはAIの道徳問題に対して慎重な態度を維持しなければならない。もし一人が過ちを犯したら、彼はただ一つの過ちを犯しただけだ。しかしAIがミスをすると、何度もミスが発生する。

問題の鍵は、AIが道徳的な選択をする際にそれを測定する方法にある。この測定は完璧ではない場合もありますが、少なくとも測定後、より良い決定を下すための研究と訓練を開始することができます。技術の発展の下で、良い解決方法がありますが、確かにまだ長い道のりがあります。

『21世紀』：AIが本當に“覚醒”したら、世界を支配すると思いますか？

Pieter Abbeel：私は今この問題に対してまだ答えていません。現実の生活の中で、一人がもっと頭がいいということは、彼がもっと大きな権力を持っているということではない。しかし、AIが人間より10萬倍頭が良ければ、AIが世界を支配したり、大金を稼いだりするかもしれない。それは私たちが何を望んでいるのか、それを制御するのか、それとも十分に賢くなったら自分のやりたいことをするのかにかかっています。これは複雑な問題です。

『21世紀』：ここまで事態を防ぐための措置はありますか？例えばいくつかのプログラムの基準を設定しますか？

Pieter Abbeel：バークレーには人間AI共存センターがあり、「閉じるボタン」を設定するなどAIを制御下に置く方法も検討していますが、ロボットが肢體や感情を通じて、閉じるのを阻止することができるかもしれません。だから私たちは人間がそれを観察していることを理解することができるAIシステムが必要ですが、人間の意図を完全に理解することはできません。AIが人間のニーズを完全に知ってほしくない。そうしないと危険だ。

ロボットに明確で厳格な目標を與えることはできません。ロボットはそれらがすべてを理解していないことを知る必要があります。

?