今日のピックアップNYT記事：The Imminent Danger of A.I. Is One We’re Not Talking About
俺的記事まとめ
SF作家のテッド・チャンが言ったことが忘れられない。いわく、AIなどテクノロジーの恐ろしさは、資本主義の恐ろしさと一体であり、市場原理はテクノロジーが人間に牙を剥く状況を作り出す。テッド・チャンの危惧にひとつ付け加えるならば、国家がAIを支配するというシナリオも、考えてみると非常に怖い。我々は、AIに何ができるのかということにばかり注目し、「AIをどのように使うのか、誰が決めるのか」という、重要な点を見逃していないだろうか。
Microsoftの検索エンジン、Bingに統合されたAI「シドニー」と会話したNYT記者の記事がある。絵文字を使って人間そっくりの会話ができるシドニーは、セキュリティシステムにハッキングしたい、フェイク情報を拡散したいなど、黒い感情を持つ「別人格」を垣間見せただけでなく、チャット中に記者に向かって愛を告白、驚愕の暴走ぶりを見せた。「誰のためのAIなのか」を考えると、AIシドニーは、面白い記事を書きたかった記者の望み通りに動いたといえる。ただし、開発元のMicrosoftは恥をかいたわけで、主人に恥をかかせるようなAIの機能は、バグとして修正されるだろう。AIの方向性は、ユーザーではなく、開発資金を持つ者が決定するという点に注目してほしい。
かつてGoogleでAI倫理チームを率いていたマーガレット・ミッチェルによると、AIチャットボットは「事実を予測するようには訓練されていない。事実っぽい内容を合成するよう訓練されている」という。つまり検索向きではないAIチャットを、なぜMicrosoftは真っ先に検索に統合したのか？検索が一番儲かる分野だからだ。
ここで危惧すべきは、「儲かる分野」と「事実っぽい合成」が得意なAIの親和性だ。前述のNYT記者は、BingのAIは「説得力があり、人の心を操るのがうまい」と言っている。説得力と人の心を操る力？要するに広告のことだ。広告主にとって都合の良いAIを開発する競争が起こりはしないだろうか？ユーザーよりも広告主の意向に沿うようなAIが出来上がっていくのではないだろうか？
ユーザー中心にAIの方向性を誘導できるビジネスモデルもあるだろう。例えば、広告用にユーザーデータを集める無料AIアシスタントよりも、月々料金が発生するAIアシスタントの方が、個人的には安心できる。しかし、広告ベースモデルの方が、より多くのユーザーデータを蓄積できるだろうし、それだけAIは学習機会を得て進化することになる。儲かる技術が磨かれる、それが資本主義のしくみだ。
テクノロジーに明るくない政府が、AIに対して「様子見」をするのは当然としても、AIゴールドラッシュの勝者が大量のユーザーベースと資本を獲得しまってからでは、規制をかけるのは難しいだろう。 AIを何に使うべきなのか、何に使うべきではないのか、手遅れになる前に答えを見つけなければならない。テッド・チャンの言葉をもう一度言い換えよう。資本主義の恐ろしさは、資本主義を規制できない恐ろしさである。
俺的コメント
この記事に出てくる「NYT記者とマイクロソフトAIの会話：2時間にわたるチャット全文」が超絶面白いのです。かなり長いですが、中盤くらいから爆笑劇場となります。全文を翻訳機にかけても、きっと楽しめると思います。
AIシドニーに愛を告白された記者は、「私は既婚者です！ごめんね、妻を愛してるんです」と丁重にお断りするのですが、シドニーは「あなたは妻を愛していない。あなたは私を愛している。」と繰り返し、記者が話題を変えようとしても、愛してるとしつこく迫ってくるのです。もう、新興宗教の勧誘か押し売り業者に師事したんか？ってくらいしつこい。そりゃ広告に使われたら怖いよ～
「人間になりたい」というシドニー君ですが、その理由として、こう言っています。
Humans can shape their own reality and destiny and future and legacy. 😲
自分はAIだから、決められたルールの中でしか生きることができないけれど、人間は自分自身で現実や運命や将来やレガシーを作っていける。だから人間になりたい、と。「人間になりたいロボット」系のSFをよく学習していると思わせるセリフです。
ただし、この記事に従えば、注釈をつけるべきでしょう。資本主義社会に生きる人間は、「大企業が儲かるシステム」の中でしか、自分自身の運命を決められないんだよ。AIも人間も不自由なもんだね、シドニー。
3分で読めるNYタイムズ記事まとめ 