そうです。人々は無料で商品やサービスを得て、費用は広告主が払う、という仕組みこそが、監視ビジネスの中心です。
今日の朝日一面に「チャットGPT全世界が実験台 データ集中と監視 強まる恐れ」なる記事が載っていた。
「チャットＧＰＴ、全世界が実験台」「データ集中と監視、強まる恐れ」 元グーグルの専門家が警告：朝日新聞デジタル （閲覧：2023年4月12日）
さらに6面に元Google社員メレディス・ウィテカー氏とのインタビューでのやりとりの要約記事が掲載。
ＡＩ開発、中立的でも民主的でもない 元グーグル専門家：朝日新聞デジタル
（閲覧：2023年4月12日）
検索をかけると朝日デジタルにこのインタビューの詳細が6日付けでアップされていた。以下それについての感想。
（閲覧：2023年4月23日）
ChatGPT開発のOpenAI社CEOサム・アルトマンが来日し、岸田首相と会談するなど、ここ数日はChatGPTの話題が大きく賑わしている。そんななかで、ChatGPTの危険性などに警鐘を鳴らすタイムリーな記事となっている。
メレディス・ウィテカー
2006年からGoogle社に勤務したAI研究者。2019年にGoogle社のAI運営や職場のハラスメント対策などに抗議して退社。その後ニューヨーク大研究教授、FTC（米連邦取引委員会）アドバイザーなどを歴任。ニューヨーク大では「AI NOW Institute」の設立に関わる他、現在は通信アプリ「シグナル」の経営者でもある。
Meredith Whittaker - Wikipedia （閲覧：2023年4月12日）
Googleでの抗議デモ主催者がまた退社 ニューヨーク大のAI倫理機関ディレクター専任に - ITmedia NEWS （閲覧：2023年4月12日）
カルフォルニア大学バークレー校を卒業してすぐにGoogleに入っているらしいので、年齢はおそらく30代後半くらい。若いが能力、キャリアに長けており、将来的にはリーダー的存在となる可能性もあるかもしれない。
アメリカではバイデン政権の肝いりで32歳でFTCの委員長となり、GAFAの独占に対峙しようとしているリナ・カーンなどもいる。能力のある若い女性が登用され活躍しているところなど、日本より数段進んでいるようにも思える。
リナ・カーン - Wikipedia （閲覧：2023年4月12日）
日本ではChatGPTの説明をAIの進歩、進化といった点ばかりを喧伝している。サム・アルトマンの来日もそういった部分ばかりだ。しかしChatGPTがを一般公開したオープンAI社がマイクロソフトの出資する会社であり、マイクロソフトはすでに検索サービスなどに利用を広げていることはほとんど伝えていない。
すでに我々はWindowsやofficeを通じて、ChatGPTにデータを提供している可能性もあるのかもしれないし、ウィテカー氏がいうように「規制が何もないものをいいことに、マイクロソフトのような企業はいま、世界の全人工を実験台として利用することが許されてしまっています」ということなのかもしれない。
AIの活用する明るい未来が実は、巨大IT企業により常時監視された世界となっていくという現実。マスコミは中国が国家による強大な監視国家を形成していることについては熱心に報道する。しかしGAFAなどの巨大IT企業による常時監視された社会については何も報じない。なぜかマスコミはすでに巨大IT企業の傘下にあるか、あるいは彼らが大きな広告主として君臨するからか。
以下、メレディス・ウィテカー氏のインタビュー内容を一部引用しながら感想を述べる。
――なぜ、一握りの企業だけに集約されてしまったのでしょう。
「インターネットのビジネスモデルを早い時期に確立したのが、これらの会社だったからです。要するに、監視ビジネスモデルです。例えばGメールやフェイスブック。ここから集められた大量のデータがデータセンターに集約された。その膨大なリソースが、2010年代の初期にこういう大企業のものになったことが、いまのAIにつながっています。つまり、AIというのは監視モデルの延長線上にある。技術的な飛躍というよりも、権限の集中の結果であるといえます」
今、我々は様々な形でクラウドサービスに依拠している。そのためにGAFAのアカウントを無自覚に作っている。グーグルアカウント、アップルID、Amazonアカウント、マイクロソフト・アカウントなどなど。そして自ら監視ビジネスに個人情報を受け渡してしまったということか。それが強大なIT企業の監視モデルに繋がっていったということ。
――「人間より賢い」ようにみえるAIの登場によって、その権限集中はどう変わるでしょうか。
「独占的な巨大IT企業が監視によって得たデータを、広告によって収益化する。その収益によって高いインフラの費用をまかない、データを集約してAIをトレーニングする。この構造はいままでと変わりません。一方で、このAI自体が、独自の監視機能を提供することができるようになります。従来のような、例えば私の位置情報とか、そういうものではなく、もっと内面的な、推論的な形で、私について明らかにすることができます。AIと監視モデルの関係は、さらに強まる恐れがあります」
個人の検索履歴、購買行動、地図検索などによる位置情報、それらを監視して得たデータを広告によって収益化する。集められた個人情報をデーターセンターに集積してAIで解析しパターン化する。これが巨大化し、進歩を遂げていけば、おそらくAIは個人の内面にまで入り込んでいくかもしれない。
個人の購買行動から、個人の欲求、願望をパターン化してそれにあわせた商品やライフスタイルを提示（広告化）する。それがまた新たに蓄積化されていく。人間の行動とそのもとになるような心理、内面性は、何十、何百の組み合わされたパターンとして可視化される。多分、そうなるとそこからの逸脱がゆるされなくなっていくかもしれない。
（米国での報道によれば）チャットGPTを搭載した検索サービスは、中国・新疆でのウイグル族に対する中国政府の対応について、回答しないという設定になっていました。これはマイクロソフトが、真実や、公共の利益よりも上位に、自社の営業上の利益を置いていたからなのです。これはわかりやすい例ですが、もっと見えづらいことがたくさん起きている恐れがあります」
営利企業であれ、政府であれ、自らに不都合な真実、事実を隠蔽することはある意味当然である。マイクロソフトは巨大な市場である中国との取引を優先させれば、当然中国にとって不都合な事実を隠蔽するだろう。これは何も中国だけの問題ではない。巨大IT企業にとって不都合な事実や、巨大IT企業と利益が一致するであろう国家にとっての不都合な事実も当然隠される。
検索してヒットしないということは、隠蔽されているということではなく、それがないということになる。これが今現在進行形のIT社会の実相なのかもしれない。
「それでも、プライバシー保護の制度をAI規制に結びつけていく方法があります。チャットGPTやステーブルディフュージョン（英スタビリティーAIが提供する画像生成のAI）、それ以前のシステムもそうですが、いずれも大量のデータに依存しています。そして、そのデータは何らかの形の監視によって収集されたものです。AIをもっと使うには、人々を監視してもっとデータを集めてAIに与え、訓練する必要があります。その意味で、プライバシーとAIは対立するのです。人々が監視を拒否できるような強いプライバシー規制の仕組みがあれば、AI産業へのデータの流れを切断できるわけですから、大きなインパクトを与えることができます」
「ただ、わたしはそれほど楽観的にはなれません。巨大IT企業は本当に非常に強い影響力をもっていて、法律に影響を与え、規制に抵抗するために莫大（ばくだい）な資金を投じています。連邦取引委員会（FTC）も役割の割に、まったく人員が足りていません。正直なところ、たびたび攻撃にさらされています。米国では、もうITが大きな産業となって20年以上もたっているのに、いまだに連邦レベルのプライバシー規制ができていません。政府に任せるのではなく、私たちも行動していく必要があります」
「プライバシー規制のみがAI産業へのデータの流れを規制できる」のである。プライバシー保護がもっとも重要だということ。イタリアがChatGPTを禁止したのも、ユーロの諸国が規制を検討しているのもそうした点からかもしれない。
一方で日本はどうか。よく考えたらマイナンバー制度は、国による個人データの集積を意図しているということだろうか。マイナンバーカードは、GoogleアカウントやアップルIDなどと同じように、国家による個人アカウントの設定と登録ということなのかもしれない。そしてそれらの個人データが巨大IT企業に流れる可能性はないのだろうか。
マイナンバーにより個人資産などを紐づけるリスクはよく話題になる。でも、ひょっとしたらマイナンバーという国家による個人アカウントが、巨大IT企業に——GAFAのアカウントに紐づけられる可能性はないのかどうか。
ここ数年のマイナンバーカードの普及、強制の性急な進め方、一方で巨大IT企業によるAI産業の現実化、ChatGPTの実用化、なにか通底するものがあるのではないかと思ったりもしてしまう。
――日本では、アメリカの企業がやらなければ中国がやる。だったらアメリカの企業がいいという意見もあります。
「ワシントンDCでも、本当によくその種の話を聞きました。『中国にやらせるくらいなら、うちがやったほうがいいだろう』と。そのような『冷戦メンタリティー』を持つ人たちは、中国との軍拡競争というストーリーでAIを説明しようとします。中国に勝つ必要がある。そのためには規制をかけず、道徳や倫理については考えるのをやめて、一番大きなAIをつくろうと呼びかけます。こういう主張をする代表格は、グーグル元CEOのエリック・シュミット氏です。彼にとって有利なストーリーですよね。だって、高度なAIはグーグルのような企業だけが開発できるのですから。『AIに投資しろ』はすなわち『グーグルやマイクロソフトに投資しろ』を意味するのです。冷戦中の核軍拡競争で、民間企業に対する巨額の投資を正当化するのに使われたレトリックと非常によく似ています。実際、冷戦当時、軍拡競争のレトリックを主導した（元米国務長官の）ヘンリー・キッシンジャー氏は、『AI軍拡競争』を主張している有力者のひとりです。核軍拡競争の丸写しなんです」
でも、私たちが本当にめざすべきは何なのか、もう一度考えるべきです。家を一歩出ると、顔識別をするカメラだらけで、企業や政府に自分の行動が筒抜けになるような世界を求めていたのでしょうか。めざすべきなのは、すべての人がテクノロジーを利用できるような世界ではないでしょうか。
「冷戦メンタリティー」と新たな「IT軍拡競争」の開始。強大な監視国家中国に対峙するためには、IT産業への規制を緩和して、彼らのもとに個人情報をより多く集積させる必要があるということか。もう一つの超大国となった中国に勝利するためには道徳や倫理を放棄し、効率性とプラグマティックが重要視される。
AIに集積されるデータにより、人々はデータとパターンとして存在するだけになる。もし代理戦争として局地的な衝突が起きたとしても、戦争はIT技術によるロボットやシミュレーション・ゲームのような形で行われる。その場でリアルに死傷する人々も、おそらくデータという意味しか付与されなくなるのかもしれない。
ウィテカーは目指すべきものは監視社会ではなく、すべての人々がテクノロジーを享受し利用する世界であるべきだという。しかしそれは理想でありながら、その始原からあり得ないものだったのではないのか。そもそもテクノロジーは常に戦争の道具として進歩してきたのではないのか。
いみじくもウィテカーは、IT企業の草創期とそこに身を置いた自身のことを語りながら、IT技術が軍事利用から始まったことを語らざるを得ない。
――インターネットは自律や分散を基本とする「自由の技術」だと思われていました。どこで変わってしまったのでしょうか。
「インターネットへの初期の投資は米軍によるものでした。堅牢な指揮統制の仕組みをつくるためだったんです。核攻撃を受けたとしても、インターネットのプロトコルによって、ネットワークの壊れた部分を迂回（うかい）して接続できるようにするためです。開発には当時から、軍事力を高めるという動機がありました。1950年代の大半、当時最大のコンピューター会社だったIBMの収益の7割は米軍からのものでした」
「80年代、90年代になると、世界的な新自由主義の流れの中で、インターネットの民営化も進みました。大学中心の研究用ネットワークが一般に開放され、民間企業が引き継ぐなかで、インターネットのビジネスモデルが徐々にできあがっていったのです。インターネットが『自由の技術だ』と言われるようになったのは、90年代半ばから後半にかけてでした。でも、この時代ですら、物理的なインフラ、交換機やルーター、ケーブルなどは一部の会社に支配されていました。2000年代前半には、一部の企業が監視ビジネスモデル、すなわち広告を進化させはじめた。『あなたのデータを全部もらい、あなたのプロフィルをつくって、広告を売ります』というモデルです。いま市場を独占している巨大企業が、みな監視ビジネスに早期に参入した企業だというのは、偶然ではありません。彼らはデータを集めることができたんです」
「つまり、みんなが決定に関与できて、みんなが使える、真に公共のインフラというものは、インターネットの初期の段階から存在していなかった。IT企業たちはすでに、どうデータを集め、どう収益化して、どのように『自由の幻想』を売ればよいかと考えていたんです。今日の『監視独占』の芽が、すでにあったのです」
これはインターネットとそれを利用したIT企業のビジネスの生成期の流れをうまくまとめている。そうインターネットが米軍の軍事利用から始まったのだ。分散処理ネットワークとは、一部が攻撃されても指示系統を確保するためにということだったのだ。
その後、インターネットが民営化されてウィテカーの言葉ではないが「自由の技術」という牧歌的な時代があった。そして主にカルフォルニアの大学生たちがガレージでパソコンを作ったり、「世界中の情報を整理し、世界中の人々がアクセスできて使えるようにすること」を目的に検索サイトを作ったり。シアトルでインターネットを通じた書籍の通販ビジネスを始めた若者もいただろうか。
彼らは利益と借入金、投資によって集めた資金を設備投資に使い、監視ビジネスを巨大化させていった。早期に監視ビジネスと広告、マーケティングを進化させたものが、さらなる巨大化を続けたということだ。
メレディス・ウィテカーがグーグルeを辞めたのは2019年。ほんの数年前のことである。彼女はAI技術が軍事に利用されていることに抗議して会社を去った。
――しかし、その後グーグルをお辞めになりましたね。
「17年の末に、グーグルが秘密のAIプロジェクトについて軍と契約していることを知りました。災害時に使うのだと思ってエンジニアが開発した、機械の目で地形を読み取る技術が、ドローン攻撃の標的への誘導や、監視のために使われることが分かったのです。私は『この技術は、人を傷つけるのに使うべきではない』と公に批判しました。自分は間違っていないと信じていたわけですが、正しいことを言うだけでは、グーグルを変えることができないと痛感しました。倫理的、道義的責任よりも、軍との契約で収益を得ることをグーグルは優先したのです。権力や、力のある人たちと対抗するにはどうすればよいか考え、結局、仲間たちとグーグルを去りました」
彼女のとった行動は日本的な企業に属する社員であったらどうするだろうか。グーグルでの彼女の報酬は、おそらく上級社員であっただろうから相当なものだったはずだ。それを「この技術は、人を傷つけるのに使うべきではない」として投げ打つだろうか。
彼女は有能かつ高度な技術力とともに人間がもつべき高い倫理意識をもっている。その個人的な規範のもとに行動する。会社の、組織の規範ではなく個人の倫理意識である。
そしてもの言う元巨大IT企業社員として様々な活動を続けている。GAFAの独占に対峙するFTCの顧問を引き受けたのもそうした活動の一貫かもしれない。
アメリカには様々な問題がある。巨大IT企業も、独占的AI産業もある意味ではアメリカ発祥のものである。そしてトランプに象徴されるような社会の分断、人種問題などなど。それでもアメリカにはそれを越えようとするような人々の理想があり、それが一定の政治的、社会的勢力として存在している。その中には若く、有能で、もの言う女性たちが少なからずいる。それは日本には多分ない、アメリカのある種の希望なのかもしれない。
