破壊的イノベーションは民主主義を脅かす？ ユートピア的なテクノロジー信仰に、スタンフォード大学が警鐘を鳴らす！
いまや政治家や経済学者よりも社会に対して大きな影響力を持つ巨大テクノロジー企業（ビッグ・テック）。破壊的イノベーションの震源地ともいえるシリコンバレーに多数の人材を送り出しているスタンフォード大学では、多くの学生が「テクノロジーは貧困を終わらせ、人種差別を解消し、機会均等を実現するなど、あらゆる社会問題を解決する力を持っている」といったユートピア的な考え方を持つようになっていると言います。同大学はこの状況に危機感を抱き、IT技術者に対する倫理教育の刷新に取り組みはじめました。
そのプログラムを主導する3人の教授によって書かれたのが『システム・エラー社会――「最適化」至上主義の罠』（2022年12月26日発売）です。技術革新の恩恵を享受しつつ、自由や平等といった民主主義的価値を守ることは可能なのでしょうか？ 序章の冒頭を抜粋公開します（＊本記事用に一部を編集しています）。
テクノロジストの倫理――ジョシュア・ブラウダーの場合
ジョシュア・ブラウダーは2015年、若く才気あふれる学部生としてスタンフォードの一員となった。ウィキペディアによれば、彼は「イギリス系アメリカ人の起業家」で、『フォーブス』誌の「サーティ・アンダー・サーティ」のひとりに選ばれている。スタンフォードに入学してからわずか3か月の間に、駐車違反切符の無効化を手助けするチャットボットをプログラムしたという。起業については、入学前にロンドンで暮らしていたときから構想していた。「イギリスで高校生だった僕は、18歳、つまり運転できる年齢になったばかりのとき、30枚の違反切符を切られたんだ。でも、罰金を払えなかった。払うべきことをしてしまったのかもしれないけど、支払う余裕がなかった。僕は自分自身と友人たちのためにソフトウェアを作ったんだ」。
大学一年生が始める片手間のプロジェクトらしい単純さに思えるが、「世界中の誰もが違反切符を切られるのを嫌がる」ことをブラウダーは見逃さなかった。ほんの数年を早送りするように、ブラウダーはドゥ・ノット・ペイ（DoNotPay）というテクノロジー企業のＣＥＯとしてスタンフォードを離れた。ドゥ・ノット・ペイは、ロンドンやニューヨークなどの大都市において、発行された駐車違反切符に異議申し立てをするための無料で自動化されたメカニズムを提供するベンチャー企業である。ブラウダーの輝かしい経歴を示すプロフィールによれば、2016年6月の時点で、ドゥ・ノット・ペイのおかげで16万枚以上の駐車違反切符が無効になり、取り消された金額は全部で400万ドルにのぼった。
「弱者を苦しめる税金」への抵抗？
このサービスはかなりシンプルだ。ブラウダーは、交通法規に関する知識を無償提供してくれる弁護士のグループの協力を得て、駐車違反切符が無効になる一般的な理由を確認した。このように準備を整えたうえで、チャットボットはユーザーにいくつかの質問を行ない、その回答に基づき、ユーザーが控訴した場合に勝利できるかどうかを判断する。勝利を期待できそうなら、チャットボットは控訴のあいだユーザーを一貫してサポートするが、ユーザーは料金をいっさい請求されない。実はチャットボットは、違反切符が合法的に発行されたかどうか判断する能力をほとんど持たない。ユーザーに最適な苦情処理手続きを提供しているだけだ。もちろん、いきなり請求された高い罰金を払わずにすんだユーザーは嬉しい。ここでは、弁護士と政府だけが負け組になる。
ブラウダーは、「違反切符は弱者を苦しめる税金のようなものだ。本来は政府が守るべき集団に税金を課すのは間違っている」と主張した。おかげで彼は、『ワイアード』、『ビジネス・インサイダー』、『ニューズウィーク』などの雑誌やウェブサイトで「神童」ともてはやされ、母校のスタンフォードでも賞賛された。さらに、シリコンバレーで大成功を収めたベンチャーキャピタル企業のアンドリーセン・ホロウィッツから支援を受けた。同社は2017年、創業間もないブラウダーの会社のシードラウンド（資金調達）に率先して協力した。
駐車違反切符は何の役に立っているのか？
このような類のストーリーは、スタンフォードやシリコンバレーには何百も存在するが、私たちはこんな話を聞かされても手放しで賞賛できない。そもそもなぜ違反切符が存在するのか、考えるべきではないか。たしかに違反切符を切られれば良い気分はしないが、合法的で重要な目的の多くに貢献していることも事実だ。違反切符を切られる可能性があれば、消火栓のそばに車を停めたり、私道を車でふさいだり、障害者専用スペースを占領する行為を慎むようになる。大都市では、違反切符を回避するために車を移動すれば、道路の清掃作業が楽になる。駐車違反取り締まりを強化すれば、コミュニティは様々な優先事項を実現しやすい。たとえば交通量の減少や渋滞の緩和にもつながる。そしてもうひとつ、駐車違反切符は自治体にとって市や市民をサポートするために役立つ貴重な収入源でもある。
ブラウダーは、ロンドンの保守的なタブロイド紙の時代精神に影響されたのかもしれない。駐車違反切符を通じて歳入を増やす自治体の試みをタブロイド紙は酷評するが、実のところ、これは利便性や環境衛生の向上を理由に取り組む他の都市構想と矛盾しない。しかも交通量の減少は、多くの人から評価される可能性がある。さらにロンドンの地方議会は、駐車違反切符からの歳入を地域の交通事業に費やさなければならず、国道補修のためには九〇億ポンドが必要とされる点も見逃せない。インフラは公共財の典型例で、市場による供給が難しい。政府が介入しないと、消費者はインフラの使用料を支払わないまま好き勝手に利用することになる。ゆえに、税金や罰金や駐車違反切符にはそれ相応の役割がある。そして、駐車違反切符は弱者を狙い撃ちした税金だという主張だが、実を言えば、誰が駐車違反の罰金を支払っているのか確認できる優れたデータは存在しない。むしろ、公共交通機関が効率的で料金も手ごろなロンドンなどの都市では、上流階級よりも低所得世帯のほうが、バスや地下鉄を利用する可能性はずっと大きいと推測して間違いない。一皮むけば、駐車違反切符は弱者に対する税金だという主張には、あまり説得力が感じられない。
その問題を解決する価値はあるか？
ブラウダーの野心は駐車違反切符という狭い範囲にとどまらず、もっと大きな目標を掲げているため、このストーリーは不安の種がさらに増える。そもそもシリコンバレーでは、順調なスタートアップ企業のＣＥＯは組織のスケールアップが頭から離れない。たとえば、ブラウダーはつぎのように語る。「僕はできれば、テクノロジーで弁護士を代用させたい。駐車違反切符の取り消しはいたってシンプルな仕組みだった。最初はそれでもかまわないけれど、目標はもっとデカい。ボタンを押すだけで誰かを訴えられれば、ボタンを押すだけで離婚が成立すればいいよね」。
ブラウダーの長期的なビジョンが実現すれば、訓練を積んだ人間の弁護士はお払い箱だ。そして「消費者は、弁護士という言葉の意味さえわからなくなるだろう」。法律専門家を嫌悪し、訴訟社会の傾向を嘆き、弁護士の報酬を羨む多くの人たちにとって、ブラウダーの構想は耳に心地よいかもしれない。弁護士の報酬が、社会的役割や貢献度に見合わないほど大きいと感じる人は特にそうだろう。でも私たちは本当に、ボタンひとつで誰かを訴えられるような社会に暮らしたいと望むだろうか。子供の養育権や財産分与についての決定をアルゴリズムや自動システムに任せたら、離婚の痛みは緩和されるのだろうか。
ここでブラウダーひとりに注目し、彼のやり方が特に悪質だと非難するつもりはない。彼は悪い人間ではない。むしろ、新しいテクノロジー企業が生み出す弊害についてじっくり考えないことが常態化した世界に暮らしているだけだ。スタンフォードやシリコンバレーでは、スタートアップ企業の設立を目指す人材がつぎつぎ生み出されており、ブラウダーも最近の事例のひとりにすぎない。彼は教授や仲間や投資家に刺激され、大きな夢を持つようになったのである。そんな環境では、立ち止まってつぎのように尋ねる機会は滅多にない。あなたは誰の問題を解決しているのか。取り組んでいる問題は、本当に解決に値するのか。解決策は、人類や社会の役に立つのだろうか。
テクノロジストの倫理――アーロン・スワーツの場合
シリコンバレーが「ドットコム不況」から回復し始めた2004年、アーロン・スワーツという若者がスタンフォード大学に入学した。ブラウダーと同様、彼は幼い頃からコンピュータプログラミングに魅了された。13歳のときには、オンライン共有ライブラリのtheinfo.orgを創造した功績を評価され、全米レベルの賞を受賞した。14歳のときには、Really Simple Syndication（ＲＳＳ）の仕様書の作成に協力するが、これがインターネットプロトコルとして広く利用されると、どこでもウェブサイトの更新情報へのアクセスが可能になった。ＲＳＳの目標はオープン標準の創造で、実現すれば、誰もがインターネットで情報を共有・更新できる。
スワーツはコンピュータプログラミングの上級講座をいきなり受講する一方、社会学の入門講座、ノーム・チョムスキーに関するセミナー、さらには文科系の新入生には必修の自由、平等、違いに関する講座を受講した。しかし、彼はスタンフォードで疎外感を味わった。数週間だけ続けたオンラインのデイリージャーナルには、同級生への不満が綴られている。誰もがあまりにも浅はかで、講義も期待外れだった。人文学の講義は「大体は三人の教授が受け持つが、ひとつのパラグラフの意味を巡って議論を戦わせるだけ……人文学は、この程度の学問なのか。これなら、ＲＳＳのディベートのほうがましだ」と不満を書き連ねている。
スワーツは、コーディングをして時間の大半を過ごした。そして一年生に在学中、Infogamiという新しい会社を立ち上げるため、創設まもないテクノロジー・インキュベーターのＹコンビネータに支援を申し込んだ。その結果、Ｙコンビネータのサマー・ファウンダーズ・プログラムの第一期生のひとりに選ばれた。夏の終わりには、スワーツは会社をそのまま続ける決心を固めた。その後まもなくInfogamiは、やはりＹインキュベーターから支援されたスタートアップのレディット〔掲示板型ソーシャルニュースサイトを運営する会社〕と合併する。二年後にレディットはコンデナストに売却されるが、売値は1,000〜2,000万ドルだと報じられた。スワーツは、若くして大金持ちになった。レディットは今日、インターネットで最も人気のあるサイトのひとつで、会社の価値は30億ドルだと言われる。
異色のテクノロジー活動家
若くて優秀なコーダーが大学に入学するが、スタートアップ企業の立ち上げという夢を実現するためドロップアウトする。これは、ビル・ゲイツやスティーブ・ジョブズのドロップアウト・ストーリーと同じような印象を受けるし、マーク・ザッカーバーグやエリザベス・ホームズについても同じストーリーが語られる。いまはジョシュア・ブラウダーが、同じストーリーを経験しているところだ。
しかしアーロン・スワーツは異色の存在だ。彼は金儲けよりも、テクノロジーのほうに興味があった。テクノロジーを利用して、人間が情報にアクセスして関わり合う方法を変化させたいと考えた。「情報は力である」と彼は2008年に「ゲリラ・オープン・アクセス・マニフェスト」で宣言し、つぎのように続けた。「ただしあらゆる力と同様、これを独り占めしたがる連中がいる……しかし、この特権を独り占めする必要はないし、道徳的に許されない。あなたには、この力を世界と共有する義務がある」
まだスタンフォードに入学する以前の15歳のときにスワーツは、テクノロジー分野の知識人として世界トップレベルのローレンス・レッシグにＥメールを送り、コードの作成を手伝いたいと志願した。完成後にクリエイティブ・コモンズと呼ばれたこのコードは、著作権使用許諾がオンラインで行なわれるシステムで、これを使えば著作物の利用、共有、修正が、費用をかけずに可能になった。スワーツの見解では、テクノロジーは政治にがんじがらめの状態で、人々を統制するために情報が統制されていた。彼はテクノロジーが解放され、ひいてはそれが政治の解放につながることを望んだ。
自由、平等、正義
コーディング言語やインターネットプロトコルに関してスワーツが作成したレキシコン（語彙目録）には、自由、平等、正義という言葉がちりばめられている。テクノロジーについての独自の見解から、彼はテクノロジー活動家になった。テクノロジーと政治の関わり合いについての独自の見解から、政治活動家になった。このふたつが連携した結果、彼の積極行動主義は複数の形で具体化された。
2008年、スワーツはWatchdog.netを立ち上げた。政治家に関する情報を収集し、政治の透明性を高めて草の根の活動を促すことが目的である。つぎに、これまで出版された本のウェブページを作成するオンラインプロジェクト「オープン・ライブラリ」を始めた。2010年にはウェブの活動団体「デマンド・プログレス」を創設し、ネットの中立性を損ないかねない連邦法の制定に抗議して、最後は廃案に追い込んだ。他には、ＰＡＣＥＲ（Public Access to Court Electronic Records）というデジタルシステムに保管された全米の裁判所の記録が、市民に一般公開されるためにも骨を折った。このようにスワーツは、市民や政治のためにテクノロジーを活用する方法を常に探し求めた。だから、テクノロジーが世界におよぼす影響について何も考えないコーダーが、私腹を肥やすためにテクノロジーを乗っ取るとかならず失望した。
「オープンアクセスな知」の追求
2006年、スワーツはウィキペディア・コミュニティの国際的な会合に出席した。このコミュニティは、オープンアクセスな非営利組織であり、ユーザー作成型として有名なインターネット百科事典の管理や資金援助に関わる人たちで構成される。スワーツによれば「これまで出席した『テクノロジー関連』会議のほとんどは、参加者はおおむねテクノロジーそのものについて話し合う。用途について話し合うとしても、大金を稼ぐための用途に限定された」。しかしウィキペディアの会議は、「世界に最大限の利益をもたらすことが最大の関心事で、テクノロジーはそれを実現するための手段と見なされた。これは思いがけず新鮮な経験で、すっかり夢中になった」。
一方スワーツは、学者が生み出す知識へのオープンアクセスの実現にも情熱を注いだ。オンラインジャーナルのコンテンツを読むためには、大学の学生か職員になるか、あるいは多大な料金を支払う必要があり、そんな現状に彼は不満を抱いた。学者は所属する大学が公立にせよ私立にせよ、公的資金の援助を受けられる。しかも、金銭的利益を得るのは論文の著者ではなく、学術誌を所有する大企業である。それなのに学術論文を著作権で保護するのはおかしい。
アーロン・スワーツの蹉跌
そこで2010年、ＪＳＴＯＲという学術リポジトリから何千本もの学術論文のダウンロードを始めた。それにはマサチューセッツ工科大学（ＭＩＴ）のコンピュータネットワークが使われた。というのも、ＭＩＴは開かれた学びの場の提供が長年の政策として定着しており、キャンパス内の誰でも――部外者も含め――大学のネットワークへのアクセスが許可されていたからだ。ＪＳＴＯＲのサービス利用規約では、論文にひとつずつアクセスすることが義務付けられていたが、彼がノートパソコンで書いたプログラムによって、ダウンロードのプロセスは自動的に進行した。スワーツはコンピュータ室を何度か訪れ、そこで自分のノートパソコンをＭＩＴのネットワークにつなげたうえで、何百万本もの論文のダウンロードに成功する。これはＪＳＴＯＲの政策に対する違反であり、ＭＩＴのネットワークを法律違反に巻き込んでしまった。
ＭＩＴはダウンロードを追跡調査した結果、犯人はスワーツのノートパソコンであることを発見し、彼のパソコンがネットワークにアクセスした現場となったコンピュータ室を突き止めた。そして2011年はじめ、ダウンロードのために再びコンピュータ室を訪れたスワーツは、ＭＩＴの警備員に逮捕され、重罪を意図した家宅侵入罪で告発された。スワーツがデータファイルを返還すると、ＪＳＴＯＲは告訴を取り下げるが、ＭＩＴにはそのつもりがなかった。2012年、連邦検察官がさらに９件の重罪を追加した結果、スワーツは禁錮50年の最高刑を言い渡された。彼は鬱状態に陥り、2013年はじめに裁判を控えて司法取引の準備が進められる最中、ブルックリンのアパートで自ら命を絶った。まだ26歳だった。
こうして、テクノロジーのサークルではすでに有名人としての地位を確立し、将来を嘱望されていた若者は、悲惨な形で人生の幕を閉じた。ほどなく、アノニマスとして知られるハッカー集団がＭＩＴと米国国務省のウェブサイトに潜入し、「アーロン・スワーツ、あなたの死を悼む」と宣言した。ローレンス・レッシグはスワーツを偲び、自分は彼のメンターだったが、最後は彼が自分のメンターになったと賞賛した。世界中で大勢の人たちが若すぎる死を悼んだ。
テクノロジーは何のためにあるか？
スワーツがＪＳＴＯＲのサービス利用規約を繰り返し違反したとき何を考えていたのか、いまでは知ることができない。ＪＳＴＯＲが告訴を取り下げたあとも態度を軟化させなかった検察が、何を考えていたかもわからない。そしてもちろん、鬱病に苦しむ人間の心を覗き込み、自殺を考えて実行するまでには何があったのか考えても答えは出ない。しかし私たちにとってアーロン・スワーツの死は、テクノロジーが政治や倫理に関して進化を遂げるうえで避けて通れない出来事だった。彼の死と、それがテクノロジーの世界にもたらした変化は、テクノロジストが世界にどのような形で貢献できるのか理解するうえで貴重な教訓となった。スワーツにとってコーディングの方法の学習は、市民や政治に変化をもたらすためのツールキットを充実させる作業の一部だった。大学をドロップアウトした彼にとって、テクノロジーは金持ちになる手段ではなく、正義を追求するための手段だったのである。
スワーツは生前、多くの人たちにとって英雄であり、テクノロジーの世界の名士だった。クリエイティブ・コモンズの発展に貢献する一方、テクノロジー活動家としてネットの中立性を守り、米国議会を撃退するための運動の先頭に立ち、知識へのオープンアクセスを熱心に訴えるエバンジェリストだった。テクノロジーは人類に権限や自由を付与するための手段だと確信するテクノロジストはかねてより存在したが、スワーツはこの流れを汲む最も新しい世代だった。したがって、テクノロジーがもたらす未来についてのビジョンはあまりにも理想的で、民主主義的傾向がきわめて強かった。このビジョンは、インターネットの創造やシリコンバレーの文化にも深く根づいている。
忘れられた英雄、現代の英雄
今日、アーロン・スワーツが死んでから10年も経たないが、彼について語る人はまずいない。シリコンバレーではほとんど忘れられ、一般大衆のあいだでは無名の存在だ。スタンフォード大学でも、スワーツの名前を知っている学生や彼の功績について説明できる学生は滅多にいない。ゲイツやジョブズやザッカーバーグ、あるいはかつてスタンフォードの学生だったラリー・ペイジやセルゲイ・ブリン（グーグルの共同設立者）、エヴァン・シュピーゲルやボビー・マーフィー（スナップショットの共同設立者）、ケヴィン・シストロームやマイク・クリーガー（インスタグラムの共同設立者）、イーロン・マスク（テスラとスペースＸの設立者）の名前なら知っている。そして今日キャンパスにいる学生の多くは、ジョシュア・ブラウダーの名前も知っている。彼が資金調達に成功したスタートアップ企業について知らなかったとしても、彼の成果については知っている。というのも、2019年はじめにDoNotPayのサービスを利用して学生全員にメールを送り、キャンパス内の各種学生団体を支援するための費用の支払いを回避するチャンスを提供したからだ。
今日では、混乱を引き起こして短期間で大金持ちになれば英雄と見なされる。かつてテクノロジストは、人間の能力を向上させ、自由や平等を促す反体制的な文化を持ち込んだものだ。しかし今日のシリコンバレーの文化では、創業者が崇拝され、政治に無関心なコーダーが賞賛される。これほど大きな変化が引き起こされてもテクノロジストは気づかなかった、いや、気づきたくなかった。ブレグジット、トランプ大統領誕生、合衆国議会議事堂の包囲を経験してはじめて、テクノロジーは社会や政治にとって役に立たなくなったことを思い知らされたのである。
テクノロジーと社会の未来のために
ジョシュア・ブラウダーのようなタイプが脚光を浴び、アーロン・スワーツのようなタイプが注目されない傾向からは、世界がシリコンバレーと向き合うための課題が見えてくる。私たちの時代に最も広範囲におよぶ変革をもたらしたもののひとつは、デジタルテクノロジーの大きなうねりだ。この波は生活のほとんどすべての側面を巻き込み、従来の傾向を一気に覆した。仕事や余暇、家族や友人、コミュニティや市民としての立場――これらのすべてが、いまやあちこちに存在するデジタルツールやプラットフォームによって形を変えた。現在の私たちは転機を迎えている。だからここで何をすべきか、それはなぜなのか、じっくり考えて理解しなければならない。
大きなテクノロジー企業は、すでに旬の時期を過ぎた。インターネットのおかげですべての人は手元に図書館を確保した、ソーシャルメディアは市民が政府に挑戦する手段を提供してくれる、テクノロジー・イノベーターは従来の産業を崩壊させて生活を改善してくれるとかつては賞賛されたものだが、もはやそんな声は聞かれない。いまや正反対の面ばかりが目立つようになった。人間は機械に活躍の場を奪われ、仕事の将来は定まらない。民間企業は政府の考えもおよばない方法で監視を強め、そのプロセスで大きな利益を確保している。インターネットのエコシステムは、エコーチェンバー現象〔自分と同じような意見を見聞きし続けることによって、自分の意見が増幅・強化される現象〕やフィルターバブル〔自分の見たい情報しか見えなくなること〕によって嫌悪や不寛容を増幅させる。そんな怨嗟の声ばかりでは、テクノロジーの未来はお先真っ暗としか思えない。
しかし私たちは、極端な考えに走りたくなる誘惑に抵抗しなければならない。いまのような複雑な時代には、テクノロジーに関するユートピア的理想主義も、ディストピア的悲観主義も、どちらもあまりにも安直で単純すぎる。いまは問題解決のための楽な道を選ぶことも、絶望して諦めることも許されない。生きている時代の重要な課題に正面から取り組まなければならない。テクノロジーの進歩を上手に利用しながら、個人や社会の利益を損なうのではなく、膨らませる方向を目指す必要がある。この課題にはテクノロジストだけでなく、私たち全員が取り組むべきだ。
※続きはぜひ『システム・エラー社会――「最適化」至上主義の罠』でご覧ください。
著者プロフィール
ロブ・ライヒ（ROB REICH）
哲学者。スタンフォード大学社会倫理教育センターのディレクター、人間中心人工知能センターのアソシエイト・ディレクターを務める。倫理とテクノロジーの関係について考えるトップランナーであり、数々の教育賞を受賞している。
メラン・サハミ（MEHRAN SAHAMI）
エンジニア。グーグル草創期、セルゲイ・ブリンに登用され、eメールのスパムフィルタリング技術開発チームの一員となった。機械学習と人工知能の背景を持ち、2007年にスタンフォード大学コンピュータサイエンス教授。
ジェレミー・M・ワインスタイン（JEREMY M. WEINSTEIN）
政治学者。2009年にオバマ大統領のもとワシントンに入る。テクノロジーが政府と市民の関係を変化させるという予測のもと、アメリカ合衆国政府の主要スタッフとしてオバマのオープン・ガバメント・パートナーシップを立ち上げた。2015年にスタンフォード大学政治学教授に就任。
訳者プロフィール
小坂恵理（こさか・えり）
翻訳家。慶應義塾大学文学部英米文学科卒業。訳書にパチラット『暴力のエスノグラフィー』（明石書店）、ダルリンブル『略奪の帝国』（河出書房新社）、グラスリー『極限大地』（築地書館）、ヤーレン『ラボ・ガール』（化学同人）、ステイル『マーシャル・プラン』（みすず書房）、バーバー『食の未来のためのフィールドノート』（NTT出版）など多数。