現代文明

気になる経済・経営・政治・科学・技術・デザイン論をまとめます

タレブ、ヤニール・バーヤム、ルパート・リード、ラファエル・ドゥアディらによる論文「予防原則」(2014年)の翻訳

 クーリエ・ジャポン編『新しい世界 世界の賢人16人が語る未来』(講談社現代新書,2021年1月20日刊)ではニコラス・タレブを含む16名の識者による論考が集められています。パンデミック後にタレブが語った内容が日本語の書籍で出たのはこれが初めてだと思います。コロナの感染拡大初期に発表したノートについて言及しながら、一部の感染症専門家や政策担当者のシステミック・リスクに対する認識が不十分であることを指摘しています。本ブログでは以前このノートを翻訳しました。

 上のノートはCOVID-19のパンデミックに関して書かれていますが、「予防原則」というタイトルで、より一般的な予防原則の問題を扱った2014年の論文が下地になっています。ニューイングランド複雑系研究所の科学者ヤニール・バーヤム、同ジョセフ・ノーマン、哲学者のロバート・リード、数学者のラファエル・ドゥアディによる共著です。

 この論文では、従来の予防原則(Precautionary Principle)は「ナイーブ」であったとし、適用範囲を限定することでより実用的で効果的なものにブラシアップした「非ナイーブな予防原則」を提示しています。確かに批判の多いこの予防原則という概念について、結果のリスクがローカルかシステミックかというポイントに着目することでその行使条件を限定するというものです。

 パンデミックに関する議論に使えるのはもちろん、福島第一原発事故から10年という機会に原子力エネルギーへのリスク認識を考える議論としても役立ちます(一部の経済学者は福島第一原発事故後の「ゼロリスク信仰」とパンデミックへの対処方針がいずれもパラノイアにあたるという形で並列に扱っています。)また付帯する議論も含め『反脆弱性』『身銭を切れ』などの内容とも関連していますのでこれらの書籍を読む上でも深みが増すと思います。この論文を翻訳しました。なお付録については翻訳していません。

 ____________________________

 

予防原則(生物の遺伝子組換えへの適用を含む)

Nassim Nicholas Taleb∗ , Rupert Read§ , Raphael Douady‡ , Joseph Norman† ,Yaneer Bar-Yam† ∗School of Engineering, New York University †New England Complex Systems Institute ‡ Institute of Mathematics and Theoretical Physics, C.N.R.S., Paris §School of Philosophy, University of East Anglia

 概要——予防原則とは、ある行動や政策が公共の領域に深刻な被害(一般的な健康や世界的な環境への影響)をもたらすリスクがあると考えられる場合、その安全性が科学的にほぼ確実でない限り、その行動をとるべきではないというものである。このような状況では、害がないことを証明する責任は、行動を提案する側にあり、反対する側にはない。予防原則は、証拠がないことや科学的知識の不完全さが重大な意味を持つ場合や、「ブラック・スワン」と呼ばれる予期せぬ極めて大きな結果をもたらす出来事のリスクが存在する場合に、不確実性やリスクに対処することを目的としている。

 この予防原則の非ナイーブなバージョンにより、特定の領域や問題に予防を限定し、パラノイアや麻痺を回避することができる。ここでは、予防原則を形式化して、システムが完全に破壊される危険性のある「破滅」問題の統計的・確率的な構造の中に置き、リスクの代わりに形式的な「脆弱性」に基づくアプローチを使用する。これらの問題では、小さくて合理的に見えるリスクが、不可避的に蓄積され、ある種の不可逆的な被害をもたらす。結果に無限のコストがかかる可能性があるため、結果を定量的に評価して最良の政策オプションを決定しようとする従来の費用便益分析は適用できない。高利益、高確率の結果であっても、低確率で無限コストのオプション、すなわち破滅の存在を上回ることはできない。不確実性があるため、数学的にうまくいかない感度分析が行われる。予防原則は、政策の影響を世界中に広める人工的な依存関係により、ますます重要になっている。対照的に、人類が存在しない生物圏では、局所的な影響しかないランダムな変動による自然実験が行われている。

 我々の分析により、予防原則は限られた文脈においてのみ有効であり、限られた行動を正当化するためにのみ使用できることが明らかになった。ここでは、原子力エネルギーと遺伝子組み換え作物への影響について説明する。遺伝子組み換え作物は、世界的に害を及ぼす公共のリスクとなっているが、原子力エネルギーによる害は比較的限定的であり、その特徴もよくわかっている。予防原則は、遺伝子組み換え作物の厳しい制限を規定するために使用されるべきである。

Ⅰ. イントロダクション

 予防原則の目的は、意思決定者が、ある種の意思決定の予期せぬ副作用によって、社会全体、あるいは社会のかなりの部分を危険にさらすことを防ぐことにある。予防原則は、ある行動や政策が公共の領域(一般的な健康や環境など)に深刻な害をもたらすリスクがあると疑われる場合、その行動の安全性について科学的にほぼ確実な情報がない場合、害がないことを証明する責任はその行動を提案する側にあるとしている。

 我々は、予防原則は極端な状況においてのみ呼び出されるべきだと考えている。すなわち、潜在的な害が(局所的なものではなく)全体的なものであり、その結果が人類や地球上のすべての生命の絶滅など、取り返しのつかない破滅を伴う可能性がある場合だ。この論文の目的は、予防の概念を、確率論と複雑系の特性に基づいて、正式な統計およびリスク分析の構造の中に置くことである。

 我々の目的は、意思決定者が、どのような状況で予防原則の使用が必要で、どのような場合に予防原則を用いることが不適切であるかを見分けることができるようにすることである。

 

Ⅱ. 意思決定とリスクの種類

 意思決定者は、社会の機能と進歩に影響を与える。意思決定者や政策立案者は、すべてのリスクは平等に作られていると思いがちだ。しかし、そうではない。あるシステムにおけるランダム性の構造を考慮に入れることで、どのような種類の行動が正当化されるか、あるいはされないかに劇的な影響を与えることができる。意思決定におけるリスクの役割に対する適切なアプローチを決定する際には、2種類の潜在的な被害を考慮しなければならない。1)局所的で広がらない影響、2)不可逆的で広範囲な被害をもたらす伝播する影響。

 従来の意思決定戦略は、被害が局所的で、リスクが過去のデータから容易に算出できる場合に焦点を当てている。このような状況下では、費用便益分析と緩和技術が適切である。誤算による潜在的な被害は限られている。

 一方、不可逆的で広範な被害の可能性がある場合には、意思決定の性質や、どのようなリスクを合理的に取ることができるかについて、さまざまな疑問が生じる。これは、予防原則の領域だ。

 注意を喚起する人々に対しては、理不尽で偏執的であるという批判がしばしばなされる。このような批判をする人たちは、暗黙のうちに、あるいは明示的に、費用便益分析を提唱しており、必然的にそうなるのだ。また、予防原則の批判者は、予防原則が行き過ぎた方法で適用され、個人や社会の利益のために必要な合理的なリスクを取る能力が失われることを懸念している。予防原則を無差別に使用すれば、適切なリスクテイクが制限されるかもしれないが、同時に、予防原則が必要不可欠な場合に予防原則を停止するという誤りを犯す可能性もある。

 したがって、予防原則の非ナイーブな見方とは、必要なときにのみ、独特の確率構造に基づいて非常に正確に定義された特定の種類のリスクを防ぐためにのみ、予防原則を発動するというものだ。しかし、このような考え方では、予防原則は必要なときには決して省略されるべきではない。

 本節の残りの部分では、ナイーブなアプローチと非ナイーブなアプローチの違いについて説明する。

A. 非ナイーブな予防原則の意味

 リスク回避とリスク追求は、どちらもよく研究されている人間行動だ。しかし、予防原則を区別することは、慎重な行動を正当化するために安易に使用したり、自分や他人のためにリスクを裁きたい人が予防原則を否定したりしないために不可欠だ。

 予防原則は、統計的な証拠が限られているとき、つまり証拠が現れるまでの時間がないときに、「証拠がない」ことの弊害に着目して、生存を保証するための意思決定を行うことを目的としている。表1は、この論文の中心的なアイデアを要約したもので、害のリスクがある(通常のリスク管理技術を必要とする)決定の違いを示してる。

 

f:id:y_mohrey:20210315140045p:plain

表1:2つの異なるタイプのリスクとそれぞれの特徴の比較

 

B. 被害 vs. 破滅:予防原則が必要なとき

 予防原則の目的は、確率や保険において「破産」問題と呼ばれるある種の問題を回避することだ[1]。〔訳注:以下、ruinの訳語は適宜「破産」「破滅」で書き分けます〕破産問題とは、リスクの結果、ゼロではない確率で回復不能な損失が生じる問題である。例としてよく挙げられるのは、ギャンブラーが全財産を失い、ゲームに戻れなくなった場合だ。生物学的には、絶滅した種がその例である。自然界では、「破滅」は環境サイド:あるスケールでの不可逆な生命の終了 であり、惑星規模の場合もある。システム内で発生する大多数の変動は、たとえ劇的なものであっても、破産問題とは根本的に異なる。つまり、破滅に至ったシステムは回復できない。例えば、ギャンブラーが追加の資源を得るために働くことができるなど、インスタンスが制限されている限り、不幸を元に戻すことができる可能性がある。しかし、グローバルなものであれば、そうはいかない。

f:id:y_mohrey:20210315042434p:plain

図1:破滅が再生可能資源ではない理由。どんなに確率が低くても、時間がたてば、破滅の壁にぶつかることがほぼ保証されているものがある。

 我々の関心は公共政策にある。個人が「全額を賭けるな」と忠告されることはあっても、そうするかどうかは、一般的には個人の好みの問題だ。政策立案者には、社会全体にとっての壊滅的な損害を回避する責任がある。そのためには、個人のレベルではなく、全体に焦点を当て、個別的な損害ではなく、グローバルなシステムに焦点を当てる。これは、集団的な「破滅」問題の領域だ。

 予防的配慮は、破滅の問題よりもはるかに広範囲に関連している。例えば、タバコに対する予防的な事例は、タバコに対する明確な証拠に基づく事例が出るよりずっと前から存在していた。我々が言いたいのは、予防原則は破滅問題にとって決定的な考慮事項である一方で、より広範な文脈においては、予防的配慮は決定的ではなく、他の考慮事項とバランスをとることができるということだ。

Ⅲ.なぜ破滅は深刻な問題なのか

 破滅のリスクは持続しない。破滅の定理によれば、「一回限り」のリスクとして破滅のわずかな確率を発生させ、それを生き延びて、また同じことをすれば(また別の「一回限り」の取引)、最終的に確率1で破滅することになる。混乱が生じるのは、「一回限り」のリスクが妥当であるように見えることで追加のリスクも妥当であるように思われるからだ。これを数値化すると、1万分の1というような小さなリスクのエクスポージャーの数が増えれば増えるほど、破滅の確率は1に近づいていくことになる(図1参照)。このような理由から、リスクを取る戦略は持続可能ではなく、完全な破滅の真のリスクは、それが避けられないものであるかのように考えなければならない。

 幸いなことに、いくつかのリスクのクラスは実質的に確率ゼロとみなすことができる。地球は30億年の間、毎日何兆もの自然変動に耐えてきた。通常のリスクは破滅問題の範疇ではないことを認めることで、破滅の可能性を伴うリスクを取ることは必要ではなく、また普通でさえないことを認識する。

A.予防原則はリスクマネジメントではない

 予防原則とリスクマネジメントを対比させ、混同しないようにすることが重要である。リスクマネジメントには、ポジティブな結果とネガティブな結果の影響とその確率を考慮した上で意思決定を行うための様々な戦略が含まれ、被害を軽減したり損失を相殺するための手段を模索する。リスクマネジメント戦略は、破滅の危機に瀕していないときの意思決定に重要である。しかし、予防原則の場合に重要な唯一のリスク管理戦略は、破滅につながる可能性のある行動を取らないようにすること、あるいは同等に、可能な結果の中に破滅が含まれないように行動の潜在的な選択肢を修正することだ。

 より一般的には、不確実性とリスクに対処するための戦略に関連する3つのレイヤーを特定することができる。第1のレイヤーは、確率が不確実であるか既知であるか、またその大きさが小さいか大きいかにかかわらず、潜在的な世界的被害を伴うケースに対処する予防原則だ。2つ目はリスクマネジメントで、明確に定義された限定的な利益と損失の確率がわかっている場合に対応する。3つ目は、リスク回避またはリスク追求行動で、不確実性が存在する場合の個々のリスクに対する個人的な嗜好の役割を極めて一般的に反映している。

f:id:y_mohrey:20210315042704p:plain

図2: 吸収壁を受けたプロセスの様々な時間的状態を示す。吸収壁にぶつかると、そのプロセスは将来の可能性に関わらず終了する。

B. 破滅は永遠に

 行動の破壊的な結果という観点から破滅の問題を形式化する方法として、被害は破壊の量ではなく、持続する時間の間に統合された破壊のレベルを測るものであると考えられる。被害の影響が将来のすべての時間に及ぶとき、つまり永遠に続くとき、被害は無限になる。被害が無限である場合、ゼロではない確率と害の積もまた無限であり、必然的に有限である潜在的な利益とのバランスをとることはできない。破壊の継続時間を含む害の評価のためのこの戦略は、リスク管理におけるより良い評価のために、局所的な被害に使用することができる。ここでは、システムまたはシステムのかけがえのない側面が完全に破壊された場合に焦点を当てる。

 図2は、被害を吸収壁として示しており、回復を許さないことを示している。

 例えば、人類にとっての地球規模の破壊は、被害が破壊のレベルに比例するような尺度では測れない。完全な破壊による被害は、システムの10分の1の破壊の10倍と同じではない。破壊の割合が100%に近づくと、存在しなくなる未来に価値を置くため、被害の評価は(特定の数字に収束するのではなく)無限大に発散する。

 破滅の「コスト」は事実上無限大であるため、費用便益分析(潜在的な被害と潜在的な利得に確率を乗じて比較する)はもはや有用なパラダイムではない。確率はゼロと予想されていても、ゼロではない不確実性がある場合でも、その不確実性の影響を考慮した感度分析では、結果的に無限大になってしまうのだ。潜在的な被害があまりにも大きく、方程式の他のすべてが重要ではなくなってしまう。この場合、私たちは大惨事を避けるためにできる限りのことをしなければならない。

Ⅳ.科学的手法と予防原則

 政策の潜在的な結果やその確率をどれだけ知ることができるのか?科学は不確実性について何を語っているのか?政策決定に役立てるためには、科学は潜在的な利益や被害の予想だけでなく、その確率や不確実性も含めなければならない。ゼロではない小さなリスクに対して無限の被害がある場合、意思決定の分析の必要性が変わるように、その被害の評価に科学的手法を適用する能力にも根本的な変化が生じる。これは、破滅の可能性とそれに伴うリスクの両方を評価する方法に影響を与える。

 予防策の考え方は、有害な結果を避けることだ。これは、証拠に基づく行動(統計学)の考えとは質的に異なる。予防原則の場合、証拠は遅すぎるかもしれない。非ナイーブな予防原則は、ローカルなリスクとグローバルなリスクの違いを評価する能力を用いて、予防と証拠に基づく行動の間のギャップを埋める。

A. 予防的行動と証拠に基づく行動

 リスクの分析と緩和のための統計的証拠に基づくアプローチは、過去の事象の頻度を数える方法(ロバスト統計)と、将来の事象の確率を生成するために統計分布のパラメータをキャリブレートする方法(パラメトリックアプローチ)、あるいはその両方を用いる。実験的証拠法は、様々な動物モデルやヒトモデルの反応を観察することにより、薬剤や介入策の副作用による被害の確率を計算する医療試験のモデルに従っている。一般的に、実験的証拠法は、リスクそのもの(すなわち、有害性の性質とその確率)が、入手可能な情報によって十分に決定されることを前提としている。しかし、リスクのレベルは、その確率が不確実であるため、測定が困難な場合がある。また、潜在的に無限の被害をもたらす可能性がある場合、ゼロではない確率を許容する不確実性は無限大となり、問題は数学的に定義されないものとなる。

 エビデンスに基づくアプローチは、科学的手法の最も純粋な形を反映していると考えられがちだが、破滅的な問題には当てはまらないことが明らかになっている。証拠に基づくアプローチでは、リスクや被害を経験したときに、そのリスクや被害の存在が明らかになる。破滅の場合、証拠が出てきたときには、定義上、回避するには遅すぎる。図4に示されているように、過去のすべての証拠でも、ある致命的な出来事を予測することはできない。したがって、標準的な証拠に基づくアプローチは機能しない。

 より一般的に言えば、証拠に基づく行動とは、経験から学ぶという極めて合理的な期待に基づいた枠組みである。エビデンスに基づく行動という考え方は、人々が災害に対して事後的に対応する際に見られる、経験からの学習という形で具現化されている。災害が発生したとき、人々は次の災害に備えるが、事前にそれを予測することはない。破滅的な問題の場合、このような行動は破滅を保証するものである。

B. 破滅に対する無効な経験的論拠

破産問題に関する議論の場合、「これまでの経験では破滅の証拠が得られなかったので考慮すべきではない」という主張は有効ではない。

C. 未知性、不確実性、予測不可能性

 現実世界のシステムは複雑であるため、経験的な観察によって行動の結果を決定する能力が制限されることが示されている[2]。これは、ある種のシステミック・リスクが本質的に未知のままであることを意味する。複雑なシステムの中には、制御された実験では、実世界の条件下で起こりうるすべてのシステミックな結果を評価できないものもある。このような状況では、「害がない」ことを保証するための努力は、十分な信頼性を持たない。これは、リスクを評価するために(対照実験を含む)経験的なアプローチを使用することと、不確実性がなんらかの手段によって排除できると期待することの両方に反している。

D. グローバルリスクとローカルリスクの区別

 複雑なシステムの中では、被害の脅威が局所的なものなのか(つまり、グローバルには無害なものなのか)、それともグローバルな影響を及ぼすものなのかを判断することが重要な課題となりうる。科学的分析は、リスクがシステミックなものであるかどうか、すなわち被害の伝播に対するシステムの接続性を評価することで、そのようなリスクの具体的な内容を決定することなく、強固に決定することができる。結果がシステミックなものであれば、リスクの関連する不確実性はそうでない場合とは異なる扱いをしなければならない。このような場合、予防は直接的な経験的証拠に基づくものではなく、被害の性質についての理論的理解に基づく分析的アプローチに基づくものである。それは、確率を計算することなく、確率論に基づいている。本質的な問題は、グローバル規模の被害が発生する可能性があるかないかということだ。理論は、新しい状況に適用するために、経験から一般化することを可能にする。予防原則の場合、一般化するための頑健な手法の存在が不可欠である。

 今日の予防原則の妥当性は、文明のグローバルな接続性により、以前は隔離されていた場所にまで影響が及ぶようになったことで、かつてよりも大きくなっている。

f:id:y_mohrey:20210315043551p:plain

図3:ボトムアップの進化によるシン・テール。自然界では、個々の変化が変化の総和の中で大きな割合を占めることはない。自然の境界線は、カスケード効果がグローバルに伝播するのを妨げる。大量絶滅は、まれに大きな衝撃(隕石の衝突や火山の噴火)が大気や海洋を通じて地球全体に伝播する場合に生じる。 

f:id:y_mohrey:20210315043628p:plain

図4:トップダウンで設計されたファット・テール 人間が作り出した変動は、密接に結びついた地球システムの中で、一つの逸脱が最終的にその影響の総和を支配することを意味する。例えば、パンデミック外来種金融危機モノカルチャーなど。

Ⅴ.ファット・テール脆弱性

A. シン・テールとファット・テール

 ある決定が破滅のリスクを伴い、そのために予防原則を使用する必要があるかどうかを判断するためには、まず、関連する基礎的な確率構造を理解する必要がある。イベントの確率分布には、2つのクラスがある。

 1つは、イベントが行儀の良い穏やかな変動を伴うもの(例:ガウス分布やシン・テール)で、もう1つは、小さな確率が特徴的なスケールを持たない大きな変動を伴うもの(例:べき乗則ファット・テール)だ。例として、月並みの国と果ての国が挙げられる(図3、4)。前者は人間の体重分布、後者は人間の富の分布の典型である。一連の出来事(体重や富の測定値の連続)があると、シン・テールの場合は合計が平均に比例し、ファット・テールの場合はそれらの合計が1つの事象に完全に支配されることがある。したがって、例えば10人の平均的な大人よりも重い人間はいないが(体重はシン・テールであるため)、1人の個人が最貧層の20億人よりも裕福であることは可能である(富はファット・テールであるため)。

 シン・テールの領域(図3)では、害は多くの出来事の集合的な影響から生じる。どのような出来事も、単独では全体に影響を与えるほどの影響力はない。例えば、ある年の心臓発作の99%を1日が占めることは現実的に不可能だ(確率は実質的にゼロに近いほど小さい)。シン・テール領域に属する統計分布には以下のものがある。ガウス分布、二項分布、ベルヌーイ分布、ポアソン分布、ガンマ分布、ベータ分布、指数分布など。

 リスクのファット・テールの領域(図4)では、害は最大の単一事象から生じる。関連する統計分布の例を以下に挙げる。パレート分布、無限分散のレビー安定分布、コーシー分布、ベキ乗分布(特に大きな指数を持つもの)。

B. 相互依存がファット・テールをもたらす理由

 変動が局所的に独立した影響をもたらす場合、中心極限の定理により、それらの変動の集合的な影響は小さく、シン・テールの分布が保証される。しかし、相互依存がある場合には、中心極限の定理は適用されず、相互強化により全体の変動がより深刻になる可能性がある。相互依存は、異なる場所での行動が結合することで生じる。このような状況下では、カスケードがシステム内を伝播し、大きな影響を引き起こす可能性がある。パンデミック金融危機などのシステム災害では、構成要素が独立しているか、依存しているかは明らかに重要である。相互依存は、破滅の可能性を高め、最終的には確実なものにする。

 2008年の世界的な金融危機について考える。20世紀後半、金融機関の相互依存関係が強まったことで、平時の小さな変動が、連鎖的な破綻に対するシステムの脆弱性を覆い隠してしまった。システムの独立した領域での局所的なショックではなく、カスケード効果を伴うグローバルなショックを経験したのである。さらに、2008年の危機は、証拠によるリスク管理の失敗を示している。1980年代からの時系列データは安定しており、「大いなる安定」と呼ばれていたが、歴史的な統計的証拠に頼る人々を欺いていた。

Ⅵ.地球への被害のリスクは?

 地球上のシステミックに最大のスケールである自然はシン・テールであるが、より短期間のスケールや十分に長い期間のスケールではテールが太くなることがあり、非常に長い時間スケールでは大量絶滅が起こることもある。これは、ボトムアップ型の局所的ないじくりまわしのデザインプロセスの特徴であり、物事は主に局所的に変化し、地球規模では穏やかに反復的にしか変化しない。

 近年、自然界のシステムは、ショックの伝播に関連して、しばしばファット・テールベキ乗則)の挙動を示すことが明らかになっている[3]。しかし、これは、衝撃の伝播を制限する障壁(またはサーキット・ブレイカー)を持たない選択されたシステムに当てはまる。地球には、海、大陸、砂漠、山、湖、川、気候の違いといった本質的な不均一性があり、ある地域から別の地域への変動の伝播を制限している。また、生物の大きさや生物の局所的なグループの大きさに関連したより小さな自然の境界もある。一般的に観察される最大の伝播現象としては森林火災があるが、これらも地球規模に比べればその影響は限定的である。様々な形の障壁が、大規模なイベントを可能にするカスケードの伝播を制限しているのである。

 数百万年という長いタイムスケールでは、大量絶滅が地球規模で起こりうる。海と大気のつながりが衝撃の伝播を可能にしている。すなわち、隕石の衝突や火山活動によって大気中を伝播するガス、灰、塵は、これらの絶滅イベントのシナリオとして考えられている[4]。大量絶滅に伴う変動は、特に海洋動物種の化石記録に見られるが、植物や陸生昆虫の化石記録は比較的強固である。これらのイベントが、隕石の衝突、火山を含む地質学的なイベント、あるいは種の絶滅が連なった連鎖的なイベント、あるいはそれらの組み合わせによって、どの程度外部から駆動されているのかは分かっていない。しかし、大量絶滅に関連する変動性は、地球の生物圏に影響を与えるファット・テール・イベントが存在することを示している。過去5億年の間に起こった主要な絶滅イベントは、数百万年の間隔で発生している[5]。大量絶滅が起こる一方で、その脆弱性の程度は、外部事象に対する感度と生態系間の連結性の両方によって左右される。

 人間がこの自然システムの連結性に与える最大の影響は、地球規模の交通手段の劇的な増加によるものである。外来種の影響や病気の急速な世界的伝播は、以前ははるかに孤立していた自然システムの連結に人間活動が果たす役割を示している。文明そのものを結びつける交通と通信の役割は、100年前には不可能だった金融危機の連鎖に見られる経済的な相互依存に明らかだ。今日、私たちが直面している危険は、私たちが文明としてグローバルにつながっており、ショックの分布のファット・テールがグローバルに広がっていることである。

 自然が集合体やマクロレベルで十分にシン・テールな変動を課さなかったならば、私たちは今日ここにいなかっただろう。進化の歴史の中での何兆もの変動のうち、たった一つでもなければ、地球上の生命は絶滅していたかもしれない。図1と図2は、2つの異なる統計的性質の違いを示している。サブシステムではテールが太くなることがあるが、惑星のレベルでは自然は主にシン・テールのままだ [6]。接続性が高まると、絶滅のリスクは劇的かつ非線形に増加する[7]。

A. リスクとグローバル介入主義

 現在、グローバルな依存関係は、名目上はローカルな範囲であるように見える政策立案者の行動に対する懸念の表明に現れている。最近では、ロシアのウクライナへの関与、東アフリカでのエボラ出血熱の蔓延、ISISのイラクへの拡大、北朝鮮の目下の姿勢、イスラエルパレスチナの紛争などが話題になっている。これらの出来事は、地元の政策立案者の決定を反映しており、それがグローバルな影響を及ぼすと考えられるのは当然のことだ。ローカルな行動とグローバルなリスクとの関連性は、広範な関心を呼び、ローカルな行動を変更または軽減するためのグローバルな対応を必要とする。この文脈において、我々は、世界の生態系と人類の生存に影響を与える政策行動に関連するより広範な意義とリスクが、予防原則の本質的なポイントであることを指摘する。このようなさらに大きなリスクに注意を払わずに、目玉となる出来事に注意を払うのは、タイタニック号で出されるワインに関心を持つようなものだ。

f:id:y_mohrey:20210315044000p:plain

図5:非線形応答と線形応答の比較。予防原則は、自然システムの非線形応答のために完全な破壊をもたらす衝撃を防ぐために用いるべきであり、リスク管理手法を適用できるような小さな衝撃に対しては必要ない。

Ⅶ. 脆弱性

 付録Cの技術的考察では、脆弱性を「不確実性によって害を被ること」と定義しており、不確実性によって被害を受けるものは、ランダムな事象に対する非線形応答にある種のタイプを持つという数学的結果を得ている。この予防原則は、構造を維持するシステムに固有の脆弱性のため、最大規模の影響にのみ適用される。影響の規模が大きくなるにつれ、被害は非線形に増加し、破壊に至るまでになる。

 

A.非線形応答としての脆弱性

 生き残ってきたものは、必然的に被害に対して非線形になる。私が10メートルの高さから落ちた場合、1メートルの高さから落ちた場合の10倍以上、1センチの高さから落ちた場合の1000倍以上の傷を負い、それゆえ私は脆弱なのだ。一般的に、私が破壊されるまでの間、1メートル増えるごとに、前よりも傷つく。

 同様に、もし私が大きな石で殴られたら、同じ総重量の小石で連続的に殴られた場合よりも、はるかに大きなダメージを受けるだろう。

 壊れやすく、まだ存在している(つまり壊れていない)すべてのものは、強度Xのあるストレス要因によって、強度X/kのストレス要因のk倍よりも多くの害を受け、壊れるまでに至る。もし私が壊れやすい(線形以上に被害を受けやすい)ものでなければ、小さな出来事の積み重ねによって破壊されてしまい、生き延びることはできない。この非線形応答は、地球上のすべてのものの中心となっている。

 これは、予防原則を呼び出す際にスケールを考慮する必要があることを説明している。小さなやりかたで汚染することは、被害は非線形であるため大量に汚染するよりも本質的に被害は少なく、故に予防原則を正当化することはできない。

B. なぜ脆弱性が一般的なルールなのか?

 ストレス要因の統計的構造は、小さな変動が大きな変動よりもはるかに頻繁に起こるようになっている脆弱性は、小さな衝撃に耐え、そこから回復する能力と密接に関係している。この能力があるからこそ、システムはその構造を保つことができるのだ。

 すべてのシステムには、それを超えると破壊されてしまう、つまり構造が維持できない衝撃の閾値がある。例えば、テーブルの上に置かれたコーヒーカップを考えてみよう。毎年、何百万回もの地震が記録されているが、もしコーヒーカップが直線的に地震に敏感で、その影響を小さな形の劣化として蓄積していたとしたら、小さな振動の影響が蓄積されて破壊されてしまい、短期間でも持続できないだろう。実際はコーヒーカップは害に対して非線形性を持っており、小さな地震や離れた場所での地震ではぐらつくだけであるのに対し、大きな地震が1回あれば永遠に壊れてしまう。

 この非線形性は、脆弱ものには必然的に存在する。

 このように、影響がシステムの大きさにまで及ぶと、被害は非線形効果によってひどく悪化する。構造を維持しているシステムでは、回復のしきい値以下の小さな影響は蓄積されない。大きな影響は不可逆的なダメージを与える。しかし、小さくて局所的に見える行動が、その後、システミックな影響につながることに注意しなければならない。

C. 脆弱性、線量反応、1/nルール

 被害に対する非線形反応が見られるもう一つの分野は、用量反応関係だ。化学物質やストレス要因の量が増えると、それに対する反応も非線形に大きくなる。多くの低用量の曝露は大きな害をもたらさないが、1回の大量投与は、鎮痛剤の過剰投与のように、システムに不可逆的なダメージを与える。意思決定理論において、1/nヒューリスティックとは、平均分散や現代ポートフォリオ理論(MPT)などの最適化基準に基づいて投資を行うのではなく、エージェントがn個のファンド(またはリスクの源泉)に均等に投資するという単純なルールである。1/nヒューリスティックは、モデルの誤りによる破滅のリスクを軽減するもので、失敗したら船が沈むような単一資産はない。大きなペイオフという潜在的なアップサイドは弱まるが、予測の誤りによる破滅は避けられる。このヒューリスティックな手法は、変動要因に相関性がない場合に有効であり、様々なリスク要因に相関性や依存性がある場合には、全体のエクスポージャーを削減する必要がある。

 したがって、非線形性があるため、地球への影響(例えば、異なる種類の汚染物質)は集中させるのではなく、相関性のない最も多くの危険源に分散させることが望ましいのである。このようにすることで、比較的少量で反応が見られることから「安全」とされた汚染物質に対して、不測の有害な反応が起こるリスクを避けることができる。表2は、さまざまな種類の暴露と脆弱性に関する方針をまとめたものだ。

f:id:y_mohrey:20210315044237p:plain

表2: I: 第1象限、安全、II: 第2象限、安全だが計算されたリスクがある、III: 第3象限:安全だが厳格なリスク管理が必要、IV: 第4象限 予防原則を行使すべき場所

Ⅷ.複雑な環境下でのトップダウンエンジニアリングの限界

 リスクテイクの限界を考える上で重要なのは、介入によって起こりうる結果を分析し、それを知った上で関連するリスクを特定することができるかどうかということだ。つまり、"なんとかする"ことができるのかどうか。そのような知識があれば、地球滅亡のような極端な問題は起こらないという保証を得ることができる。

 どのようなエンジニアリングの取り組みにおいても同じ問題が発生するため、「エンジニアリングの最先端とは何か」を問うことができる。それは、私たちが遭遇するリスクを知ることができるのか?もしかしたら、私たちが取るべき行動、取るべきでない行動を決定することができるかもしれない。インフラから電子機器に至るまで、現代の生活に欠かせない革新的な技術を提供してきたエンジニアリングへの敬意は、当然のことながら広く浸透している。しかし、科学者や一般の人々にはあまり知られていないことだが、工学的アプローチは複雑な課題に直面すると失敗することがあり、この失敗は工学コミュニティ自身によって広く記録されている [8]。失敗の根本的な理由は、複雑な環境にはさまざまな条件が存在することだ。実際にどのような条件に遭遇するかは不確実だ。工学的なアプローチでは、遭遇するであろう条件での知識を必要とする計画を立てる。計画が失敗するのは、発生する多くの条件を予測できないからである。

 この問題は、大量の情報を扱い、人命に関わるような重要な機能を持つ「リアルタイム」のシステムで特に発生する。その典型例が航空管制システムだ。従来のエンジニアリング手法を用いてこのシステムを近代化しようとした場合、30〜60億ドルの費用がかかったが、その実施に伴うリスクを評価できなかったため、システムの一部を変更することなく断念した。

 重要なのは、従来のエンジニアリングが複雑な課題に対応できなかったことで、進化のプロセスを反映したイノベーション戦略を採用するようになったことである。これにより、実世界の文脈で広範囲にテストされた小さな漸進的な変化を安全に導入するための基盤となるプラットフォームとルールが生まれた[8]。この戦略は、インターネットからウィキペディアiPhoneアプリのコミュニティに至るまで、非常に成功した現代の工学的に進化した複雑なシステムで使用されているアプローチの基盤となっている。

 

f:id:y_mohrey:20210315044422p:plain

図6:「科学的」なモデルや予測が不確かであったり、懐疑的であったりするほど、破滅のリスクが高くなるというのは、「気候モデルに懐疑的」というスタイルの主張とは相反するものである。それ以降に利益の出る確率が高くても、吸収壁としての破滅、つまり、それ以上の回復がないままの絶滅は、それを相殺する以上の効果がある。このグラフでは、不確実性が変化しても利益が変化しないと仮定している(mean-preserving sensitivity)が、次のグラフでは利益の変化を比較する。

 

f:id:y_mohrey:20210315044449p:plain

図7:利益と損害の非対称性と、破滅確率への影響を示したグラフ。情報比率、つまり[期待される利益/不確実性](またはシグナルをノイズで割ったもの)を変化させた場合の破滅確率への影響を示している。利益はネガティブな効果に比べて小さい。3つのケースが考えられる:果ての国の2つのケース:極端なファット・テール(α=1)とそれより小さいファット・テール(α=2)、月並みの国。

Ⅸ. 懐疑主義と予防

 図6と図7では、不確実性の増加が破滅の確率の増加につながることを示している。したがって、「懐疑主義」は、破滅の存在下では、その意思決定への影響が保守性の低下ではなく、増加につながるはずだ。モデルに懐疑的になるということは、ファットの不確実性が増すことを意味し、新たに導入された技術や、より大きな大きさのエクスポージャーに対して、より慎重になる必要がある。先に述べたように、自然は賢くないかもしれないが、その実績が長いということは、その論理に従うことの不確実性が小さいということだ。数学的に言えば、未来やモデルの不確実性が高ければ高いほど、分布の規模が大きくなり、「左のテール」(「右のテール」も)が太くなり、潜在的な破滅が大きくなる。右のテールに何が起こっても、生存確率は下がる。したがって、気候モデルに懐疑的であることは、より予防的な政策につながるはずだ。さらに、このような不確実性の増加は、果ての国でははるかに重要であり、月並みの国では良性の効果がある。図7は、破滅確率に関するコストと便益の非対称性を示しており、なぜこれらがシン・テールの領域よりもファット・テールの領域でより重要なのかを示している。シン・テールの領域では、不確実性の増加によって破滅の確率が数桁変化するが、その効果は小さいままである。しかし、ファット・テール領域では、破滅の確率がかなり高い状態からスタートするため、その効果は大きくなる(これは一般的に過小評価されている、[6]を参照)。

 

Ⅹ. なぜ原子力エネルギーではなく、遺伝子組み換え作物予防原則の対象になるのか?

 異なるタイプの戦略の議論に関連する例として、原子力エネルギーと遺伝子組み換え作物に対する懸念の違いを考える。要するに、原子力発電所での被ばくは非線形であり、(いくつかの条件下では)局所的なものとなりうる。一方、遺伝子組み換え作物非線形であり、少量でもシステミックなリスクをもたらすのだ。

A. 原子力エネルギー

 多くの人が原子力発電に不安を抱いているのは当然のことだ。放射能の放出、メルトダウン、廃棄物による潜在的な被害が大きいことは知られている。一方で、これらのリスクの性質は広範囲に研究されており、地域での原子力利用によるリスクは、世界的なものよりもはるかに小さい規模である。そのため、不確定要素は残るものの、地域での意思決定のためのリスクの費用便益分析を策定することは可能である。ローカルなスケールでの潜在的な被害が大きいということは、原子力エネルギーを使用するかどうか、どのように、どのくらい使用するか、どのような安全対策を用いるかについての決定は、意思決定者や一般市民が信頼できるように慎重に行われるべきである。リスク管理は、潜在的な被害が大きい場合には非常に深刻な問題であり、気軽に、あるいは表面的に行われるべきではない。分析を行う者は、慎重に行うだけでなく、慎重に行っているという他者からの信頼を得なければならない。とはいえ、リスクの統計的構造がわかっていることや、世界的なシステミックな影響がないことから、費用便益分析は意味のあるものとなる。リスクの局所的な性質は、予防原則が適用される状況を示していないため、少量の原子力エネルギーに対して予防原則を発動することは適切ではなく、費用便益の観点から判断することができる。

 大量に使用する場合には、原子力発電による目に見えないリスクを心配し、予防原則を発動すべきである。少量の場合はOKかもしれないが、脅威が局所的なものでなくなることがないように、どの程度小さくするべきか直接分析して判断する必要はある。

 原子力エネルギーの使用自体によるリスクに加えて、核廃棄物の保管に伴う長期的なリスクにも留意しなければならない。これらのリスクは、危険な状態が長く続くことでさらに悪化する。このような長期的な「ライフサイクル」の影響の問題は、さまざまな産業に存在する。原子力だけでなく、化石燃料やその他の汚染源でも発生するが、放射性廃棄物の毒性の影響が非常に長く、場合によっては何十万年も続くことから、原子力発電ではこの問題が特に深刻になる。先に述べたように、他の汚染源と同様に、原子力発電による被ばくを、その線量のために全身への影響が生じないものに限定することには注意を払う必要がある。

 

f:id:y_mohrey:20210315045101p:plain

図8:19世紀のジャガイモ飢饉のメカニズムを簡略化して示したもの。単作による集中が破滅のリスクを高めることを示している。バークレーの"Understanding Evolution"より。

B. 遺伝子組み換え作物

  遺伝子組み換え作物GMO)とそのリスクについては、現在、議論の対象となっている[9]。ここでは、遺伝子組み換え作物のリスクがシステミックであることから、遺伝子組み換え作物はまさに予防原則に該当すると主張する。システミック・リスクには、生態系への広範な影響と、健康への広範な影響という2つの側面がある。

 生態学的には、意図的な栽培に加えて、遺伝子組み換え作物は無秩序に拡散する性質があり、そのリスクは局所的なものではない。また、野生型の植物と遺伝子組み換え型の植物を交配させると、その分離ができず、システム全体に不可逆的な影響を及ぼし、その影響は未知数である。改変された生物を自然界に放出することによる生態学的な影響は、放出する前に経験的にテストされない。

 健康面では、農作物の改変はすべての人に影響を与える。主要な遺伝子組み換え作物の1つであるトウモロコシは、生食やシリアルとして食べられるだけでなく、高果糖コーンシロップ、コーン油、コーンスターチコーンミールなどの形で加工食品の主要な構成要素となっている。2014年の米国では、トウモロコシの約90%、大豆の約94%が遺伝子組み換え作物である[11]。遺伝子組み換え作物由来の食品は、市販される前にヒトでの検査が行われていない。

 遺伝子組み換え作物が生態系や人間の健康に及ぼす影響が広範囲に及ぶことから、遺伝子組み換え作物予防原則の領域にあると考えられる。このことからも、政策立案者は細心の注意を払わなければならない。しかし、多くの人にとって、リスクへの関与の抽象的な性質を理解し、被害が引き起こされる可能性のある多くの方法を想像することは困難だ。そのため、我々はリスクの性質をさらに要約する。

C. 遺伝子組み換え作物の詳細

 遺伝子組み換え作物が地球規模で及ぼす影響は、(1)人工的な遺伝子組み換え、(2)単一の作物を広大な地域で使用するモノカルチャー、という2つの要素が組み合わさって生じている。世界的な単一栽培は、それ自体が世界的に悪影響を及ぼす可能性が懸念されるが、伝統的な作物の進化的な背景が重要な保証となっている(図8参照)。外来種はしばしば問題になるが、少なくとも、生物が地域の生態系に与える有害な影響を長期的な進化の過程で検証することで、最大の潜在的リスクを排除できないまでも、緩和することができると言えるだろう。遺伝子工学と組み合わせたモノカルチャーは、取るべきリスクを劇的に増加させる。進化的選択の長い歴史の代わりに、これらの変更は、複雑な環境におけるリスクを適切に考慮しない素朴な工学的戦略だけでなく、意図しない結果を無視し、非常に限定的な経験的テストを採用する明確な還元主義的アプローチに依存している。

 皮肉なことに、エンジニアリングがトップダウン戦略の失敗により進化論的アプローチを採用している時に、生物学者や農学者はトップダウンのエンジニアリング戦略を採用し、生物を野生に導入する際に世界的なシステムリスクを負っている。

 遺伝子組み換え作物を支持する一つの論拠は、私たちの祖先が何世代にもわたって行ってきた選択的農業と比べて、遺伝子組み換え作物は「不自然」ではないというものだ。実際、この論文で展開されたアイデアは、そうではないことを示している。人類の歴史の中で行われてきた選択的な品種改良は、依然としてボトムアップで変化が起こるプロセスであり、シン・テールのような分布になることが予想される。何か間違いや有害な変化があったとしても、それがシステム全体に広がることはなく、時間の経過とともにローカルな経験によって絶滅してしまうのだ。人間が何世代にもわたって経験してきたことは、消費しても比較的安全な生物を選んできたということだ。私たちが栽培している作物の一部や品種を含め、そうでないものがたくさんある[12]。生物に急激な変化をもたらすことは、このプロセスと矛盾している。変化を導入して選択が有効になる速度には限界がある[13]。

 淘汰の歴史を経た生物の遺伝子を選択的に育種することと、魚から遺伝子を取り出してトマトに入れるというトップダウンのエンジニアリングは比較にならない。このような製品を「自然」と言ってしまうと、「自然」になるための自然淘汰のプロセスが抜け落ちてしまう。すべての生物に遺伝子導入物質が含まれているという主張があるが、現存する遺伝子導入物質は、長い時間をかけて淘汰され、生き残ったものである。その成功率はわずかだ。遺伝子組み換え作物とは異なり、自然界では、変異した生物がすぐに複製されて、ある種の生物の大部分を占めるようになることはない。実際、一つの遺伝子変異が長期的に集団の遺伝子プールの一部になることはまずない。その代わり、他の遺伝的変異や突然変異と同様に、遺伝子導入は何世代にもわたって競争と淘汰の対象となり、集団の重要な部分を占めるようになる。今日設計された新しい遺伝子導入は、この選択の過程を生き抜いたものとは異なる。

 生物学的に進化したシステムを別の文脈に移す効果の例として、人獣共通感染症が挙げられる。病原体は宿主を消費するにもかかわらず、より害がないように進化する。致死率の高い病気を引き起こす病原体は、他の人に感染する前に宿主が死んでしまうため、淘汰されてしまうのだ。HIVチンパンジーを介してサルから、鳥インフルエンザは鳥から、豚インフルエンザは豚から感染するなど、病原体が進化した宿主から人間に移ることで起こる人獣共通感染症の危険性が高まるのは、このような背景があるからだ。

 より一般的に言えば、(遺伝子組み換え作物を通して)生態系を人工的に改変することは、ボトムアップ型の改変とはカテゴリー的にも統計的にも異なる。ボトムアップ型の改変では、作物を長期的な進化の文脈から外すことはなく、生態系の押し引きによって有害な変異を局所的に消滅させることができる。この進化の道筋を迂回するトップダウンの改変は、意図せずに相互に依存する大きな要因を同時に操作することになり、意図しない結果を招く危険性が大きい。その結果、ファット・テール型の分布となり、食糧システム全体に大きなリスクをもたらすことになる。

 遺伝子組み換え作物が健康に与える影響について、FDAは、ある化学物質(タンパク質)を植物に遺伝子組み換えすることがOKかどうかを、そのタンパク質に関連するリスクについての限られた既存の知識を考慮して評価している。このような評価には多くの誤りがある。遺伝子組み換えは、除草剤や農薬などの他の化学物質に対する耐性を変えたり、他の生物に対する致死性(抗生物質としての性質)に影響を与えるなど、植物の化学的機能に強い影響を与えることを目的としているため、生物学的に重要である。限られた既存の知識では、一般的に、添加された化学物質を単独でも人々が受ける長期的なテストは行われない。この評価は、タンパク質が植物の生化学に影響を与える方法(様々な代謝経路や制御システム間の相互作用を含む)や、その結果として生じる生化学の変化が消費者の健康に与える影響とは無関係である。この評価は、農場と生態系の組み合わせとは無関係だ(例:農薬耐性のある作物は農薬の使用量が増え、その結果、農薬はより高濃度で植物に存在し、洗い流せなくなる)。現在の理解の限界を認識するのではなく、不当な仮定を伴う潜在的な被害について根拠の乏しい見解がなされている。概念的枠組みの本質的な部分と特定の結論の両方について、実験が困難であると認識されているため、限定的な経験的検証が行われている。

 私たちは、環境や健康に多大な被害を与えた後に誤りを発見したくはないため、ここで予防原則(我々の非ナイーブなバージョン)を行使すべきである。

D. そういうけど、遺伝子組み換え作物がダメなら飢饉のリスクはどうなるの?

 遺伝子組み換え作物を支持する人たちは、「世界の飢餓が減る」という主張をする。遺伝子組み換え作物の代わりに飢餓のリスクを持ち出すのは、貧困から抜け出すためにロシアンルーレットを勧めているのと同じで、欺瞞に満ちた戦略である。

 また、飢饉を連想させることは、遺伝子組み換え作物だけでなく、世界の飢餓についての明確な思考を妨げる。遺伝子組み換え作物が飢饉を回避するのに役立つという考えは、世界的な飢餓の問題が経済・農業政策の不備に起因するという証拠を無視している。食糧供給に関心のある人は、米国トウモロコシのうち40%を占めるエタノール向けの生産を減らすことによって10億人の2/3を賄えるという、問題への即効策を提唱する必要がある [14]。

 遺伝子組み換え作物の中でも最も議論されているのが、「ゴールデンライス」と呼ばれる米で、ビタミンAの前駆体を添加することで、貧困層の主要な病状であるビタミン欠乏症を改善することが期待されている。従来のビタミン強化剤などの代替手段があるため、これらのアプローチを比較して費用便益分析を行うのも一つの方法だ。このアプローチに対抗するのは、GMOの導入に関連するほとんど知られていないリスクと、栄養失調だけでなく世界中の貧困と飢餓を緩和するためのより体系的な介入の必要性と機会である。差し迫ったニーズに大きな注意を払うべきであるが、より大規模なリスクを無視することは不合理である[10]。ここでは、科学は、予防原則の慎重な適用を含め、健康上の利益とリスクの両方の評価に対して、揺るぎない厳密さを採用すべきである。そのような厳格さがなければ、科学界による擁護は科学的であることに失敗するだけでなく、企業の支持者と大差なく、短期的な利益のために挑戦の対象となる。このように、十分な同意や承認を得ずに中国人の子供を対象としたテストを行うなど、テストに手を抜くことは、人道的な理想を掲げる科学者の主張への裏切りである[15]。バイオ燃料も推進しているアグリビジネスが「ゴールデンライス」を推進していることを考えると、遺伝子組み換え技術を広く受け入れることで得られる利益に対する人道的影響への関心は、正当に疑問視することができる[16]。

 この問題は、セクションⅨの確率論の議論の中で整理することができる。与えられたリスク(より複雑でない方法で解決できる)を解決するために、別のリスク、ここでは技術(その結果の一部に不確実性が伴う)を加えることによるこの非対称性は、図6と図7に示されている。モデル誤差、または技術自体のエラー、すなわち、その医原病は、認識されている「利益」を非常に高い可能性で大惨事に変えうる。なぜなら、例えば「ゴールデンライス」やそのような技術によるエラーは、同等の利益よりもはるかに悪い結果をもたらすからだ。遺伝子組み換え作物によって「貧しい人々を飢えから救う」という議論の多くは、Ⅶ.で示した根本的な非対称性を見逃している。

E. 遺伝子組み換え作物の概要

 原子力エネルギー(上記のX-Aセクションで述べたように、それがどこでどのように(どれだけ広く)実施されるかによって、予防原則に該当する場合もあれば、該当しない場合もある)とは対照的に、遺伝子組み換え生物は、そのシステミックなリスクのために、予防原則にまさに該当する。リスクの理解は非常に限られており、影響の範囲は、進化的アプローチに代わる工学的アプローチと、モノカルチャーの使用により、グローバルなものとなっている。

 遺伝子組み換え作物のアプローチを「科学的」とすることは、確率的な利益やリスク管理に対する非常に貧弱な、あるいは歪んだ理解を裏付けるものだ。明白な害が観察されないからといって、隠れたリスクがないとは言えない。複雑なシステムの現在のモデルは、科学者にとってアクセス可能な現実のサブセットしか含んでいない。自然はどんなモデルよりもはるかに豊かだ。現行のモデルでは否定的な結果が予測されないからといって、潜在的な害が理解されていないものにシステム全体をさらすことは正当化できない。

 アメリカで遺伝子組み換え作物の導入に関して行われている限定的な監視と、それを導入した場合の世界的な影響を考えると、まさに破滅の問題の領域にあると言える。合理的な消費者はこう言うはずだ。私たちは、長期的な地球規模の影響ではなく、四半期ごとの利益を重視することに金銭的なインセンティブを与えられているモンサント社の幹部が犯した過ちに対して、お金を払いたくないし、私たちの子孫に払わせたくもない。私たちは予防原則(我々の非ナイーブなバージョン)を行使すべきである。なぜなら、そうしなければ、かなりの損害を被った後になって、大きな影響を及ぼすエラーを発見することになるからである。

F. ワクチン接種、抗生物質、その他の曝露

我々は、ワクチン接種はリスクがある、あるいは状況によってはリスクがあると主張するかもしれないが、システミックなリスクがないため、予防原則には該当しないという立場である。同じことが抗生物質のような介入にも当てはまるが、その規模が局所的なものに限られていることが前提である。 

Ⅺ. 政策としての予防とナイーブな介入

 破滅のリスクがある場合には、短期的で自己中心的なインセンティブや視点を持つ人々による世界的な破滅に向けた急激な実験を妨げるための妨害主義と政策の不作為が重要な戦略となる。政策アクションのための2つのアプローチが正当化される。1つ目は、被害の伝播に対するシステムの本質的な敏感さを回避するアクションであり、システムを解放し、局所的な被害のみを伴う局所的な意思決定と探索を可能にする。これは、衝撃の伝播を抑制する境界、障壁、分離を導入することで、過度に接続されたシステムの破滅を防ぐことができる。2つ目は、そのような境界が存在しないか、他の影響により導入できない場合であり、グローバルな被害について適切に評価された行動が必要となる。小さなリスクが破滅を招くのを防ぐためには、そのような行動を綿密に検証した科学的分析が必要だ。

 正当化されず、危険なのは、追加の介入によって被害を防ぐことを目的としたアクションである。なぜなら、間接的な効果は、回避しようと意図しているリスクをまさに生み出してしまう可能性が高いからである。

 既存のリスクが破滅の可能性を秘めていると認識されている場合、どのような予防も正当化されると考えることができる。このような考え方には、少なくとも2つの問題がある。第一に、局所的な被害を破滅と勘違いし、リスクマネジメントの手法を採用すべきところで予防原則を誤って発動してしまうことである。リスクがシステミックなものではない場合、良性の成長を取り除くために危険な手術を受けるように、過剰反応は一般的に利益よりも害をもたらす。第二に、破滅の脅威が現実のものであったとしても、認識された脅威を回避するために特定の(積極的な)行動をとることは、新たなシステミック・リスクを引き起こす可能性があることだ。脅威を生み出している、あるいは支えている活動を削減・除去し、自然の変動が局所的に作用するのを待つ方が賢明な場合が多い。

 予防は、破滅を回避する統計的構造に一致させるために、否定の道によって脅威を取り除き、状況を修正することに限定すべきである。システムに何かを追加するのではなく、構造を取り除き、自然な変動が起こるようにした方が良い場合が多いのだ。

 システムに何かを追加するのではなく、その場で何かをする。逆に、認識されている脅威を減少させるために特定の行動をとると、ほぼ確実に予期せぬ結果を引き起こすことになる。特定の行動が特定の予防的な結果に直結しているように見えても、因果関係の網が複雑に広がり、意図した目標とはかけ離れた結果になることがある。このような意図しない結果は、新たな脆弱性を生み出したり、減少させたいと思っている害を強めたりする可能性がある。したがって、可能であれば、システム全体の脆弱性を高めるような追加の構造を課すよりも、脆弱な依存関係を制限する方が良いだろう。

Ⅻ. 予防原則に対する誤った議論

 このセクションでは、予防原則に対してなされてきたさまざまな議論に答える。

A. 道を渡るとき(マヒの誤謬)

 多くの人が、予防原則の行使に対して「完全に安全なものなどない」と反論してきた。"私たちは毎日、道路を横断する際にリスクを負っているので、あなたによれば、私は家でマヒ状態になっていなければならない"。その答えは、目隠しをして道路を渡るのではなく、感覚的な情報を利用してリスクを軽減し、極端な衝撃への曝露を減らしているというものだ。

 極端なショックに耐えられるかどうか。予防原則の文脈でさらに重要なことは、集団レベルでの交通事故による死亡の確率分布がシン・テールを引いていることだ。私は、道路を横断することで一般的な人類の絶滅のリスクを負うことはない。私が間違ったタイミングで道を渡り、一般的に早すぎる死を迎えるというエラーは、他の人にも同じことをさせることはなく、エラーは広がらない。むしろ、システム内の他の人たちが私のミスから利益を得て、同じようなリスクにさらされないように行動を適応させるという逆の効果が期待できるかもしれない。自分の命を危険にさらすことと、文明の存続を危険にさらすことを同列に扱うのは、不適切なエゴイズムである。実際、予防原則の考え方は、そのような軽薄な形で焦点をあてるのを避けるためのものだ。

 マヒの議論は、予防原則を進歩とは相容れないものとするためによく使われる。これは正しくない。ミスが制限されている、いじくりまわしのボトムアップの進歩は、歴史的に見ても進歩している。非ナイーブな予防原則は、技術革新の際に負うリスクがシステム全体に及んではならないと主張するだけだ。ローカルな失敗は改善のための情報となるが、グローバルな失敗はならない。

 この誤謬は、文献に見られるシステミック・リスクと特異的リスクの間の誤解を示している。個人は壊れやすく、死すべき存在である。持続可能性の考え方は、システムを可能な限り不滅に近づけるように努力することだ。

B. リスク心理とファット・テールの分布

 予防原則の実用性についての懸念は、リスク回避のために予防原則を呼び出すことが一般的になるのではないかということである。人は小さな確率に過剰反応し、予防原則は人間のバイアスに食い込んでしまうというのは本当だろうか?我々は、予防原則の適用領域の範囲を慎重に特定したが、リスク回避の証拠を見直すことも有用だ。我々は、その証拠が健全な研究に基づいていないと判断している。

 ある経験的研究は、リスク回避のバイアスの存在を支持しているように見える。人は、費用便益分析とは矛盾した有益なリスクを回避することを選択するという証拠を主張する。関連する実験では、単一の確率の出来事について人々に質問し、人々は小さな確率に過剰に反応することを示している。しかし、これらの研究者は、人間が過小評価する関連イベントの結果を含めていなかった。したがって、リスクへの対応の有効性を特定する方法としてのこの経験的戦略には、根本的な欠陥がある[18]。

 リスクを適切に考慮するには、確率と結果の両方が含まれており、これらを掛け合わせる必要がある。多くの分野では、結果にはファット・テールがある。つまり、従来の統計的アプローチで考えられていたよりもはるかに大きな結果が生じる可能性がある。小さな確率に過剰反応することは、確率と被害の積が従来の確率分布の扱いから予想されるよりも大きいため、効果が大きい場合には非合理的ではない。

C. ネス湖の誤謬

 多くの人が、ネス湖の怪獣が存在しないという証拠はないと反論しており、不在の証拠は証拠の不在とは異なるという議論を取るために、ネス湖の怪獣が存在するかのように行動すべきだとしている。この議論は、証拠のない問題の堕落であり、確かに予防原則の一部ではない。

 関連する問題は、ネス湖の怪物の存在が、現在行われている行動についての決定に影響を与えるかどうかである。私たちは、ネス湖で泳ぐかどうかの判断を検討しているわけではない。ネス湖の怪物が存在したとしても、彼が引き起こす可能性のある害はネス湖自体に限られており、破滅のリスクをもたらさないため、予防原則を発動する理由はない。

D. 自然主義的誤謬の誤用について

 道徳領域に限定した哲学的概念として、「自然主義的誤謬」を唱える人がいる。これによると、自然のものが必ずしも良いものであると主張すべきではなく、人間の革新も同様に有効であるとしている。また、自然を利用して「こうあるべき」という概念を導き出そうとするものでもない。むしろ科学者として、自然の実験範囲を尊重するのである。非常に多くのサンプルから得られる高い統計的有意性を無視することはできない。私たちが重要だと考える問題に対して、自然は最良の解決策を導き出していないかもしれないが、統計的有意性だけで判断する私たちの技術よりも賢いと信じる理由がある。

 どのようなシステムが機能しているか(自然が証明している)という問いは、機能しているシステムが何をすべきかという問いとは異なる。どのような組織がショックに強く、あるいはショックから利益を得ることができるかについては、自然や時間から学ぶことができる。逆に、機能しているシステムの構造を、結果がどうあるべきかということから導くことはできない。

 一例を挙げると、予防原則に批判的な論文を書いているCass Sunsteinは[19]、「自然は善良であるという誤った信念」があると主張している。しかし、彼の概念的な議論では、シン・テールとファット・テール、局所的な害と地球規模の破滅を区別することができない。この分析方法では、自然の統計的な重要性と、自然の完璧さや「良性」の属性を信じる必要はなく、むしろリスク評価者として、また破滅を避けるためのリスク管理者としての実績、膨大な統計的な力を信じる必要があるという事実の両方を見逃している。

E. バタフライ効果の誤謬

「私が鼻を掻こうと指を動かすと、バタフライ効果により、非線形性のために、地球上の生命を抹殺してしまうかもしれない」という記述は、欠陥があることが知られている。この説明はあまり理解されていない。その根本的な理由は、予測可能性のレベルに広い範囲が存在することと、大規模な自由度ごとに多数の微細な自由度が存在することから生じている[20]。このように、バタフライ効果の名前の由来となった伝統的な決定論的カオスは、特定の領域にある少数の変数を持つ低次元系に特に適用される。地球のような高次元系は、大規模な変数ごとに多数の微細な変数を持つ。したがって、すべての蝶の羽ばたきがハリケーンを引き起こすわけではないことは明らかである。また、小さな摂動が大規模な事象に影響を与えることができるとしても、それは増幅が起こるような特定の条件の下でのみ起こる。

 経験的に、我々の本論文は、自然は何兆もの小さな変化を経験してきたにもかかわらず生き残っているという議論であり、バタフライ効果の誤謬論を反駁している。すなわち、鼻を掻いた場合の影響はシン・テール領域に入るので、予防原則を要請するものではないことがわかる。

 前述したように、自然界のシステムでは障壁があると、サブシステムの独立性が高くなる。接続性の高い現代のシステムがどのように連鎖的な影響を及ぼすかを理解することは、予防原則を使用することが適切な場合とそうでない場合を理解するために不可欠である。

F. ジャガイモの誤謬

 16世紀に始まった旧世界では、多くの種が突然導入されたが、環境破壊を引き起こすことはなかった(おそらくネイティブ・アメリカンに影響を与えた病気を除いて)。この観察結果をもとに、遺伝子組み換え作物を擁護する意見もある。しかし、この議論は2つのレベルで間違っている。

 第一に、脆弱性の議論では、ジャガイモやトマトなどの「新世界」の商品は、環境との相互作用の中で複雑なシステムに漸進的にボトムアップで手を加えることにより、地元で開発されたものである。もし環境に影響を与えていたら、悪影響を及ぼし、継続的な普及を妨げていただろう。

 第二に、リスク領域では反例は証拠ではない。特に、以前に同じような行動を取っても破滅に至らなかったことが証拠である場合はそうである。何度か、あるいは何度でも試行して破滅しなかったからといって、次の試行で破滅しないことを示すものではない。これは、後述するロシアンルーレットの誤謬でもある。

G. ロシアンルーレットの誤謬(リスク領域における反証)

 ジャガイモの例では、ジャガイモが何人かのエンジニアによってトップダウンで生成されていなかったと仮定すると、やはり十分ではないだろう。誰も「ほら、この間は戦争がなかったから、軍隊はいらない」とは言わない。たくさんのバレルを備えた巨大なロシアンルーレットが「安全」であり、前回誰かの脳みそを吹き飛ばさなかったからといって、絶好の金儲けのチャンスだと主張する人はいない。

 前回の行動が破滅に至らなかったとしても、破滅に至る可能性を秘めている理由はたくさんある。目隠しをして耳栓をして道路を渡ろうとすると、無事に渡れるかもしれないが、それはその行動にリスクがないという証拠ではない。

 より一般的に言えば、破滅の確率が小さくてもリスクがないと主張するには大量のサンプルが必要だが、安全性の主張に反論するには「n=1」の例が1つあれば十分だ。これが『ブラック・スワン』の議論である[29]。簡単に言えば、害がないという証拠に重みを持たせるためには、システム変更には非常に長い歴史が必要なのである。

H. 大工の誤謬

 遺伝子組み換え作物などの生物学的プロセスのリスクを専門家が理解しているか懐疑的なリスクマネジャーは、"あなたは生物学者ですか?"と聞かれることがある。しかし、ルーレットの配列を扱う確率論者に、大工かどうかを尋ねる人はいない。ルーレットによるギャンブラーの破産問題を理解するには、大工ではなく、確率論者に聞けばいいことがわかるだろう。どんなに大工の専門知識があっても、小さな確率で賭けた長いシーケンスの特性を理解するための厳密さを置き換えることはできない。同じように、生物学的プロセスの詳細に関する専門知識は、確率論的な厳密さの代用にはならない。

 したがって、遺伝子組み換え作物のリスクを考える際には、生物における遺伝子の変化がもたらす影響をどの程度まで知っているかが重要な問題となる。遺伝子組み換えの根拠として、遺伝学者がこれらの影響を知っているという主張は、彼らの知識がそれ自体の領域では完全ではなく、また遺伝学が知識の体系として完全ではないということを認識していない。遺伝学者は、生物における遺伝子の変化がもたらす発達的、生理的、医学的、認知的、環境的な影響を知らない。実際、これらのほとんどは、彼らの訓練や職務能力に含まれない。また、知識の限界がリスクに与える影響を認識する訓練も受けていない。

 遺伝子組み換え作物における科学的知識の役割を理由に、リスクの存在そのものを否定する支持者もいる。この意見によると、モンサント社などの科学者は、リスクのない安全な食品を提供してくれると信頼されており、リスクについての疑問も根拠がないとしている。技術革新の源となる科学的知識には、長い伝統がある。一方で、エンジニアリング自体は異なる分野であり、別の必要性がある。橋や建物の建設は、確立された物理学のルールに基づいて行われるが、リスクの存在はその知識だけでは終わらず、他の形態のエンジニアリングと同様に、計画や建設において直接考慮されなければならない。遺伝学よりもはるかに知識が確立されている工学においても、リスクの存在は広く認識されている。推進派がリスクの存在そのものを否定しているのは、彼らの理解不足、あるいは盲目的な外発的動機による擁護の証左である。

 FDAは、現在の科学的知見が遺伝子組み換え作物の安全性を保証しているというアプローチをポリシーとして採用しており、その保証はモンサント社などに依存している。そのため、遺伝子組み換え植物の化学変化が人の健康や生態系に与える影響を検証していない。母親の血液中の神経毒濃度の上昇が遺伝子組み換え作物に関連していることを示す実験結果があるにもかかわらず、である[21]。様々な研究が、リスクが存在することを示す実験的証拠を示しており[22]、[23]、[24]、[25]、世界的な公衆衛生上の懸念が認識されている[27]。FDAの試験ではこのリスクを評価していないため、GMOの改変の結果、神経毒が人間の認知機能に大きな影響を与える可能性があることに留意している。

 こうした点と一致して、生物学的・医学的リスクを理解している専門家の実績は極めて乏しいものとなっている。このような誤算に強い政策が必要だ。専門家が自らの知識の完全性を誤認するという医学における「専門家問題」は、生物学的製品の革新に伴うリスクの歴史的記録が非常に乏しいことに現れている。バイオ燃料トランス脂肪酸、ニコチン等、さまざまなものがある。サリドマイド、フェンフェン、タイレノール、バイオックスなどの最近の大規模な医薬品のリコールを考えよ。これらはすべて、知識の欠如に伴う大規模なリスク、すなわちブラック・スワン現象に対する専門家の盲目ぶりを示している。しかし、これらのリスクのほとんどは局所的なものであり、システミックなものではなかった(バイオ燃料が世界の飢餓や社会不安に与える影響を除いては)。システミックなリスクは、リコールが遅すぎるという結果になるので、強力なバージョンの予防原則が必要なのだ。

 生物学分野の科学者が、自分の分野をよく知っているにもかかわらず、確率論的に誤った発言をしてしまうことを示す、痛烈な証拠は以下の通りである。 X Yを2つの確率変数とすると、その2つの差、すなわち X-Yの性質、すなわち分散、確率、高次特性は、変数自体の性質の差とは著しく異なる。つまり、 Eを期待値(期待される平均値)、 Vを分散とすると、 \mathbb{E}(X-Y) = \mathbb{E}(X)-\mathbb{E}(Y) であるが、もちろん、高次統計では \operatorname{Var}(X-Y) \neq \operatorname{Var}(X)-\operatorname{Var}(Y)などとなる。P値も違うし、もちろん変動係数(「シャープ」)も違うということだ。ここで、 αは変数(またはサンプル)の標準偏差である。

\frac{\mathbb{E}(X-Y)}{\sigma(X-Y)} \neq \frac{\mathbb{E}(X)}{\sigma(X)}-\frac{\mathbb{E}(Y)}{\sigma(Y)}

この問題は『まぐれ』に記載されている:

より深刻な問題は、2人以上の人物や団体の間でのパフォーマンスの比較に関するものだ。単一の時系列に関しては確かにランダム性に騙されるが、例えば2人の人間、あるいは1人の人間とベンチマークとの比較となると、その愚かさはさらに増す。なぜか?どちらもランダムだからだ。次のような簡単な思考実験をしてみましょう。人生を歩み始めた2人の人物、例えば、ある人とその義理の弟がいるとする。幸運と不運の確率がそれぞれ等しいと仮定する。結果:ラッキー-ラッキー(二人の間に差はない)、アンラッキー-アンラッキー(やはり差はない)、ラッキー-アンラッキー(二人の間に大きな差がある)、アンラッキー-ラッキー(やはり大きな差がある)。

10年後の2011年には、変数を比較した神経科学の論文(「権威ある学術誌」で査読されたもの)の50%が間違っていたことが判明した。[26]より:

理論的には、2つの実験効果を比較するには、その差に関する統計的検定が必要である。しかし、実際には、一方の効果が有意で(P < 0.05)、他方の効果が有意でない(P > 0.05)場合に、研究者が効果の違いを結論づけるような、2つの別々の検定を含む誤った手順に基づいて比較が行われることが多い。我々は、上位5誌(Science、Nature、Nature Neuroscience、Neuron、The Journal of Neuroscience)に掲載された行動科学、システム科学、認知神経科学の論文513本をレビューしたところ、78本が正しい手順を用い、79本が誤った手順を用いていた。また、細胞・分子神経科学分野では、相互作用に関する誤った分析がさらに多いことが示唆された。

 『まぐれ』は、(控えめに言っても)多くのプロに読まれていたが、その間違いはまだ続いている。今から10年後、彼らがその間違いを犯さなくなっていると信じるに足る根拠はない。

 核にあるのは「科学」と「リスクマネジメント」の両方の意味の理解にある。リスクマネジメントとは、誤謬性を最小限に抑えることであり、予防原則とは、誤謬性に近い状態を必要とする領域を定義することだ。

I. 技術的救済の誤謬

 医原病とは、治療者が善意で治療を施したにもかかわらず、患者を傷つけてしまうことだ。有害な結果が広範囲に渡って記録されている医療の革新的技術のリストについては、付録Aを参照のこと。これらはいずれも、広範囲に適用される前に、自然発生的な結果を明らかにしないベストプラクティス・テストを受けている。弊害の可能性がある革新的技術を評価するために使用される管理されたテストは、現実の世界で介入が適用される多くの条件を再現することはできない。有害な結果は、現実世界の条件を組み合わせた数多くの経験によってのみ明らかになる。自然淘汰、すなわち進化的淘汰は、成功が決定される過程で複製の数が徐々にしか増えないため、結果を制限する方法で、このような条件で害がないことを選択することを戦略として実装する。他方、伝統的な技術的解決策のエンジニアリングはそうではない。このように、現在の問題に対する技術的な解決策が、進化的な選択を経た解決策から離れれば離れるほど、有害な結果をもたらす条件が組み合わせ的に分岐することで、医原病にさらされることになるのだ。ここでの関心は、軽度の医原病ではなく、システミックなケースである。

J. 病理学の誤謬

 今日、厳密であると主張される数学モデルや概念モデルの多くは、検証されていない誤った仮定に基づいており、その仮定の変更に対してロバストではない。このようなモデルは、前提条件から論理的に導かれているという意味で合理的であると考えられ、さらに、このようなモデルからの逸脱を非合理性の指標として調べることで合理性を評価することができる。ただし、現実を不完全に表現しているのはモデル作成者であることが多く、それゆえに合理性の基準を誤って使用していることがある。多くの場合、モデル作成者は複雑なシステムのダイナミクスに精通しておらず、ファット・テールを考慮していない時代遅れの統計手法を使用し、異なるクラスの確率分布の下では受け入れられないような推論を行っている。Cass Sunstein(前述)が使用したような、稀な事象の確率の過大評価に関する多くのバイアスは、実際には、テスト担当者がシン・テールの悪い確率モデルを使用していることに対応している。より深い議論は、文献[6]を参照のこと。遺伝子組み換え作物やその他への懐疑論に対して、一般の人々の側から非合理性を主張することが流行っているが、実際には「専門家の問題」があり、そのような懐疑論は健全であり、生存のために必要でさえあることに気づいていない。例えば、『合理的な動物』[28]では、著者は、「世界保健機関は悪影響の証拠を発見していない」にもかかわらず遺伝子組み換え作物を受け入れない人々を病理学的に批判しているが、これは「証拠がないことの証拠」と「証拠がないことの証拠」を混同しているのが原因である。このような病理学は、行動研究者が双曲割引を「非合理的」とレッテルを貼るのと似ているが、実際には、主に研究者が非常に狭いモデルを持っていて、より豊かなモデルが「非合理性」を消してしまうのだ。このような研究者は、人間にはシステミックなリスクに対する予防原則があり、学術的な形式でそのような恐れを表明していなくても、深く合理的な理由から政策の未検証の結果に懐疑的になることがあることを理解していない。

ⅩⅢ. 結論

 以上のように、リスクに関する2つの異なるタイプの不確実性(ローカルとシステミック)を形式化することで、予防原則が適切な場合とそうでない場合が明確になる。遺伝子組み換え作物原子力エネルギーの例は、これらの考え方の適用を明らかにするのに役立つ。意思決定者が将来的に破滅を避けるための一助となれば幸いである。

謝辞

Gloria Origgi, William Goodlad, Maya Bialik, David Boxenhorn, Jessica Woolley, Phil Hutchinson...

利益相反

著者の一人(Taleb)は、福島第一原発事故後の2011年に、米国の主要な協会であるINPO(Institute of Nuclear Power Operations)から、リスクマネジメントやブラックスワン・リスクについての講演を行い、金銭的な報酬を受け取ったと報告している。

 

参照
[1] Asmussen, S., & Albrecher, H., 2010, Ruin probabilities (Vol. 14). World Scientific.
[2] Bar-Yam, Y., 2013, The Limits of Phenomenology: From Behaviorism to Drug Testing and Engineering Design, arXiv 1308.3094
[3] Bak, P., 2009, How nature works. Copernicus.
[4] Schulte, P., Alegret, L., Arenillas, I., Arz, J. A., Barton, P. J., Bown, P. R., ... & Willumsen, P. S., 2010. The Chicxulub asteroid impact and mass extinction at the Cretaceous-Paleogene boundary. Science, 327(5970), 1214-1218.
[5] Alroy, J., 2008. Dynamics of origination and extinction in the marine fossil record. Proceedings of the National Academy of Sciences, 105(Supplement 1), 11536-11542.
[6] Taleb, N.N., 2014, Silent Risk: Lectures on Fat Tails, (Anti)Fragility, and Asymmetric Exposures, SSRN
[7] Rauch, E.M. and Y. Bar-Yam, 2006, Long-range interactions and evolutionary stability in a predator-prey system, Physical Review E 73, 020903
[8] Bar-Yam, Y., 2003, When Systems Engineering Fails — Toward Complex Systems Engineering in International Conference on Systems, Man & Cybernetics Vol. 2, IEEE Press, Piscataway, NJ, 2003, pp. 20212028.
[9] Thompson, P.B. (Ed.), 2007. Food biotechnology in ethical perspective (Vol. 10). Springer.
[10] Read, R., Hutchinson, P., 2014. What is Wrong With GM Food?, Philosophers’ Magag.
[11] Recent Trends in GE Adoption, Adoption of Genetically Engineered Crops in the U.S., USDA Economics Research Service,
[12] See e.g. List of poisonous plants, Wikipedia
[13] Nowak, M., Schuster, P.,1989. Error thresholds of replication in finite populations mutation frequencies and the onset of Muller’s ratchet. Journal of Theoretical Biology, 137, 375-395.
[14] Albino, D.K., Bertrand, K.Z., Bar-Yam, Y., 2012, Food for fuel: The price of ethanol. arXiv:1210.6080.
[15] Qiu, J., 2012, China sacks officials over Golden Rice controversy. Nature News, 10.
[16] Harmon, A., 2013, Golden Rice: Lifesaver?
[17] Taleb, N.N., 2007, Black swans and the domains of statistics. The American Statistician, 61, 198-200.
[18] Taleb, N.N. and Tetlock, P.E., 2014, On the Difference between Binary Prediction and True Exposure with Implications for Forecasting Tournaments and Decision Making Research http:/dx.doi.org10.2139ssrn.2284964
[19] Sunstein, C.R., Beyond the Precautionary Principle (January 2003). U Chicago Law & Economics, Olin Working Paper No. 149; U of Chicago, Public Law Working Paper No. 38.
[20] Bar-Yam, Y., Complex Systems: The Science of Prediction,
[21] Aris, A., Leblanc, S., 2011, Maternal and fetal exposure to pesticides associated to genetically modified foods in Eastern Townships of Quebec, Canada. Reproductive Toxicology, 31(4), 528-533.
[22] Mesnage, R., Clair, E., Gress, S., Then, C., SzÃl’kÃa˛cs, A., & SÃl’ralini, G. E. (2013). Cytotoxicity on human cells of Cry1Ab and Cry1Ac Bt insecticidal toxins alone or with a glyphosateâ˘ARˇ based herbicide. Journal of Applied Toxicology,33(7), 695-699.
[23] Mesnage, R., Bernay, B., & Séralini, G. E. (2013). Ethoxylated adjuvants of glyphosate-based herbicides are active principles of human cell toxicity.Toxicology, 313(2), 122-128. EXTREME RISK INITIATIVE —NYU SCHOOL OF ENGINEERING WORKING PAPER SERIES 17
[24] López, S. L., Aiassa, D., Benitez-Leite, S., Lajmanovich, R., Manas, F., Poletta, G., ... & Carrasco, A. E. (2012). Pesticides used in South American GMO-based agriculture: A review of their effects on humans and animal models. Advances in Molecular Toxicology, 6, 41-75.
[25] Mezzomo, B. P., Miranda-Vilela, A. L., & Friere, I. S. (2013). Hematotoxicity of Bacillus thuringiensis as spore-crystal strains Cry1Aa, Cry1Ab, Cry1Ac or Cry2Aa in Swiss albino mice. J Hematol Thromb Dis, 1(1).
[26] Nieuwenhuis, S., Forstmann, B. U., & Wagenmakers, E. J. (2011). Erroneous analyses of interactions in neuroscience: a problem of significance. Nature neuroscience, 14(9), 1105-1107.
[27] Sears, M. E., Genuis, S. J., 2012, Environmental determinants of chronic disease and medical approaches: recognition, avoidance, supportive therapy, and detoxification. Journal of environmental and public health, 356798, doi:10.11552012356798
[28] Kenrick, D.T., and Griskevicius V., 2013, The rational animal: How evolution made us smarter than we think. Basic Books.
[29] Taleb, N.N., 2010, The Black Swan:: The Impact of the Highly Improbable Fragility. Random House LLC.
[30] R. Horton, “Vioxx, the implosion of merck, and aftershocks at the {FDA},” The Lancet, vol. 364, no. 9450, pp. 1995 – 1996, 2004.
[31] J. H. Kim and A. R. Scialli, “Thalidomide: the tragedy of birth defects and the effective treatment of disease,” Toxicological Sciences, vol. 122, no. 1, pp. 1–6, 2011. [32] A. P. Fishman, “Aminorex to fenphen an epidemic foretold,” Circulation, vol. 99, no. 1, pp. 156–161, 1999.
[33] A. L. Herbst, H. Ulfelder, and D. C. Poskanzer, “Adenocarcinoma of the vagina,” New England Journal of Medicine, vol. 284, no. 16, pp. 878–881, 1971, pMID: 5549830. [Online].
[34] C. D. Furberg and B. Pitt, “Withdrawal of cerivastatin from the world market,” Curr Control Trials Cardiovasc Med, vol. 2, no. 5, pp. 205–7, 2001.
[35] R. P. Feldman and J. T. Goodrich, “Psychosurgery: a historical overview,” Neurosurgery, vol. 48, no. 3, pp. 647–659, 2001.
[36] P. B. Watkins and R. W. Whitcomb, “Hepatic dysfunction associated with troglitazone,” New England Journal of Medicine, vol. 338, no. 13, pp. 916–917, 1998, pMID: 9518284. [Online].
[37] W. RL, C. Y, F. JP, and G. RA, “Mechanism of the cardiotoxic actions of terfenadine,” JAMA, vol. 269, no. 12, pp. 1532–1536, 1993. [Online].
[38] W. N. Kernan, C. M. Viscoli, L. M. Brass, J. P. Broderick, T. Brott, E. Feldmann, L. B. Morgenstern, J. L. Wilterdink, and R. I. Horwitz, “Phenylpropanolamine and the risk of hemorrhagic stroke,” New England Journal of Medicine, vol. 343, no. 25, pp. 1826–1832, 2000.
[39] J. T. James, “A new, evidence-based estimate of patient harms associated with hospital care,” Journal of patient safety, vol. 9, no. 3, pp. 122–128, 2013.
[40] J. Davies and D. Davies, “Origins and evolution of antibiotic resistance,” Microbiology and Molecular Biology Reviews, vol. 74, no. 3, pp. 417– 433, 2010.
[41] D. Fergusson, S. Doucette, K. C. Glass, S. Shapiro, D. Healy, P. Hebert, and B. Hutton, “Association between suicide attempts and selective serotonin reuptake inhibitors: systematic review of randomised controlled trials,” Bmj, vol. 330, no. 7488, p. 396, 2005.
[42] D. S. Echt, P. R. Liebson, L. B. Mitchell, R. W. Peters, D. Obias-Manno, A. H. Barker, D. Arensberg, A. Baker, L. Friedman, H. L. Greene et al., “Mortality and morbidity in patients receiving encainide, flecainide, or placebo: the cardiac arrhythmia suppression trial,” New England Journal of Medicine, vol. 324, no. 12, pp. 781–788, 1991.
[43] A. M. Larson, J. Polson, R. J. Fontana, T. J. Davern, E. Lalani, L. S. Hynan, J. S. Reisch, F. V. Schiødt, G. Ostapowicz, A. O. Shakil et al., “Acetaminophen-induced acute liver failure: results of a united states multicenter, prospective study,” Hepatology, vol. 42, no. 6, pp. 1364– 1372, 2005.
[44] R. T. Participants, “Coronary angioplasty versus coronary artery bypass surgery: the randomised intervention treatment of angina (rita) trial,” The Lancet, vol. 341, no. 8845, pp. 573–580, 1993.
[45] K. P. Morgan, “Women and the knife: Cosmetic surgery and the colonization of women’s bodies,” Hypatia, vol. 6, no. 3, pp. 25–53, 1991.
[46] G. A. Rook, C. A. Lowry, and C. L. Raison, Evolution, Medicine, and Public Health, vol. 2013, no. 1, pp. 46–64, 2013.
[47] I. F. Wallace, N. D. Berkman, K. N. Lohr, M. F. Harrison, A. J. Kimple, and M. J. Steiner, “Surgical treatments for otitis media with effusion: A systematic review,” Pediatrics, pp. peds–2013, 2014.
[48] J. L. Teugels, “The class of subexponential distributions,” The Annals of Probability, vol. 3, no. 6, pp. 1000–1011, 1975.
[49] E. Pitman, “Subexponential distribution functions,” J. Austral. Math. Soc. Ser. A, vol. 29, no. 3, pp. 337–347, 1980.
[50] V. Chistyakov, “A theorem on sums of independent positive random variables and its applications to branching random processes,” Theory of Probability & Its Applications, vol. 9, no. 4, pp. 640–648, 1964.
[51] P. Embrechts, C. M. Goldie, and N. Veraverbeke, “Subexponentiality and infinite divisibility,” Probability Theory and Related Fields, vol. 49, no. 3, pp. 335–347, 1979.
[52] B. Kuo, Automatic Control Systems. Prentice Hall, 1982.
[53] C. W. Gardiner, Stochastic Methods. Springer BerlinHeidelberg, 1985.
[54] E. A. Guggenheim, Thermodynamics—An advanced treatment for chemists and physicists. North-Holand, 1985.
[55] N. N. Taleb and R. Douady, “Mathematical definition, mapping, and detection of (anti) fragility,” Quantitative Finance, 2013.

 

『独学の技法』要約

大学で哲学を専攻し、広告代理店やコンサルティングファームなどでの職歴を持つシニア・クライアントパートナ、山口周さんの『独学の技法』を読んだのでスライドにまとめました。

 

山口周さんの名前を知らない方はいないと思います。自分も何冊か読んでおり、毎回、大変共感する内容が多いと感じています。2020年末に出版された『ビジネスの未来』では、日本は成長が止まってしまったという一般的な認識を「高原への到達」であるという見方で捉え直すことで、ビジネスと個人と行政の将来像について積極的で夢と現実性のある内容の提言をしています。暗いニュースが多い中、これを読むととても明るい気分になりますよ。

山口周さんの本はどれも非常に読みやすいです。当然、ご本人も超読書家であり、またビジネスパーソンとしてストイックに知的生産活動に取り組んでおられるはず。そんな山口さんが独学の方法について本を書いていたことに気づき、これまでの自分の読書習慣を見直すヒントがあるのではないかと思い読んでみた次第です。

 

いやー、もっと早くこれを読みたかった。

学習法としてはこれまで佐藤望『アカデミック・スキルズ――大学生のための知的技法入門』(慶應義塾大学出版会,第3版2020年)を主に参考にしていたのですが、あちらはアカデミックでの学び方・研究のやり方が中心テーマであり、目標を論文執筆としています。山口さんの本書は、独学を「知的戦闘力を高める」ことを目的とした一つのシステムとして捉えて、戦略的にこなしていきましょうという発想で書かれています。

人生を通じて働きながら読書を続けていく上で欠かせないアイデアが詰まっていると思いました。さっそく自分も本書で紹介されたテクニックを実践しています。

 

人生三毛作とは、長寿化で定年が先延ばしになるなかで逆に企業の寿命がどんどん短くなっており(統計的に、20年後も「旬」の企業は10%)、複数回のキャリアチェンジは不可避になっているという意味です。読書ノートは本を選んで作るという発想は面白いですね。

ただ、ストックの方法については疑問も抱きました。9箇所のみを抜粋すれば事足りる本もあるのでしょうが、すべての本がそうとは限らないでしょう。本書の中ではニコレス・タレブ『反脆弱性』が取り上げられていますが、あの濃さの本は紹介されていた方法で「イケスに放って」しまっては、勿体ないと思います。ではどうするべきなのかといえば、これだと思った本については抜き出す数を特別に増やすといったことになるでしょうか。本ブログのように書評を書いてまとめるのもありかも知れません。もともとこのブログをはじめたのもそうした目的がありました。(姉妹ブログ「現代啓蒙」では、現代社会の荒波に耐えるのはもちろん、数百年読み継がれる可能性もある、高い完成度の哲学体系を構築した数名の現代哲学者の議論をまとめたいと思っています。)

タレブらによる新型コロナウイルス対策の緊急提言(2020年1月26日付)翻訳

認識論者ニコラス・タレブ(Nassim Nicholas Taleb,1960-)、複雑系研究者ヤニール・バーヤム(Yaneer Bar-Yam,1959-)らは2020年1月26日、当時中国で流行が始まり世界へ飛び火し始めていた新型コロナウイルスへの対策について、非常に先見的な提言を行っていました。2020年12月18日現在、ワクチンも出回り始めてきましたが、日本も例外ではなく北半球の多くの地域で感染は拡大し続け、経済的にも大きな損害を与え続けています。私たちの認識と判断はどこで間違ったのでしょうか。タレブらのノートは、この議論のベースになるものだと思います。

(PDF) Systemic Risk of Pandemic via Novel Pathogens - Coronavirus: A Note | Nassim Nicholas Taleb and Joe Norman - Academia.edu

 

 

(2021/3/15追記)本ノートで引用されている「一般原則 」を翻訳しました。ぜひ併せてお読みください。

________________________________________

 

 

新型病原体を介したパンデミックシステミック・リスクコロナウイルス:ノート

Joseph Norman, Yaneer Bar-Yam, Nassim Nicholas Taleb ‡ New England Complex Systems Institute, School of Engineering, New York University ,‡ Universa Investments

 

中国の武漢で出現した新型コロナウイルスは、非常に伝染性の高い致命的な株であることが確認されている。中国の対応は、その拡散を遅らせるための、いくつかの主要都市での数千万人の渡航制限を含むものだった。にもかかわらず、すでに世界の多くの国で陽性と確認された症例が検出されており、そのような封じ込めが効果的であるかどうかは疑問視されている。このノートでは、このようなプロセスに関連して、いくつかの原則を概説する。

明らかに、我々は、接続性の増加によって非線形的に拡散が増加する、極端なファットテールプロセスを扱っている [1], [2]。ファットテールプロセスには特別な特性があり、従来のリスク管理アプローチでは不十分だ。

 

一般的な予防原則

一般的な(ナイーブではない)予防原則[3]は、破滅のリスクを減らすために行動を起こさなければならない条件を規定しており、伝統的な費用便益分析を使用してはならない。これらは、時間の経過とともにテールイベントにさらされることで最終的な絶滅につながる、ある種の破産の問題である。このようなイベントに一度晒されただけであれば、人類が生き延びる確率は非常に高い。しかし時間が経つにつれて、そのようなイベントへの繰り返しの曝露を生き延びる確率は最終的にはゼロになる。繰り返されるリスクは、限られた寿命を持つ個人は取ることができるが、破滅への暴露は、システム的、集団的なレベルでは決して取ってはいけない。技術的な話をすると、この予防原則が適用されるのは、リスクがエルゴード的ではないため、従来の統計的平均が無効な場合である。

 

ナイーブな経験論

次に、この問題に関連した議論の中で、ナイーブな経験主義の問題を取り上げる。

拡散率:一般にパンデミック、特に今回のパンデミックの拡散率の歴史からの推定値は、過小評価されている。近年、交通手段の接続性が急速に向上したからだ。すなわち、パンデミックが本質的にファットテールであることと、接続性の向上に伴ってテールが太くなっているため、被害の程度の期待値が過小評価されていることを意味している。

世界的な接続性は過去最高の水準にあり、中国は最も世界的に接続された社会の一つとなっている。基本的に、ウイルスの伝染イベントは物理的空間におけるエージェントの相互作用に依存しており、新たなアウトブレイクの発生は必然的に起こるという将来の不確実性を考慮すると、一時的に接続性を低下させ、感染した可能性のあるエージェントの流れを遅らせることは、ウイルスや他の病原体の特性の誤推定に対して唯一の健全なアプローチであると言える。

繁殖率ウイルスの繁殖率R0(感染していない集団で感染期間中に平均して1つの症例が発生する数)の推定値には、下方バイアスが掛かっている。この性質は、個々の「スーパースプレッダー」イベントによるファットテール性[4]に由来している。簡単に言えば、R0はそれ自体が収束するのに時間がかかる平均値から推定されたファットテールな変数である。

死亡率死亡率と罹患率もまた、特定された症例、死亡、およびそれらの死亡の報告の間のラグのために、下方バイアスが掛かっている。

増大する致死的で急速に広がる新病原体:病原体の急速な広がりと悪い病原体の選択優位性のため、交通の増加に伴い、私たちは絶滅が確実になる条件への移行に近づいている。[5]

非対称的不確実性:不確実なウイルスの特性は、実施されたポリシーが有効かどうかに大きな影響を与える。例えば、感染性のある無症候のキャリアが存在するかどうかなどだ。これらの不確実性により、主要港湾での温度スクリーニングなどの対策が望ましい効果をもたらすかどうかが不明確になる。実質的にすべてのこれらのプロセスは不確実性に凸であるため、潜在的に問題を悪化させる傾向があり、良くすることはない。

宿命論と怠慢:これらの課題のためか、一般的な公衆衛生の対応は、何もできないという信念があり、何が起きても受け入れるという宿命論的なものである。正しく選択された臨時の介入の影響力は非常に高くなる可能性があるため、この反応は正しくない。

結論:隔離、接触者追跡、モニタリングなどの標準的な個人規模の対策は、集団感染に直面した場合には(計算上)急速に圧倒されてしまうため、パンデミックを阻止する上ではこれに頼ることができない。集団的境界や社会行動の変化を利用した接触ネットワークの抜本的な刈り込み、およびコミュニティの自己監視を含むマルチスケールの集団アプローチが不可欠である。以上の観察結果から、目下および潜在的パンデミックの発生に対する予防的アプローチの必要性が示唆される。短期的には移動を低下させるのにはコストがかかるが、それに失敗すれば、最終的にはすべてを犠牲にすることになる。アウトブレイクは避けられないが、適切な予防的対応を行うことで、地球全体のシステミックリスクを軽減することができる。しかし、政策決定者や意思決定者は迅速に行動しなければならず、取り返しのつかない大災害の可能性に直面した際に不確実性を適切に尊重することは「パラノイア」にあたるという誤解、あるいは逆に何もできないという誤った考えを避けなければならない。

 

参照 

[1] Y. Bar-Yam, “Dynamics of complex systems,” 1997.

[2] ——, “Transition to extinction: Pandemics in a connected world„” 2016.

[3] N. N. Taleb, R. Read, R. Douady, J. Norman, and Y. Bar-Yam, “The precautionary principle (with application to the genetic modification of organisms),” arXiv preprint arXiv:1410.5787, 2014.

[4] N. N. Taleb, The Statistical Consequences of Fat Tails. STEM Academic Press, 2020.

[5] E. M. Rauch and Y. Bar-Yam, “Long-range interactions and evolutionary stability in a predator-prey system,” Physical Review E, vol. 73, no. 2, p. 020903, 2006.

________________________________________

 

参照

Yaneer Bar-Yam: American academic (1959-) | Biography, Facts, Career, Wiki, Life

『オードリー・タン デジタルとAIの未来を語る』要約と書評

この記事では、2020年12月現在、台湾の蔡英文政権にてデジタル担当政務委員を務める、オードリー・タン(唐鳳,Audrey Tang,1981-)の初の自著を紹介します。

オードリー・タン著,『オードリー・タン デジタルとAIの未来を語る』,プレジデント社,2020年12月初版

 

IQ180、本を1ページを0.2秒で読む、19歳でシリコンバレーで起業した、など、そのプロフィールは常識を逸していることで有名です。コロナ禍ではマスク・マップを構築するプロジェクトで中心的な役割を果たしたことで注目が集まりました。本書は、そんな彼女が政治やAIなどのテーマについて語る内容となっています。

本記事ではオードリー・タンの思想、台湾政治とソーシャルイノベーション、教育という3つのテーマについて要約します。

 ____________________________

 

オードリー・タンの思想

彼女は柄谷行人の思想に強い興味を持っているそうです。柄谷行人は、生産様式ではなく、交換モデルという概念を用いて政治経済を論じます。柄谷の提唱する「交換モデルX」とは、一言で「互酬を高次で回復するもの」です。すなわち、不特定多数の人々を対象としつつ、家族内交換と同じく見返りを求めないような、そんな交換モデルです。交換モデルXには、資本主義では叶わなかった自由と平等と友愛という価値を体現できることが期待されます。現在はこの交換様式による経済は確立されておらず、オードリー・タンはこれをデジタル上で実現できないか、興味があるそうです。彼女にとってデジタル空間は、未来のあらゆる可能性を考えるための実験場所であるといいます。

オードリー・タンは、よく「保守的な無政府主義者」と言われますが、これは少し語弊があるといいます。「保守」には他の人が新しい物事を試すことを許さないという解釈もあり、それは彼女の思想には当てはまりません。正確には中国語の「持主」に近いといいます。これは「堅持するのに値する何かを守る」という意味です。また、無政府主義というのはアナーキストからの直訳だと思われますが、これも語弊があります。命令などの強制力がないことが重要だといいます。強制力を伴う主従関係は様々な場所に存在し得るので、これは政治に限らない姿勢です。権威主義や上から目線からの命令にも反対します。

彼女はこれ以上の強い政治的意見があるわけではなく、どちらかと言えば人と人の交流を円滑にすることに興味があり、政治家としてもこれを仕事にしています。すなわち、行政院下の省庁間や、官・民の垣根、人と人の壁を超えて「共通の価値観を見つけ出す」のが彼女の役割です。人々が互いに語り合える場をオンライン上で提供することは、この一環だそうです。

 

台湾政治とソーシャル・イノベーション

台湾の民主主義の先進性を挙げることができるといいます。一つは、民主主義の歴史が浅いことに関係しています。1996年の初の総統選挙の際に、すでにインターネットがありました。それゆえ、台湾では民主主義に決まった形がないという認識があります。そして、2014年のひまわり学生運動でサービス貿易協定を拒否した経験から、台湾の国民は民主主義に自信を持つことができました。憲法に「政治への直接参加の精神」が謳われていることもそれを裏付けています。すなわち、民主主義はテクノロジーにすぎず、常にアップデートしていくものだという認識が根付いています。そしてインターネットは間接民主主義の弱点を克服できるのです。また、李登輝政権時代より、台湾は国際社会へ貢献することを目標として掲げることが共通認識となっています。上記のこれらの価値観は、四大政党で共通しているといいます。

 

台湾政府はオープンガバメントを推進しています。例えば、オードリー・タンは2014年に「vTaiwan」、2016年に「Join」というプラットフォームを構築しました。これはパブリック・オピニオンを募るための仕組みです。同様に、PDIS(パブリック・デジタル・イノベーション・スペース、Public Digital Innovation Space)とPO(Participation Officers、解放政府連絡人)という二つの職務があります。これらは、人々に「傾聴」し、政府と、外交部や財政部などの各部会への橋渡しをすることが期待される役職です。問題を聞くという活動は、物事の核心に迫り、共に新しいものを作って解決方法を模索しようとするものです。PDISとPOの仕組みにより、立法委員に知り合いもいない人や何もツテもない人が問題を解決できるポストにいる人間との接点を作ることができ、また発起人が提唱する考えをより多くの人に知ってもらうことができます。これらの一連の仕組みは、実際に政策に結びついた実績が多数あります。

 

デジタル民主主義の問題点として、「インクルージョン」と「説明責任」を取り上げることができます。デジタル技術について行けない人々を置いていってしまう危険性と、AIの判断に盲従するような危険性です。しかし、「すべての人の意見を一人が代弁し、この人が言うなら仕方がない」という状況が危険を生むことは、デジタル技術の発達以前から変わっていません。こうした問題は昔からあるのです。

インクルージョンは台湾政治ではとても大事にされています。例えば、同性婚について世論が真っ二つに割れたときがありましたが、各世代の持っている価値観のどれも犠牲にしないような形で解決策が示されました。すなわち、個人間には婚姻関係は成立し、家族間には成立しないという形で決着したのです。その後、同性婚への寛容度は統計的に上がっています。結局、そんな大した問題ではないとみんなが気づいたのだといいます。少数のための設計が全員に役立つこともあります。例えば車椅子利用者のための施設を、明日あなたが怪我をして使うことになるかもしれません。街づくりという観点では、軽度の知的障害者に優しい形にすることが大事です。軽度の知的障害者が街に出られず引きこもってしまえば、中度、重度へと症状が悪化してしまいます。街づくりに限らず、進歩する可能性はどこにでもあります。80点を、どこに不足があるか考えるのが重要です。完全ではないからと壊してしまうのは得策ではありません。

説明責任とは、キーワードと、実際に発生した事実をブリッジすることです。これは責任者の仕事です。AIは、実際には人間の補助をするものだというのが正確です(Assistive Intelligence)。オードリー・タンは、寝る前に読み込んだ資料を眠っている間に頭の中で整理し、起きた時に重要なキーワードを無意識に取り出すという技能を持っているそうです。この自身の睡眠中の働きはディープラーニングと似ているところがあるといいます。最終的に夢から出てきたキーワードは、事実関係と結びつけ、他人へ説明する必要があります。AIが出したラベルも同様で、説明責任は人間にあります。

2045年にシンギュラリティーが来るという説もありますが、似たような終末論は過去にもありました。大事なのは、終末が来た時にどうするか考えるのではなく、人類はどの方向へ進みたいのかを考えることです。

 

デジタル・イノベーションにおいては3つの旗を掲げることが重要だといいます。

一つは、繰り返しになりますが「インクルージョン」です。これを達成するため、プログラマーは使用者に寄り添うことを心掛けるべきだといいます。若者の男性に偏っている集団の中だけで開発するのではなく、現場に出て属性の異なる人々の声を聞くことで、良いサービスを生み出せます。その例として、コロナ禍で開発されたマスクの購入アプリがあります。小さな声を拾い上げることで、視覚障害者にも使いやすいデザインにアップデートしました。コロナ後の経済政策として実施された「振興三倍券」は、紙とデジタルの両方で実施されました。一般に、まずはデジタルに疎い人々が使えるようにし、その後、より便利に改良するという順番が大切だといいます。

二つめは「イノベーション」です。これは新しい技術によって既存の社会構造を変化させるという意味だけではありません。私たちの社会が持つ異なる可能性に想像を働かせることを後押ししてくれるのです。

三つめは「持続可能な発展」です。次世代の環境が私たちの技術で破壊されてしまっては意味がありません。

大陸のように、全員を監視カメラで管理する社会も作ることはできます。デジタル技術を取り入れる際に、先に上記のこれらの価値観を根付かせることが大事です。

AIで人の仕事がなくなることはありません。重複度が高い部分については、AIや機械に任せるようになるという話です。人は、AIの発達で、よりクリエイティブになります。

 

教育

オードリー・タンは、振り返ると、父親から「クリティカルシンキング」を、母親から「クリエイティブシンキング」を学んだといいます。

クリティカルシンキングは単に相手を批判することではありません。自分の思考に対して「証拠に基づき論理的かつ偏りなくとらえるとともに、推論過程を意識的に吟味する反省的な思考方法」であり、要するに物事をクリアにとらえるための思考方法です。クリエイティブシンキングは「既存の型や分類にとらわれずに自分の方向性を見つけていく」思考法です。

これらの思考法を基盤として、デジタル社会で求められる3つの素養をあげることができます。

一つは「自発性」です。これは、問題に直面した際に逃げずに解決する努力をすることを指します。

二つめは「相互理解」です。これは、自分と異なる考えを持つ人との接触を恐れないということです。

三つめは「共好」です。これは、双方の価値観を念頭に、共通して受け入れられる価値観を探しながら共同で作業をする相互理解のプロセスです。

 

目下、プログラミング教育が盛んです。しかし、本人が興味のないプログラミング言語を教えることは意味がありません。プログラミング思考は、広く「コンピュータ思考」の一つだと言えます。コンピュータ思考はアート思考やデザイン思考を含みます。プログラミング思考では、問題を小さなステップに分解します。そしてそれぞれを既存のプログラムや機器を用いて解決します。アート思考は、既存の可能性に囚われないようにするために重要になります。アートとは、自分の見た未来のある部分を他人に見せ、これにより未来の可能性を開こうとするものです。

これらのリテラシーは、物事をどのように見るか、大規模で複雑な問題をどう分析するか、という、問題解決の方法の土台なのです。

____________________________

書評など

オードリー・タンの思想は、政治思想の枠組みでは非常にニュートラルであると言えると思います。アナーキストと言うと語弊があることがわかります。

「説明責任」の意味を「責任者が明快な答えを出す」と言い換えている箇所(P.141)は少し勿体無いと思いました。大事なのは説明の中身でしょう。大筋では、漸進的な改良を可謬主義に基づいて行うスタンスを重視しており、非常に共感が持てます。

台湾も中国大陸も、いずれもコロナ対応で成功した例だと言えますが、デジタル技術の使い方は異なります。日本では医療関係者のインフルエンサーの中にも「台湾はGPSで監視しているから上手くいったが日本ではそれはできない」といった誤った事実認識に基づいた意見が見られます。プライバシーとデジタル技術については、台湾の方が進んだ議論をしている可能性を念頭に置くべきだろうと思います。また、一般に、デザイン思考の行政での実践は、その重要性が認知されていながら、なかなか取り組まれるのに壁があるように感じます。台湾はそうした面で先進例のようです。日本が台湾に学べる点は非常にたくさんあるように思えました。

上の要約には入れませんでしたが、原子力技術(台湾では再稼働を求める住民投票が行われるなど、世論が割れています)についてのスタンスや、日本と台湾の関係についても言及がありました。万人へおすすめしたい一冊です。

 

参考

EETimes「台湾の「電子フェンス」:携帯の電波のみで自宅待機者を追跡」 2020年07月03日 https://eetimes.jp/ee/articles/2007/03/news029.html