大量監視と技術的特異点への道:
コートニー・ターナー著:15 分都市、C40 都市、スマートシティ、フリーダムシティ、ネットワーク国家、さらには Civium プロジェクトといった概念は、社会組織に関するさまざまなビジョンを表しています。これらはそれぞれ、国連、WEF、中央銀行、巨大企業などが掲げる、持続可能性、ガバナンス、利便性、生活の質など、現代の課題に対処することを約束しています。しかし、これらの概念が高度な技術、特に人工知能(AI)に依存している点は、大量監視の実現や、AIが人間の知能を超える「技術的特異点」と呼ばれる仮説的な未来への道を加速させる可能性について、重大な疑問を投げかけています。本稿では、これらのコミュニティ居住モデルがこれらの結果にどのように貢献し得るか、その相互関係、そして急速にデジタル化する世界におけるリスクについて考察します。
利害関係の定義:大規模監視と技術的シンギュラリティ&トークン化
大量監視:AI、IoT(モノのインターネット)、生体認証データ、顔認証、データ分析などの技術による、個人に対する広範な監視。多くの場合、セキュリティ、効率、公共の利益のために正当化されますが、プライバシーと自律性を脅かすリスクがあります。
・モノのインターネット(IoT):センサーとソフトウェアが組み込まれた物理的なデバイスのネットワークで、インターネットを介してデータを収集、交換します。
・身体のインターネット(IoB):ウェアラブルデバイスやインプラントなど、人間の身体から生物学的データを監視、収集、共有する接続されたデバイス。
・ナノバイオモノのインターネット(IoNBT):ナノテクノロジーとバイオテクノロジーを統合して、生物システムと相互作用し、データを通信する微細なデバイスを作成すること。
・行動のインターネット(IoB):接続されたデバイスと分析からのデータを使用して、人間の行動を監視、予測、および影響を与えること。
・Internet of Everything (IoE):人、プロセス、データ、モノを結び、インテリジェントな意思決定と相互作用を可能にする包括的なネットワーク。
・Internet of Medical Things (IoMT):患者のケアを改善するために、健康データを収集・送信する、接続された医療機器およびアプリケーション。
・Internet of Industrial Things (IIoT):産業環境における IoT アプリケーション。機械やシステムを接続して、製造や業務を最適化すること。
・スマートシティのインターネット(IoSC):都市のサービス、効率、持続可能性を向上させるための、接続されたデバイスとインフラストラクチャのネットワーク。
・ウェアラブルモノのインターネット(IoWT):フィットネストラッカーやスマートウォッチなど、ユーザーデータを追跡および共有するためのセンサーと接続機能を備えたウェアラブルデバイス。
・ロボットのモノのインターネット(IoRT):IoT 技術と統合されたロボットが、自律的なタスクを実行し、リアルタイムでデータを共有。
技術的特異点:AI が超知能を達成し、人間の能力と融合またはそれを超える可能性があり、予測不可能な社会変革をもたらすポイント。これは、コンピューティング、データ収集、および相互接続システムの飛躍的な進歩によって生じる可能性があります。
この 2 つの現象は相互に関連しています。大量監視によって AI 開発を推進する膨大なデータベースが生成され、AI の成長によりより高度な監視が可能になり、最終的にはコントロールが自律システムに移行する特異点に達する可能性があります。
トークン化経済とは、資産、サービス、または権利がブロックチェーン上のデジタルトークンとして表され、安全で透明性が高く、プログラム可能な取引を可能にするものとして販売される経済システムです。これらのトークンは、通貨や財産からアクセス権や報酬まで、あらゆるものを表すことができ、分割可能であるため、仲介者なしで対等な取引が実現します。
スマートシティやデジタル社会において、トークン化経済は、以下の点で効率と接続性を高めます。
・取引の効率化:トークンは、公共交通機関や公共料金などのサービスに対して、IoTインフラに統合された即時かつ低コストの支払いを可能にします。
・行動のインセンティブ化:トークンは、リサイクルやシェアリングモビリティの利用など、持続可能な行動を報酬として付与し、スマートシティの目標と一致させます。
・トークン化されたガバナンスの実現(多くの場合「分散型」として売り込まれています): 市民はトークンを使用して投票やサービスへのアクセスが可能となり、ランク付け投票、確信投票、二次投票、流動的民主主義など、透明性が高く参加型のデジタル社会が育まれます。
・データ経済の支援:トークンは、個人データやIoT生成データの安全な共有を促進し、AI駆動型の都市計画やサービスを可能にします。
ブロックチェーンの信頼性と自動化を活用することで、トークン化された経済はスマートシティシステム(IoT、IoSCなど)と統合され、相互接続された応答性の高いデジタルエコシステムを構築します。
各地の都市ビジョンが果たす役割
15分都市:地域による管理とデータ収集
必要なサービスが徒歩や自転車で移動できる距離にある「15分都市」モデルは、持続可能性と居住性を重視しています。パリやメルボルンなどの都市では、都市の再設計、自転車専用レーンの整備、公共交通機関の充実などを通じて、このモデルを導入しています。
監視への道:15 分都市では、都市計画を最適化するためにスマートテクノロジーが統合されている場合が多くあります。例えば、AI による交通管理や、移動パターンを追跡するアプリなどです。これらのシステムは、住民の移動、好み、行動に関するデータを収集します。例えば、移動アプリでは、市民が近隣をどのように移動しているかを監視し、詳細な行動プロファイルを作成することができます。
・デジタルツイン:さまざまなシナリオをシミュレーション、分析、テストするための都市の仮想表現。これにより、より優れた都市計画と管理が可能になります。
・公共情報と市民参加:住民が都市のサービスやイベントに関する情報にアクセスし、コミュニティの議論やフィードバックに参加するためのデジタルプラットフォームです。
・E-ガバナンス:行政サービス、許可、情報へのアクセス、行政プロセスの合理化、効率の向上を実現するオンラインプラットフォームです。
・スマートグリッド:高度なエネルギーグリッドである「スマートグリッド」技術は、双方向通信技術、制御システム、およびコンピュータ処理によって実現されています。これらの先進技術には、オペレーターがグリッドの安定性を評価するための高度なセンサーであるフェーザ測定ユニット(PMU)、消費者に情報を提供し、停電を自動的に報告する高度なデジタルメーター、変電所の故障を検知し自動的に回復するリレー、問題発生時に電力を迂回させる自動フィーダースイッチ、余剰エネルギーを蓄積し、顧客の需要に応じてグリッドに供給するバッテリーなどが含まれます。
・スマート照明:リアルタイムの条件や占有状況に応じて明るさを調整できる適応型街路照明システム。
・地域企業向けデジタルインフラ:地域企業が顧客とつながり、在庫を管理し、製品やサービスを宣伝するためのオンラインプラットフォームとツール。
特異点リスク:これらの地域限定システムから収集されたデータは AI モデルにフィードバックされ、その予測能力を強化します。都市がこのモデルを世界規模で拡大するにつれて(例えば、国連人間居住計画(UN-Habitat)の持続可能な都市イニシアチブ、SDGs 都市など)、相互に接続されたデータセットにより、AI が人間の行動を大規模にモデル化する能力が高まり、超知能システムへの足がかりとなるでしょう。
https://unhabitat.org
https://unhabitat.org/programme/sustainable-development-goals-cities
懸念事項:15 分都市は、地域限定的なゾーンで細やかな監視が可能となり、持続可能性を口実とした移動の制限が行われる「野外刑務所」へと変化する可能性があります。このテクノロジーインフラは、それを実現するものです。
C40 都市:グローバル化されたデータ共有
ニューヨークや東京など、100 近くの都市が参加するネットワーク「C40 」は、気候変動対策に関する協力、政策やデータの共有、排出量の削減に取り組んでいます。この取り組みは、15 分都市やスマートシティの目標と重なり、グリーンテクノロジーと都市の効率性を推進しています。
監視への道:C40 都市は、大気質やエネルギーグリッド用のセンサーなど、リアルタイムのデータを生成するスマートテクノロジーを頻繁に採用しています。このデータはネットワーク全体で共有され、都市の指標のグローバルなリポジトリが構築されます。AI はこれらのデータベースを分析して都市システムを最適化しますが、同じインフラを使用して、特にデジタル ID や気候に焦点を当てたアプリとリンクすれば、都市間で個人を追跡することも可能になります。
特異点リスク:C40 のデータ共有は世界規模で行われているため、AI の学習能力が高まります。都市間のデータベースにより、AI は都市システムを総合的にモデル化し、汎用知能を進化させることができます。C40 が国連イニシアチブ( AI for Good など)と統合されれば、AI の開発がグローバルガバナンスの下で一元化され、特異点が早まる可能性があります。
・懸念事項:C40 のフレームワークは中央集権的であるため、AI が気候変動対策の順守を監視し、反対意見を抑制する「世界統一」監視システムになることが懸念されています。
彼らは、C40都市に秘密裏に電子直接エネルギー兵器を隠しています : メモ・独り言のblog
スマートシティ:監視のバックボーン
シンガポールやドバイなどのスマートシティは、AI、IoT、ビッグデータを利用して、交通、エネルギー、廃棄物、ガバナンスなどの都市システムを最適化しています。これらは、テクノロジー主導の都市化の象徴と言えます。
監視への道:スマートシティは、その設計上、監視システムです。シンガポールの「スマートネーション」イニシアチブでは、顔認証、センサー、予測型警察活動を用いて、生活のほぼあらゆる側面に関するデータを収集しています。トロントの Sidewalk Labs プロジェクト(一部中止)では、普及型センサーの導入が提案され、プライバシーの侵害に対する反発が巻き起こりました。これにより、AI が行動を監視・予測するパノプティコンが構築されます。
特異点リスク:スマートシティは AI の訓練場です。交通パターン、エネルギー使用量、社会的相互作用など、膨大なリアルタイムのデータベースが機械学習を後押しし、AI を汎用知能へと押し上げています。ドバイなどの都市がこれらのシステムを拡大するにつれて、AI が自らを最適化するフィードバックループが生まれます。
懸念事項:プライバシーの侵害が大きな問題です。スマートシティは、AI によって全体主義的な統制が実現する、ディストピア的な SF のシナリオを彷彿とさせます。そのリスクは、監視だけにとどまらず、AI システムが不透明になり、政府でさえも監視できなくなることです。
フリーダムシティ:両刃の剣
ドナルド・トランプ大統領やリバタリアン団体などが提唱するフリーダムシティは、個人の自由と規制の最小化を優先すると謳って、シリコンバレーのテックブロガーたちによって売り出されています。
.
トランプが「フリーダム・シティ」を推し進める : メモ・独り言のblog
• 監視への道:その名称にもかかわらず、民間企業が支配するフリーダムシティでは、依然として監視が可能になる可能性があります。強力な規制がなければ、テクノロジー企業は、ホンジュラスでの Prospera のようなリバタリアン傾向の強いプロジェクトで見られるように、利益のために AI システムを無制限に導入する可能性があります。ホンジュラスでは、民間によるガバナンスによってデータが悪用されるリスクがあります。
• 特異点リスク:最小限の監督でイノベーションを促進するフリーダムシティは、規制のない「サンドボックス」で AI の開発を加速させる可能性があります。これは、画期的な発見、あるいは無謀な実験につながり、従来のガバナンスの枠を超えたシンギュラリティの到来を早める可能性があります。
懸念事項:監視対策として宣伝されているフリーダムシティは、ある形態の統制(政府)を別の形態(企業)に置き換える、いわゆる「GovCorp」となる可能性があります。GovCorp は、民間企業が事業を展開しづらい分野において、公共サービスを提供するために政府によって設立された事業体です。
ネットワーク国家:デジタルファーストの監視
バラジ・スリニヴァサンが構想するネットワーク国家(Network states)は、オンラインコミュニティとして始まり、ブロックチェーンと AI を活用して統治と調整を行う物理的または半物理的な実体へと進化します(例:CabinDAO, Zuzalu)。
• 監視への道:分散型の理念にもかかわらず、ネットワーク国家はデジタルプラットフォームに依存しており、これらは監視の手段となる可能性があります。ブロックチェーンベースのIDやAI駆動型のガバナンス(例:スマートコントラクト)は、メンバーの活動を追跡します。これらのシステムが侵害されると、機密データが漏洩する可能性があります。分散型システムであっても、ハッキングや内部者による悪用から免れるわけではありません。
• 特異点リスク:ネットワーク国家のテクノロジー先進的なアプローチ(意思決定や資源配分への AI の活用)は、自律システムの縮図を生み出す可能性があります。こうした「国家」が拡大するにつれて、その AI が統合され、特異点に近づく分散型インテリジェンスネットワークが形成される可能性があります。
• 懸念事項:ネットワーク国家の理想主義は、テクノロジーの二重の性質を見落としています。デジタルコミュニティは、慎重に設計されなければ、特に AI が人間の監視能力を上回った場合、監視の罠となる可能性があります。
Civium:推測的ですが関連性があります
Civiumは、あまり知られていない概念ですが、技術統合を伴う分散型市民主導の都市計画を意味する可能性があります。Civiumプロジェクトは、都市を中心に据えた現在の文明モデルに代わる「人間規模」の代替案を創造することを目的とした多面的なイニシアチブです。
• 監視への道:Civium が AI やブロックチェーンを使用する場合、ピーター・ティール氏の Prospera と Start Up Cities Foundation でのプレゼンテーションで、ジョーダン・ホール氏が支持者として説明したように、ネットワーク国家と同様のリスク(データ漏洩、悪用、意図しない中央集権化)に直面します。明確なガバナンスが確立されていない場合、別の名目のもとでスマートシティの監視が再現されるおそれがあります。
• 特異点リスク:技術主導の実験として、CiviumはAIの進化に寄与する可能性があります。その推測的な性質は、不確定要素となっています。
• 懸念事項:透明性の欠如が懐疑論を招いています。Civiumが既存のモデルのブランド変更である場合、その監視リスクと特異点リスクを継承することになります。
相互接続:監視と特異点の結びつき
これらの都市ビジョンはテクノロジーに集約され、フィードバックループを形成しています:
燃料としてのデータ:15 分、C40、スマートシティは膨大なデータベースを生成し、ネットワーク国家と Civium はデジタルファーストのデータを追加します。フリーダムシティは、民間テクノロジーを通じて間接的に貢献する可能性があります。
実現者としての AI:AI はこれらのデータベースを処理し、都市を最適化し、自律的に学習します。スマートシティとネットワーク国家は、AI の能力を明確に推進しています。
グローバルな拡大:C40 や国連(SDGs、AI for Good など)のイニシアチブは、都市を結びつけ、相互に接続された AI システムを構築しています。ネットワーク国家のような分散型モデルでさえも連合を形成し、AI の到達範囲を拡大する可能性があります。この点は、ワールドブレインへの導管としての分散型情報機関という H.G. ウェルズのモデルと共通しています。
シンギュラリティのトリガー:AIが都市全体に統合され、予測、最適化、統治を行うようになると、自己改善型知能を達成し、人間の制御を凌駕する可能性があります。
AIWS と国連 100 周年イニシアチブ:
・AIWS:BGF が開発した、グローバルな AI ガバナンスのモデルです。不平等削減や教育の向上など、国連の SDGs を推進する「AI for Good」を推進するとともに、デジタル社会のための新しい民主主義モデルを育成します。
・国連100周年イニシアチブ:国連の100周年を記念して、グローバルガバナンスの再構築を目的として立ち上げられ、AIWS を統合して、最先端のテクノロジーに対応し、グローバルな啓蒙と AI を活用した未来に向けた「世界の再構築」を目指しています。AI の倫理とガバナンスに関する基準を設定するための「AI とデジタル社会における基本的権利に関するグローバルフォーラム」などのフォーラムも開催されています。
大量監視への道における役割
AIWS モデルは、意図せずに大量監視に貢献する可能性があるグローバルな枠組みの中で運用されています。
⦿データ駆動型ガバナンス:
・AIWS は、スマートシティの都市計画や、身体のインターネット(IoB)による健康モニタリングなど、SDGs を支援するために、AI システムによって膨大なデータベースを収集・分析することを提唱しています。これは、IoT と AI によってサービスを最適化できますが、膨大なデータ収集が必要な、トランプ大統領の「フリーダムシティ」のようなスマートシティの取り組みと一致しています。
・中央集権的なAIシステム(公共安全や資源配分など)は、中国の社会信用システムで見られるように、大規模監視を可能にする可能性があります。その社会では「社会的価値報酬システム」が議論されています。国連のグローバルAI基準の推進は、個人プライバシーよりも効率を優先するデータ共有プロトコルを正常化させる可能性があります。
・例えば、デジタル社会におけるトークン化された経済では、ガバナンストークンが投票(例:二次投票)や行動(例:持続可能性への報酬)を追跡し、詳細な市民プロファイルを作成する可能性があります。これらのプロファイルは、政府や企業による悪用リスクにさらされる可能性があります。
⦿グローバルな AI 基準と中央集権化:
・国連の人工知能に関するハイレベル諮問機関(2020 年に設立提案)および AIWS は、AI 規制のグローバルな調和を目指しています。これにより、特に強力な国やテクノロジー企業が枠組みを支配する場合、「倫理的な AI」を名目とした監視ツールの標準化が進む可能性があります。
・スマートシティでは、ブロックチェーンベースの投票システム(例:リキッド・デモクラシーやコンヴィクション・ヴォーティング)がAIWSの原則と統合され、投票の安全性を確保しつつ、投票者の好みをリアルタイムで追跡する可能性があります。データが匿名化されていない場合、監視リスクが高まる可能性があります。
⦿テクノロジー企業との提携:
・BGF のテクノロジーリーダーとの協力、および国連と民間セクターとの連携により、企業の利益が優先される可能性があります。AIWS がイノベーションに重点を置いていることから、一部の IoT 主導の都市プロジェクトで見られるように、監視機能を組み込んだ独自の AI システム(シリコンバレーや大手銀行、企業など)が統合される可能性があります。
・例えば、規制緩和を受けたテクノロジー起業家によって支援されているトランプ大統領の「フリーダムシティ」は、AIWS に着想を得たガバナンスモデルを採用する一方で、プライバシー規制を回避し、モノのインターネット(IoE)ネットワークを介してデータ収集を可能にするかもしれません。
技術的特異点への道における役割
AI が人間の知能を超える「技術的特異点」は、存在の危機と機会をもたらします。AIWS は、この道筋において次のような役割を果たします:
⦿AI 機能の向上:
・AIWS は、教育や医療など、社会的な利益をもたらす AI 研究を推進しており、汎用 AI の開発を加速させる可能性があります。これは、SDGs の 80% に AI を活用するという国連の目標と一致しており、人工汎用知能(AGI)の実現を早める可能性があります。
・AI駆動型インフラ(例:自動運転車やロボットのインターネット(IoRT))は、高度なAIのテストベッドとして機能し、倫理的制約がなければシンギュラリティへの道を加速させる可能性があります。
⦿過度の楽観主義のリスク:
・国連とBGFのAIの潜在能力に対する楽観的な見方は、シンギュラリティのリスクを過小評価する可能性があります。AIWSの「新しい民主主義」モデルへの焦点は、AIに過度に依存したガバナンス(例:スマートシティにおける予測分析)を招き、AIシステムが超知能に近づいた場合、脆弱性を生み出す可能性があります。
・トークン化された経済は、参加を促進する一方で、AI駆動型の意思決定(例:行動に基づくトークンの配分)を統合し、AIの社会的支配を強化し、人間の意思決定が希薄化するシンギュラリティシナリオに近づく可能性があります。
⦿デジタル社会とトークン化された経済:
・AIWS の「新しい民主主義」のビジョンは、市民がブロックチェーンプラットフォームを通じて参加するデジタル社会と一致しています。
・行動のインターネット(IoB)は、トークン化されたインセンティブと行動のモニタリングを結びつける可能性があり、AIWS の倫理ガイドラインが実施されない場合、監視のリスクが生じます。
重要な視点
・監視のリスク:AIWS のデータ駆動型アプローチは、特に IoT と AI が融合するスマートシティにおいて、監視資本主義という世界的な傾向と一致しています。国連の集中型フレームワークは、侵襲的なツールを合法化する可能性があります。国連が支援するスマートシティの基準や気候モニタリング(C40 と連携)は、特に権威主義的な政権において、AI による監視を常態化する可能性があります。SDG に盛り込むことが提案されているデジタル ID は、世界規模での市民追跡のリスクがあります。
・特異点に関する懸念:AIのイノベーションを促進することで、国連は技術革新を加速させる可能性があります。そのグローバルな影響力はAIガバナンスの集中化を招き、責任の所在が不明確なシステムへの懸念が高まる可能性があります。
・権力力学:BGF やテクノロジーエリートとの提携は、欧米や企業の利益優先の政策を助長し、AI ガバナンスにおけるグローバル・サウスの視点を疎外するリスクがあり、監視や特異点の不平等がさらに深刻化するおそれがあります。
・保護手段としての投票システム:ブロックチェーンベースの投票システム(二次投票や流動的民主主義など)は、市民が監視や無謀な AI 開発に抵抗する力を与える可能性がありますが、その有効性は、分散型の実施と国民の識字能力に依存します。
国連の人工知能世界システム(AIWS)モデルは、国連100周年イニシアチブの一環としてBGFと提携し、デジタル社会におけるAIガバナンスの活用を目指し、スマートシティのビジョンと一致しています。しかし、そのデータ集約型のアプローチとグローバル標準化努力は、特にIoT駆動型都市システムにおいてプライバシーが優先されない場合、大規模監視を可能にする可能性があります。技術的特異点への道程において、AIWSのガバナンス枠組みと企業連携は、無制限なAI開発を加速させるリスクがあります。
リスクと倫理的ジレンマ
プライバシーの喪失:スマートシティと C40 のデータ共有は、匿名性を損ないます。ネットワーク国家のような分散型モデルでさえ、データ漏洩のリスクがあります。
自律性の喪失:AI の予測能力(スマートシティなど)は、行動に影響を与え、自由意志を損なう可能性があります。特異点に達すると、人間は意思決定から排除される可能性があります。
不平等:テクノロジー主導の都市はエリート層を優遇し、社会から疎外された人々は監視下に置かれ、恩恵を受けられないままになる可能性があります。
意図しない結果:フリーダムシティやネットワーク国家のような AI の急速な普及は、安全対策が整備される前に特異点(シンギュラリティ)を引き起こす可能性があります。
結 論
15 分都市、C40 都市、スマートシティ、フリーダムシティ、ネットワーク国家、Civium プロジェクト、国連 AIWS などの構想は、社会を再構築したいという人類の野心を反映しています。しかし、AI やデータへの依存は、大量監視や技術的特異点への滑り込みのリスクを伴います。
スマートシティは、広範なモニタリングと AI 最適化によってその先頭に立っており、C40 都市や 15 分都市は、グローバルなデータネットワークを追加しています。フリーダムシティやネットワーク国家は、中央集権的な統制に抵抗する姿勢を掲げていますが、規制のない AI の成長に拍車をかけて、分散型ノードによる統制網の構築につながる可能性があります。国連の都市および AI に関する取り組みは、こうした傾向を増幅させ、倫理的な問題を一層深刻化させる可能性があります。
未来は選択にかかっています:プライバシー、公平性、監督を優先するか、監視が普遍化しAIが人類を凌駕する世界をリスクにさらすか。これらのコミュニティ設計モデルの軌道を理解することで、自由やコントロールを犠牲にすることなくイノベーションへと導くことができるでしょう。