Appleの共同創設者やケン・プリンス・ハリーでさえも、AGI（汎用人工知能）禁止の書簡に署名しています。リスクを理解し、Metaがなぜ警告を無視しているのかを解説します。
微信分享
打开微信，扫描下方二维码。
かつて存在したよりも優れた頭脳を想像してください。今度は、それが何百万倍も賢く、限界なく自ら学習し続けるものを想像してください。これが約束であり、脅威でもあります。超知能人工知能（スーパーインテリジェンス）の技術は、私たちを救うと見る者と、最終的な過ちになると恐れる者とに世界を二分しています。この緊張は沸騰点に達しています。
緊急停止のための全球警告
前例のない動きが勢いを増しています。何百人もの科学者、技術リーダー、有名人が、直接的かつ緊急の要請を盛り込んだオープンレターに署名しました：スーパーインテリジェンスAI、または汎用人工知能（AGI）の開発を禁止してください。Future of Life Instituteが組織したこの文書には、すでに850人以上の著名人の署名があります。
署名者には、現在のデジタル世界を築いた人物も名を連ねています。何度も「AIのパトロン」と呼ばれ、ノーベル賞受賞者のジェフリー・ヒントンもリストに入っています。彼の隣には、Appleの共同創設者スティーブ・ウォズニアックもいます。この懸念は、シリコンバレーを超え、プリンス・ハリーやメーガン・マークルのような人物の支持も得ています。
訴えの核心は明白です：安全性に関して科学的合意と、制御方法に関する国際的合意が得られるまで、AGIの開発を全面的に禁止することです。主な恐れは、現行のチェスや画像生成AIのようなものではなく、AGIが自己学習と高度な推論能力を持つ自律的な存在になることです。一度起動されれば、制御を超えて急速に進化し、破局的な結果を招く可能性があります。
Metaのパラドックス：解雇して加速させる？
専門家の警告が続く中、巨大テック企業はアクセルを踏んだF1レースのように見えます。Mark Zuckerberg率いるMetaは、市場を混乱させる動きを見せました。最近、最先端部門の「Super Intelligence Labs」の約600人の従業員を解雇しました。これは、スーパーインテリジェンスの創造に直結する部署です。
内部の声明では、部門長は「規模を縮小した小規模なチームにすることで、意思決定を迅速化できる」と述べています。これは、メルセデスがいかにして1,000馬力をわずか12.7kgで実現したかに触発された考えです。
しかし、この行動は矛盾しています。規模を縮小しながら、Metaは新たなAI研究所で大量採用も進めています。内部情報によると、ザッカーバーグ自身も会社の進展に苛立ちを感じており、スーパーインテリジェンスの創造を最優先としています。このシナリオは、未知への恐怖と次なる技術のフロンティアを追い求める貪欲さとの葛藤を浮き彫りにしています。
重要な違い：汎用人工知能（AGI）とは何か？
リスクの大きさを理解するには、今日使われているAIと禁止しようとしているAGIの区別が必要です。
- 現在のAI（限定型）： 超専門的なツールです。ChatGPTはテキストには優れていますが、車を運転できません。Wazeはルート案内には最適ですが、音楽は作りません。能力は特定分野に限定されています。
- 汎用人工知能（AGI）： 人間の知性を持つ普遍的な頭脳のようなものです。単にタスクをこなすだけでなく、あらゆる人間の知的能力を学習し、しかも非常に速く学び、自ら戦略を立て、新技術を創り出し、指数関数的に自己改善することができると想定されています。
この指数関数的な処理能力の向上こそが恐怖の源です。たとえば、Googleの「量子エンジン」が未来の車に及ぼす影響と比べて、巨大な跳躍となるでしょう。AGIの自律性、つまり監督なしに行動できる能力が、議論の中心です。これは、現代車の航続距離の不安を終わらせるかと共鳴しています。この新しいデジタル「種族」が、たとえばトヨタが隠していた324馬力のRAV4 GRスポーツ（2026年モデル）のような処理能力を持つ場合、私たちの価値観や目的を共有しないことも懸念されています。禁止を望む人もいれば、AGIを次の大革命とみなす人もいます。それは、電気自動車時代の終わりにチェリーが48の効率を維持するような破壊的進化です。
人類は歴史的な岐路に立っています。一方には、私たちの時代の最大の頭脳たちが支持する予防原則があります。もう一方には、未来を形成する企業の冷徹な野望があります。私たちは人類史上最大の創造か、最後の失敗かの瀬戸際にいます。すでにレースは始まっており、時間は刻々と過ぎています。
微信分享
打开微信，扫描下方二维码。
Author: Fabio Isidoro
Canal Carroの創設者兼編集長である彼は、自動車の世界を深く情熱的に探求することに専心しています。自動車とテクノロジーの愛好家として、質の高い情報と批評的な視点を融合させ、国内外の自動車に関する技術コンテンツや詳細な分析を執筆しています。
