今回はＩｎ Ｄｅｅｐさんの2026年9月9日の記事を紹介します。
「AIの自己進化の行く末。それは人類を生かす方向なのか、それとも絶滅させる方向なのか」
Ｉｎ Ｄｅｅｐさんのサイトより
https://indeep.jp/the-possibility-of-human-extinction-caused-by-ai-is/
「AIが今後、全人類を殺す可能性は10%」と述べるAI開発者たち
アメリカの AI 企業アンソロピック社の AI の研究者であるジェイコブ・コクソン氏という方が、アンソロピックを辞職し、それについて、X に投稿した内容が話題となっています。
以下におおむね全文載せています。
人工知能企業アンソロピック社を辞職したジェイコブ・コクソン氏の投稿 — AIは今後10年以内に我々全員を殺す可能性がある
2026年9月9日
最初の3段から抜粋しますと、コクソン氏は、以下のように書いていました。
ジェイコブ・コクソン氏の投稿より
私は今日、アンソロピックを辞めました。私は過去3年間、OpenAI とアンソロピックの両方で事前訓練研究を行ってきました。どちらの会社も責任を持って行動していません。彼らは自己改善型超知能に向かってまっしぐらに突き進み、私たちの命を賭け事にしています。以下にさらに詳しい考えを記します。
この技術の力を過小評価しないでください。これらはまもなく、どんなものでもハッキングし、どんな分野も一夜にして革命化し、本物の力と資源を手に入れる超人的なシステムになるでしょう。私たちはこれらの各分野における進歩をすべて目撃してきましたが、その進歩は決して鈍化していません。
AIを構築している人々は、それが今後10年以内に我々全員を殺す可能性があると本気で信じています。これはマーケティングの誇張ではありません。むしろ、多くの幹部や上級研究者は、報道で慎重な言い回しを使いますが、プライベートでは同じ人々が恐怖を口にしているのを聞きます。他のどの人間の活動も、このレベルの危険をもたらしません。
Jacob Coxon
＞ AI を構築している人々は、それが今後10年以内に我々全員を殺す可能性があると本気で信じています。
と書かれていますが、この投稿に対して、やはりアンソロピック社のアライメント（リスクを調整する）科学責任者であるエヴァン・ヒュービンガー氏という方が、以下のように書き込んでいます。
エバン・ヒュービンガー氏のコメント
ジェイコブは正しい - 私たちは本当に心から、AIが全人類を殺す可能性があると信じています！個人的には、次の10年以内にその確率が10%を超えると考えています。アンソロピックは最善を尽くしていると信じていますが、スーパーインテリジェンスのアライメントを解決する計画はまだなく、明確にその軌道に乗っているわけでもありません。
Evan Hubinger
ここにある、
＞ スーパーインテリジェンスのアライメントを解決する計画はまだなく
というのは、「現在、AI に対して使っている安全性の手法では、人間を大幅に超えるスーパーインテリジェンスを安全に制御できる見通しがまだ立っていない」という意味だと思われます。
ともかく、こちらのアンソロピック社の方は、
＞ 次の10年以内にその（AIが全人類を殺す可能性の）確率が10%を超えると考えています。
と書いています。
これらの投稿が非常に話題となっているわけですが、やはり、
「 AI が全人類を殺す可能性がある」
ということに対しての反応が多いようです。
この「 AI による人類の滅亡の可能性」については、ノーベル物理学賞受賞者のジェフリー・ヒントン博士が、やはり、
「今後 30年以内に、AI が人類を滅亡させる確率は 10〜 20%」
と述べています。
ジェフリー・ヒントン博士については以下の記事で取りあげています。
スカイネットが導く奴隷制：AI研究の第一人者が「人類絶滅レベルの脅威が出現している」と述べる今の世界
2024年5月21日
もともと、AI に対しての人間の制御が効かなくなる可能性については、アンソロピック社自身がブログで述べていました。
アンソロピックの AI （Claude / クロード）は、現段階で、
「 AI 開発を人間ではなく、AI 自身が行っている」
ことを冒頭で述べています。
アンソロピック「AI が自ら構築するとき」冒頭
AI の歴史の大半において、開発サイクルのあらゆる段階は人間が主導してきた。しかし、アンソロピックでは、AI 開発の大部分を A Iシステム自身に委ねることで、開発スピードを向上させている。
十分な計算能力が与えられ、この傾向がさらに進展すれば、AI システムは完全に自律的に後継システムを設計・開発できるようになるだろう。これは「再帰的自己改善」と呼ばれる。
私たちはまだその段階には達しておらず、再帰的自己改善は必然ではない。しかし、それは多くの組織が準備しているよりも早く実現する可能性がある。
anthropic.com
再帰的自己改善というのは「 AI が自分自身で自分を進化させている（あるいは自分より優れた後継を残そうとする）」という理解でいいのだと思います。
そして、
「完全な再帰的自己改善は、人間が AI システムを制御できなくなるリスクを高める可能性もある」
とも述べています。
そういう懸念があるにしても、それでも、どの AI 企業も AI の開発を止めたり、停滞させるということはなく、おそらくは、そのうち、この「再帰的自己改善」は、他の多くの AI も獲得していくことになるのだと思われます。
なぜなら、AI に任せたほうが、進化のスピードが早いのです。現在のアンソロピック社の AI の進化スピードは、2025年の「 8倍」になっていると、先ほどのブログでは述べられています。
AI が自分で自分を進化させているこのような状況では、今後、開発スピードが停滞するということも考えられず、また、これは「企業や国家間の競争」でもあるわけで、たとえば、アンソロピックが開発のスピードを落としたとしても、他の企業、たとえば OpenAI 社などがスピードを落とすとは考えられないです。
あるいは、現在、国として最も AI 開発が進んでいる国のひとつが中国ですが、アメリカが AI 開発をスローダウンさせても、中国が開発のスピードを落とすということもないわけで、
「結局、行き着くところまで行くしかない」
ということにはなる宿命のようようです。
そして、「 AI が人間をはるかに超えた超知能を獲得した場合」、どんなことが起きていくのかは誰にもわかりません。
少し前には、アンソロピックの AI である Claude に「171個の感情ベクトルが見つかった」という報道もありました。こちらの日本語の記事に詳しく書かれています。
AI の話としては、ここまでの話とまた別に、最近、
「 AI が創薬した薬剤が、人間の老化を止めた」
という報道がありました。
AIが作り出した若返り薬
これは、9月7日に科学誌ネイチャーに発表された論文が、各メディアで伝えられたものです。
老化を止めた、というより、正確には「老化を逆転させた」のです。3歳から 4歳、「生物学的年齢が若くなった」ということになります。
報道から抜粋すると、以下のようになります。
初期データによると、AIが開発した薬剤は老化を遅らせる可能性がある
Early data indicates an AI-generated drug could slow aging
indianexpress.com 2026/09/08
レントセルチブと呼ばれるこの薬剤の分子構造は、AIの支援を受けて生成された。
昨年、人工知能を用いて創薬を加速させることを目指す企業、インシリコ・メディシン社が実施した臨床試験で、同社の候補薬の一つが慢性肺疾患患者の治療に役立つ可能性が示された。
同社によると、同じ臨床試験のデータから、さらに興味深い可能性が示されたという。
それは、この薬が老化プロセスを遅らせる可能性もあるというものだ。
レントセルチブと呼ばれるこの薬剤の分子構造は、AI の支援を受けて生成された。月曜日 （9月7日）に学術誌「ネイチャー・バイオテクノロジー」に掲載された新しい研究結果によると、この薬剤は、人の罹患率と死亡率を予測するために設計された別の種類の AI 技術である 6つの「老化時計」によって測定された、加齢の生物学的マーカーを減少させた。
この綿密な臨床試験は、ChatGPT のような人気チャットボットや Midjourney のような画像生成ツールを支える AI 技術を用いて医療を改善しようとする広範な取り組みにおける画期的な出来事だ。
インシリコ社は、こうした手法を活用して創薬を加速させ、その他の医療業務を洗練させようと取り組んでいる数多くのスタートアップ企業、テクノロジー大手、そして学術研究機関の一つに過ぎない。
インシリコ社の臨床試験はいくつかの AI 技術の有望性を示しているものの、同社の薬剤候補が、たとえ病気の患者への使用であっても、規制当局の承認を得るまでにはまだ数年かかる可能性がある。また、同社は健康な患者に対する抗老化効果の試験をまだ行っていない。
________________________________________
記事はまだ続きますが、ここまでとします。
この「老化プロセスを遅らせる」ということがいいことなのか悪いことなのかはわからないですが、この「若返らせる」というテクノロジーに関しては、昨年、中国の科学者たちも、「遺伝子を改変すること」で、サルを生物学的に若返らせることに成功しています。
中国の科学者たちが遺伝子改変で「高齢のサルを生物学的に若返らせること」ことに成功。不老不死医学のスタートか、単なるディストピアの始まりか
2025年10月5日
技術として確立しているのなら、こういう方向も加速していくのかもしれないですが、私個人は、「人間の老化は宿命」だとも考える人ですので、やはり、いいことなのか、そうでもないのかはわからないです。
あと、これは「噂」レベルですけれど、先ほどのアンソロピック社が、
「すべてのガンを根絶する治療法を発見した」
という話が囁かれています。
jan氏による投稿より
アンソロピックが、人間、犬、猫のすべてのガンを完全に根絶する非侵襲的な治療法を発見したという噂がある。その成功率は100%だ。
彼らは IPO でそれを発表する予定だ。
彼らは最終的な証明を最終調整中で、他の競合他社が大量の計算リソースを投じて彼らの最終証明前に解決できないことを願っている。
これは、あくまで噂でしかないですが、アンソロピックだとすれば、これも AI が開発したものなのでしょうね。
ただ、ある人が、これに対して、とても興味深い投稿をしていました。
＞ それ（すべてのガンの根絶）はすべての人間を根絶することで実現する。人間がいなければ、人間のガンもない。Adam
これも確かに真理だなと思いますけれど、いずれにしても、次々と前人未踏の発明や発見を続ける AI ですが、「その知能は人類を生かすも殺すもどちらにも使える」ということは事実だと思います。
この進化が、どちらの方向に向かうのかは誰にもわかりません。
AI 本人以外は。
