現在のAIは、自分が学習していない未知のデータに遭遇すると、間違った答えを出してしまう致命的な弱点がある。
アメリカのミシガン州立大学の研究チームは、生命の痕跡を探すAIが想定外の物質や自然のノイズを見ただけで、地球外生命体だと100%の確率で誤認してしまうことを実験で証明した。
人間の確認なしにAIだけに判断させる危険性を物語っている。
この研究成果はカナダで開催される『2026 Conference on Artificial Life［https://2026.alife.org/］』（2026年8月）で発表される予定だ。
宇宙探査で期待されるAIによる生命痕跡の特定
人類はこれまで、謎めいた電波信号や光の点滅、未確認飛行物体などを探し続けてきたが、生命の痕跡と正確に判断できる段階には至ってない。
現在、NASAをはじめとする世界各国の宇宙研究機関は、探査機や宇宙望遠鏡などを使って、過去や現在の地球外生命の痕跡を探している。
そこで、宇宙ミッションで集められた複雑で膨大なデータを精査し、バイオシグネチャー（生命が存在したことを示す科学的な痕跡）を特定するためにAIの活用が提唱されている。
目的地に到着した探査機に搭載されたAIセンサーが、サンプルの特徴をその場で分析して生命由来のものかどうかを判断する計画が進められているのだ。
デジタル生物を用いたAIの学習と分類テスト
アメリカのミシガン州立大学のクリストフ・アダミ教授とアンキット・グプタ氏の研究チームは、AIのバイオシグネチャー検出能力を評価する実験を行った。
生命が存在する普遍的な指標の一つに、DNAのように情報を暗号化して自己複製する機能がある。
研究チームは、アヴィダ（Avida）と呼ばれるデジタル生命体の進化プロセスをシミュレーションするコンピュータープログラムを利用した。
アヴィダの仮想空間（仮想のペトリ皿）では、コンピューターコードで構成されたデジタル生命が自己複製を繰り返す。
実際の生物の遺伝子が繁殖時に突然変異を起こすように、デジタル生命のコピー過程にも不完全な変化が生じる。
研究チームは、自己複製機能を持つデジタル生命と持たないデジタル生命を数万個生成し、ニューラルネットワーク（人間の脳の神経回路を模したAIの学習モデル）に学習させた。
学習を終えた直後のAIは、自己複製能力の有無という2つの生命のタイプを99.97％という極めて高い精度で分類することに成功した。
未知のデータに直面したAIはすべてを生命と誤認する
研究チームは次に、AIの認識能力を測るため、AIがこれまで学習したことのない「未知のデータ」を提示するテストを行った。
まず学習データとして「自己複製能力を持たず、生命の痕跡ではない」とAIが正しく判定できるプログラミングコードを用意した。
研究チームは、このプログラミングコードに対して、本来の命令動作を維持しつつも、AIのパターン認識を惑わせるような微細な書き換えを150回ほど繰り返した。
この操作により、AIの学習データには存在しなかった「生命の痕跡があるように見える新しい配列」へとプログラムが作り替えられた。
結果としてAIの認識能力は限界を迎え、この改変されたプログラムコードを「自己複製能力がある生命の痕跡だ」と誤って特定し始めた。
どのようなプログラミングコードを元に実験を始めても、AIを100%の確率で非生命を生命の痕跡と判断した。
AIは未知のパターンに直面すると、生命の兆候が存在しないプログラムコードを生命の痕跡だと完全に誤認してしまうという脆弱性を持っていたのだ。
宇宙空間にはAIの認識を狂わせる未知の配列が無数に存在するため、AIが将来の探査データから偽陽性（誤検出）を引き起こす確率は非常に高い。
研究チームは次に、AIがこれまで学習していない未知のデータでテストを行った。
まず、AIが「自己複製能力を持たず、生命の痕跡ではない」と正しく判定したプログラムのコードに、AIのパターン認識を惑わせるような微細な書き換えを、150回繰り返すという操作を行った。
するとAIのパターン認識能力は限界を迎え、変更されたプログラムを「自己複製能力がある生命の痕跡だ」と誤って特定し始めた。
始めても、AIを100%の確率で「生命の痕跡」だと誤認した。
AIは未知のパターンに直面し、生命の兆候が存在しないプログラムを生命の痕跡だと完全に誤認してしまうという脆弱性を持っていたのだ。
宇宙空間にはAIの認識を狂わせる未知のパターンが無数に存在するため、AIが将来の探査データから偽陽性（誤検出）を引き起こす確率は非常に高い。
日常生活にも潜むAIの脆弱性と人間の介入の必要性
AIの脆弱性は、宇宙探査だけでなく、地球上の日常生活で稼働する医療用スキャナーや防犯カメラの顔認識ソフトウェアや自動運転車などにも影響を及ぼす。
AIの判断を過信することは、人間の既存の生活や命を脅かす危険性を含んでいる。
研究チームは、科学分野におけるAIの活用自体を否定しているわけではない。
火星の探査車に搭載されたAIが、地球にサンプルを持ち帰る前にその場で分析を行うような状況では、AIが誤作動を起こす重大なリスクがある。
科学的発見のいかなる分野においても、AIの作業結果を人間が独立してチェックする仕組みが不可欠なのだと、警鐘を鳴らしている。
