最新研究：AIのメモリ内「スペルミス」がハッキングの原因となる可能性
2025年8月、画期的な研究によって、人工知能（AI）システムがメモリ内の微小なエラー（「スペルミス」と表現されるビット反転）によってハッキングされる脆弱性が明らかになりました。この「OneFLIP」と呼ばれる攻撃手法は、従来のRowhammer技術を発展させたもので、AIモデルの重み付けや決定プロセスを改ざん可能にします。特に金融分野のAIシステムにおいて、99%の精度で攻撃が成功したという驚くべき実験結果も報告されています。
AIシステムの「メモリスペルミス」とは？
最新の研究で明らかになった「OneFLIP」攻撃は、DRAMメモリチップの物理的弱点を突くものです。通常0か1で表されるビットデータが、隣接メモリセルへの高速アクセスによって意図的に反転（0→1、1→0）させられます。AIシステムの場合、この微小な変化がニューラルネットワークの重み付けを微妙に変化させ、全く異なる出力を導くことが判明しました。例えば、金融取引の承認システムであれば、0.1%の重み変化で取引判断が逆転するケースも確認されています。
Rowhammer技術との関係性
OneFLIPは従来のRowhammer攻撃技術を高度化したものです。Rowhammerは特定のメモリセルへの高速アクセスで隣接ビットを反転させる手法でしたが、AIシステム向けに最適化されたOneFLIPは、99%の成功率で標的のビット反転を達成します。特に危険なのは、この攻撃がAIモデルのトレーニング後にも実行可能な点で、金融市場予測や信用スコアリングシステムなどへの影響が懸念されています。
防御策と今後の課題
現在、主要な対策としてECC（誤り訂正符号）メモリの採用が推奨されていますが、完全な解決策とは言えません。BTCCのセキュリティ分析チームは、「AIシステムのメモリ保護には新しいアプローチが必要」と指摘。特に金融機関向けAIでは、ハードウェアレベルのセキュリティ強化に加え、決定プロセスのマルチレイヤー検証が不可欠だとしています。今後の課題として、量子耐性メモリ技術の開発が急務とみられています。
