AI生成パスワードに予測可能なパターン、セキュリティリスクが浮上

AI生成パスワードの「偽のランダム性」、研究者が警告

最新の研究により、大規模言語モデル（LLM）が生成するパスワードに重大な脆弱性が存在することが明らかになりました。AIが作成した認証情報には予測可能なパターンが含まれ、真のランダム性が欠如していることが判明したのです。この研究結果は、Irregular Securityによって公開され、AIシステムがアカウント作成や認証処理を自律的に行う中で、深刻なセキュリティ上の懸念が浮き彫りになっています。

主要な発見と技術分析

研究者らは、Anthropicが開発したLLM「Claude」が生成した50個のパスワードを分析し、以下のような alarming な傾向を確認しました。

• 一貫したフォーマット：全てのパスワードが大文字で始まり、特に「G」が使用され、その後に数字の「7」がほぼ毎回続いた。
• 偏った文字分布：「L」「9」「m」「2」「$」「#」などの文字は全50個のパスワードに出現したが、「5」や「@」などの文字はほとんど使用されず、アルファベットの多くの文字は完全に欠落していた。
• 文字の重複回避：統計的にランダムなパスワードでは文字の重複が発生する可能性が高いにもかかわらず、Claudeは文字の重複を避ける傾向が見られた。これは、アルゴリズムが「ランダム性」を過度に意識した結果と考えられる。
• 特定記号の回避：アスタリスク（「」）は省略されていた。これは、Claudeが出力フォーマットとして使用するMarkdownにおいて「」が特殊な意味を持つためと推測される。
• 高い繰り返し率：50回の試行で生成されたパスワードはわずか30種類のみで、特に G7$kL9#mQ2&xP4!w というパスワードは18回（36%）も出現した。これは、100ビットのパスワードに期待される確率（2^-100）をはるかに上回るものである。

サイバーセキュリティの専門家であるBruce Schneierは、「この結果は驚くべきものではない」と述べています。「パスワード生成は、まさにLLMが得意とすべきものではない。しかし、AIエージェントが自律的に動作するようになれば、アカウント作成は避けられず、これが深刻な問題となる」と指摘しています。

影響と広範な課題

この研究は、セキュリティに関わる重要なタスクにおいて、LLMが抱える根本的な限界を浮き彫りにしています。AIが生成するパスワードは、長さや複雑さから強固に見えるかもしれませんが、その予測可能なパターンにより、総当たり攻撃（ブルートフォース攻撃）に対して脆弱であることが示されました。例えば、これらの偏りを知る攻撃者は、パスワードを解読するための時間や計算リソースを大幅に削減できます。

このリスクは、パスワード生成にとどまりません。AIシステムがクラウドサービスやAPI、IoTデバイスの管理など、自律的にタスクを実行する機会が増える中で、認証処理の安全性確保は極めて重要です。LLMが生成する認証情報の欠陥が放置されれば、広範な脆弱性につながる可能性があります。

セキュリティ専門家への推奨事項

これらのリスクを軽減するために、組織や開発者は以下の対策を講じるべきです。

1. LLMによるパスワード生成を避ける：高エントロピーのパスワードを生成するには、確立された暗号ライブラリ（例：OpenSSL、libsodium）や専用のパスワードマネージャーを使用する。
2. 多要素認証（MFA）を導入する：パスワードが漏洩しても、MFAがAI管理アカウントに追加のセキュリティレイヤーを提供する。
3. AI生成パスワードのパターンを監視する：本研究で特定された偏りを認識し、同様のパターンを環境内で監視する。
4. 開発者への教育を強化する：LLMをセキュリティに敏感なタスク（認証や認証情報管理など）に使用するリスクについて、チームが理解するようにする。
5. AI特有のセキュリティ基準を推進する：AIの普及に伴い、AI駆動の認証に関する業界全体のガイドラインが緊急に必要とされている。

結論

この研究は、LLMが多くの分野で優れた能力を発揮する一方で、パスワード生成のようなセキュリティに関わる重要な機能を担うにはまだ不十分であることを強く示唆しています。AIシステムがより自律的になる中で、これらの限界に対処することは、大規模なセキュリティ侵害を防ぐために不可欠です。現時点では、人間の監視と従来の暗号技術が、安全な認証のために依然として不可欠です。

原著研究：Irregular Security。関連報道：Gizmodo、Slashdot。