テュフズード、AIのITセキュリティを検証

2026.1.8

ミュンヘン発、テュフズードはAIシステムに対するペネトレーションテストの実施を通じて企業を支援しています。フィッシング、ランサムウェア攻撃、DNSハイジャックへの対策によるネットワークセキュリティの維持は、CISOの日常業務の一部となっていますが、AIシステムを介した攻撃はますます一般的になっています。サイバー犯罪者は、プロンプトインジェクションやモデルインバージョン攻撃といった手法を使用し、企業の機密データや営業秘密を標的にします。AIペネトレーション試験は、AIシステムの完全性、公平性、堅牢性を確保します。  

AIペネトレーション試験は、AIおよび機械学習システムの脆弱性を特定するために設計された専門的な評価です。これらの試験では、モデルの堅牢性、データパイプラインのセキュリティ、敵対的攻撃、モデルインバージョン攻撃、データポイズニングなどの脅威に対する脆弱性を評価します。目的は、現実的な攻撃シナリオにおいて、AI搭載アプリケーションの機密性、完全性、信頼性を確保することです。

適用シナリオ

AIペネトレーション試験には様々な適用シナリオがあります：
開発段階の早い段階で、WebアプリケーションにおけるLLMのセキュリティ脆弱性を特定したり、アプリケーション内でのLLMのデータ漏洩、悪用、改ざんの操作リスクを評価したり、予測モデルおよびユーザー定義型LLMをデータ、トレーニング、アルゴリズムの観点から包括的に検証したりすることが可能です。  

より堅牢なAIシステムへの5ステップ

テュフズードの経験豊富なAI専門家は、企業のAIシステム改善を5つのステップで支援します。

1. キックオフミーティング：目標を定義し、プロセスを協議します。
2. 情報収集：関連情報を収集します。
3. ペネトレーション試験：従来のネットワークやサーバーのペネトレーション試験とは異なり、AIペネトレーション試験には機械学習、入力出力動作の試験、モデルロジックに関する知識が必要です。
4. 評価基準：NIST AIリスク管理フレームワーク、OWASP Top 10 for LLMs/ML Security、MITRE ATLAS試験標準に基づいて評価します。
5. 結果分析と報告：テュフズードが結果を分析し、企業と最終協議します。

テュフズードのサイバーセキュリティ担当シニアゼネラルマネージャーVaibhav Pulekar氏は次のように述べています。「AIの普及が進むほど、犯罪者にとって魅力的な標的になります。急速な開発により、セキュリティが最適に統合されていない場合があります。企業がAIモデルを最適化する場合やLLMをアプリケーションに統合する場合、AIシステム特有の脆弱性は早期に特定する必要があります。 モデルやアプリケーションを検証しない企業は、システムのギャップにより重大なセキュリティおよびデータ保護リスクを負うことになります。」

Download Press Release (EN)

関連情報

テュフズードのAI（人工知能）関連サービス