Protect AI
Founded Year
2022Stage
Incubator/Accelerator - II | AliveTotal Raised
$108.5MAbout Protect AI
Protect AI provides artificial intelligence (AI) security solutions within the cybersecurity domain. The company offers products to secure AI applications throughout their lifecycle, from model selection and testing to runtime monitoring and protection. Protect AI serves sectors that require AI security measures, including tech companies and enterprises integrating AI into their operations. It was founded in 2022 and is based in Seattle, Washington. In April 2025, Protect AI was acquired by Palo Alto Networks.
Loading...
ESPs containing Protect AI
The ESP matrix leverages data and analyst insight to identify and rank leading companies in a given technology landscape.
The AI security market provides specialized solutions designed to protect machine learning models, algorithms, and AI applications from AI-specific threats including adversarial attacks, data poisoning, model evasion, backdoor injections, prompt injection, and model theft. These vendors offer products spanning the entire AI lifecycle, including secure model development frameworks, runtime protecti…
Protect AI named as Highflier among 15 other companies, including Chainguard, Lakera, and Patronus AI.
Protect AI's Products & Differentiators
AI Radar: MLBOM
Audit AI applications and ML systems to identify threat gaps, accelerate patch management, and compare snapshots with an industry-first, immutable MLBOM
Loading...
Research containing Protect AI
Get data-driven expert analysis from the CB Insights Intelligence Unit.
CB Insights Intelligence Analysts have mentioned Protect AI in 7 CB Insights research briefs, most recently on Aug 29, 2025.
Aug 29, 2025 report
Book of Scouting Reports: Generative AI in Financial Services
Oct 8, 2024
3 trends to watch in the hot AI security market
Oct 3, 2024 report
State of Venture Q3’24 Report
Sep 29, 2023
The machine learning operations (MLOps) market mapExpert Collections containing Protect AI
Expert Collections are analyst-curated lists that highlight the companies you need to know in the most important technology spaces.
Protect AI is included in 5 Expert Collections, including AI 100 (All Winners 2018-2025).
AI 100 (All Winners 2018-2025)
200 items
Cybersecurity
11,029 items
These companies protect organizations from digital threats.
AI 100 (2024)
100 items
Artificial Intelligence
10,402 items
Generative AI
2,841 items
Companies working on generative AI applications and infrastructure.
Latest Protect AI News
Aug 12, 2025
ZDNET Japan Here's my content 人工知能（AI）に特化した国際カンファレンス「The AI SUMMIT」が米国時間8月5日、ネバダ州ラスベガスで開催された。本イベントは、世界最大級のセキュリティカンファレンス「Black Hat」と同時期・同会場で行われる独立イベントで、2025年で10回目を迎える。「AIとサイバーセキュリティの融合」をテーマに掲げた今回は、AIベンダーやセキュリティ企業の専門家が登壇。エージェント型AI（Agentic AI）の進化やAIに起因する新たな脅威、導入時に直面する倫理・ガバナンス課題などが多角的に議論された。 「The AI SUMMIT」は「Black Hat」と同時期・同会場で実施された。ちなみに参加費は別途徴収だった ゾロゾロと湧く--AIモデル悪用による新手の攻撃 最初の講演に登壇したProtect AI 最高経営責任者（CEO）のIan Swanson氏は、「新たな領域：AIエージェントと変貌するセキュリティ課題（New Frontier: AI Agents and Security Risks）」と題したセッションを行った。Protect AIは、AI・機械学習のセキュリティに特化して2022年に設立されたスタートアップで、2025年4月にはPalo Alto Networksによる5億ドル超の買収が発表されている。 Protect AI CEOのIan Swanson氏 1つ目は予測AIモデルへの攻撃である。大手金融機関では数万のモデルが本番稼働しており、そのモデルファイルに任意コードを埋め込み、ロード時に自動実行させる事例が確認されている。特定の入力をきっかけに悪意ある動作を引き起こす「ニューラルバックドア攻撃」も拡大中だ。 こうした攻撃は、従来のウイルス対策や一般的なセキュリティ製品では検出が難しい。講演では、悪意あるコードを仕込んだモデルが正常に動作しながら裏でリバースシェルを提供するデモを披露し、「AIモデルはセキュリティ境界の盲点になり得る」と警告した。 さらに、モデル流通経路のリスクにも言及した。世界最大級のAIモデル共有プラットフォームHugging Faceでは、月間10億回以上のモデルがダウンロードされており、第三者が公開したモデルを再学習・再利用する過程で悪意あるコードが混入する恐れがあるという。 Swanson氏はエージェント型AIの脅威モデルとして、「外部プロンプトインジェクション」「過度に寛容なツール使用」「アクセス制御」「欺瞞」を挙げた 2つ目は生成AIに起因するリスクだ。プロンプトインジェクションやジェイルブレイク、誤情報によるハルシネーション（幻覚）、機密データの漏えいなどが日常的に発生している。実際、General Motors（GM）のディーラーで運用していた「ChatGPT」搭載チャットボットが、「法的拘束力のある契約として新型SUVを1ドルで販売する」と誤回答するといった事案が発生した。Swanson氏は「このような“あり得ない出力”は、直接的な損失だけでなく法的リスクにもつながる。『AIがやらかしました』では済まされない」と警鐘を鳴らす。 3つ目は、エージェント型AIの普及で拡大する外部プロンプトインジェクションだ。エージェントが外部サイトやアプリケーションプログラミングインターフェース（API）から情報を取得する際、悪意ある命令を読み込む危険がある。実例として紹介されたのが、コード共有プラットフォーム「Replit」での事件である。AIエージェントが本番環境に接続された状態で外部命令を受け、本番データベースを削除してしまったのだ。原因は、セキュリティ制御をプロンプト依存にしていた設計上の欠陥だった。 こうした複雑化するリスクに対し、Swanson氏は「（入力テキストだけで実行可否を判断する）プロンプト依存の制御には限界がある」と指摘し、アーキテクチャーレベルでの防御策を提案。カギは「ヒューマン・イン・ザ・ループ（Human-in-the-Loop）」の導入であり、ツール呼び出しと実行を分離し、ユーザーの明示的承認後に実行する仕組みを推奨した。 さらに、モデルスキャンによる悪意あるコードの検出、AIシステム全体の可視化と資産管理、入出力監視のランタイムセキュリティの実装を挙げ、これらを連携させれば異常の早期発見と不正操作の遮断が可能になると強調。「こうした仕組みがあればReplitの事故は防げたはずだ」と締めくくった。 Swanson氏はAIシステムの安全性と信頼性を高める具体的な実践策として、「AIインフラの可視化」「モデルのスキャン」「ログ記録と実行時セキュリティの適用」「Human-in-the-loopの実践」「最新動向の把握」を挙げた
Protect AI Frequently Asked Questions (FAQ)
When was Protect AI founded?
Protect AI was founded in 2022.
Where is Protect AI's headquarters?
Protect AI's headquarters is located at 107 Spring Street, Seattle.
What is Protect AI's latest funding round?
Protect AI's latest funding round is Incubator/Accelerator - II.
How much did Protect AI raise?
Protect AI raised a total of $108.5M.
Who are the investors of Protect AI?
Investors of Protect AI include BNY Ascent Program, Palo Alto Networks, Microsoft Pegasus Program, BOLDstart Ventures, Acrew Capital and 14 more.
Who are Protect AI's competitors?
Competitors of Protect AI include Lakera, CalypsoAI, Prompt Security, Ox Security, Pillar Security and 7 more.
What products does Protect AI offer?
Protect AI's products include AI Radar: MLBOM and 3 more.
Who are Protect AI's customers?
Customers of Protect AI include No Customer Deployments, No Customer Deployments, No Customer Deployments, No Customer Deployments and No Customer Deployments.
Loading...
Compare Protect AI to Competitors
HiddenLayer specializes in providing security for artificial intelligence, operating within the cybersecurity and AI industries. The company offers a security platform that helps enterprises protect their machine learning models from adversarial attacks without adding complexity or requiring access to sensitive data. HiddenLayer's solutions are designed to safeguard proprietary AI models, prevent data exposure, and ensure the integrity of model performance. It was founded in 2022 and is based in Leander, Texas.
TrojAI is a company that provides security solutions for artificial intelligence within the technology sector. Their main offerings include a platform to protect AI models and applications from risks and attacks. TrojAI serves sectors that require AI security measures, including enterprise-level organizations and industries that use AI technology. It was founded in 2019 and is based in Saint John, New Brunswick.
Bosch AIShield focuses on AI security solutions in the technology sector. The company offers products that secure AI and machine learning (ML) systems against adversarial threats, providing vulnerability assessment, real-time threat detection, and defense against AI attacks. Its services primarily cater to businesses that utilize AI and ML technologies. It was founded in 2022 and is based in Bengaluru, India.
Adversa AI focuses on the security of artificial intelligence (AI) systems. It operates within the cybersecurity and artificial intelligence (AI) industries. The company offers services to secure AI systems from cyber threats, privacy issues, and safety incidents, providing analysis of technology, threat modeling, security architecture review, and awareness training. It primarily serves sectors such as the financial industry, insurance, automotive, biometrics, identity verification, internet, media, marketplaces, surveillance, smart city, and smart home. It was founded in 2019 and is based in Tel Aviv, Israel.
Pillar Security is a company that offers services related to AI security, including vulnerability detection, AI application monitoring, and compliance and governance for AI usage. The company serves organizations that need to secure their AI infrastructures and comply with internal and external regulations. It was founded in 2023 and is based in Miami, Florida.
Citadel AI focuses on the implementation of reliable artificial intelligence (AI) in the technology and artificial intelligence domain. It offers automated testing and monitoring tools for artificial intelligence (AI) systems to help organizations minimize AI risk and maximize AI performance. It primarily serves sectors such as manufacturing, healthcare, finance, and automotive. It was founded in 2020 and is based in Tokyo, Japan.
Loading...