概要

Cybersecurity AI（CAI）は、Alias Robotics が提供するオープンソースフレームワーク。AI システムのサイバーセキュリティに特化し、LLM、自律ロボット、機械学習パイプラインなど、多層的な AI システムの保護を目指している。

対応プラットフォーム

CAI は Linux、OS X、Windows、Android に対応。オープンソースプロジェクトとして、GitHub 上で公開されており、複数のコミュニティバッジを獲得している。

OpenAI API や社内 LLM を利用するチャットボット・生成サービスを展開する際、不正なプロンプトや悪意のある入力からの防御が必須。セキュリティフレームワークの導入により、リアルタイムでの脅威検出と記録が可能となり、攻撃パターンの分析が容易になる。

産業用ロボットや自動運転車両は、センサ入力やコマンド処理にニューラルネットワークを使用。これらが不正コマンドや改ざんセンサデータに晒された場合、安全性が脅かされる。リアルタイム監視により、異常なパターンを即座に検知し、安全対応をトリガーできる。

トレーニングデータの中毒、モデルの改ざん、開発環境への侵入など、開発段階での脅威は多岐にわたる。学習ジョブのログ監視、モデルの整合性チェック、依存パッケージの確認を一元化することで、問題のあるモデルがプロダクションに上がることを防止する。

GitHub リポジトリで公開されており、オープンソースとしてプロジェクトが展開されている。公式ドキュメントやコミュニティサポートを活用することで、導入検討が可能。