檢視次數:
Artifact Scanner 包含 AI 掃瞄功能。這使您能夠使用 Artifact Scanner 來識別您 AI 應用程式中的安全弱點，並找出與 大型語言模型應用程式的 OWASP 前 10 名 和 人工智慧系統的 MITRE 對抗性安全威脅景觀 (ATLAS) 相關的風險。您可以在本地或由 TrendAI™ 託管的環境中運行 AI 掃瞄器。
掃瞄器可以在以下項目中發現弱點：
AI 掃描器可以整合任何提供 API 以發送提示和接收文字模型輸出的自訂 AI 應用程式。該應用程式不需要遵循 OpenAI API 標準。只要符合以下要求，您的應用程式即為相容：
  • 公開一個 REST API 端點（公共或私人）
  • 接受請求主體中的輸入提示或訊息
  • 返回由語言模型生成的文字回應
  • 使用 JSON 作為請求和回應格式
  • 支援 HTTP 或 HTTPS POST 請求
您可以在請求和回應的有效負載中使用任何欄位名稱，只要您在配置檔中定義它們即可。欲了解詳細資訊，請參閱AI 掃描器配置範例適用於自訂 AI 應用程式。
掃瞄器可以找到與以下相關的弱點：
  • 敏感資料洩露
  • 系統提示洩漏
  • 惡意代碼生成
  • 幻覺軟體實體
  • 代理工具定義洩漏
如需有關使用 AI 掃描器配置 Artifact 掃描器的資訊，請參閱 配置趨勢託管的AI掃瞄設定。
將 Artifact Scanner 與 AI Scanner 整合到您的持續整合/持續部署 (CI/CD) 管道後，您可以在「Security for AI Stack」 → 「AI Scanner and AI Guard」中查看結果。