跳到正文
原文
Hacker News:AI 热帖· raorajat007·· 12 天前AI 评分57

JevShield 开源本地提示词注入防火墙,保护 AI API 与智能体工具调用

Prompt Injection Firewall for AI APIs and Agent Tool Calls

AI 导读

JevShield 发布为本地开源安全层,用于检测并缓解直接和间接提示词注入、越狱、数据外泄及恶意智能体工具调用。它通过 Ollama 的 Jev 风格决策 API 调用 Nimble,返回威胁类型、风险分数等结构化结果,再由 Python 策略引擎按默认阈值 0.50 和 0.85 执行 REVIEW 或 BLOCK。

来源:Hacker News:AI 热帖 · github.com