Cloudflare近日宣布,其应用安全高级服务的用户将获得改进版的网络应用防火墙,专为防护运行大型语言模型(LLM)的应用而设计,报道来自《TheRegister》。
根据公司的介绍,新的防火墙“AI防火墙”将包含高级速率限制 功能。这一功能允许用户为每个会话中由某个IP地址或API密钥发出的请求设置速率限制策略。此项功能能够有效阻止针对该模型的分布式拒绝服务(DDoS)攻击,以及其他会导致大型语言模型功能超载和中断的事件。
此外,敏感数据检测 功能可以防止模型在响应查询时泄露敏感信息。用户还可以创建规则,扫描并从大型语言模型的回复中删除财务信息和其他相似的隐私数据。
Cloudflare的产品经理Daniele Molteni表示,该防火墙可以部署在ChatGPT、Claude byAnthropic以及公司内部使用的私有大型语言模型前面,“无论它们是托管在Cloudflare WorkersAI上,还是在其他平台或托管提供商上,只要‘请求和响应通过Cloudflare代理即可’。”
了解更多有关防火墙功能的细节,可以访问 获取更多信息。
Leave a Reply