F5 推出AI網(wǎng)關(guān)，管理并保護(hù)快速增長(zhǎng)的AI流量和應(yīng)用需求

·保障AI的用戶和AI服務(wù)提供商安全，監(jiān)管身份驗(yàn)證和零信任功能

·在跨團(tuán)隊(duì)、應(yīng)用和API中優(yōu)先考慮AI服務(wù)的使用

·實(shí)現(xiàn)基于OpenAI、云服務(wù)提供商、開(kāi)源社區(qū)等AI服務(wù)和模型的集成自動(dòng)化

西雅圖，2024年11月20日– F5(NASDAQ: FFIV)日前宣布推出搶先體驗(yàn)版F5 AI網(wǎng)關(guān)(AI Gateway)，以簡(jiǎn)化企業(yè)在推動(dòng)AI部署過(guò)程中應(yīng)用、API和大語(yǔ)言模型(LLMs)間的交互。這一強(qiáng)大的容器化解決方案能夠優(yōu)化性能、可觀測(cè)性和保護(hù)能力，從而顯著降低成本。通過(guò)與F5的產(chǎn)品組合深度集成，AI網(wǎng)關(guān)為安全和運(yùn)營(yíng)團(tuán)隊(duì)提供了采用 AI 服務(wù)的無(wú)縫途徑，以大幅提升數(shù)據(jù)輸出質(zhì)量并帶來(lái)卓越的用戶體驗(yàn)。

根據(jù) F5 發(fā)布的《人工智能應(yīng)用策略現(xiàn)狀報(bào)告》顯示，75% 的企業(yè)正在部署AI。與眾多現(xiàn)代應(yīng)用一樣，AI服務(wù)主要通過(guò) API 進(jìn)行交付和使用。然而，企業(yè)在設(shè)計(jì)和擴(kuò)展支持AI的應(yīng)用和服務(wù)時(shí)，卻面臨著更多額外挑戰(zhàn)。例如，高效運(yùn)營(yíng)需要密切監(jiān)控GPU計(jì)算成本、系統(tǒng)響應(yīng)速度等日益重要的指標(biāo)，同時(shí)還需應(yīng)對(duì)不斷涌現(xiàn)的合規(guī)性要求。

F5首席創(chuàng)新官Kunal Anand表示，“LLM正在為用戶打造全新的生產(chǎn)力水平，并提升用戶體驗(yàn)，但它們同時(shí)也需要在推理階段進(jìn)行監(jiān)督、深度檢查，并防御新型威脅。通過(guò)滿足這些新要求并與F5值得信賴(lài)的API流量管理解決方案集成，我們將幫助客戶在日益復(fù)雜的威脅環(huán)境中，自信且高效地部署 AI 驅(qū)動(dòng)的應(yīng)用。”

現(xiàn)實(shí)世界中的AI解決方案需要在整個(gè)數(shù)據(jù)生態(tài)系統(tǒng)中優(yōu)化請(qǐng)求、響應(yīng)和快速交互。F5 AI網(wǎng)關(guān)通過(guò)觀察、優(yōu)化并保護(hù)大量用戶和自動(dòng)化變量，從而降低成本、減少惡意威脅并確保合規(guī)性。

F5 AI網(wǎng)關(guān)旨在于客戶及其應(yīng)用的 AI 發(fā)展中找到最佳契合點(diǎn)。該網(wǎng)關(guān)可部署在任何云或數(shù)據(jù)中心，并原生集成F5 NGINX及BIG-IP平臺(tái)，從而在傳統(tǒng)、多云或邊緣部署中充分利用F5領(lǐng)先的應(yīng)用安全和交付服務(wù)。此外，該解決方案的開(kāi)放可擴(kuò)展性將允許企業(yè)開(kāi)發(fā)和定制由F5 AI網(wǎng)關(guān)執(zhí)行的可編程安全和控制。這些流程可輕松更新并動(dòng)態(tài)應(yīng)用，以實(shí)現(xiàn)對(duì)安全策略和合規(guī)要求的即時(shí)響應(yīng)。

IDC人工智能和自動(dòng)化高級(jí)總監(jiān)Shari Lava表示，“AI驅(qū)動(dòng)的應(yīng)用將在未來(lái)幾年成為幾乎所有企業(yè)和組織的基石。F5在其應(yīng)用堆棧服務(wù)中引入AI網(wǎng)關(guān)，為客戶提供了在構(gòu)建 AI 應(yīng)用架構(gòu)方面更大的靈活性，同時(shí)實(shí)現(xiàn)更強(qiáng)的保護(hù)和模型優(yōu)化。”

　　F5 AI網(wǎng)關(guān)可為用戶帶來(lái)以下價(jià)值：

· 通過(guò)自動(dòng)檢測(cè)和修復(fù)提供安全和合規(guī)性策略實(shí)施，以應(yīng)對(duì)OWASP發(fā)布的大語(yǔ)言模型應(yīng)用程序十大風(fēng)險(xiǎn);

· 利用語(yǔ)義緩存卸載LLM中的重復(fù)任務(wù)，提升用戶體驗(yàn)并降低運(yùn)營(yíng)成本;

· 簡(jiǎn)化集成流程，允許開(kāi)發(fā)人員得以專(zhuān)注于構(gòu)建AI驅(qū)動(dòng)的應(yīng)用，而不是管理復(fù)雜的基礎(chǔ)架構(gòu);

· 優(yōu)化本地和第三方LLM的負(fù)載平衡、流量路由和速率限制，以保持服務(wù)可用性并提升性能;

· 提供單一 API 接口，供開(kāi)發(fā)人員用于訪問(wèn)他們選擇的AI模型。

WorldTech IT首席技術(shù)官Austin Geraci表示，“F5 的AI網(wǎng)關(guān)是我們AI戰(zhàn)略中不可或缺的一部分。借助該項(xiàng)技術(shù)，我們的客戶能夠開(kāi)發(fā)內(nèi)部和外部的AI應(yīng)用，這些應(yīng)用能夠處理大量查詢(xún)，而不降低站點(diǎn)和應(yīng)用性能。F5 提供的領(lǐng)先應(yīng)用安全和交付能力，可加速大規(guī)模AI體驗(yàn)。通過(guò)采用F5 AI網(wǎng)關(guān)，僅語(yǔ)義緩存和智能流量路由即可顯著降低成本，同時(shí)F5服務(wù)的統(tǒng)一性也為客戶節(jié)省了數(shù)百小時(shí)的集成工作?！?/p>

　　更多資源：

·?F5 AI網(wǎng)關(guān)產(chǎn)品頁(yè)面

·?F5 AI網(wǎng)關(guān)概述

·?F5 AI網(wǎng)關(guān)博客文章