將企業數據與人工智慧連接起來的最佳方式是什麼？

生成式人工智慧正在重塑數據驅動型商業策略的格局。繁瑣的流程正變得自動化和對話化，為「決策智慧」新時代的到來鋪路。這一時代的特點是，能夠在需要的時間和地點，以簡潔精準的方式呈現強大的洞察。在這個世界裡，人工智慧能夠即時揭示高階主管領導者所需的趨勢，幫助他們快速且自信地做出決策。

過去兩年，人工智慧在商業智慧方面取得了巨大進步，但需要注意的是，企業在採用生成式商業智慧之前，必須將人工智慧模型與其高度敏感的業務資料連接起來，確保資料安全無虞。

向量化、RAG、MCP 和代理技能等格式和協議有助於彌合差距，但在這個新興領域，還沒有出現任何單一的行業標準解決方案。當然，將機密財務報告和個人識別資訊上傳到面向公眾的 AI 平台，例如 ChatGPT 安全性與直接發佈到 Instagram 差不多。

NetCom Learning 的人工智慧專家 Cheryl Jones 解釋說，一旦有人將電子表格輸入這些服務，就無法預測表格是否會被公開，以及何時會被公開。 “其中最重要的一點是…” ChatGPT 她在文章中寫道：“安全風險在於可能發生意外資料外洩。” 博客文章員工可能會將公司機密資訊、客戶資料或專有演算法輸入系統。 ChatGPT這些數據隨後可以用於模型的訓練數據，或在未來的輸出結果中向其他用戶公開。」

從 RAG 到豐富的 BI 洞察

而不是問 ChatGPT 許多組織都在直接投資創建由專有生命週期管理（LLM）驅動、連接到企業資料庫的客製化聊天機器人。實現這一目標的一種方法是使用一種稱為「檢索增強生成」（Retrieval Augmented Generation，簡稱RAG）的技術，該技術可以動態地… 增強知識透過檢索外部資料並將其整合到人工智慧回應中，可以提高LLM的準確性和相關性。這是一種無需實際更改演算法或訓練即可「微調」人工智慧模型的方法。

RAG系統從外部來源收集數據，並將其分解成易於管理的小塊，利用儲存在向量資料庫中的數值嵌入，使LLM能夠搜尋這些數據塊。這樣，LLM就能在將資料塊加入原始提示之前，先擷取與使用者查詢相關的資料區塊，進而產生基於關聯資料的回應。

“任何成功的 RAG 系統實施的基礎都是模組化架構，它通過智能檢索將原始數據連接到語言模型。” 海倫·祖拉維爾解釋道Binariks產品解決方案總監表示：“這種架構使團隊能夠保持回應的準確性、時效性和基於內部知識，而無需在每次更新時重新訓練模型。”

但 RAG 也無法避免直接向 AI 聊天機器人提供資料所帶來的安全問題，而且它並非完美的解決方案。 RAG 本身無法使 LLM 提供傳統的商業智能，因為這些模型仍然以對話的方式輸出洞察結果。 RAG 不具備 BI 平台所需的任何傳統建置模組。為了產生全面、互動的報告和儀表板，企業還需要將綜合業務邏輯、資料視覺化引擎和資料管理工具與 LLM 整合。

盒裝現成 GenBI

幸運的是，企業還可以選擇購買現成的生成式商業智慧系統，例如 QuickSight 中的 Amazon Q、Sisense 和 Pyramid Analytics，這些系統的外觀和使用體驗更接近傳統的商業智慧平台。不同之處在於，它們與生命週期管理 (LLM) 系統原生集成，從而增強了可訪問性。

憑藉其即插即用的架構，Pyramid Analytics 可以將第三方生命週期管理 (LLM) 直接連接到 Databricks、Snowflake 和 SAP 等資料來源。這無需建立額外的資料管道或以任何特殊方式格式化資料。為了保護敏感訊息，Pyramid 完全避免向 LLM 發送任何原始資料。

Pyramid首席技術長Avi Perez在一篇部落格文章中解釋：使用者查詢是分開的他指出：“平台僅傳遞純文字請求以及語言模型生成答案所需的上下文信息，從而確保所有數據都不會離開客戶的受控環境。”

例如，如果有人詢問不同地區的銷售額和成本，Pyramid 只會將查詢和有限的資訊傳遞給 LLM，例如上下文所需的元資料、模式和語義模型。「實際數據本身不會被發送，」Perez 說。 “LLM 將利用其解釋能力向我們返回一個合適的響應，Pyramid 引擎隨後將使用該響應來編寫腳本、查詢、分析和構建內容。”

其他生成式商業智慧平台處理人工智慧與資料庫連接的方式有所不同。 Amazon Q 在 QuickSight 中透過將所有資料隔離在 AWS 環境內來解決安全性問題。此外，亞馬遜承諾避免使用客戶的提示和查詢來訓練 Amazon Q 的底層模型，從而防止資料外洩。

生成式商業智慧平台讓商業智慧觸手可及，操作簡單。由於它們提供對話式介面，非技術用戶可以透過自然語言提示進行交互，輕鬆找到所需答案。此外，它們還可以利用人工智慧自動建立儀表板和視覺化圖表，幫助使用者更深入地探索數據。

使用者甚至可以產生完整的報告和上下文摘要，將靜態資料轉化為可解釋的故事，從而更容易理解趨勢和異常情況。

利用 Agentic BI 獲取可執行的洞察

為了使商業智慧更具實用性，一些組織選擇應用 RAG 管道，並結合 Agent Skills 和模型上下文協議 (MCP) 等基礎「智能體 AI」技術。其目標是將 BI 從被動的報告工具轉變為能夠理解關鍵洞察並根據發現執行任務的自主系統。

智能體技能是指由 Anthropic 開發的模組化功能庫，它使人工智慧智慧體能夠執行特定操作，例如建立 PDF 檔案、呼叫特定 API 或執行複雜的統計計算。智能體可以根據需要激活這些技能，從而代表人類完成工作。

同時，MCP 是一種開放的通用標準，它連接 LLM（生命週期管理）與外部資料來源和軟體工具。它使 AI 代理能夠以安全且結構化的方式存取即時系統和工具，而無需建立自訂連接器。

這些技術具有協同效應，符合商業智慧的範疇，結合起來可以創造一種新型的智慧體式 BI 工作流程。例如，如果用戶提出「為什麼南方地區的銷售額下降了？」這樣的問題，智能體將使用 MCP 來提取回答該問題所需的特定上下文信息，例如用戶的角色和訪問權限、他們之前訪問過的報告以及來自公司 CRM 平台的實時數據。

然後，銷售人員將使用 RAG 系統檢索相關數據，例如區域行銷計劃、會議記錄等，以找出銷售下滑的原因。找到答案後，銷售人員將運用其專業技能採取相應措施，例如產生總結報告、通知相關銷售團隊以及更新 ERP 系統中的預算預測。

思科首席行銷長阿魯娜·拉維錢德蘭對Agentic BI及其在整個工作場所普及「互聯智慧」的潛力極為看好。 “在這個新時代，協作將變得輕鬆無阻。” 他預測“數位化員工能夠預見需求，在後台協調任務，並在問題出現之前將其解決。”

儘管前景樂觀，但 RAG、MCP 和 Agent Skills 仍處於實驗階段，許多人對其長期應用持懷疑態度。目前尚無建構智能體 BI 工作流程的標準框架，因此，至少就目前而言，這些技術可能仍將僅限於擁有資源和人才的大型組織。