耶魯管理學院：監控定價只是開始，AI代理將成為企業信任的真正考驗

整個2025年，儘管各方提案頻繁，卻沒有任何一個州成功禁止「監控定價」。今年春天，這一局面改變了。4月，馬里蘭州成為第一個禁止食品零售商和外送服務利用消費者個人資料定價的州。6月，康乃狄克州成為第二個。加州和紐約州正在考慮類似措施，這是限制監控定價這股更廣泛浪潮的一部分。

然而，真正的問題從根本上來說並不在於定價本身，而在於企業如何選擇使用資料、演算法以及日益普及的AI：當技術能讓企業以前所未有的細緻程度了解客戶和員工時，他們會利用這些洞察來創造價值，還是從中榨取價值？

問題的核心在於：企業是在為交易定價，還是在為人定價。試想兩筆從曼哈頓中城到紐瓦克機場、完全相同的Uber叫車請求。大多數乘客都能理解，為何同一趟車在下雨的週五下午比在寧靜的週日早晨貴；根據天氣、交通或供應情況調整價格，是平衡市場的透明方式。

但消費者越來越對另一種情況感到質疑：兩名乘客站在同一個街角、同一時刻，卻因為各自的資料檔案、購買記錄、使用裝置或推算出的付費意願不同而支付不同價格。前者是平台在為這趟車定價，後者則是在為乘客這個人定價。聯邦貿易委員會在2025年的一項研究中明確揭示了這一問題的嚴重性，指出演算法能利用個人資料推斷消費者何時選擇較少、何時更為緊迫、或付費意願更高，並據此調整價格或優惠方案。

同樣的邏輯也適用於市場的另一端。演算法可能向某位司機提供較低的酬勞，因為它預測這位司機無論如何都會接單——可能是因為她快達到當日收入目標，或不太可能切換到其他平台。當企業從為交易條件定價，轉向利用交易中人的弱點時，便從清算市場的效率走向了剝削——侵蝕信任、加深員工不滿，也招來如今正在全國蔓延的監管措施。

這場辯論之所以迫切，是因為理解並影響個人的能力即將大幅擴張。迄今為止，限制因素在於資料的碎片化。我們每個人都產生大量資料——搜尋紀錄、購買行為、所在位置、串流習慣以及穿戴裝置的資訊——但沒有任何一家公司能看到我們數位生活的全貌，只能看到其中的一個切片。

AI代理改變了這一切。

當人們將真實任務委託給AI——訂購旅遊、補貨、安排搬家——所揭露的資訊遠比一次搜尋查詢多得多。搜尋捕捉的是一個當下的問題，而代理觀察的是更宏觀的「待完成任務」。

試想一個管理你家庭事務的AI代理可能觀察到的情況：它知道你的藥快用完了、你通常在壓力大時購物、你正在用公司帳戶支付外送費用，以及你幾乎不做比價。這份行為側寫，可以成為一份路線圖，用於服務你的利益——尋找真正的優惠、過濾操縱性廣告——也可以用於利用你的行為模式進行最大程度的榨取。

這已不再是推測。領先的AI平台正在快速開發能夠理解用戶偏好、記住情境，並越來越多地代表用戶採取行動的代理。貝恩公司估計，到2030年，AI代理可能影響美國3,000億至5,000億美元的商業交易。這可能賦予AI平台對人們偏好、需求和行為的持續即時洞察——包括那些用戶可能從未明確表達的訊號。

這項能力可以用於兩種截然不同的方式。它可以驅動真正的個人化——一個能找到更便宜票價、提醒補充所需物品或過濾雜訊的代理。也可以被向內利用——向每個人收取接近其最高承受價格的費用、在他們最脆弱的時刻接觸他們，並在他們可能接受較差選項時隱瞞更好的選擇。問題已不再是企業能否大規模個人化，而是他們是否會為個人化的邊界制定原則。

這使得「目標一致性」成為核心議題。一個對我們了解如此深入的代理，可以援引行為科學——那些一直以來影響人類決策的偏見和觸發因素——來觀察、理解，並選擇服務或操縱我們。因此，當一個代理代表你行動時，它服務的是誰的利益——你的、建構它的平台的，還是為其推薦出價最高者的？鑒於目前對AI投入的空前龐大資金，將這種影響力貨幣化的經濟誘因將是巨大的。

這正是我們的研究所指向的另一條路徑。根據在耶魯大學利益相關者創新與管理計畫中對逾200位執行長的訪談，我們發現了一個一致的規律：建立長期股東價值最有效的方式，是在業務增長的同時增長信任——為包括客戶、員工、供應商及企業所服務社區在內的利益相關者創造價值，並隨著時間的推移贏得他們的信心。隨著AI強化了理解和影響每一位利益相關者的能力，將每段關係都優化為即時收益的誘惑將會增強。最能長久的企業將抵抗這種誘惑，利用這些能力深化信任，並鞏固持久經濟價值所依賴的關係。

監控定價只是第一個考驗。企業如何回應，將揭示他們打算如何駕馭即將到來的更強大工具——以及那些以我們名義行事的代理，最終究竟是為我們工作，還是在對我們下手。

Fortune.com評論文章中表達的觀點僅代表作者個人意見，不一定反映Fortune的立場與看法。

本文最初刊載於Fortune.com