「人性協議」實驗揭示人工智慧如何繞過KYC流程並濫用數位信任

人道協議一家專注於開發網路信任層的科技新創公司最近進行了一項受控社會實驗，探索如何利用人工智慧創建高度逼真的虛假個人資料，繞過主要約會平台上的身份驗證，並大規模地與真實用戶互動。 

研究結果凸顯了在生成式人工智慧主導的時代，傳統「了解你的客戶」（KYC）系統的有效性令人擔憂，以及這些漏洞可能被惡意行為者利用的可能性。

這項實驗歷時兩個月，從2025年10月到12月，共有六位「人類協議」團隊的成員參與。實驗使用了包括Reve AI在內的公開人工智慧工具。 ChatGPT奈米香蕉和 Midjourney團隊創建了四個不同的 Tinder 個人資料，包括照片和個人簡介。 

為了保持真實的活動狀態，團隊使用了 Tinder。GPT這是一個發佈在 GitHub 上的開源工具，它使用戶能夠同時與約會應用程式上的真實用戶進行 100 多場對話。雖然這些帳戶創建於多個國家——葡萄牙、西班牙、塞爾維亞、印度尼西亞和泰國——但所有帳戶都使用 Tinder Gold 將位置設為葡萄牙。在實驗過程中，這些人工智慧產生的帳號與 296 位真實的 Tinder 用戶互動，並成功說服 40 位用戶同意線下見面。

實驗在葡萄牙里斯本的一家餐廳以合乎倫理的方式結束。所有參與者抵達後都被告知了實驗情況，並由這家新創公司款待了他們。實驗設計確保不會造成任何經濟、情緒或身體上的傷害，其既定目的是揭露系統漏洞，而非利用漏洞。

“這並非為了取樂而欺騙民眾，”Humanity Protocol創始人郭德倫在一份書面聲明中表示，“而是為了對我們賴以生存的系統進行壓力測試，並展示在人工智能的介入下，信任是如何輕易地被製造出來的。如果一個小團隊就能通過實驗做到這一點，那麼想像一下，如果惡意組織起來，又能達到什麼程度，”他補充道。

KYC系統，提高網路安全和防詐騙標準

研究結果凸顯了數位平檯面臨的一個更廣泛的挑戰：傳統的KYC協議是在生成式人工智慧出現之前設計的，如今已越來越難以滿足需求。諸如照片檢查、基本活體檢測和文件上傳等標準驗證措施，難以跟上人工智慧工具的腳步。這些人工智慧工具能夠產生高度逼真的影像、聲音和行為，足以以假亂真地模仿人類使用者。

雖然約會平台受到的直接影響可能看似僅限於浪費時間或情感操控，但在金融和安全領域，其風險遠不止於此。根據美國聯邦貿易委員會統計，2022年美國人因愛情騙局損失超過1.3億美元，使其成為損失最慘重的消費詐欺類型。隨著人工智慧技術的不斷進步，良性實驗與大規模詐欺之間的界線正迅速模糊。如果缺乏能夠適應生成式人工智慧並驗證用戶人性而非僅僅身份的KYC框架，線上平台將面臨成為下一代人工智慧驅動型攻擊主要目標的風險。