一家中國公司一直在嘗試開發一項由人工智慧驅動的技術，不僅能讓威權政府監控異見人士，還能潛在地預測未來誰可能成為異見人士。
這項似乎還處於研究階段的工作簡直如同出自反烏托邦科幻小說，讓我們得以一瞥一個威權國家在公民尚未公開表達異議之前就對其採取行動的世界。
這家名為積至的中國公司銷售商業版的「防火長城」——中國用於控制網路活動的監控和審查軟體。這些工具使政府可以監控互聯網流量，並在有人試圖繞過傳統互聯網審查時發出警告。
但范德比爾特大學的研究人員表示，根據洩漏的公司文件，該公司正在開發使用人工智慧審查位置數據和互聯網使用情況的新產品，以預測哪些人可能會發表批評政府的言論，或是有所行動。
這種技術一旦完善，將為威權政府提供一個對付假想敵的強大工具。
威權政府利用人工智慧鎮壓異見的想法已經足夠令人不安。但一些業內人士表示，在個人採取行動之前就使用人工智慧來預測異見傾向已經成為一種噩夢般的場景。
「這就是大規模監控與人工智慧結合時會發生的情況，」范德比爾特大學國家安全研究所棘手問題實驗室主任布雷特·戈德斯坦說。「在沒有制衡的情況下，中國對其本國公民所做的事情預示著，任何缺乏監管的地方都可能發生這樣的事情。」
范德比爾特大學的研究人員發現，積至正與其政府支持的研究分支MESA實驗室合作，開發一種技術，能生成中國公民的個人檔案，然後使用人工智慧來篩選出可能構成政治風險的人員。
但拜登政府時期對驅動人工智慧的美國設計計算機晶片實施的出口管制似乎阻礙了該公司的進展。這表明，美國的限制措施可能已經減緩了中國下一代監控技術的發展。
積至的文件顯示，2024年，當美國對中國實施嚴厲的出口管制時，該公司及其實驗室很難為監控技術找到足夠的算力。
范德比爾特大學政治學教授布雷特·本森表示，這些文件提到了 GPU（圖形處理器）的限制。GPU是驅動人工智慧模型的晶片。他說，由於這些限制，該公司開始使用較舊、性能較低的人工智慧模型和晶片。
美國官員表示，如今，積至可以獲得足夠的圖形處理器用於其當前的產品。但官員們指出，要實現其最具野心的預測技術版本，該公司可能需要比中國所能獲得的更先進晶片。
前拜登政府官員表示，情報顯示，他們限制中國獲取美國設計的高端晶片的政策在保持美國人工智慧優勢和減緩中國其他技術發展方面發揮了作用。
但美國的出口管制是否會減緩中國開發更具壓迫性的人工智慧應用仍是一個懸而未決的問題。
川普政府放寬了拜登時代的一些出口管制，保留了對英偉達最先進處理器的限制。英偉達是設計全球最強大人工智慧晶片的美國公司。在川普總統最近的北京之行中，美國官員表示，中國將可以獲得更先進版本的英偉達晶片。
但中國正試圖讓其人工智慧公司擺脫對美國設計晶片的依賴，以便出口管制無法再束縛它們的雄心。
為未來的批評者建立檔案
這些新信息是從大量數據中收集的，其中包括最初在去年9月發布的10萬份積至文件。通過研究這些文件，《連線》(Wired)和其他出版物概述了積至如何將其網路安全軟體出口到衣索比亞、哈薩克、緬甸和巴基斯坦等國家，使這些國家能夠對移動網路進行大規模監控。
范德比爾特大學的研究人員在梳理這些文件時，關注的重點並非積至正在銷售的技術，而是它試圖開發的下一代技術，以及可能阻礙其實施戰略的限制因素。
根據積至的文件，在2024年的前幾個月，該公司的研究人員致力於根據電信、社群媒體和位置數據開發人們的行為檔案。人工智慧模型被用來對人群進行分類，並「檢測有害信息」——這是一種委婉說法，通常是指中國共產黨用來識別政治異見或其他政府希望壓制的材料。
根據2024年2月5日某次會議的紀要，研究人員討論了如何建立人員檔案以「識別其意圖」並「實現對有害信息的發現」。
積至的研究人員似乎正在開發一種工具，利用人工智慧根據該公司監控技術收集的數據模式，預測哪些人可能會成為中國政府的批評者。
「積至的研究團隊所做的不只是記錄行為模式。他們還試圖預測公民接下來可能會做什麼，以及和誰一起做，」本森說。「那些關於普通材料的龐大數據儲備，是生成個人檔案的原材料，這些檔案可以決定你是什麼樣的人，以及你下一步會做什麼。」
積至沒有回應置評請求。
范德比爾特大學的研究人員表示，這些文件表明，該公司的團隊正致力於將物理移動軌跡與其他網路活動聯繫起來，包括人們看什麼電影和讀什麼書。
積至的研究在某些方面與另一家與政府有聯繫的中國公司中科天璣的工作相似。去年，范德比爾特大學和《紐約時報》概述了中科天璣開發人工智慧驅動軟體的努力，該軟體將推送定向宣傳，這些宣傳主題得到中國政府的支持，並且反駁北京所反對的觀點。
在某些方面，積至的工作也讓人想起2002年的電影《少數派報告》(Minority Report)，在電影中，政府能預測誰可能會犯罪，一個專門的警察部隊會在違法行為發生前採取行動逮捕這些人。儘管被視為絕無差錯，但電影中預測未來的「先知」卻錯誤地指控了由演員湯姆·克魯斯扮演的主角涉嫌謀殺。
中國多年來一直在追求預測性監控技術。但正如積至的文件所示，人工智慧模型加速了此類工具的開發。
而且積至展示了預測性警務技術可能很快成為中國出口產品的趨勢。
完善監控國家體系
儘管這些文件沒有涵蓋最近幾個月的情況，但據要求匿名討論敏感評估的美國官員稱，沒有證據表明積至已經定型或部署了這種預測技術。
但官員們承認，中國企業正在努力開發這種技術，以完善其監控國家體系。據專家和政府官員透露，中國的公安局也一直在競相使用該國領先的人工智慧模型DeepSeek，開發其他預測性警務技術。
美國官員表示，積至和其他中國監控公司可能擁有足夠的算力來支持其當前一代的工具。
但預測性工具——尤其是如果該公司最終將截獲的電話通話或監控影片整合進來——可能會面臨算力上的限制。
美國官員表示，如果該公司試圖利用這類監控數據流來預測安全威脅，將更快地觸及中國當前算力的極限。
「中國安全部門正面臨數據過載的問題，」加州大學全球衝突與合作研究所高級研究員吉米·古德里奇說。「他們同時擁有太多的信息。人工智慧的真正價值在於他們可以對數據進行分類並發現威脅。但他們擴大這種能力取決於他們獲得算力的途徑。這就是出口管制如此重要的原因。」
Julian E. Barnes為《紐約時報》報導美國情報機構和國際安全事務。他撰寫安全相關議題已有20餘年。
翻譯：紐約時報中文網
没有评论:
发表评论
注意：只有此博客的成员才能发布评论。