書名：《終極警察國度：擺脫人臉辨識、DNA跟蹤、人工智慧，揭開中國反烏托邦的駭人真相》
內容簡介：在AI化世界中，我們是活得自由開放、還是淪為數位監獄的囚犯？電影《關鍵報告》中「預測式治安」的人工智慧系統，翻版！奧威爾筆下描述陰暗恐怖的極權主義寓言《1984》，成真！21世紀科技發展主軸：大數據、人臉辨識、DNA跟蹤、人工智慧，並沒有為人類迎來自由，即使活在看似自由開放的世界，也仍舊是數位監獄的囚犯。我們曾經期待的美好未來，根本從未到來。
作者傑弗瑞・凱恩是名調查記者，也是科技作家。本書揭示了中國的新疆地區，如何成為一個令人如噩夢般的奧威爾式社會實驗場所—終極警察國度，以及使之成為可能的全球科技巨頭們。
在這裡，被阻隔於事實和真理之外，受到持續的監視，被一支敵對的外來警察部隊所包圍：新疆維吾爾族人民已淪為受詛咒、受壓迫、被放逐的群體。大多數公民無法分辨敵人和朋友，社會信任被系統性地摧毀：朋友背叛彼此、老闆告發員工、老師揭發學生、孩子背叛父母。所有人都依賴於一個卻對他們懷有猜疑和蔑視的政府。
本書透過講述一位年輕女性—梅森，逃離殘酷科技反烏託邦的驚心動魄故事，以及作者凱恩親身經歷，以及大量來自流亡者的第一手證詞，揭露科技監控巨頭們的驚人侵略性和力量，以及這對我們未來的可怕意涵。
本書特色
1.內容揭露中國新疆境內的言論審查、網路防火牆、密集監視器及信用評級系統等對人民監控的嚴重程度，宛如電影《關鍵報告》的翻版。
2.本書為作者在新疆的親身經歷及第一手觀察採訪的資料，文字敘述中立，幫助讀者從不同面向思考書中大數據、人臉辨識、DNA跟蹤與人工智慧所建構出的生態體系，所引發的社會與人權議題，發人省思。
作者介紹：傑弗瑞・凱恩，調查記者，也是科技作家，曾在亞洲和中東報導12年，作品可見於《經濟學人》、《時代雜誌》、《華爾街日報》和其他數十份報章雜誌。他的第一本書籍著作是《三星崛起：南韓科技巨人計畫打敗蘋果、征服科技界的內幕》，曾入圍《金融時報》及麥肯錫年度最佳商業圖書獎。凱恩是傅爾布萊特學者，曾就讀於倫敦大學亞非學院及喬治華盛頓大學，也是美國外交關係協會的成員。
搶先試閱：〈事實已經證明，黨在新疆的新時代治理戰略完全正確 ── 習近平〉
梅森說她被帶去採樣 DNA 的幾天後，葛小姐又來了。
「地方警局發現可疑活動，」她宣布。「哪裡『可疑』了？」梅森馬上回嘴，「我就只是個學生，你明明也知道的。」「我也只知道這樣，反正你得去地方派出所報到就對了。」
警察也沒幫上忙。梅森坐在桌前，看著一位安檢官瀏覽文件，並在電腦螢幕上檢視她的醫療和個人資料。
「你出過國，」警官這麼說，「在那邊念書。你說你是讀什麼的？」
「社會學。」
他拿出一張表要梅森填。
「上面有問我的宗教信仰、去過哪裡、是在何時用什麼方式取得護照，還有是否去過那26個敏感國家，」基本上，就是「一種侵略性的普查。」
安檢官說梅森得去「上公民課程，一週兩次，如果缺席，我們也不得不盯著你；但只要你認真學習，就不會有事，之後就可以回土耳其去讀研究所了。」
「我都已經在讀碩士了，」梅森回嘴，「為什麼還要上這種無謂的政治宣傳課？」
但她再次別無選擇。每到週五，梅森都得去附近的政府大樓報到上公民課。每間教室都有四台攝影機，分別裝在四個角落。
「我們要愛黨！習近平主席是我們偉大的領導！」她被迫將這句話一遍又一遍地寫在筆記本上。
「新疆的三大邪惡勢力是什麼？」老師會這麼問。
「恐怖主義、分裂主義和宗教極端主義！」學生則會齊聲回答。
每星期一，警方會針對意識形態對她進行長達三小時的盤問。
「你為什麼選擇去中東？」其中一人這麼問。訊問室裡通常會坐三名警察，分別負責提問、把她的答案輸入電腦等等。
「我去讀碩士，」她解釋道，「是為了我的教育。」
「教育啊，」訊問者說，「那你追求的是怎樣的教育呢？」
「就只是社會學而已。」
「你讀完社會學要做什麼？是不是想煽動國家分裂？」
這時另一名訊問者插嘴：「認識你的人都說你愛看書，你從小就是書迷。像你這種女孩子，為什麼要讀那麼多書呢？」
一週又一週過去，訊問和課程都持續進行。警官一遍又一遍地重複相同的問題，只是問法不同，用這種心理遊戲把梅森搞得筋疲力盡。
「我說過了，我是學生。」
「你在中東接觸過哪些極端分子？」
「我沒有！」
後來梅森才知道，警方其實是想從訊問和課堂中儘可能蒐集資料，好預測她未來的行為。她和其他數十名維吾爾人都說他們有這樣的經歷。
「健檢、訊問，還有葛小姐一直上門，都是因為當局想盡辦法要蒐集資料，餵給AI系統，這樣軟體就能預測誰可能會犯罪，但誰知道是不是真的準呢，」梅森說。
中國發動名為「一體化聯合作戰平台」（Integrated Joint Operations Platform，IJOP）的新計畫，執行預測性的警務作業。2016年8月起，IJOP就開始出現在新疆公安局發布的公開採購通知書中。
這些公開的線上採購通知書和人權觀察取得的資料顯示：
IJOP 會從許多來源(也就是所謂的機器「感測器」)收集資訊，
其中一個來源是閉路電視攝影機，
某些還具備臉部辨識或紅外線功能(即使在夜間也能拍)。
攝影機經常架設在警方認為敏感的地方，
譬如娛樂場所、超市、學校和宗教人士的住家；
另一個來源則是「無線網路偵測器」，
用於收集電腦、智慧型手機和其他連網裝置的不重複識別位址；
此外，IJOP還能取得車牌號碼和國民身分證字號等資訊，
資料來源就是當地不計其數的檢查站、
門禁社區的「訪客管理系統」等等⋯⋯
車輛檢查站將資訊傳送到IJOP後，
「會即時接收到該平台推送的預測性警告」，
方便警方「辨識目標⋯⋯進行檢查和管制」。
根據官方報告，IJOP 還會利用現有資訊，例如車輛擁有權、健康狀況、家庭規劃、銀行資料和法律記錄等。警方和當地官員在查訪住戶、巡邏時，如果發覺認為「不尋常」或「有涉治安穩定」的事件，也必須向 IJOP 稟報資訊。有位受訪者告訴人權觀察，假設沒有合理解釋（譬如是老師），卻擁有很多書，那就會被通報給IJOP。
IJOP使用AI技術，開始把嫌犯或未來可能犯罪的人「推送」給警方和政府進一步調查，而警方收到警告後，必須立即採取行動，有時是當天就得親自登門造訪、下令嫌疑人不得出門、限制活動範圍，也有時是直接拘留或逮捕。
譬如其中有個系統是監控肥料購買情況，因為可能被拿去製造炸彈。
「如果有人平常只買 5 公斤的化肥，但突然（把量）增加到15公斤，我們就會派前線人員去拜訪（這個人），確認肥料的用途，」一名警方研究員告訴中國媒體。
梅森2016年夏天之所以被叫去上公民課，就是因為這樣──根據系統預測，她可能在土耳其變得「極端化」了。
「但問題是，我什麼都無法確定，」她說，「我怎麼知道警方對我是不是真的瞭若指掌？要是系統不像他們說的那麼好，那該怎麼辦？」
「政府的行為非常隱晦，讓我很不知所措，在感到不確定的情況下，當然就會害怕，這是一體兩面；又因為怕政府在看，所以最好安分守己、好好表現。」
這就是圓形監獄的功效。
我訪問了梅森和其他數十名維吾爾人後，明顯可以看出IJOP並不只是要通報恐怖事件，讓警方採取行動、執法反恐而已，這個系統的最終目的，是要布下天羅地網，將目標一網打盡。後來，由於阿不都外力在別的地方也有認識一些人， 所以我取得了幾十份中文的共產黨機密文件，因而得以一窺中方政府的內部運作，當中的資料是外界前所未見的。這些文件分成兩批流出後，在新聞界和外交圈流傳開來，記者稱之為「新疆文件」（Xinjiang Papers）和「中國電文」（China Cables）。
「某天突然有人用 WhatsApp把那些文件（中國電文）傳給我，」幫忙將文件流出的維吾爾族女子哈斯葉．阿卜杜拉赫布（Asiye Abdulaheb）從荷蘭的家中告訴我。她2009年離開新疆後，就成了荷蘭公民。「我在社群媒體上積極為維吾爾族發聲，因為很活躍，所以有人（把這些文件）發給我，希望藉由我傳遞出去。」曾在新疆政府工作的阿卜杜拉赫布說她不怕自己的名字曝光，因為她在媒體界很有名，不怕被報復。
「我知道這些文件非常重要，所以貼到推特 ，但卻沒人關注，讓我很驚訝。」
但那只是暫時的。
她開始聯絡研究人員和記者，把文件分享給他們。中國政府利用網路工具壓迫人民，現在，她也反過來用相同的途徑來揭穿中共惡行。
新疆文件外洩後，如炸彈般造成了爆裂性的影響。掌握當中的內容後，外界得以揭開中方政府的權力面紗，瞭解中國 領導者對於新疆事務的想法與決策過程；此外，這些文件的出現，也代表政府體制內存在異議人士，否則怎麼會有官員把資料洩露給阿卜杜拉赫布，再由她冒著在中國被關、甚至被處決的風險，交給國外媒體呢？
中國情報人員很快就開始對阿卜杜拉赫布和她的家人圖謀不軌。
「我前夫接到新疆一個老朋友的電話，對方說服他到杜拜見面。」
起初，阿卜杜拉赫布和她前夫都認為最好哪裡都不要去，但這位朋友很堅持，還說要幫忙付機票和飯店的費用。
最後他同意了。 「他到杜拜後，發現在飯店等他的是中國國安官員。」
根據阿卜杜拉赫布的描述，其中有個情報人員這麼說: 「我們知道你是誰，而且中國在荷蘭派了很多人，要抓到你不是問題。在這片沙漠裡，屍體被埋葬後，可能就再也找不到囉。」
威脅他以後，對方還試圖利用他駭入阿卜杜拉赫布的電腦。
「他們給了他一個USB隨身碟，『這個隨身碟裡有些照片和影片，是你在中國的家人，插進電腦，就能看到你母親囉』。」
他覺得隨身碟裡應該有惡意軟體，讓情報機關可以藉機駭入他前妻的電腦。
「他回到荷蘭後轉述了這整件事。我們打電話報警，也把隨身碟交給了荷蘭國安局。」政府移除隨身碟裡的惡意軟體後，就還給他們了。
與此同時，阿卜杜拉赫布和她前夫的家人，都在網路上收到了死亡威脅。
外洩的新疆文件中，涵蓋2013到2017年的炸彈級資訊， 我也因而得以一探 IJOP系統究竟有多可怕。文件內容多半很單調，像是IJOP通報了多少可疑人物、他們所在的位置等等。舉例來說，我拿到的一份「中國電文」就提到「24,412名可疑人物，喀什16,354人、和田3,282人、柯州2,596人、阿克蘇 2,380人。」這些清單看似無聊，背後其實隱藏複雜的意義。
我取得的一份機密文件指出：「遇到意識形態有問題或情緒異常的學生時，務必評估並根據情況處理。」
「學生」是中共對集中營囚犯的稱呼。「建立並培養祕密勢力，根據情報行動，避免學生群聚、惹事生非。」
所謂的「祕密勢力」，意思似乎是要營區警衛說服囚犯互相監視。
「監控技術必須完全覆蓋宿舍和教室區域，絕不能有任何盲點。」
另外，還有「淨化學生意識形態」的說明。
「有效解決意識形態矛盾，處理惡性情緒，」一份文件如此描述，「幫助學生理解他們過去的行為為何違法、屬於犯罪，並針對其他危險活動進行解說。在矯正過程中，心理輔導扮演重要角色。」
文件中也有提到如何在營區外的城市（譬如梅森的家鄉喀什）監控人口。
「推行『整合』平台時，」文件如此建議，這個平台指的就是IJOP系統，「要利用科技密切掌控各個家庭，以及家戶中身分不明的人物，同樣也要運用科技手段進行盤查、研調，徹底整理出問題。」
文件呼籲警方針對新疆社會信用體系列為「不誠信」的 人民，加強收集額外資料，然後輸入系統，由系統決定是否要拘留這些人並送往集中營，理由就是「預備犯罪」。
預備犯罪又是怎麼判別的呢？答案就是中國官方所說的「預測性警務」，意思是由AI演算法猜測誰未來可能犯罪。國家系統IJOP發現預備犯時會發出通知，敦促警察進一步調查或直接拘留。有親戚在國外、敬拜、禁食或從事宗教活動，都是預備犯罪的徵兆。維吾爾難民把這比做《關鍵報告》（Minority Report），這部電影是菲利普.狄克（Philip K. Dick）1956年的小說改編，描述未來犯罪部門的幹員調查可能會在一週內殺人的男子。
那麼中共的監控有多深入呢？我研究到這個問題時，謎團中又有一塊拼圖浮出水面。荷蘭電腦駭客維克多．吉佛斯（Victor Gevers）找到相關資料集，裡頭全都是被監控、追蹤的對象，奇怪的是，這些資料竟然可以公開存取，換言之，被監視的人民根本毫無隱私可言。
這個毫無安全措施的資料庫是由深網視界建立，該公司專門開發臉部辨識技術，名列中國兩大人臉辨識公司的商湯科 技握有其 49%的股份，但差不多在資料外洩事件曝光時，就出售所有權退場了。資料庫中有250萬人的資訊，多半是新疆居民，包括他們的姓名、性別、種族、身分證字號、出生日期和雇主；更令人震驚的是，資料庫還公開過去24小時內670萬人經過的追蹤器位置，暴露了這些居民的行蹤。所謂的「追蹤器」是指攝影機、配有攝影機的手持設備（警方使用），以及身分證掃描器，在清真寺、旅館、網咖和警察局裡到處都有。
吉佛斯表示，「在以人臉辨識、群眾分析和個人驗證為手段的AI安全網絡中，這些追蹤器是構成要素之一。」
深網視界宣稱他們和微軟是合作夥伴。「微軟和深網視界並沒有合作關係，」吉佛斯發表研究後，微軟發言人卻這麼告訴CNBC。「我們知道深網視界未經許可就在網站上使用微軟標誌，也已要求他們移除。」
後來，吉佛斯又發現另一個毫無安全防護的線上資料庫，這次是中國數百萬人的社群網站個人資料和對應的微信使用者名稱，以及女性是否有生育能力的預測資訊。
政府監控的範圍如此深廣，使梅森十分錯愕，但自己經歷過一切後，她並不意外。
相關資料提供了大量證據，證明中國政府就是透過伊爾凡和其他維吾爾族科技工作者告訴我的計畫，對行動 App 用戶進行監控。
2016年7月起，中國政府就一直在追蹤Zapya的使用者。
這款行動App是由北京的一間新創公司開發，鼓勵用戶下載《可蘭經》，並與親友分享教義。
一份政府文件呼籲有以下情況的人，全都趕快自首投降：「擁有少量分裂主義、暴力及恐怖主義、宗教極端主義（相關內容），『希吉拉』（伊斯蘭先知帶領信眾離開麥加的事件）音檔或影片，或是其他非法宣傳素材，但只（將這些素材）傳給家人觀看或閱讀，並未造成其他嚴重後果。」梅森告訴我：「警察每次攔下我們，都會檢查手機，Zapya就是他們要找的App之一，如果被找到，就會被標成可疑人物，還可能會被送去再教育。」
中國政府在外洩的文件中提到，使用 Zapya 的維吾爾人超過 180 萬，其中包括 4,000 名「未經授權的伊瑪目」。
另一個令人擔憂的現象，則是警方檢查手機上有沒有禁用的內容後，開始會要求或逼迫民眾下載一款名為「淨網衛士」的新型手機App，顧名思義就是要淨化網路。非營利組織「開放技術基金會」（Open Technology Fund，OTF）的研究團隊分析了淨網衛士，發現這個App會擷取手機的基本資訊，包括行動裝置國際識別碼（IMEI）和製造商，使手機變得很容易追蹤、監控。
「這款App會掃描裝置的外部儲存空間，尋找政府視為『危險』的檔案，」OTF 寫道，「如果找到，就會提示使用者把檔案刪除。」
BuzzFeed News也在2018年4月引述中國官媒的消息，指出警方開始在一般民眾的手機上安裝「公民安全」App。智慧型手機使用者只要看到可疑現象，就能透過App立即通知警方，像是留鬍子的男人或規模過大的敬拜儀式，都包含在內。 「烏魯木齊警察局鼓勵所有人下載並安裝『公民安全』，」一份官方中文報導寫道，「這樣一來，人人都可以成為吹哨者，形成反恐運動的強大支援系統。」中國政府宣稱這個App在2017年啟用後的三個月內，收到了超過 3 萬則舉報。
梅森每週在課堂上背誦政治宣傳內容，變得越來越神經質，因為監視她的不是人，而是一些沒有情感，只會計算的機器。這些時時刻刻監控著她的電腦系統，究竟有多聰明、多全知全能？有沒有在偷看她的社群帳戶、手機使用情況和簡訊內容？
「訊息被阻擋、真相被斷絕時，你會陷入一種隨時都在猜測的狀態，做什麼都覺得危險，」梅森告訴我，「而且真的不知道有誰在看、在聽，又有誰能信任。朋友、甚至是家人，都可能會害你。」
⏩⏩閱讀更多 寶鼎出版 傑弗瑞・凱恩《終極警察國度：擺脫人臉辨識、DNA跟蹤、人工智慧，揭開中國反烏托邦的駭人真相》
沒有留言:
張貼留言