【連你劈腿都知道】AI 解析「個人資料紀錄」 比你的伴侶還了解你 

艾美.韋伯 2020年03月30日 07:00:00

作者認為近期可能會有一個 AI 產物出現,並暫且稱之為「個人資料紀錄」。(湯森路透)

編按:本書中提到致力打造人工智慧未來的科技九巨頭(BIG 9),分別為:美國的Google、微軟、亞馬遜、臉書、IBM和蘋果(G-MAFIA),以及中國的百度、阿里巴巴和騰訊(BAT)。

 

本書作者定量未來學家艾美.韋伯是史登商學院的策略遠見教授,她以政治、經濟、科技等事實,進行「情境分析」,提供未來五十年務實面、樂觀面、悲觀面的遠見規劃。在本書中,韋伯展露她淵博的知識,了解驅動人工智慧背後科學,特別是了解可能造成中美兩國地緣政治的緊張局勢。她分析人工智慧會如何重塑經濟和當前的世界秩序,幫助人類策畫更好的方向。世界各地的教育機構和董事會應該拿這一本書來討論。

 

九大巨頭正在建立框架和系統,他們希望有一天能促進爆炸,激發就算是最聰明的電腦科學家也從未想過的全新解決方案、策略、概念、框架和方法。這會帶來更快的突破、機會和業務增長。套個專有名詞來說,這叫「遞迴式的自我進步」(recursive self-improvement),指的是透過修改自己的功能,AI使自己變得更好、更快、更快變更聰明的循環。這會使AI 能夠掌控並規劃自己的命運。AI自我進步的速度可能每小時、甚至一瞬間就達成了。

 

即將到來的「智慧爆炸」不僅描述了超級電腦的速度或演算法的強大功能,還描述了大量出現專注於遞迴式自我進步的智慧型思考機器。想像一下這樣的世界,當中的系統遠比AlphaGoZero和谷歌的NASNet要先進得多,不僅可以自主制定策略型決策,還可以做為全球共同體的一分子與大家互相合作競爭。

 

我們要求這些系統為了幫助人類,在這個世界中進化,所以它們會編寫新一代的程式、突變和自我改進—速度之快令你難以想像。由此產生的AI 會建立新的代理(agent,注:某種能夠行動的東西,這個英文源於拉丁文agere,意為「去做」),並根據目標和一組組的任務來設計它們的程式,然後該循環將一次又一次地重複數萬億次,導致微小和巨大的變化。

 

歷史上唯一一次出現這樣的演化大變動,大約發生在五億四千兩百萬年前的寒武紀時期,當時地球上的生物群落快速地變多樣化,導致了各種新的複雜生命形態誕生,並改變了我們的星球。前美國國防部國防高等研究計畫署(Defense Advanced Research ProjectsAgency)專案經理普拉特(Gill Pratt)認為,我們現在好比處於寒武紀爆發之中,在這段時期內,人工智慧正從所有人工智慧的經驗中學習,不過在此之後,我們在地球上的生活可能會與今天的情況截然不同。

 

這就是為什麼九大巨頭、其投資人和股東、我們的政府機構和民選官員、第一線辛苦工作的研究人員,以及你(很重要)需要辨識出這些警報信號,不僅要更嚴格地思考現在正在打造的限制領域人工智慧,還要去思考即將來臨的通用人工智慧和超級人工智慧。智慧的演化是人機共存的一系列事件,九大巨頭的價值觀已經深深地編寫至我們現有的演算法、系統和框架中。這些價值觀將被傳遞給不斷發展、數以百萬計的新一代人工智慧,並且很快就會傳遞給廣泛智慧的思考機器。

 

從限制領域人工智慧到超級人工智慧,當中的過渡期可能會持續七十年。目前,要擬定出具體里程碑出現的日期相當困難,因為人工智慧的進展速度取決於許多因素和人員:AI聚落延攬的新成員、九大巨頭做出的策略型決策、貿易戰和地緣政治的衝突,更不用說機會和混亂事件的影響了。在我自己的模型中,我現在把通用人工智慧出現的時間點設在二○四○年代。聽起來像個遙遠的未來,所以讓我根據情況進行討論。

 

到那時,白宮將會輪替過三到四位美國總統;除非習近平出現健康問題,不然他仍會是大權在握的中國國家主席。通用人工智慧系統開始進行自己的AI 研究時,我將六十五歲。我小二的女兒將滿三十歲,屆時她可能會讀完全由機器編寫的《紐約時報》暢銷書。我父親將快要一百歲,他所有的專科醫生(心臟科、腎臟科、放射科)都會是通用人工智慧,系統將由訓練有素、既是醫學博士又是資料科學專家的家醫來指導管理。

 

超級人工智慧可能很快或還要一段時間才會出現,在二O四O年代到二O六O年代之間。而這並不表示到二O七O年,超級智慧的AI會用數百萬兆億個迴紋針重壓地球,粉碎所有的生命,但也並不表示它們做不到。我們必須跟自己說的故事規劃AI 的未來,我們得使用來自現實世界的資料,建立起新的敘述。如果我們都同意「當AI 一出現時它就在演化了」這個事實,那麼我們必須設想出情境,描述出引領AI 的九大巨頭、經濟和政治力量三者的交叉點,以及當人工智慧從範圍有限的應用程式,轉變為通用人工智慧,並最終成為超級智慧思考機器的過程中,把人類全體納入考量的方式。

 

因為未來尚未到來,我們無法確切知道現在的行動可能導致的所有結果。因此,接下來幾章的後續情境,我將使用不同的情感框架來描述未來的五十年。首先是樂觀的情境:如果九大巨頭決定支持全面改變,以確保AI讓我們所有人受益,會發生什麼事?請注意「樂觀」的情境不一定令人振奮或使人快樂,它們並不一定導致烏托邦。在樂觀的情境中,假設人類做出了最好的決策,並且克服了阻撓成功的任何障礙。就我們的目的而言,這表示九大巨頭轉變了人工智慧的方向,並且因為他們在正確的時間做了最好的決定,未來我們將會過得更好。那是個我會滿意的生活情境,如果大家一起努力,我們可以實現那樣的未來。

 

接下來是務實的情境:如果九大巨頭在短期內只做出微小的改進,未來會怎麼樣?假設(所有關鍵利益相關者都承認)AI恐怕沒走上正確的道路,大家並沒有一起合作創造持久又有意義的變革。只有少數大學將道德課程列入必修;G–MAFIA為了以應付風險建立了產業合作夥伴關係,但沒有改善自己的公司文化;美國民選官員把重點放在下一次的選舉,而忽略了中國的恢宏大計。務實的情境並不希望發生重大變化,它體認到我們人類對改進的趨動力起起伏伏;它還承認,商界與政界領袖都非常願意對未來做出短暫的改變,以獲得立即的近期利益。

 

最後是災難的情境:如果錯過了所有的信號、忽略了警訊,我們未能積極規劃未來,九大巨頭還繼續互相競爭,最後會發生什麼事?如果我們選擇一股腦地維持現狀,結果會把我們帶向何方?如果AI繼續沿襲美國和中國現有的路線,會怎麼樣?為避免災難情境成真,系統性的變革非做不可,這麼既困難又耗時,問題永遠解決不完。這就是災難情境真正令人恐懼的原因,其中的細節讓人非常不安。因為就目前看來,災難的情境是似乎注定會成為我們實現的情境。

 

我已經研究、模擬和編寫了這三種情境來描述從二○二九年開始的假設結果。支撐這些情境的有幾個關鍵主題,包括經濟機會和流動性、勞動生產力、社會結構的改善、九大巨頭的態勢、中美兩國之間的關係,以及全球民主和共產兩種主義影響力的消長。我呈現了當AI成熟時,我們的社會和文化價值觀將如何變化:我們如何定義創造力,人與人之間的聯繫方式,以及對生死的思考。由於情境的目標是幫助我們了解,從限制領域人工智慧到超級人工智慧這段過渡期的生活景況,我對以下層面列出示範:家庭、工作、教育、醫療保健、執法、我們的城鎮、當地基礎設施、國家安全和政治。

 

近期,可能會有一個AI產物出現,我且稱之為「個人資料紀錄」(personal data record,簡稱PDR),這也將會是三種情境發生的起始核心。個人資料紀錄是個單獨的統一分類帳,內容包括我們因為使用科技產品(例如網際網路和手機)而出現的所有資料,以及由其他來源彙整的資料:我們的學校和工作史(文憑、以前和目前的雇主)、法律記錄(結婚、離婚、被捕)、財務記錄(房貸、信用評分、貸款、報稅);足跡(去過的國家、簽證)、約會史(線上應用程式)、健康(電子健康記錄、遺傳篩檢結果、運動習慣)和購物記錄(用過的線上零售商,在店內使用的優惠券)。

 

在中國,個人資料記錄還包括上一章講過的社會信用評分資料。由九大巨頭建立的AI 會從你的個人資料記錄中學習,並拿你的資料來自動做出決策,為你提供許多的服務。你的個人資料記錄將可繼承,這份完整的記錄會傳遞給你的孩子,由你的孩子使用,並且可由九大巨頭之中的公司臨時管理或永久擁有。在你即將讀到的情境中,個人資料記錄扮演著重要的角色。

 

目前,個人資料記錄還不存在,但就我這個有利的位置來看,已有跡象顯示,未來這些從無數源頭而來的所有個人資料,都將統整成一套記錄,且由九大巨頭來提供和維護。事實上,你已經是系統的一部分,而你現在正在使用個人資料記錄的原型,也就是你的電子郵件地址。

 

一般人的電子郵件地址已被重新當成登錄帳號;手機號碼用在驗證交易;在實體世界中,智慧型手機也被用來定位使用者位置。如果你是Gmail 的使用者,那麼谷歌及其連帶的AI,會比你的配偶或伴侶還更了解你。谷歌知道你和哪些人交談過,他們的姓名和電子郵件地址,以及他們的人口結構資料(如年齡、性別、所在地),谷歌都掌握得一清二楚。谷歌知道你通常什麼時候打開Gmail 以及相關的情況,從你的電子郵件,谷歌還可以了解你行經的路線、財務記錄,以及購買的商品。

 

如果你使用 Android 手機拍照,它會知道你的朋友和家人長什麼樣子,還可以檢測到異常情況並進行推斷:例如,突然出現同一個人的新照片,可能就是交了新女友(或劈腿)。它知道你所有的會議、醫院掛號,以及去健身房的打算;它知道你是守回教齋戒月還是過猶太新年,是會乖乖去教會做禮拜的信徒,還是完全沒有宗教信仰;它知道在特定的星期二下午你人應該在哪裡,即使你在別的地方;它知道你用手指和聲音搜尋過什麼項目,所以它知道你是否是第一次流產、想學習製作西班牙海鮮燉飯、在性向認同或法定性別方面有所掙扎、考慮放棄吃肉,還是想找新工作;它會交叉連接所有的資料並從中學習,讓資料可以產品化及從中獲利,因為它會把你輕推至預定的方向。

 

現在這些訊息統統掌握在谷歌手中,因為你自願把訊息全部連結到同一筆記錄上,也就是你的 Gmail 地址。順便說一下,你可能也習慣用Gmail帳號在亞馬遜買東西,並登錄臉書。我沒有在亂發牢騷,這是現代生活的實情。隨著人工智慧的發展,更強大的個人資料記錄將為九大巨頭提供更高的效率,因此他們將輕推我們去接受並採用個人資料記錄,即使我們不完全理解個人資料記錄的使用含義。當然,中國在社會信用評分的支持下,個人資料記錄已經在試點測試。

 

「我們之所以講故事,是為了讓自己能夠活下去。」蒂蒂安(Joan Didion)在她的著作《白色專輯》(The White Album)中這麼寫道,「我們詮釋我們所見的一切,從眾多選擇中,挑出最可行的出來。」關於AI,我們都要做出選擇。我們該開始運用手邊的資訊,對自己講故事了,來說說我們和思考機器共存的那些情境吧。

 

*本文摘自AI未來賽局:中美競合框架下,科技9巨頭建構的未來,八旗出版。

 

【作者簡介】

艾美.韋伯(Amy Webb)


美國知名定量未來學家、史登商學院策略遠見教授。於二〇一七年入選Thinkers50雷達名單,該獎項評選最有可能塑造未來組織管理和領導方式的管理學思想家。她在本書疾呼大家關注人工智慧破碎的本質,以及勢力強大的企業正在徹底改變人機關係。

二〇〇六年創辦「未來今日機構」(Future Today Institute),替財星五百大企業和全球一千大公司、政府機構、大型非營利組織、高等教育機構和世界各地新創公司提供諮詢服務。艾美.韋伯同時擔任美日領袖培育計畫的研究員,也是美國政府責任署的戰略前瞻研究員。曾任美俄雙邊總統委員會代表,她在會中致力於科技、媒體和國際外交的未來。

韋伯的研究多專注於人工智慧、新興科技、數位媒體,以及科技帶來的影響和契機。她對未來的預測已經被《紐約時報》、《哈佛商業評論》、《華爾街日報》、《Fast Company》、CNN、美國全國公共廣播電台等媒體特別報導,研究報告也被多篇學術論文所引用。另著有《邊緣商機》、《妳可以更挑剔一點》。

 

 

 

看更多《上報生活圈》文章

 

 

 

【上報徵稿】

 

美食、品酒、旅遊採訪需求通知 / 提供最新相關新聞資訊

請聯繫上報記者 → 吳文元 chloe_wu@upmedia.mg

 

電影、戲劇、藝文、閱讀採訪需求通知 / 提供最新相關新聞資訊

請聯繫上報記者 → 黃衍方 william_huang@upmedia.mg

 

科技、通路、健康、名人採訪需求通知 / 提供最新相關新聞資訊

請聯繫上報記者 → 林冠伶 ling_lin@upmedia.mg

 

追蹤 上報生活圈https://bit.ly/2LaxUzP

一起加入上報Telegram,新聞不漏接!@Telegram


回頂端