最近還在悉尼時，我讀完了 Sarah Wynn-Williams 的《Careless People 漠不關心的人》。這本書記述了她在 Facebook 工作多年的親身經歷。每次來到這座美好的城市，我的心情總會變得格外愉快；然而，讀完這本書後，我卻久久無法平靜。
尤其此刻，我正全心投入香港道爾頓學校（Dalton School Hong Kong），協助學校團隊進行教育界的「季前訓練」。正如我過去說過很多次、未來也會繼續說的那樣——能夠成為這所面向未來、勇於創新、並以價值觀為核心的學校的董事會成員，對我而言是一份真正的榮幸；而能夠為孩子與年輕人塑造自己的未來盡一點綿薄之力，更是一件意義非凡的事。
也正因如此，《Careless People 漠不關心的人》帶給我的思考，讓我感到格外不安。因為它所描繪的，是一個我們的孩子即將生活其中的世界——如果我們和他們都不夠警覺，他們很可能會受到某些強大力量的操控，而這些力量所追求的利益，未必與孩子們的福祉有多少關係。當我翻過最後一頁、合上這本書時，有一個念頭牢牢地留在我的腦海裡：我們有一項迫切而核心的責任——讓孩子理解身邊正在發生什麼，並學會如何保護自己獨立思考與自主行動的能力。否則——或許這聽起來有點過於嚴肅——我們文明社會中一些最珍貴、最核心的價值，可能正面臨根本性的威脅。
讓我解釋一下。
在《Careless People 漠不關心的人》中，Wynn-Williams 描述自己剛加入 Facebook 時，懷抱著一種理想主義式的信念。她相信這家公司有潛力連結不同國家與地區的人，讓更多人獲得資訊，甚至可能改變政府與人民之間的關係。她感覺到某件重要的事情正在發生，因此想走得更近一些——一方面希望理解它，另一方面也相信自己或許能夠幫助它走向更好的方向。
然而，後來發生的事情卻令人震驚。一家最初只是為了連結大學生而成立的公司，以驚人的速度發展成近乎全球性的政治力量。它的領導者穿梭世界各地，與總統、總理會面；而公司所作出的決策，開始直接影響不同國家的社會——甚至有時候，作出這些決定的人，對那些社會本身的理解卻少得令人吃驚。
而這些影響，絕非只是理論上的。例如在緬甸，Facebook 對許多人而言幾乎就等同於「互聯網」本身。在一項獨立人權評估之後，公司承認，當時並沒有採取足夠措施，防止其平台被利用來煽動分裂與現實世界中的暴力，而這最終為羅興亞人帶來了極其嚴重的後果。Wynn-Williams 亦提到，2016 年美國總統大選期間，Facebook 員工曾直接參與 Donald Trump 的競選團隊，協助其運用平台極其精密的廣告工具，辨識並接觸特定的選民群體。
這些例子揭示了同一個令人不安的現實的不同面向：Facebook 不但擁有驚人的觸及能力，同時也掌握著極其細緻的用戶資訊。我們每天在數碼世界裡留下的那些看似微不足道的痕跡——我們點開了哪些連結、在哪些內容上停留得比較久、追蹤了誰、哪些貼文讓我們憤怒、哪些內容令我們發笑——都被一點一點地收集起來，拼湊成一幅越來越細緻的個人圖像。它開始知道什麼對一個人而言是重要的，以及什麼最可能影響他。然後，這些資訊又被用來決定——你接下來會看到什麼。而正是在這個地方，「影響」開始令人不安地、甚至幾乎在我們毫無察覺之下，逐漸模糊成了「操控」。
當然，政治宣傳與廣告一直都在試圖說服我們。但過去至少我們看得見路邊的廣告牌，也知道報紙上的廣告是有人刻意想影響我們的選擇。然而，「微定向」（micro-targeting）卻更加私密，也更加難以察覺。我可能看到一則專門針對我個人的恐懼或希望而設計的內容；而坐在我身旁的你，看到的卻可能是完全不同的訊息。我不知道你看見了什麼，你也不知道我看見了什麼。於是，我們開始生活在一個個越來越「個人化」的現實版本之中，卻依然相信自己只是在看這個世界原本的樣子。
接下來，還有另一個更重要的問題——權力本身。當掌控這些龐大系統的人受到質疑時，會發生什麼？《Careless People 漠不關心的人》出版後，Meta 透過仲裁協議，限制 Wynn-Williams 宣傳這本書，或發表 Meta 認為具有貶損性的言論。Meta 表示書中包含虛假及誹謗性的指控，而 Wynn-Williams 則對這些限制提出了挑戰。
今年五月的 Hay Festival 上，出現了一幕極具象徵性的畫面。在一場討論科技權力的活動中，Wynn-Williams 在台上坐了整整一個小時，卻始終保持沉默。顯然是在法律建議之下，她甚至不能以點頭或搖頭作出回應。一位寫了一整本關於權力、影響，以及壓制不便真相的作者，就坐在現場，聽著其他人討論這些議題，自己卻連一句話都無法說。這幅畫面所帶來的象徵意味，幾乎令人難以承受。（最後，她獲得了實至名歸的全場起立鼓掌。）
而今天，這一切變得更加重要，因為我們正以極快的速度衝向 AI 時代，而「個人化影響」的能力，也正在變得遠比過去更加精密。社交媒體主要決定的是：什麼資訊會出現在我們面前。AI 則將越來越多地替我們解讀資訊、回應我們、給予建議、教導我們、預測我們需要什麼，甚至逐漸理解——究竟要用什麼方式，最能說服我們。
我自己大量使用 AI，也對它的可能性感到無比興奮，尤其是在教育領域。我看見 AI 有巨大的潛力，可以讓更多人獲得知識、激發創造力、深化學習，並為孩子帶來過去幾代人幾乎無法想像的機會。然而，《Careless People 漠不關心的人》也在此刻給了我們一個非常及時的提醒：當我們對「科技能做什麼」的熱情，跑得比我們對「科技應該做什麼」的思考更快；當決定這些事情的權力，集中在極少數人的手中——我們就必須格外警覺。
這也讓我再次回到學校、教育工作者與父母身上。因為我越來越相信，我們其中一項最重要的任務，就是幫助年輕人培養一種思考上的警覺性，以及保護自己思想的能力。今天的「數碼素養」，已經不能只是懂得如何安全、熟練地使用科技。
孩子需要明白，螢幕上出現的內容，之所以會出現在那裡，是有原因的。它可能被選擇、排序、生成或推送。那些看似中立的系統，其實也承載著設計它、控制它的人所持有的假設、價值與利益。而當某些內容激起我們非常強烈的情緒反應時，也許我們真正需要做的，不是更快地相信它，而是更加仔細地審視它。
我們需要培養孩子一種本能，讓他們懂得問：為什麼我會看到這個？誰希望我看到它？他們知道多少關於我的事情？他們希望我怎麼想，又希望我做什麼？這些說法背後有什麼證據？如果我刻意去其他地方尋找，我又會看到什麼？
這並不是要孩子懷疑一切，也不是要讓他們因為害怕，而遠離那些其實可以大大豐富他們生命的科技。相反地，我們真正要做的，是給予他們足夠的知識、好奇心、辨別能力與自主性，讓他們始終能夠成為——自己思想的作者。
我們經常談論如何「為孩子的未來做好準備」，討論他們需要具備哪些能力，才能在未來的世界裡成長、發展與活得精彩。這當然非常重要。但我越來越確信，我們同樣需要認真思考另一件事：孩子需要擁有什麼，才能承受這個未來、質疑這個未來，並在必要的時候，有足夠的自信拒絕讓這個世界替他們定義自己？
我們的孩子會在這個世界生活得比我們更久。因此，身為教育工作者與父母，我們不能把科技的倫理界線完全交給那些正在建構科技的人——無論他們有多聰明，又或者他們的出發點有多善意。我們共同肩負著一份真正的責任：讓下一代懂得仔細觀察，勇於提出那些不容易回答的問題，並牢牢守住屬於自己的選擇權、思考權與自主性。
讀完《Careless People 漠不關心的人》之後，我更加確信——面對孩子的未來，我們絕不能掉以輕心。
