去年11月30日，舊金山的人工智慧研發公司OpenAI推出了一款測試版的AI聊天機器人，稱為「ChatGPT」。現階段它完全免費，使用者可以輸入任何問題，它幾乎總能回答地有模有樣，而且中英文都通。問它「台灣哪裡好玩」，它能替你介紹台灣各大城市特色；如果要ChatGPT寫一篇小論文介紹人工智能的缺點，它也能洋洋灑灑好幾百字，不但有起承轉合，乍看之下還有憑有據。但假如問它「2022年最棒的韓劇是什麼」，它會誠實告訴你它回答不出來，因為它的知識範圍只到2021年為止。

雖然ChatGPT並不是什麼都知道，但面對人類生活各層面的疑問，它幾乎都能說上兩句。用OpenAI早期投資者馬斯克（Elon Musk）的話來說，ChatGPT「棒得可怕，再過不久就會強到危險的地步」。

ChatGPT問世之後隨即掀起全球熱潮，上線不到7天，就有超過100萬用戶註冊。許多人抱著朝聖或嘗鮮的心態玩玩，有人則想測試它的極限在哪裡，刻意用欺騙性的提問，想誘使它落入陷阱、給出錯誤答案。然而，種種互動無論動機為何，都是在幫助ChatGPT變得越來越聰明，持續餵養它的語言資料庫。

什麼是ChatGPT？

根據OpenAI網站，該公司成立於2015年，最初定位為非營利企業，宗旨是「確保通用人工智慧（artificial general intelligence, AGI）能造福全人類」，致力於打造出「安全且有益」的AGI。OpenAI的研發主管是機器學習專家蘇茨克維（Ilya Sutskever），執行長是企業家阿特曼（Sam Altman）；創辦之初的重要投資者，包含PayPal創辦人提爾（Peter Thiel）、LinkedIn創辦人霍夫曼（Reid Hoffman）、特斯拉執行長馬斯克等人，近幾年還獲得微軟投資。

ChatGPT是透過「人類回饋的強化學習」（ Reinforcement Learning from Human Feedback, RLHF）方法，訓練出來的大型語言模型（large language model, LLM）。據其網站介紹，ChatGPT能做到的事情，包含「回答後續問題，承認犯錯，對錯誤的假設提出質疑，並拒絕不適當的請求」。

從這樣的描述看來，ChatGPT似乎真的能像人類一樣思考。然而，有一項致命弱點，卻讓它終究缺乏人類擁有的批判思考能力：ChatGPT無法辨別事實，即使產出了看似完整、充滿邏輯的回覆，內容也未必是正確的。

ChatGPT有哪些隱憂？

像ChatGPT這樣強大的工具，必然引發各界憂心。英國衛報編輯台便撰文示警：「人工智能並不是人工意識。ChatGPT不知道自己在做什麼，說不出自己如何、為何要回應提問，不能理解人的經驗，也無法分辨自己的回答有沒有道理。」

對於AI的憂慮早已不是新鮮事，很多人開始擔心ChatGPT會被用來製造假新聞、假訊息，讓資訊空間更加混亂，甚至成為操弄選舉、擾亂民主社會的工具。

最為直接的衝擊，或許在於教育與學習層面上。美國紐約市教育局已經決定，限制在公立學校的網路與電子裝置存取ChatGPT，理由是「對學習有負面影響，安全與內容正確性也有疑慮」。因應ChatGPT，英國倫敦大學學院（University College London）的資工系調整了考試方式；過去學生可選擇寫論文或考技能，現在只能選後者。

AI不利於學習？禁不禁止掀起爭議

有了ChatGPT，很多老師擔心學生可能投機取巧，靠AI來幫忙寫作業，失去自己解決問題的能力。用這種方式作弊，未必能透過抄襲比對軟體辨別出來，更迫使教師反思，如何找到更有效的評量手段，才能確定學生真的有學到東西。

直接禁止學生使用ChatGPT，是一種「膝反射」式的解決方案，但這一招顯然有其極限。學生永遠有辦法找到辦法避開禁令，因此部分學界人士提出了其他可能性。

紐約時報專欄作家魯斯（Kevin Roose）指出，有些老師將ChatGPT納為己用，發想出有創意的互動教學模式，例如要求學生扮演老師的角色，替ChatGPT產出的回答打分數。它也可以充當課堂上的暖場活動，或用來引導學生構思論文大綱，或扮演議題辯論的夥伴，有時甚至能激發意想不到的靈感以及從沒想過的論點。

往好處想，ChatGPT或許能帶來教育界進步的契機。無論如何，AI的發展趨勢已然不可逆，人如何活用科技，同時保持警醒，勢必成為新時代的一大考驗。