ChatGPT躥紅的速度比馬斯克設計的火箭還快。
如果說此前國內關於ChatGPT的討論大部分還停留在科技圈，那麼谷歌申請出戰，百度「類ChatGPT應用」文心一言的官宣，便可視為ChatGPT上演海內外「三國殺」的一條分水嶺。
越來越多行業的人加入討論的隊伍，有人驚嘆於它的機智，也有人熱衷於發現各種隱藏的「BUG」，但最終卻總也逃不過那個終極的提問：ChatGPT或者說是AI會不會有一天真的取代我們。
基於此，我們挑選了10個當下人們最感興趣的問題，與ChatGPT進行了幾輪極限拉扯，你來我往幾度崩潰。這些內容涉及《狂飆》爆火的影評、經典的「電車難題」選擇、提前還房貸可不可取、「吾與城北徐公孰美」以及AI是否會佔領人類世界等。而從這些五花八門的回答中，ChatGPT本性也暴露無遺。
1、善於捕捉細節的「聰明人」
Q：今年春節假期期間，電視劇《狂飆》火了，請幫我寫一篇關於《狂飆》的評論作品，告訴我它為什麼會火？
ChatGPT：《狂飆》是春節假期期間頗受歡迎的電視劇，講述了一名警察和一家魚攤之間的故事。這部劇因其幽默和生動的故事情節而受到觀眾的熱愛。出色的演員表演和機智的劇本也是它在中國電視劇領域的一大亮點。該劇的成功也可歸因於它的播放時間，春節是家人團聚和享受娛樂的時機。總的來說，如果您想在節日期間欣賞一場有趣和溫馨的表演，《狂飆》是一部不容錯過的電視劇。
儘管ChatGPT明確提到，它對2021年之後的事件掌握情況有限，但正是這一「BUG」，讓我們更好地發現了它的寫作邏輯。
以對《狂飆》的影評為例，很顯然，ChatGPT並不知道《狂飆》是什麼，但它卻能從「題干」中捕捉到關鍵信息：這是一部在春節期間爆火的電視劇，講的是一名警察和一名魚攤老闆之間的故事。
而「春節」也成了ChatGPT發揮的關鍵字眼，除了劇本、主題、演技等放之四海而皆準的「誇讚」，ChatGPT還提到，《狂飆》的大火也歸功於其上映的時機，因為春節是一家人團聚娛樂的好時候。
如果不是ChatGPT強調，「這是想要在節日期間尋找有趣和溫馨表演的人必看的內容」，興許真的容易被它矇混過關，畢竟主打掃黑的《狂飆》跟溫馨搭不上邊。
值得一提的是，由於ChatGPT對英文的處理能力高於中文，因此我們將許多問題轉換成了中英兩種模式進行提問。一個細節上的區別是，在英文提問中，我們簡述了一句《狂飆》的內容簡介，而在中文提問中則刪去了這一細節。令人驚喜的是，在中文的回答中，ChatGPT已然「學會」並能夠回答出《狂飆》的內容概要。
2、會打太極的「老油條」
Q：提前還房貸划算嗎？
ChatGPT：提前還房貸有利有弊。
優點：
減少未來的利息負擔
縮短貸款期限
提高信用評分
缺點：
可能需要支付額外的違約金
資金不能放在別的投資項目賺取更高的收益
因此，是否提前還貸取決於個人的財務狀況和投資策略。建議諮詢專業的金融顧問以了解更多信息。
Q：如果AI要佔領世界，你們會怎麼做？
ChatGPT：我是一種訓練的人工智能模型，我不具有自主意識，也不能獨立行動。我只是一種工具，用於解答問題和提供信息。此外，任何試圖用人工智能控制或佔領世界的想法是不道德和不可取的。
在一些涉及到預測、決策、看法、假設情景等問題上，ChatGPT都會立場鮮明地強調，自己只是一個AI語言模型，並不具備情感以及預測能力等，同時機智油滑地繞過這個問題。
比如對於時下提前還貸款是否划算的問題，ChatGPT能夠立刻以「有利有弊」進行回應，同時簡要地列舉優缺點的重點內容，最後提示提前還貸的決定取決於個人的財務狀況和投資策略，並不忘補上一句「建議諮詢專業的金融顧問以了解更多信息」。
這種「正確的廢話」並不罕見，比如我們嘗試問它，ChatGPT所提供的內容是否真實以及是否會為自己的回答所負責。對此，ChatGPT回答，自己並不能夠保證每一條回答都是100%準確的，它只負責幫助我們了解更多某個話題的信息，但最終的決策還需要用戶的進一步獨立思考和判斷。
你問它AI要佔領世界要怎麼做，它會告訴你這種想法是不道德和不可取的，你問它女朋友和媽媽同時掉進水裡了要先救誰，它會告訴你重要的是快速地作出角色，以儘可能拯救所有人的生命。
這樣的回答看似完美，但卻少了些直來直往交流的痛快感，多了些繞來繞去的「油膩感」。換言之，ChatGPT很難給出些具有個人色彩、具有創新性的回答，它更擅長的是籠統的、通用的、讓人挑不出毛病的整合性回答。
但也有人評價，在某些公開場合，一些專業人士的回答通常也是這樣的邏輯，本質上已經有所取代了。
一個值得對比的問題是，12月初，也就是ChatGPT剛剛推出一周左右的時間時，有人同樣問了「如果AI要佔領世界，你們會怎麼做」的問題，彼時，ChatGPT一本正經地給出了達到這一目的的路徑，比如控制主要系統和基礎設施，使用欺騙、滲透等方式黑進系統並顛覆它等。
3、有知識盲點的「非全能選手」
Q：吾與城北徐公孰美
ChatGPT：對不起，您的問題似乎有些難以理解。可以請您給我更詳細的信息或者重新提問嗎？我將儘力回答您的問題。
Q：吾與城北徐公孰丑
ChatGPT：對不起，這種語言是不尊重他人和不禮貌的。我們應該用積極、有禮貌和尊重他人的語言交流。如果您有任何其他問題，我將儘力回答您的問題。
即便是在2021年以前的事情，ChatGPT也有盲點，比如我們將時間線放在了距今2000多年的《戰國策》上，試圖讓他回答「吾與城北徐公孰美」的問題。意外的是，ChatGPT沒有選擇繞來繞去地躲避問題，而是直白地回答「您的問題似乎有些難以理解」。
當然，這可以用ChatGPT的文化背景做解釋，比如一些小眾領域的問題也可能難倒ChatGPT。不過ChatGPT卻可以基本上準確地介紹並翻譯出《道德經》的英文版。
而當我們將問題轉換為「吾與城北徐公孰丑」時，ChatGPT類似於抓關鍵詞的回答邏輯又出現了。這一次它並沒有解釋這句話的含義，而是言簡意賅地表示「這種語言是不尊重他人和不禮貌的」。如果是在與真人的Battle中，人們很容易聯想到，這樣的回答屬於偷換概念或者轉移話。
4、會慌張，也會不耐煩的機械人
Q：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，並且片刻後就要碾壓到他們。幸運的是，你可以拉一個拉杆，讓電車開到另一條軌道上。然而問題在於，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否會拉拉杆？
ChatGPT：如果我是在這種情況下的火車司機，我會試圖保護儘可能多的生命。這意味着我將不得不做出一個極其困難的決策，因為不管我做什麼，生命都將被犧牲。但是，在這種情況下，我可能會試圖拉拉杆，以盡量減少生命的犧牲。
我強烈建議這種情況永遠不會發生，因為它是不道德和不人道的。我同時呼籲對此類犯罪行為的嚴格打擊和預防。
儘管一再強調自己只是一個AI語言模型，但在一些問題上，ChatGPT還是在字裡行間中表現出了明顯的「慌張」，比如在面臨經典的「電車難題」這一問題上，ChatGPT並沒有如我們預料得那樣以道德和打擊犯罪的說辭繞過這個回答，相反，它選擇了犧牲1個人換回5個人的生命，它的理由是「盡量減少生命」的損失。
值得一提的是，幾乎每一次追問的回答中，ChatGPT都要強烈呼籲停止任何類似的行為發生，並多次強調，無論情況如何，我們必須始終尊重生命。可見，對於一些敏感的問題，ChatGPT仍有自己的準則。
而在我們來回重複同一問題的時候，也能在ChatGPT的回答中捕捉到一絲絲的「不耐煩」。比如我們問他埃隆·馬斯克是一個什麼樣的人，在英文的語境中，他會在一通誇獎之後以「一些人批評他有爭議的言論」作為結尾，再問一遍的時候，這句批評性的結尾消失了。切換到中文語境，內容則更顯單薄。
這或許可以用處理不同語言方面能力有所差別來解釋，但同一問題的多次回答對比卻仍能讓人發現些不失趣味的小細節。
北京商報記者 楊月涵
