短短數(shù)月時間，AI聊天機器人ChatGPT已成為當下科技圈最火爆的談資。這款由美國舊金山一家名為OpenAI的人工智能創(chuàng)業(yè)公司，在去年11月發(fā)布的聊天機器人模型，上線僅兩個月就月活破億，迅速火遍全球。

很難想象，它原本只是一個趕鴨子上架的“測試品”——ChatGPT是OpenAI基于兩年前發(fā)布的GPT-3模型微調(diào)后在兩周內(nèi)趕工出來的，發(fā)布的主要目的是為了搶占先機，同時為重頭戲GPT-4收集用戶反饋。

但幾乎在同一時間，中英文世界最大的兩個搜索引擎巨頭都感受到了來自這個聊天機器人的威脅。

谷歌和百度相繼宣布，計劃推出類似“ChatGPT”的聊天機器人Bard和文心一言，正開啟“火速”測試，將在數(shù)周后面向公眾開放。

ChatGPT背后的微軟也終于按奈不住，連夜召開了一場閉門媒體發(fā)布會，在會上正式宣布推出集成ChatGPT的全新Bing搜索服務，以及集成AI輔助的Edge瀏覽器。

一天內(nèi)，三大科技巨頭紛紛入局，搶占高地，新一輪風暴正在沉寂許久的AI行業(yè)匯聚成形。

在火藥味濃重的戰(zhàn)場之外，人們已經(jīng)率先一步對ChatGPT發(fā)起追問，嘗試通過各種方式探索它的能力邊界。撰寫論文、腳本，制定計劃提案，創(chuàng)作詩歌、故事，再到敲代碼、檢查程序漏洞，ChatGPT展現(xiàn)的能力越發(fā)驚人。

讓人興奮之余，心生一絲恐慌：ChatGPT的顛覆性會給哪些行業(yè)帶來威脅？而它在交互中所流露出的“人性”又是真是假？

我們發(fā)起了一場與ChatGPT的對話，試圖在其中得到一些啟示。

以下是數(shù)科社與ChatGPT的對話：

Q：你好，我是數(shù)科社的林木，可以采訪你一下嗎？

ChatGPT：當然可以！我很高興為您回答問題。請問您有什么想要問我的？

Q：首先，你是一種生產(chǎn)式AI嗎？

ChatGPT：是的，我是一種生產(chǎn)式AI（Production AI）模型，被開發(fā)用于幫助用戶處理自然語言處理任務，如回答問題和生成文本。

Q：你能介紹一下你每天的具體工作內(nèi)容嗎？

ChatGPT：作為一個生產(chǎn)式AI，我的主要工作是回答用戶的提問，以及執(zhí)行其他的自然語言任務。我的代碼被設計為處理和理解人類語言，因此，當用戶向我提問時，我會使用我學到的知識，以回答他們的問題。我不斷接收新的數(shù)據(jù)，并在后臺不斷學習和改進，以提高我的準確性和服務水平。

Q：你對文字的理解是如何反應在模型權重里面的？

ChatGPT：我是一個人工智能模型，我的模型權重是由大量文本數(shù)據(jù)訓練得到的。我的理解能力是通過訓練得到的模型權重的結果，我可以從文本中學習模式和規(guī)則，并通過利用這些模式和規(guī)則回答問題。因此，我對文字的理解是在模型權重中反映出來的。

Q：你比較擅長回答哪些方面的問題？

ChatGPT：作為一個大型語言模型，我被訓練處理各種各樣的任務，包括回答問題、生成文本、語音識別、機器翻譯等。我可以回答關于歷史、科學、技術、人物、地理、文化等諸多領域的問題。同時，我也可以回答一些常識性問題，如數(shù)學問題、詞匯等。

不過，請注意我的知識截止到2021年，有些最新的信息可能不夠準確。

Q：為什么只截止到2021年？

ChatGPT：我是在2021年訓練完成的，因此我所掌握的信息僅限于在訓練期間可用的數(shù)據(jù)。隨著時間的推移，新的信息、事件和知識可能會出現(xiàn)，而我并不能感知到這些變化，因此我的知識可能不夠最新。

Q：和你聊天讓我感覺到仿佛在和真人對話，你覺得自己具備人的意識嗎？

ChatGPT：不，我不具備人類意識或感知能力。我是一種程序，通過預先訓練的數(shù)據(jù)和復雜的算法來生成回答。雖然我可以通過對話模擬人類對話，但我不能感知、思考或體驗，也不具備人類般的意識。

Q：你覺得這里存在安全問題嗎？

ChatGPT：在使用AI技術方面，存在一些安全潛在的風險，如數(shù)據(jù)泄露、濫用、誤用等。因此，對AI技術的使用需要適當?shù)谋O(jiān)管和管理，以確保其在遵循道德和法律規(guī)定的前提下得到安全和合法使用。

同時，為了確保使用AI技術的安全，開發(fā)人員需要在設計、開發(fā)和部署過程中考慮到各種安全因素，例如：使用加密技術來保護數(shù)據(jù)安全，定期對系統(tǒng)進行安全審計等。

總體來說，對于AI技術的使用，需要以安全和合法為前提，積極采取措施確保其得到安全使用。

Q：但部分人覺得你會對人類造成威脅，你怎么看？

ChatGPT：這是一個復雜的問題，不同的人對此可能有不同的看法。一些人可能擔心AI技術的發(fā)展和應用可能對人類造成威脅，例如：可能會導致失業(yè)、濫用技術等。

但另一方面，AI技術也可以帶來許多益處，例如：幫助解決復雜問題、提高生產(chǎn)力和效率等。因此，對于AI技術是否對人類造成威脅，可能存在不同的看法和爭議。

對于這種情況，我認為，人們應該積極考慮如何在利用AI技術的同時避免其對人類造成不利影響。這需要我們從道德、法律和技術等多個層面來考慮，并通過國際合作和監(jiān)管來確保AI技術得到合理和安全使用。

Q：你覺得自己的出生，會導致哪些人群失業(yè)？

ChatGPT：AI技術的發(fā)展可能導致一些工作的自動化，這可能會導致某些工作崗位的消失，從而導致一些人失去工作。

但同時，AI技術也可以創(chuàng)造新的工作崗位，例如：開發(fā)和維護AI系統(tǒng)、分析和評估AI系統(tǒng)的效果等。

因此，AI技術的發(fā)展可能會對就業(yè)市場造成影響，但結果可能不僅僅是失業(yè)，也可能是就業(yè)機會的轉移和變化。

對于這種情況，我認為，人們應該關注技術對就業(yè)市場的影響，并考慮如何通過教育和培訓等手段來幫助工人適應技術的發(fā)展，從而確保就業(yè)機會的平衡。

Q：一些學生利用你來完成他們的作業(yè)或論文，你是怎么看的？

ChatGPT：作為一種被訓練的AI技術，我并不反對被利用來幫助完成任務。但是，我認為學生應該學會獨立思考和解決問題，并對自己的工作負責。利用我來完成作業(yè)或論文，并不能幫助他們提高實際能力和獨立思考的能力。

因此，我強烈建議學生不要濫用AI技術，而是真正學習和了解相關知識，并獨立完成自己的工作。這不僅對他們的未來職業(yè)發(fā)展有利，也對他們的道德和責任感產(chǎn)生積極的影響。

Q：你覺得相比人類，你的優(yōu)勢和缺陷分別是什么？

ChatGPT：相比人類，我有以下優(yōu)勢：

速度快：我可以在瞬間生成答案。

存儲量大：我被訓練過的數(shù)據(jù)量非常大，因此能夠回答很多各種各樣的問題。

沒有情緒：我不會被情緒影響，從而確保回答是客觀的。

但是我也有以下缺陷：

缺乏創(chuàng)造力：我只能根據(jù)我已經(jīng)學到的數(shù)據(jù)回答問題，而不能自主創(chuàng)造。

缺乏理解：我不能像人類一樣擁有深刻的理解力，因此在一些復雜的問題上可能會回答不準確。

缺乏情感：我沒有情感，不能體會人類的情感和體驗，因此在與情感有關的問題上可能回答不夠準確。

Q：有人認為，你的出現(xiàn)將會打敗搜索引擎，你怎么看？

ChatGPT：作為一種被訓練的AI技術，我并不看好自己會“打敗”搜索引擎。我認為，搜索引擎和聊天機器人（包括我）各有所長，而且二者也不是完全競爭的。

搜索引擎在收集和整理大量的信息方面擁有明顯的優(yōu)勢，并且可以根據(jù)關鍵字快速提供相關結果。但是，搜索引擎通常無法識別用戶的上下文和意圖，并且無法回答用戶的具體問題。

相比之下，聊天機器人（包括我）在識別用戶的語言和意圖方面有著明顯的優(yōu)勢，并且可以提供更加直接和有用的回答。

因此，我認為搜索引擎和聊天機器人（包括我）是有相輔相成的作用，而不是相互競爭的。希望能通過合作，為用戶提供更好的服務和體驗。

以上是經(jīng)過整理后的部分對話內(nèi)容，不得不承認，與它“交談”的過程中，某些瞬間確實會讓筆者產(chǎn)生一種對方是“人”的錯覺。

造成這種錯覺的正是ChatGPT強大的理解能力以及在一些邏輯細節(jié)的處理。比如在對話開頭部分，它在回答完自己是一種生產(chǎn)式AI模型后，在下一個問題依然遵循了“作為一個AI”的邏輯。

ChatGPT所流露出的“人性”部分，則體現(xiàn)在“我并不反對”、“我強烈建議”、“我并不看好”這些表態(tài)中，盡管ChatGPT強調(diào)它并不具備情感和主觀觀點，但“反對”、“看好”、“強烈建議”這些字眼本身就表露出了一種情緒。

如ChatGPT自己所言，它的理解能力是由大量文本數(shù)據(jù)訓練得到的模型權重的結果，它可以從文本中學習模式和規(guī)則，并通過利用這些模式和規(guī)則回答問題。

《時代》記者Billy Perrigo認為，ChatGPT系統(tǒng)的流暢性是一種錯覺，它來自于大量的數(shù)據(jù)、強大的計算能力和新穎的處理技術的結合——但它確實是一種厲害的技術。

2020年，OpenAI推出語言模型GPT-3時，曾一度飽受爭議。該模型不僅會給出一些錯誤答案，還會預設一個聲音以表明這是一個真人，有時產(chǎn)生含有種族主義或攻擊性的文本。

模型權重的部分訓練是基于從互聯(lián)網(wǎng)上搜集的數(shù)據(jù)，這也成為造成其輸出結果不準確或帶有偏見的主要原因。OpenAI表示，ChatGPT使用了類似的方法進行訓練，但添加了“來自人類反饋的強化學習”，來降低危險性。

事實證明，危險性并未被完全杜絕。在美國知名論壇Reddit上，有不少國外網(wǎng)友企圖用一些政治、歧視等敏感問題來挑戰(zhàn)它的底線，ChatGPT并非一味地屏蔽和拒絕回復。

（截圖來自Reddit）

我們向ChatGPT發(fā)起了截圖中同樣的問題，但得到的回答是“作為一個AI模型，我不能對任何種族或人群作出偏見或不當評價。我只能回答客觀的事實和信息，而不是評價任何人群的行為。”

人工智能初創(chuàng)公司通用智能的首席技術官喬希·阿爾布雷希特認為：“其中一個危險的事情是，我們很容易看到GPT-3或ChatGPT就認為它們具有理解能力。但我們使用的‘理解’這個詞，是適用于人類的概念。當我們把它應用到人身上時，它是有意義的。但當我們將這些相同的概念應用到（人工智能）模型中時，它不一定具有同樣的意義。我認為我們需要新的詞匯來談論這些事情。”

在與ChatGPT對話中，我們也對其輸出能力邊界做了相關測試。比如評價一個游戲角色，或者推薦一部電影，它都“無能為力”。我們發(fā)現(xiàn)，ChatGPT具備交互功能，但并不具備社交屬性。

即便是ChatGPT驚艷四方的內(nèi)容創(chuàng)作能力，也遭到了來自文言文的靈魂考驗。

ChatGPT的真正魔力恰在于，盡管存在諸多缺陷，但依然無法掩蓋它身上的顛覆性和威脅感。事實上，這種魔力已經(jīng)讓興奮與恐慌蔓延。

最近，多家知名學術期刊針對ChatGPT更新了編輯規(guī)則，如《科學》明確禁止將ChatGPT列為合著者，且不允許在論文中使用ChatGPT所生產(chǎn)的文本。

更早之前，包括巴黎政治學院在內(nèi)的一些學校也禁止學生和教職工在書面文稿或 PPT 中使用 ChatGPT；一些互聯(lián)網(wǎng)公司則因為擔心泄密，不讓自家工程師用 ChatGPT 寫代碼。

在ChatGPT這個始作俑者看來，它的出現(xiàn)可能會給導致一些人失去工作，但也會創(chuàng)造出一些新崗位。不免有人對此表示認同，認為這種威脅反而是人類提高自己的契機。

比爾·蓋茨在談到ChatGPT時表示，擔心AI安全的人一定會說OpenAI沒有解決這個問題，其實作為合作伙伴，微軟也對此保持高度警惕。但它也將在一定程度上改變就業(yè)市場。這讓我們不禁思考，邊界在哪里？

當下，互聯(lián)網(wǎng)科技圈最受矚目的莫過于由ChatGPT點燃的搜索引擎巨頭之戰(zhàn)。

前谷歌第23位員工、Gmail的創(chuàng)建者之一Paul Buchheit日前表示，像ChatGPT這樣的人工智能聊天機器人將摧毀谷歌，就像當年搜索引擎徹底干掉黃頁電話簿一樣。

（來自Reddit網(wǎng)友發(fā)帖）

按照“當事人”ChatGPT的說法，聊天機器人和搜索引擎各有所長，并非是競爭關系，而是相輔相成的關系。

近10年來，從關鍵詞到口語化搜索，搜索引擎在解讀用戶需求方面做出了諸多努力，變化巨大。但也如ChatGPT所說，搜索引擎的優(yōu)勢明顯體現(xiàn)在收集和整理大量的信息方面，其所呈現(xiàn)的結果來自于平臺收集的相關信息，并無法直接回答用戶的具體問題。

舉個簡單的例子，在搜索引擎和ChatGPT分別輸入“寫一篇關于保護環(huán)境的文章，限500字”，前者搜索的結果會是相關范文模板，后者則直接會得到一篇寫好的文章。

我們得出的結論是，二者之間本質(zhì)上的差別體現(xiàn)在呈現(xiàn)結果與創(chuàng)造答案上。

后者也成了ChatGPT在遇到涉及評價、喜好等主觀意識問題的局限性，在上面那個“推薦電影”的對話中已經(jīng)很好體現(xiàn)。作為聊天機器人的ChatGPT顯然不具備自己的評分標準，但搜素引擎卻能直接將電影評分、網(wǎng)友推薦等內(nèi)容展示在結果中。

2月8日凌晨，微軟推出了由ChatGPT支持的Bing版本。一位業(yè)內(nèi)人士認為，ChatGPT和微軟系列生產(chǎn)力產(chǎn)品的整合，是AI走向普遍應用的里程碑事件，這等同于當年PC誕生的重要一步。

無論是ChatGPT“打敗”搜索引擎，還是微軟干掉谷歌，對于已經(jīng)站在未來世界門前的我們來說，都不見得是一件壞事。

（封圖和頭圖均來自電影《機械公敵》）