AI Engineer World's Fair 2024
主題: Open Challenges for AI Engineering
演講者: Simon Willison
iHower 字幕/重點整理版: 連結
Youtube url: https://www.youtube.com/watch?v=5zE2sMka620
時間範圍: 00:33 - 00: 53
Open Challenges for AI Engineering
人工智能領域正面臨一個重大轉折點。在GPT-4模型獨占鰲頭長達一年之後,AI產業迎來了新的競爭格局。Simon Willison在這段影片中探討了GPT-4級別模型的普及化,以及這一現象對AI行業和社會的深遠影響。隨著Claude 3.5 Sonnet和Gemini 1.5 Pro等新模型的出現,以及開源模型如Llama 2的快速進步,AI技術的發展正進入一個令人振奮的新階段。
GPT-4 門檻的突破
GPT-4自2023年3月發布以來,在人工智能領域獨占鰲頭長達12個月。然而,近期情況發生了顯著變化。多家公司相繼推出了能夠媲美甚至超越GPT-4能力的模型,如Claude 3.5 Sonnet和Gemini 1.5 Pro等。這些模型不僅在性能上與GPT-4不相上下,在價格方面也相當具有競爭力。值得注意的是,開源模型如Llama 2也在逐步接近GPT-4的水平。這種競爭格局的轉變為AI行業注入了新的活力,不僅促進了技術的快速進步,也為用戶提供了更多優質且經濟實惠的選擇。隨著GPT-4級別的模型逐漸成為市場常態,我們可以預期未來這些高級AI模型將變得更快、更便宜,並在更廣泛的領域中得到應用。
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhI9oRfdKDfIKVQ5847dAFfrnzUUhXAJfAxTGQjA2bz0yMiSqb7Jm_tWeDZBxM8xEVhDapSXWLd3VgFmUKLt7mit5tO0C9sRnzXjKh9RApbX5JBTsc1OdAF4X0KOOzAztxdllv-VK12V2xdCk588u6XPAGvddIqu5Z0d8nUh2q8AdX9s6cOKdo_1g/s16000/screenshot_0.jpg)
圖:多家科技公司的標誌圍繞著GPT-4模型,象徵AI市場競爭格局的變化和高級語言模型的普及化趨勢。
人工智能工具應用的挑戰
人工智慧工具如ChatGPT雖然看似簡單易用,實際上要有效運用卻相當具有挑戰性。以PDF文件為例,使用ChatGPT處理PDF時涉及諸多複雜因素。首先,PDF必須是可搜索的文字格式,而非掃描圖像。其次,PDF的長度會影響處理方式,短文件會直接貼入提示中,長文件則需要進行某種搜索。此外,PDF中的表格和圖表往往無法被正確處理,需要另外截圖上傳。甚至有時ChatGPT會調用代碼解釋器來處理PDF,使用fpdf或pdf2image等模組。這些細節和限制並非顯而易見,需要使用者具備深入的理解和經驗。因此,像ChatGPT這樣的AI工具實際上是面向專業用戶的強大工具,需要長期實踐才能充分發揮其潛力。
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhPFL0ptHI61vg2qCqCMOkYEdOKiXMW7Jzs7rctYYe4EmaDQ1dsU2cOhp5y_Og-FDet5kH7CY-jr0GUIHnswNm6q86UTtnnt0f5MavjRIPXD2JKDF-Od7M3d-a7mn2Dw292M5UipsO6KJj4LOXaXRDGkavfOnTn81m6da7_lnKzgeAhHBr7bb3Pow/s16000/screenshot_1.jpg)
圖:專業人士在電腦前使用ChatGPT,旁邊放著Excel教學書籍,象徵AI工具需要深入學習才能充分應用。
人工智能可信度危機
近期人工智慧產業面臨了一場信任危機,主要源於用戶對企業如何使用其數據的誤解。以Dropbox和Slack為例,兩家公司在推出新的AI功能時,引發了用戶對隱私數據被用於訓練AI模型的擔憂。然而,事實上這些公司並未直接使用用戶數據訓練模型,而是將數據傳送給OpenAI,並有嚴格的協議確保數據不會被用於模型訓練。這種誤解凸顯了企業在溝通AI數據使用政策時的重要性。Anthropic公司在推出Claude 3.5 Sonnet模型時,明確聲明未使用任何用戶提交的數據進行訓練,證明了高品質模型可以在不依賴用戶數據的情況下開發。然而,AI公司仍面臨著使用網路爬蟲數據的爭議,這進一步加劇了公眾對AI數據使用的擔憂。解決這一信任危機將是AI產業面臨的重大挑戰。
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgZOwHYlS-pQ1Yy3-StFy5_Nrh8FFNszro3rPruziY4oK0XeIXKCBQKSuKXbXTkp9poJTuRNbhzx1zZwkgWDxrszlMDfSHdC_REG6bYf6LPPQ22qOrRkka_NsY7XIcs3OFM8b4BFUh0CvsCPxYn1e95oqNfWoNV2WKv0GYUsTeV4B51A9z-BKOyEA/s16000/screenshot_2.jpg)
圖:企業標誌與數據流圖交織,突顯AI公司數據使用政策的透明度挑戰及用戶信任危機。
提示注入與人工智能安全
提示注入漏洞是人工智慧安全領域的一個重要問題,需要開發者和使用者深入理解。一個典型的例子是「Markdown 圖片洩露漏洞」。這種漏洞存在於能夠渲染 Markdown 圖片的聊天機器人中,特別是那些同時有權訪問私密數據的機器人。攻擊者可以通過巧妙構造的 Markdown 圖片鏈接,誘使機器人將敏感信息洩露到攻擊者的服務器。令人驚訝的是,包括 ChatGPT、Google Writer、Amazon Q 等在內的六個知名團隊都曾犯下這個錯誤。這凸顯了理解提示注入的重要性,以避免類似的安全漏洞。除了安全問題,提示注入有時也會導致有趣的錯誤,比如一個 RAG 應用誤將自身識別為「機智的沙鼠」。這些案例說明了大型語言模型的易受影響性,它們會相信被告知的任何信息,這既是優點也是缺點。
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgvBwVZMPEsbD7x_XUMLmINgi_7l77iMF7-0RgJYitlh3oulAHJ1-T0tL_AXx13lSgCFyd8Ylq-D-UuJsIVzBLTtE3cbcdtW7S5N9xSY87_uBT3oSZLYRndWu-S9z2mnqHkzAQ7xAjAkpODggP2CTzgCc3j0PeIQ_austb9a99Fvxu_TqdTH3m5Dg/s16000/screenshot_3.jpg)
圖:一隻戴眼鏡的卡通沙鼠,手持「我是機智的AI助手」標語,展示提示注入的幽默一面。
人工智能生成內容的質量問題
人工智慧生成的「垃圾內容」已成為一個日益嚴重的問題。這種內容通常指未經請求且未經審核的AI生成文字,大量充斥於網路空間。這種做法不僅降低了整體內容質量,更嚴重的是,它削弱了人類對發布內容的責任感。在資訊傳播中,人類的問責制至關重要,我們需要確保每一篇文章、每一則報導背後都有真實的人為其負責。然而,當大量未經審核的AI生成內容被發布時,這種責任制度就會受到威脅。直接發布AI生成的內容而不經過人工審核,可能導致錯誤信息的傳播、版權問題,甚至可能產生有害或具有誤導性的內容,對社會造成負面影響。因此,在利用AI技術生成內容時,人工審核和編輯仍然是不可或缺的環節。
![](https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEgI3y3Ek2B69EoTEEZjB75TVDBQXVj7z7YoupTRGEcG2sNZtxsDssjClvobz9dcvpSETo5tnc_8kh1zhCGf88mtgZkjQb1M63ultRHtuT98qux0T4fdUdkXwMqp6oDqleojx_jjCGecfBnooMnUfDH5-uPMG9wJgBm9IXb0VdD215HqaxHsKYBe-w/s16000/screenshot_4.jpg)
圖:垃圾桶中溢出的紙張,象徵大量AI生成的低質量內容充斥網路,強調人工審核的重要性。
總結
本影片深入探討了AI領域的最新發展,特別是GPT-4壟斷地位的終結及其影響。隨著多家公司推出媲美甚至超越GPT-4的模型,AI技術正進入競爭更加激烈的新時代。然而,影片也提醒我們需要警惕AI工具使用的複雜性、信任危機、安全漏洞以及AI生成內容的質量問題。這些挑戰凸顯了在AI快速發展中,我們必須謹慎應對,確保技術進步與責任使用並重。