跳到主要內容

探索ChatGPT類型模型的訓練利器 DeepSpeed-Chat

發現了一個超酷的 AI 系統 DeepSpeed-Chat！它能夠讓你更輕鬆地訓練 ChatGPT 等類型的模型，並且支持端到端的基於人工反饋的強化學習（RLHF）！這意味著你可以使用它來執行編程、翻譯、對話式交互等任務，而且它的訓練效率超快、使用也超簡單！如果你是一個數據科學家或研究者，這是一個絕對不能錯過的 AI 工具！🚀



DeepSpeed-Chat

https://github.com/microsoft/DeepSpeed/blob/master/blogs/deepspeed-chat/chinese/README.md

ChatGPT類型模型以其強大的泛用性和優秀的性能引發了人們的廣泛關注。然而，訓練這樣的模型也面臨著許多挑戰。現在，一個新的工具DeepSpeed-Chat正式上線，能夠幫助數據科學家和研究者更輕鬆地訓練ChatGPT等類型的模型。

DeepSpeed-Chat有著許多優勢。首先，它支持基於人工反饋的強化學習（RLHF），這意味著使用者可以更輕鬆地訓練模型來完成編程、翻譯和對話式交互等任務。其次，DeepSpeed-Chat能夠實現端到端的模型訓練，讓使用者更加輕鬆地進行訓練。最後，DeepSpeed-Chat的訓練效率極高，使用者只需要短短的時間就可以完成訓練。

挑戰和克服點

DeepSpeed-Chat目前還存在一些劣勢。首先，它需要使用GPU集群來進行訓練，而且訓練過程中需要大量的計算資源，因此對於一些資源有限的使用者來說，可能不是一個理想的選擇。其次，DeepSpeed-Chat還處於開發階段，可能還存在一些未知的問題和不穩定性。

結語

總體來說，DeepSpeed-Chat 帶來的優勢是明顯的。通過簡化 ChatGPT 等模型的訓練過程，提供高效的 RLHF 系統，以及支持多節點多 GPU 系統的卓越擴展性，DeepSpeed-Chat 提供了一個全面的解決方案，使得像 ChatGPT 這樣的模型更容易被廣泛應用。

當然，DeepSpeed-Chat 仍然有它的限制和劣勢，例如需要較高的技術門檻和維護成本，以及需要大量的計算資源等，但這些限制也在不斷得到改善和緩解。未來，我們相信 DeepSpeed-Chat 將在 AI 領域扮演著更加重要的角色，並為人工智能的發展做出更多貢獻。


Power by AI

標籤：

留言

張貼留言

這個網誌中的熱門文章

RAG 和 Prompt 原理超簡單解說！想知道 AI 怎麼找答案看這篇

這篇文章是給對於你已經開始使用所謂的 ChatGPT / Claude / Gemini 之類的 AI 服務，甚至是 Siri (嘿丟，他也是一種 AI 應用服務喔） 簡單來說是非 技術人員， PM，小白，想要趕快惡補的人 ，直接花十分鐘可以看完的一篇科普業配文章。 或者是概念僅止於，AI 這東西會幻想，會有誤差，會對於生活有些幫助但沒有幫助的人們，做個簡單又不是太簡單的介紹，希望用一個非常入門的方式讓你們有個了解。 當然，這篇文章目的很簡單， 就是引流 ，如果你身邊有已經對於 Web 技術開發的人員，歡迎報名分享給他，年末出國不如學一技在身，參加今年我們舉辦最後一場 RAG 實作工作坊，報名連結 ， https://exma.kktix.cc/events/ai-for-dev-course-rag-2 注意： 接下來每個大段落結束都會有一段工商導入，但文章絕對精彩，請注意！ 為了讓各位容易想像，我們將整個世界的資訊，先濃縮到這本『西遊記』的世界觀當中，我們整個世界都在這個 『西遊記』 ，而 大型語言模型 我們用 『書精靈』 來描述。 PS. 我們先預設各位，應該都有聽過，西遊記！如果沒有聽過西遊記的，請右轉出去，謝謝！ 先來談談向量 在《西遊記》的世界裡，我們可以把 向量想像成一種「內容座標」 ，讓系統知道每個角色、場景、法術等的 「位置」和「距離」 。向量幫助語言模型知道不同內容之間的關聯程度。 向量就像內容的「距離」和「位置」 比方說，唐三藏的 「位置」（向量）會接近「佛經」和「取經」 的概念，因為他一路上都是為了取經而前進。孫悟空的 向量位置則會更靠近「金箍棒」和「七十二變」 這些概念，因為這些是他的特徵。 相似內容靠得更近：像「佛經」和「取經」會靠近唐三藏的向量，因為它們彼此有很強的關聯。 相差較大內容會離得較遠：像「取經」和「妖怪」「妖怪的寶藏」就距離比較遠，因為妖怪的寶藏和取經的目標關聯性不大。 是誰決定的這些位置？ 簡單來說，這些位置和關係是模型自己學出來的。語言模型會閱讀大量的資料和這世界觀的資訊，觀察哪些詞語經常一起出現，根據「共同出現的頻率」來決定它們的關係，並且自動生成向量。例如： 如果模型看到 「唐三藏」 總是和 「取經」 一起出現，它就會讓「唐三藏」的向量靠近「取經」。 ...
1 則留言
繼續閱讀>>

npm 還可以看影片，沒想到真的有人這麼做

 還真的有人做這件事情， 庆余年2剛上線，有一位小哥竟然利用 npm 包的機制，將整套高清視頻都搬上來了。 https://x.com/fengmk2/status/1791498406923215020 圖片來源， https://x.com/fengmk2/status/1791498406923215020/photo/1 此 Package 出處 https://www.npmjs.com/package/lyq2?activeTab=versions 截圖留念， 機制說明 NPM（Node Package Manager）是一個流行的 JavaScript 軟件包管理器，用於管理和分發 Node.js 應用的依賴。它允許開發者將自己的代碼打包成「包」，並上傳到 NPM 的公共註冊表，供其他開發者下載和使用。這個過程通常包括以下步驟： 創建 NPM 包 ：開發者將自己的代碼和相關文件打包成一個 NPM 包。 上傳到註冊表 ：將包上傳到 NPM 的公共註冊表。 下載和使用 ：其他開發者可以通過 NPM 命令行工具下載並安裝這些包。 這位小哥利用這一機制，可能是通過將整套高清視頻文件打包成 NPM 包並上傳到公共註冊表。其他人只需通過簡單的 NPM 命令即可下載這些視頻文件。 影響 版權問題 ：這種行為涉及明顯的版權侵犯。高清視頻通常受到版權保護，未經授權的分發和下載都是非法的。 NPM 註冊表的可靠性 ：這類內容的出現可能會損害 NPM 註冊表的可靠性和聲譽。NPM 註冊表是開發者分享和使用代碼的重要平台，如果充斥著這些不合法的內容，會影響其公信力。 潛在的安全風險 ：將視頻文件偽裝成 NPM 包可能會帶來潛在的安全風險。下載這些包的用戶可能會無意中下載到惡意軟件或其他有害內容。 技術濫用 ：這一行為展示了技術的濫用，原本為了方便開發者分享和使用代碼的機制，被用來分發非法內容，會對整個開發者社區造成負面影響。 歡迎留言給我，讓我們得到更多討論，一起回饋更多可能。 如果對於技術架構或者技術開發有相關需要顧問教育訓練服務或專案開發，聯絡方式如下，或者是與皇漢科技 EXMA-Square 進行聯繫。 FB: https://www.facebook.com/clonncd/ Twitter: https://twitter.com/clonncd 熱血漢誌:...
4 則留言
繼續閱讀>>

2024 推薦關注的 JavaScript 知識

以 js 整體發展來看，目前自己最看好的發展是在於兩個面向，一個部分是 Storybook ，一個部分是 Web container ，為何會是這兩個部分，這邊也分享一下自己的見解。 Storybook Storybook, 如果有用過的朋友都知道，他是屬於前端的展示，可以從 UI 的結構，到 parameter 的傳入，以及 component 如何使用的方式細節呈現等完全呈現。 AI 的到來，加上 Storybook 的呈現，可以讓新發展，或者更新版本的 UI Component 不再是孤兒，很快的 AI 可以學習如何使用新的 Component, 且在同時可以讀取 UI 畫面（Vision) 的狀態下進行識別 UI 在呈現上可以使用的方式。 同時也可以直接了解整體程式碼在使用上可以有怎麼樣參數傳入的方式，甚至是，你只要發展出一套 react 的版本，透過 AI 可以直接透過 Storybook 的版本，直接用最典型的狀態（但不一定效果最佳）轉換成 Vue, 或者 Villina JS 的版本。 這對於開發者，是一個多大的福音，Do Once, Call Everywhere. Web Container Web Container, 正所謂，Container 之下無蟒夫，容器化不只是能夠跑在後端，現在也能夠跑在前端，加速了整體的部署，同時也加速了以往的 SSR 的限制，以往很多時候『it works on my pc』的窘境將不再復見，你的瀏覽器將是我的雲端，You are the edge of mine, 聽起來有多浪漫，光靠這招就是一個歡呼！ 完全就是一個端到端，環境的問題接下來將再不是一個問題，以往會有的 Node.js 的問題，接下來都可以在 Web Container 裡面排除掉，直接快速的進行部署實現，同時執行出應用端應該有的樣子。 當然瀏覽器支援度會是一個問題，不過我相信這只是時間的問題而已，相信在座的各位，最多的就是時間！ 等吧！ JSDC 2024  JavaScript Developer 年度盛會，線上展開。 這次講師要講什麼，就是要講這些有的沒的，還不來聽嗎？ 聽懂幾個關鍵字，開心學會一輩子！ JSDC 2024 網站： https://2024.jsdc.tw/ JSDC 2024 售票連結： https://www.a...
張貼留言
繼續閱讀>>