跳到主要內容

GPT3 API 當中，你可能沒注意到的 ChatML

GPT-3 API 就這樣悄悄的來了！

是的， GPT-3 是一種由OpenAI提供的語言模型，它可以通過API接口使用。

以下是使用GPT-3 API的基本步驟：

  1. 註冊OpenAI帳戶：請訪問OpenAI網站（https://beta.openai.com/signup/），並創建一個帳戶。一旦註冊成功，您就可以訪問OpenAI的API密鑰。

  2. 訂閱GPT-3 API：在OpenAI中，您需要訂閱GPT-3 API，以便可以使用它。訂閱後，您可以獲取API密鑰。

  3. 安裝API軟件開發套件（SDK）：您可以在Python、Node.js、Ruby、Java和其他語言中使用OpenAI API。您需要安裝相應的SDK，以便使用它。

  4. 獲取API密鑰：在獲取API密鑰後，您可以將其保存在環境變數中，或直接將其添加到代碼中。

  5. 連接到API：使用SDK中提供的函數和類，您可以連接到GPT-3 API。

  6. 發送請求：一旦您已連接到GPT-3 API，您可以通過向API發送HTTP請求來使用GPT-3模型。

當然我們也不是只講這種大家都知道的幹話，上述這些 chatgpt 都可生出來給你， 以下為重點，再次感謝您可以閱讀到這邊 ...本文開始



ChatML

這次 GPT3 API 的釋出，除了這件事情之外，另外還有 ChatML 以及 fine-tuning 這兩個對於自己來說是個大重點。

ChatML 的釋出，讓我們可以使用 api 像是使用 chatgpt 讓整體上下文開始有了連貫，其中官方也有提供完整的描述。

https://github.com/openai/openai-python/blob/main/chatml.md

在這段過程裡面在 OpenAI 的GPT API中，message 中的 role 指定了對話中發言的角色，可以是 system、user、assistant中的任何一個，具體的差異如下：

system：表示對話接下來這段對話的背景，角色分配，情境。

user：表示用戶輸入的信息。這可以是文字輸入內容。

assistant：表示對話系統助手生成的訊息，可以是對前一輪對話的回應、應用程式特定的提示或任何其他形式的輸出。

這些角色的目的是區分不同的訊息類型，以幫助GPT模型更好地理解上下文和對話的流程，從而生成更有意義的回應。

範例程式碼如下，

import openai
openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[
        {"role": "system", "content": "你將扮演我的貼身小助手."},
        {"role": "assistant", "content": "非常榮幸成為您的貼身小助手，請問有什麼需要我協助的事情嗎？"},
        {"role": "user", "content": "誰是世界籃球之王?"},
        {"role": "assistant", "content": "普遍認為NBA的迈克尔·乔丹（Michael Jordan）是史上最偉大的籃球運動員之一，他曾贏得6次NBA總冠軍、5次NBA最有價值球員獎、10次NBA得分王等眾多榮譽，並被譽為「空中飛人」"},
        {"role": "user", "content": "籃球之王的媽媽是誰?"}
    ]
)

根據這樣的上下文，我們就能夠得到 德洛丽丝·乔丹（Deloris Jordan) 這個回應，這顯然是上下文起到很大的作用，對吧！

省還能夠省

根據上述大家可以發現 ChatML 的模式，的確可以很精確地將上下文進行貫穿，但同時也大幅度的增加了 token 的數量。

然而勤儉持家的我們，可以先透過 chatgpt 先將模擬的對話進行演練，輸出結果當然會有些許落差。

然而，透過這其中對話的過程，都可以先透過 playground 或者 chatgpt 裡面事先演練過，並不一定都需要透過 chat-api 實際執行。

勤儉持家是美德

然而，這邊有發現，其中的內文是可以偷雞的，可以將冗詞刪除，例如，

『非常榮幸成為您的貼身小助手，請問有什麼需要我協助的事情嗎？』

就可以縮減為

『我已成為您的貼身小助手』

將這樣的 content 縮減置換後，發現兩者所產生的結果會是相近的，

其中有幾個遊戲規則，

  1. 身為 system 可以簡化，
  2. 身為 user 問題可以簡化，
  3. 身為 assistant 簡要回應至關鍵連結點即可。

至於可以偷雞到什麼程度，這中間需要玩家自行判斷。

減少 token ，就是降低 cost, 雖然 gpt3 model 價格已經比 davinci 還便宜很多，但勤儉持家就是美德，同胞們請繼續保持。

題外話及結語

很多時候我們會以為整個討論是有全文貫穿，但實際思考下來，並非如此，真正需要貫穿的過程，可能就是那 3-5 個來回而已，其他對談的過程其實都已經開了新的題目。

當然全部結果塞進去 messages ，結果很棒，很開心，但無奈荷包不允許。

對於領台幣的我們，能夠勤儉持家是個美德，共勉之，有任何回饋歡迎留言給我，或者按讚訂閱分享，多謝，感謝！

標籤：

留言

張貼留言

這個網誌中的熱門文章

工程師跨越管理的第一道牆 - 放下

越來越複雜的網路應用 2022 年，網路應用越來越複雜，表層是 社群服務 ，轉頭看是 廣告服務 ，詳細看是 個資儲存庫 ，如此複雜的應用，如此眼花撩亂的系統架構， 現代的軟體開發已經從打個人戰，進入到團體戰鬥的打法。 打群架的時代 現在的許多產業，都在徵求軟體工程師，通常是徵求多位，以往以少少數量完成應用服務的時代已經過去。 現代已經是打群架的年代，前端至少一位，後端至少一位，系統管理，雲端管理等，這些都是在軟體公司內具備的職缺，已經很難回到那一人打天下的時代。 因此，誰能夠在技術領域中讓多種面向職能的人，互相進行協作，互相進行工作分配，將產品進度維持穩定產出，這樣的角色變得至關重要。 而通常，除了外部尋找此職能之外，這樣的職位，會以團隊中，最有技術力，且最能夠經常解決問題的人做為代表人。 帶領的第一課 - 『 放下』 相信大家都一定有聽過 彼得原理(Peter Principle) ， 因其某種特質或特殊技能，令他被擢升到不能勝任的高階職 位，最終變成組織的障礙物 能力越強的人，通常被拔擢的越快，隨著職位的提升，也越發現能力的不適，而這問題在技術管理職位上特別常見。 因此，技術管理的第一堂課，要跟特別提醒的點是『放下』，特別是要放下自己的技術。 這可能與常理有所違背，為何會讓一個技術最強的人，去放棄他本身的技術呢？ 放下的定義 放下，並不是要你放棄，癱軟在辦公室的椅子上什麼都不做，也不是讓你就捨棄掉對於技術的熱情，讓自己故步自封。 放下技術，是放下自己對於任何一種技術的直覺反應，本位思考，我們是否曾經聽過這種話 『如果是我來做，兩小時就可以完成了』 ， 『這個很簡單，改一下就好了』 。 但今天，做的人不是你， 你已經進入管理者的角色 ，你已經被賦予 帶領的職能 ，帶領才是你該做的事情。 這時候如果以自己過往的 『經驗，效率，能力』 來看待 『他人』 的執行步驟及過程，會發現所有事情都如此的格格不入。 此時，你需要就是 『放下』 適當的放下自身技術能力 我們可能是因為自己曾經努力過，也可能自己剛好在那個時代，也可能是因為自己比較幸運，不論是哪一種可能，就是這麼剛好的在這個時間點成為 『帶人的那個人』 當我們用自己的眼光去看待所有人，看待所有新鮮人，就如同開著跑車去嘲笑騎摩托車的人不努
張貼留言
繼續閱讀>>

面試者如何挑戰大工程師時代來臨?

面試者如何挑戰大工程師時代來臨? 全世界都在倡導轉職成為工程師，似乎轉職成為工程師就成為職場的救贖，真的是如此嗎？讓老衲來杠給各位聽。 最近有位好久不見的小朋友，是 2000 年出生的小蔡，對於即將面臨到面對職場的挑戰開始關心起技術，他開始尋找比較適合自己的領域，同時也開始在思考到底為了接下來的就職小蔡該如何準備。 詢問我說是不是可以考慮軟體開發工程師這條路線 對於他的詢問，反而引起我的注意， 這讓我開始思考並映射於最近招募的經驗，軟體開發此領域是不是對於每個人都是可以擔任的職啀，這邊分享一些自己的看法希望對各位有所幫助。 全民工程師這件事情 在全球景氣低迷的狀況下，的確特別在這一年大家會很有感覺萬物齊漲，薪水不漲，薪資就是一直停滯不前。 很多時候，在不同的領域中，會發現整個薪資就算是擔任了管理職務主管你也會面臨到薪資的強大屏障在自己面前。 這個時候， 軟體工程師年薪百萬口號 似乎就成了一種救贖。 好像成為了工程師就可以達到年薪百萬，在家輕鬆工作，不用打卡也不用受到風吹雨淋，隨時想工作就可以工作，每個月又有固定薪水入帳，感受到類財富自由，人生的美好。 如果能夠爭取到跨國公司的職位，這份薪水有可能還可以上看每個月十多萬以上，甚至是往上也是極度有可能的事情，人生美好層次又再度提高了起來。 但這件事情是真的每個人都可以達到嗎？ 還是這就是另外一種性存者偏差呢？ 亦或者這些人其實是金字塔頂端的小眾？ 每份履歷都像是同一種履歷 最近在最近幾年在面試工程師的時候特別會看到許多轉職者，一開始履歷裡面看到相關的作品一開始會覺得十分的驚艷， Wow, 現在的新手就可以做到如此精美的畫面，這些畫面是我當初用 Bootstrap 也做不出來的東西，許多的互動體驗好的一個不行，做出來的頁面配色和對齊也是極致。 但是隨著時間推移，多看了幾封履歷之後，就會發現在各大技術養成學院出來的學生履歷成果內容如出一轍，在面試的過程中也會詢問許多關於框架的底層概念，和比較技術觀念的時候，甚至是許多框架的核心概念，就很容易露出馬腳。 很多面試者會 一問三不知 ，透過許多引導，但殘酷的是連關鍵字是什麼都也無法推敲出來，更不用說在小組裡面到底怎麼樣合作，許多不同線上產品的比較，使用者流程，使用者後面的互動邏輯等，幾乎是風吹一片倒，只能
張貼留言
繼續閱讀>>

淺談 AI 落地到底有多難 - 以 OpenAI ChatGPT 為例

在 目前待領的團隊 ，小弟有幸 參與到 AI 落地的過程 ，之前也參與過幾次 AI 服務導入的和製作出 AI 產品應用的經驗，這邊就提出些簡單分享，跟大家說說，為何 AI 落地有這麼難 ChatGPT 幾乎成為這幾天大家刷版面的資訊，官方網站其實有提到 Chat-GPT 的參考模式是怎麼進行的，也有提供相關的論文參考， https://openai.com/blog/chatgpt/ ChatGPT 幾乎成為現象級的影響 如果你還沒試用過，我建議你真的玩玩看， https://chat.openai.com/chat 在 AI 落地的階段，有許多工程的過程，還有許多現實需要面對，而這煉成的過程都很容易導致 AI 落地失敗， 更不用說像是 ChatGPT 這種十年磨一劍的應用服務，為什麼驚艷， 中英文，簡中繁中等均能 80% 的機率識別問題及主題對話 回應內容，英文的部分不意外的通順，簡中繁中的部分有些詞語是有做過調整的，這實屬難得。 對於資料上下文關聯度，以及變化形式在主題式的發展下均能有效地回應且呈現。 呈現格式可以以『摘要、表格、條列』等方式進行規劃，同時也可以對文字內容進行一定程度的擴張和收斂。 而要做到這些事情，除了大家所熟知的需要不斷的生成模型，訓練模型，不同的模型疊加上去之外。 同時最難也是最複雜的部分， 『資料工程的處理』 AI 工程的開始 在我們使用任何一套 AI 框架 Tensorflow / pytorch 之後，無一例外地就會以特定問題解決方案，開始採用不同的現成 Model 進行驗證，在一開始對於初始的 example data / init data 都會有不錯的反應。 接下來問題開始... 當我們天馬行空的，不斷將例外，將特定領域情境涵蓋進去的時候，你就會發現這 model 的準確率下降，接下來就是一連串調整參數的開始， 或者是開始進行特例發想的部分，哪些資料是需要踢除的，哪些項目是需要先排開的，哪些資料是對於訓練本身是有影響的，在這個過程中就已經進入 data engineering 的環節中。 source from 資料科學家的工作日常 資料工程的處理 大家所想像的，在建立模型的時候似乎就是不斷地調參數，不斷的運作程式，但在這之前，有 『好多好多好多好多』
1 則留言
繼續閱讀>>