熱血漢誌 - 技術新鮮人到技術經理人，必懂的事

今年是 GAI 年會的第二屆，也是第一次真正以「開發者」為主體的聚焦。這是一場不得不面對的轉折 —— 經過數年，大致底定的共同意識是 AI coding 已不只是新工具，它已經改變了開發者的整體生態。 從 LLM 語言模型介入以來，開發者與 AI 的互動逐漸取代了以往的技術單打獨鬥，從 keyword 查詢，進化到情境模擬、任務拆解。我們不再只是寫程式，而是在與一個潛在的「技術同事」協作。 高效下的疑慮 從上面來說，雖然表面是極佳，然而，對管理者來說，一切只剩下最關鍵的一句話： 這樣做，有加快成效嗎？ 這幾年最難被量化、也最讓人焦慮的，就是 「成效感的失真」 。 雖然從體感上來說，我們「好像」可以更快做出東西、少請幾個人，但從經營角度來看，實際的交付時間與品質卻未必同步拉升。 事實上，不論是 GitHub Copilot、ChatGPT、Windsurf 等工具，的確進入了開發流程；但它們也伴隨著許多「看不見的重構成本」與「模型理解落差」，「需求感的無法開口」，尤其對尚未建立標準化流程的組織而言，更可能讓節奏走得更亂、更碎。 ⸻ 我們到底需要怎樣的新世代人才？ 這是一個被大量低估的議題： AI 時代對人才輪廓的徹底重構。 過去的開發現場重視專精與深度 —— 你可以沉默寡言，只要技術夠硬；你可以偏執孤僻，只要能解題。 但 AI 帶來的變化，是讓封閉式思考不再適用。你會發現：  不會表達，無法喚醒 AI 的潛力   缺乏視角，無法跨域建構需求  沒有場景意識，就無法讓 AI 產出有價值的解法 AI 讓寫程式變得更簡單，卻也讓理解問題、轉譯需求、拆解路徑變得更關鍵。 這不是「技術能力」的衰退，而是「溝通與整合力」成為新的槓桿。 真正的轉變，不在技術，而在用戶的期待 AJAX 出現後，沒有人再願意接受靜態頁面；同樣地，AI Agent 的普及，讓使用者開始期待：  服務能即時理解他  回應可以根據他本人調整  一句話就能產出一個方向，而不是等待跨部門回報 這種「千人千面、即時互動」的產品期待，正在成為數位產品的新基準線。 這代表著一件事：產品不再只是做出功能，而是創造能夠持續對話的體驗環境。 Cympack：人與 AI 的協作式新產...

  [更強吉普力 API 參戰] OpenAI 釋出 gpt-image-1 是一款多模態圖像生成模型，支援多種功能，包括文字轉圖像（text-to-image）、圖像轉圖像（image-to-image）、圖像編輯（inpainting）以及文字轉換（text transformation）。該模型能夠處理高解析度輸出，並具備精確的文字渲染能力，適用於教育素材、故事書插圖、遊戲資產設計和 UI 設計等場景。 --- 每張圖像的估算成本（以 1024x1024 為例） - 低品質, 約＄0.02 - 中品質, 約$0.07 - 高品質, 約＄0.19 --- 對於開發和呈現給使用端的體驗來說 - 可精確控制圖像，例如背景（如透明背景）、輸出格式、渲染質量、壓縮品質等參數 - 多模態與豐富世界知識 - 具備強大的世界知識和語境理解能力，能根據複雜提示準確生成符合預期的圖像 以往只能透過 ChatGPT 博杯的部分，現在可以精確的使用 API 控制。 除了吉普力，看起來，可輕鬆的透過 Image ref, 進行圖像再度生成及重新繪製整理！ --- 這邊提供一份比較表格，參考跟之前 DALL.E 的比較 --- 各位！是否突然間想到許多創業的點子了？ REF: https://platform.openai.com/docs/guides/image-generation?image-generation-model=gpt-image-1

Cursor + Figma MCP = Self page builder MCP，全稱「模型上下文協議」（Model Context Protocol），是一種開放標準，旨在讓人工智慧（AI）模型能夠輕鬆連接到外部數據源和工具，例如資料庫、API 和應用程式。它透過一個統一的協議，作為 AI 與外部系統之間的橋樑，使 AI 能夠即時存取數據並執行操作，而無需為每個系統單獨開發適配代碼。 簡單來說，MCP 的核心目標是解決重複開發的問題，讓 AI 模型可以更靈活、高效地與不同的外部資源整合。它就像是 AI 世界的「通用接口」，提升了 AI 應用的實時性和適應性。 --- 這邊先採用 Cursor + Figma MCP 的方向來實現自己的實際威力！ 請先到這邊建立自己的 Token https://help.figma.com/hc/en-us/articles/8085703771159-Manage-personal-access-tokens Settings > Security tab > Personal access tokens section, then click Generate new token. 這個就是你的 Token 請妥善保留。 node.js 環境請安裝建立好， npx figma-developer-mcp --figma-api-key=<KEY> 啟動正確就會看到如下的畫面資訊 Configuration: - FIGMA_API_KEY: ****G9Uy (source: cli) - PORT: 3333 (source: default) Initializing Figma MCP Server in HTTP mode on port 3333... HTTP server listening on port 3333 SSE endpoint available at http://localhost:3333/sse Message endpoint available at http://localhost:3333/messages Cursor 回到 cursor 在右上角設定的地方，找一下 MCP 的位置， 如果不想要使用 ...

近期 AI 領域再掀熱潮！DeepSeek-R1 的復刻研究顯示，只需 26 分鐘、16 顆 H100 GPU、約 20 美元（約 656 NT） ，就能讓 Qwen2.5-32B-Instruct 模型達到更高效的推理表現。 關鍵技術 Budget Forcing ，透過控制思考時間，優化推理過程，讓 僅 1,000 筆高品質數據 （涵蓋數學、物理、統計等）達成 高效學習 ，比傳統大規模數據訓練更節省資源。 自我提問：Budget Forcing 的影響與限制？ 💡 Budget Forcing 能取代大型語言模型嗎？ Budget Forcing 主要應用於 推理階段 （Inference），而非全新的訓練機制，更像是一種 蒸餾技術 ，提升模型運算效率，但不改變模型的核心能力。 💡 更大模型仍有優勢嗎？ 即使 Budget Forcing 讓 32B 模型提升 7%，但若 70B 模型天生就比 32B 強 20%，那麼使用者仍傾向選擇更大的 LLM，這點無法取代。 💡 Budget Forcing 如何與大型語言模型共存？ 它可與 RLHF（強化學習微調） 或 RAG（檢索增強生成） 結合，形成新的 AI 訓練策略，拓展應用場景，並提升開源模型的競爭力。 產業與供應鏈影響：AI 運算模式轉變 🔹 對 GPU 需求的影響 預測未來 AI 訓練方式可能轉變——企業將 減少對超大規模 GPU 叢集（如 NVIDIA H100、B200）的需求 ，但仍需中等規模 GPU 進行模型微調與蒸餾。 🔹 雲端 AI 的崛起 s1 的研究證明， 雲端 GPU 運算更適合「推理加速」，而非訓練超大模型 。未來企業可 透過雲端 AI 建立推理服務 ，降低 AI 部署與運行成本。 🔹 開源 AI 競爭力提升 Budget Forcing 讓小型開源模型有更多機會優化自身性能，使其在 特定應用場景下與 GPT-4、Claude 3 等封閉式 LLM 競爭 ，推動開源 AI 發展。 完整技術細節可參考 GitHub：🔗 simplescaling/s1 歡迎留言討論！

source: 20美元、26分鐘就搞定！ 李飛飛團隊復刻DeepSeek-R1模型 ，效能更勝Open AI o1 關於 S1 的一些簡單想法 recap 採用的方法，是基礎於 Qwen2.5-32B-Instruct 訓練的 .   - 團隊構建了一個精選的 1,000 個高質量問題與推理過程的數據集 (s1K)，涵蓋多個領域（數學、物理、統計等）  - 問題的選取基於三個標準：難度 (Difficulty)、多樣性 (Diversity)、品質 (Quality)。  - Budget Forcing, 其中有兩個要素，思考時間，過長或過短都會進行處理讓其達到最適化。 訓練結果 1. 訓練效率節省，s1-32B 模型的訓練時間 僅需 26 分鐘 (16 個 H100 GPU)，比傳統方法更省時省力。 2. 採用 1,000 個精選數據，而非數十萬甚至百萬級的數據，顯示「高效樣本學習」的可能性 自我提問 Q.Budget Forcing 此方法能否完全取代大型語言模型的創新？  Budget Forcing 主要是 推理階段 (Inference) 的方法，並非是一種全新的訓練機制，以自己的認知來說，某方面他比較算是其中一種蒸餾的方法之一。 .  Q. 更大的模型仍然有優勢?  以結論來說即使 Budget Forcing 能讓 32B 模型提升 7%，但如果 70B 模型天生就比 32B 強 20%，那麼大家如果有生成的需求，其實還是會需要更大型的 LLM, 這是肯定的。 .  Q. Budget Forcing 跟大型語言模型之間的相處？  Budget Forcing + RLHF (強化學習微調) 或者 Budget Forcing + Retrieval-Augmented Generation (RAG)，總之 Budget Forcing 其實就是一個機制，再這樣組合拳之下就會有很多應用可以展開和想像的空間 產業與供應鏈影響 . 推測，的確以整體面向，可能會減少對超大規模 GPU 叢集（如 NVIDIA H100、B200）的需求降低，但仍然會購買大量中等規模 GPU 來微調，蒸餾模型。 .  s1 ...

首次接觸 LLM 的 CrossOver,  感謝台大文學院舉辦這樣的活動， 從謝老師和耿老師的分享，對於大型語言模型對於佛學的觀點，闡述了許多變與不變，以及可能性的延伸討論。 其中讓我印象最深刻的部分是，謝老師提到，大型語言模型解釋和 Embedding 能力其實有其應用化和場域化。 例如，『空』 向量和空間化後的， 『空』 ，這個字！ 此時的向量解釋，這個字的解釋，更超越語意的意義，透過 LLM 的理解力，讓人類有新的不同視野，看到更多可能性，以及連接性，這只是其中一個例子。 而其中，很有可能，透過 RAG 的方式，可以將佛經以及經過語料分析，讓現代的人可以透過現代的語言，直接與過去千年的語料進行互動的直接的過程，而不再是以艱澀難懂的方式讓人更容易親近，人類，可以透過 LLM 了解更多古往今來的史料經典。 同時，耿老師也提到，結合 LLM 理解的方式，他可能還是處在人們可能理解的範圍內處理，但是透過 LLM 能夠更有效率的在 CBETA 裡面找到關聯與相異性，找出更多千年以前的譯者團，譯者群所過去經歷的過程，過去的脈絡... 結論 人類的角色始終還是會在， 短期內，可能還是很難透過 LLM 直接超脫，不過這次的 Cross Over，可以看到 LLM 在不同領域上的確都是個震撼，也短短就發生在這兩年多，從語料上，到知識性上，到系統性上，到多模態上，大家正在不斷地從變動中，找到許多不變的，也從變動中，找到許多共時性的項目出來。 而這些正是人存在的價值，善用 LLM，創造且使用更多不同的 AI，重新組合出更多可能性的價值。 #正信不迷信 #我佛慈悲 CBETA,  https://www.cbeta.org/ Humanistic Buddhism Corpus  https://www.fgstranslation.org/hbc/ 臺大文學院跨領域論壇：佛學研究與AI  https://liberal.ntu.edu.tw/web/news/news_in.jsp?dm_id=DM1639553959015&np_id=NP1729819383333 工商服務 JSDC 2024  JavaScript Developer 年度盛會 售票中。 JSDC 2024 網站： https://2024.jsdc....