跳到主要內容

館長的網站技術瓶頸，小弟弟來解答 - notorious-2019.com

館長的網站技術瓶頸，小弟弟來解答 - notorious-2019.com

昨天看到館長的網站倒了，也看到館長說一個月花費大概一百萬左右的月費在支持這個架設的電商網站，也對外發布出來訊息，希望求救，

直接講結論

建議解法，

1. 首先要做的事情是讓整個網站可以橫向擴展 (Load Balancer + n 台伺服器），對，相信我，IIS 也是可以做 Scale out, 這是對於 Application layer 服務的解法。

2. 資料的部分 SQL 吞吐量，建議改成 GCP Cloud SQL, 或者就直接轉到 Azure SQL Server 環境上會相對容易解決 SQL 的問題。

上述 2 個步驟都處理完，其實 100 萬的費用，應該 20000 concurrent user 是沒有問題的，但前提是要設定『對』！

額外需要花較長期時間要處理的，建議就是在 Queue 的處理，購物車的狀態都可以進入到 Queue 再來處理 SQL insert 的問題，減少不斷的 insert / update 的狀態，後文會提到 ...

底下詳細的會再說明如何後後續還有哪些處理的細節。

這兩天剛好有個小空擋，就來分析一下狀況，

可以從外部讀取得到的服務大致上如下，

  • ASP.Net: 4.0
  • IIS 10 + Windows (廢話）
  • SQL Server (推測）
  • OP Service: PleskWin
  • Host: Google Cloud
  • DNS: Cloudflare

前端服務內容架構

Server-side render, jQuery base, 推測有可能採用現成購物車來進行，看起來不太像是用 wooCommerce 比較像是 Cart Functionality 這類的項目直接搭建而成（當然這純屬猜測）

  1. 功能拆解

因為網站是透過 Server site render 所有頁面都需要重新透過伺服器進行載入，這樣的狀況，如果在頻繁忙碌的 eCommerce 網站架構下會是一個致命傷，

簡單來說，數量的查詢，特惠價，優惠碼等等資訊的處理，使用者每做一步都需要重新跳轉頁面，或者整頁面重新讀取，只是為了部分的資料更新，這些都可以抽取出來成為 API ，透過 AJAX 的方式進行讀取。

  1. 讀寫分離

在不了解目前資料庫複雜狀態下，首先要讓所有人都可以讀取到資料，頁面可以跑出來，建議至少將讀取資料庫，和寫入資料庫的部分進行拆分。

這個設定可能自己 host 的時候會比較多麻煩事情，但如果透過 Azure SQL Server 的設置會方便許多，這也是為什麼會推薦可以直接用 Azure SQL Server.

  1. SPA 架構建置

針對第一部分的優勢，會建議如果工程能量許可，建議將程式改成 SPA 的方式來進行，這樣可以大量單純資料邏輯，還有讓後端做單純的計算，而不用負擔大量的重新頁面輸出資訊，多餘的 HTML Tag 等。

  1. 頁面快取

很多熱門商品其實會是大部分使用者進來搶購的項目，會建議在活動頁面，廣告頁面盡量設置 page cache 的方式來進行（目前看起來都是設置成 no cache）或者類似用 varnish 的方式，來進行快取的處理。

但是目前沒有辦法碰到伺服器就不深入去探討實作複雜度的問題。

  1. 透過 Queue 進行搶購

因為有太多邏輯和商務資訊都在 SQL 端，為了減少大量的 SQL 處理，建議在購買商品的部分，可以採用 Queue 的方式來進行，而不是大量的依賴 SQL CRUD 。

一來可以避免 SQL lock 的問題，二來可以讓 Queue 進行控管 Racing 的問題，實作細節上不多做說明，總之 Event Queue / Queue 都是初期解決 SQL 瓶頸的好朋友。

碎碎念

很多人聽到一個月付費用 100 萬很多，或者很不值得什麼之類的，甚至是覺得被『共潘辣』，實際上狀況到底如何大家不用在那邊瞎猜，因為 Cloud 費用要直接上 100 萬，其實並不難，特別是在 Windows 這種有 license 的服務上，要直上到每個月 100 萬，是真的有可能的。

推測，接案方可能是很少處理類似有流量進來的問題，導致於使用比較傳統的架構，比較傳統的方式來解決使用者流量問題，無法訪問的問題。

畢竟提升機器等級，提升環境是解決方法的一個方式，但在實務上，更多都是要回去看一下 index 設定了沒， SQL 下的方式有沒有辦法進行優化，減少不必要的 join 等等。

是說啦， .net 建議可以換一下成為 .net core ，這樣彈性和架構就可以更多元， k8s 可能會是一個更容易解決問題的方案，但這前提就真的是要從 .net -> .net core

最後，不要動不動就叫人家重寫程式，打掉重練，重練的代價，永遠都隱含著你所不知道的成本，網站能夠穩定，網站能夠順利進行，裡面藏了多少次的 debug ，你永遠不會知道，這不是讓你耍花槍的時候，而是真正上戰場，如何用最少的子彈達到正確目標的實際考驗。

以上！

丟出議題包磚引玉，如果或任何討論，

就傳個粉絲頁跟小弟互動一下吧！（啾咪）

https://www.facebook.com/caesarfromtaiwan


標籤：

留言

張貼留言

這個網誌中的熱門文章

RAG 和 Prompt 原理超簡單解說！想知道 AI 怎麼找答案看這篇

這篇文章是給對於你已經開始使用所謂的 ChatGPT / Claude / Gemini 之類的 AI 服務，甚至是 Siri (嘿丟，他也是一種 AI 應用服務喔） 簡單來說是非 技術人員， PM，小白，想要趕快惡補的人 ，直接花十分鐘可以看完的一篇科普業配文章。 或者是概念僅止於，AI 這東西會幻想，會有誤差，會對於生活有些幫助但沒有幫助的人們，做個簡單又不是太簡單的介紹，希望用一個非常入門的方式讓你們有個了解。 當然，這篇文章目的很簡單， 就是引流 ，如果你身邊有已經對於 Web 技術開發的人員，歡迎報名分享給他，年末出國不如學一技在身，參加今年我們舉辦最後一場 RAG 實作工作坊，報名連結 ， https://exma.kktix.cc/events/ai-for-dev-course-rag-2 注意： 接下來每個大段落結束都會有一段工商導入，但文章絕對精彩，請注意！ 為了讓各位容易想像，我們將整個世界的資訊，先濃縮到這本『西遊記』的世界觀當中，我們整個世界都在這個 『西遊記』 ，而 大型語言模型 我們用 『書精靈』 來描述。 PS. 我們先預設各位，應該都有聽過，西遊記！如果沒有聽過西遊記的，請右轉出去，謝謝！ 先來談談向量 在《西遊記》的世界裡，我們可以把 向量想像成一種「內容座標」 ，讓系統知道每個角色、場景、法術等的 「位置」和「距離」 。向量幫助語言模型知道不同內容之間的關聯程度。 向量就像內容的「距離」和「位置」 比方說，唐三藏的 「位置」（向量）會接近「佛經」和「取經」 的概念，因為他一路上都是為了取經而前進。孫悟空的 向量位置則會更靠近「金箍棒」和「七十二變」 這些概念，因為這些是他的特徵。 相似內容靠得更近：像「佛經」和「取經」會靠近唐三藏的向量，因為它們彼此有很強的關聯。 相差較大內容會離得較遠：像「取經」和「妖怪」「妖怪的寶藏」就距離比較遠，因為妖怪的寶藏和取經的目標關聯性不大。 是誰決定的這些位置？ 簡單來說，這些位置和關係是模型自己學出來的。語言模型會閱讀大量的資料和這世界觀的資訊，觀察哪些詞語經常一起出現，根據「共同出現的頻率」來決定它們的關係，並且自動生成向量。例如： 如果模型看到 「唐三藏」 總是和 「取經」 一起出現，它就會讓「唐三藏」的向量靠近「取經」。 ...
2 則留言
繼續閱讀>>

Vibe Coding：為什麼 Junior 更快上手？Senior 要如何追趕？

現象層面（市場觀察） 最近有篇文章討論 junior & senior 開發者在 AI 時代的角色轉變，非常熱門。 身為 Cympack 產品開發團隊 ，我們也一直關注這個議題，在閱讀這篇文章時觀察到一些有趣的現象，對我們來說，這正好反映出 AI 正在改變開發生態，junior 借力 AI 快速成長、senior 則需要在 「架構思維」 與 「多 agent 協作」 中找到新定位，其中有些啟發（insight) 可以跟大家分享。 為什麼 Junior 更容易上手 vibe coding？ 心智負擔低 → Junior 沒有太多傳統 code workflow 的框架包袱 敢於嘗鮮 → Gen Z / 年輕工程師天生習慣用 prompt-based 工具、跟 LLM 互動 少「優雅程式設計」的束縛 → 不太糾結「這樣寫會不會不夠優雅」，反而 embrace 快速迭代、快速出成果 反觀 Senior： 熟悉大型系統設計 有豐富的「工程正統流程」知識（架構設計、測試策略、效能優化、設計模式） 對 AI 生成 code 的品質 / 維護性通常比較保留 部分 10+ 年資深工程師，對 prompt engineering 沒那麼熟練，還在觀望 技能面（未來的關鍵能力） Vibe coding 本質上 = prompt engineering + AI co-pilot 管理能力 能力項目 誰目前比較有優勢？ Prompt 撰寫 / AI 互動 Junior 較強（熟悉 chat-based 流程） 系統設計 / 架構把關 Senior 較強 AI 生成 code 驗證 / Bug 察覺能力 Senior 較強（能看出潛在問題） 快速疊代 / Hackathon 式開發 Junior 較強 長期維護性 / 穩定性 Senior 較強 總結 Junior 確實更快適應 vibe coding，並且更習慣以 「chat-based coding」 的工作流開發。 Senior 擁有驗證 AI 產物與系統設計的深度能力，但若不主動練習 vibe coding，長期會逐漸落後於新一波開發潮流。 就如同在 GAI 技術年會分享，希望帶給各位的感受， 『與 AI 協...
張貼留言
繼續閱讀>>

v0 API 是什麼？怎麼用？一篇教你搞懂功能、價格，還能搭配 Cursor 玩出 vibe coding！

Vercel 的 v0 是一款 AI 驅動的前端開發工具，能夠將自然語言描述轉換為可部署的 React 元件和 UI 介面，支援 Tailwind CSS，並可直接部署至 Vercel 平台。此外，v0 提供 API 介面，讓開發者能將其整合至其他工具，如 Cursor IDE，進一步提升開發效率。 Vercel v0 API 介紹 v0 API 目前處於 Beta 階段，主要提供 v0-1.0-md 模型，具備以下特點： 多模態支援：接受文字與圖片（base64 編碼）輸入。  快速串流回應：提供低延遲的串流回應。  OpenAI 相容：遵循 OpenAI Chat Completions API 格式，易於整合至現有工具。  前端開發優化：特別針對 Next.js 和 Vercel 等現代前端框架進行優化。 要使用 v0 API，需訂閱 Premium 或 Team 方案 ，並啟用使用量計費。 使用方式 API 端點： POST https://api.v0.dev/v1/chat/completions 請求標頭： Authorization: Bearer YOUR_V0_API_KEY Content-Type: application/json 參數範例： { "model": "v0-1.0-md", "messages": [ { "role": "user", "content": "建立一個具有身份驗證功能的 Next.js AI 聊天機器人" } ], "stream": true } 您也可以使用官方的 AI SDK 進行整合： npm install ai @ai-sdk/vercel 範例程式 javascript import { generateText } from 'ai'; import { vercel } from '@ai-sdk/vercel'; const { text } = await generateText({ model: vercel...
張貼留言
繼續閱讀>>