跳到主要內容

館長的網站技術瓶頸，小弟弟來解答 - notorious-2019.com

館長的網站技術瓶頸，小弟弟來解答 - notorious-2019.com

昨天看到館長的網站倒了，也看到館長說一個月花費大概一百萬左右的月費在支持這個架設的電商網站，也對外發布出來訊息，希望求救，

直接講結論

建議解法，

1. 首先要做的事情是讓整個網站可以橫向擴展 (Load Balancer + n 台伺服器），對，相信我，IIS 也是可以做 Scale out, 這是對於 Application layer 服務的解法。

2. 資料的部分 SQL 吞吐量，建議改成 GCP Cloud SQL, 或者就直接轉到 Azure SQL Server 環境上會相對容易解決 SQL 的問題。

上述 2 個步驟都處理完，其實 100 萬的費用，應該 20000 concurrent user 是沒有問題的，但前提是要設定『對』！

額外需要花較長期時間要處理的，建議就是在 Queue 的處理，購物車的狀態都可以進入到 Queue 再來處理 SQL insert 的問題，減少不斷的 insert / update 的狀態，後文會提到 ...

底下詳細的會再說明如何後後續還有哪些處理的細節。

這兩天剛好有個小空擋，就來分析一下狀況，

可以從外部讀取得到的服務大致上如下，

  • ASP.Net: 4.0
  • IIS 10 + Windows (廢話）
  • SQL Server (推測）
  • OP Service: PleskWin
  • Host: Google Cloud
  • DNS: Cloudflare

前端服務內容架構

Server-side render, jQuery base, 推測有可能採用現成購物車來進行，看起來不太像是用 wooCommerce 比較像是 Cart Functionality 這類的項目直接搭建而成（當然這純屬猜測）

  1. 功能拆解

因為網站是透過 Server site render 所有頁面都需要重新透過伺服器進行載入，這樣的狀況，如果在頻繁忙碌的 eCommerce 網站架構下會是一個致命傷，

簡單來說，數量的查詢，特惠價，優惠碼等等資訊的處理，使用者每做一步都需要重新跳轉頁面，或者整頁面重新讀取，只是為了部分的資料更新，這些都可以抽取出來成為 API ，透過 AJAX 的方式進行讀取。

  1. 讀寫分離

在不了解目前資料庫複雜狀態下，首先要讓所有人都可以讀取到資料，頁面可以跑出來，建議至少將讀取資料庫，和寫入資料庫的部分進行拆分。

這個設定可能自己 host 的時候會比較多麻煩事情，但如果透過 Azure SQL Server 的設置會方便許多，這也是為什麼會推薦可以直接用 Azure SQL Server.

  1. SPA 架構建置

針對第一部分的優勢，會建議如果工程能量許可，建議將程式改成 SPA 的方式來進行，這樣可以大量單純資料邏輯，還有讓後端做單純的計算，而不用負擔大量的重新頁面輸出資訊，多餘的 HTML Tag 等。

  1. 頁面快取

很多熱門商品其實會是大部分使用者進來搶購的項目，會建議在活動頁面，廣告頁面盡量設置 page cache 的方式來進行（目前看起來都是設置成 no cache）或者類似用 varnish 的方式，來進行快取的處理。

但是目前沒有辦法碰到伺服器就不深入去探討實作複雜度的問題。

  1. 透過 Queue 進行搶購

因為有太多邏輯和商務資訊都在 SQL 端，為了減少大量的 SQL 處理，建議在購買商品的部分，可以採用 Queue 的方式來進行，而不是大量的依賴 SQL CRUD 。

一來可以避免 SQL lock 的問題，二來可以讓 Queue 進行控管 Racing 的問題，實作細節上不多做說明，總之 Event Queue / Queue 都是初期解決 SQL 瓶頸的好朋友。

碎碎念

很多人聽到一個月付費用 100 萬很多，或者很不值得什麼之類的，甚至是覺得被『共潘辣』，實際上狀況到底如何大家不用在那邊瞎猜，因為 Cloud 費用要直接上 100 萬，其實並不難，特別是在 Windows 這種有 license 的服務上，要直上到每個月 100 萬，是真的有可能的。

推測，接案方可能是很少處理類似有流量進來的問題，導致於使用比較傳統的架構，比較傳統的方式來解決使用者流量問題，無法訪問的問題。

畢竟提升機器等級，提升環境是解決方法的一個方式，但在實務上，更多都是要回去看一下 index 設定了沒， SQL 下的方式有沒有辦法進行優化，減少不必要的 join 等等。

是說啦， .net 建議可以換一下成為 .net core ，這樣彈性和架構就可以更多元， k8s 可能會是一個更容易解決問題的方案，但這前提就真的是要從 .net -> .net core

最後，不要動不動就叫人家重寫程式，打掉重練，重練的代價，永遠都隱含著你所不知道的成本，網站能夠穩定，網站能夠順利進行，裡面藏了多少次的 debug ，你永遠不會知道，這不是讓你耍花槍的時候，而是真正上戰場，如何用最少的子彈達到正確目標的實際考驗。

以上！

丟出議題包磚引玉，如果或任何討論，

就傳個粉絲頁跟小弟互動一下吧！（啾咪）

https://www.facebook.com/caesarfromtaiwan


標籤：

留言

張貼留言

這個網誌中的熱門文章

RAG 和 Prompt 原理超簡單解說！想知道 AI 怎麼找答案看這篇

這篇文章是給對於你已經開始使用所謂的 ChatGPT / Claude / Gemini 之類的 AI 服務，甚至是 Siri (嘿丟，他也是一種 AI 應用服務喔） 簡單來說是非 技術人員， PM，小白，想要趕快惡補的人 ，直接花十分鐘可以看完的一篇科普業配文章。 或者是概念僅止於，AI 這東西會幻想，會有誤差，會對於生活有些幫助但沒有幫助的人們，做個簡單又不是太簡單的介紹，希望用一個非常入門的方式讓你們有個了解。 當然，這篇文章目的很簡單， 就是引流 ，如果你身邊有已經對於 Web 技術開發的人員，歡迎報名分享給他，年末出國不如學一技在身，參加今年我們舉辦最後一場 RAG 實作工作坊，報名連結 ， https://exma.kktix.cc/events/ai-for-dev-course-rag-2 注意： 接下來每個大段落結束都會有一段工商導入，但文章絕對精彩，請注意！ 為了讓各位容易想像，我們將整個世界的資訊，先濃縮到這本『西遊記』的世界觀當中，我們整個世界都在這個 『西遊記』 ，而 大型語言模型 我們用 『書精靈』 來描述。 PS. 我們先預設各位，應該都有聽過，西遊記！如果沒有聽過西遊記的，請右轉出去，謝謝！ 先來談談向量 在《西遊記》的世界裡，我們可以把 向量想像成一種「內容座標」 ，讓系統知道每個角色、場景、法術等的 「位置」和「距離」 。向量幫助語言模型知道不同內容之間的關聯程度。 向量就像內容的「距離」和「位置」 比方說，唐三藏的 「位置」（向量）會接近「佛經」和「取經」 的概念，因為他一路上都是為了取經而前進。孫悟空的 向量位置則會更靠近「金箍棒」和「七十二變」 這些概念，因為這些是他的特徵。 相似內容靠得更近：像「佛經」和「取經」會靠近唐三藏的向量，因為它們彼此有很強的關聯。 相差較大內容會離得較遠：像「取經」和「妖怪」「妖怪的寶藏」就距離比較遠，因為妖怪的寶藏和取經的目標關聯性不大。 是誰決定的這些位置？ 簡單來說，這些位置和關係是模型自己學出來的。語言模型會閱讀大量的資料和這世界觀的資訊，觀察哪些詞語經常一起出現，根據「共同出現的頻率」來決定它們的關係，並且自動生成向量。例如： 如果模型看到 「唐三藏」 總是和 「取經」 一起出現，它就會讓「唐三藏」的向量靠近「取經」。 ...
2 則留言
繼續閱讀>>

2024 推薦關注的 JavaScript 知識

以 js 整體發展來看，目前自己最看好的發展是在於兩個面向，一個部分是 Storybook ，一個部分是 Web container ，為何會是這兩個部分，這邊也分享一下自己的見解。 Storybook Storybook, 如果有用過的朋友都知道，他是屬於前端的展示，可以從 UI 的結構，到 parameter 的傳入，以及 component 如何使用的方式細節呈現等完全呈現。 AI 的到來，加上 Storybook 的呈現，可以讓新發展，或者更新版本的 UI Component 不再是孤兒，很快的 AI 可以學習如何使用新的 Component, 且在同時可以讀取 UI 畫面（Vision) 的狀態下進行識別 UI 在呈現上可以使用的方式。 同時也可以直接了解整體程式碼在使用上可以有怎麼樣參數傳入的方式，甚至是，你只要發展出一套 react 的版本，透過 AI 可以直接透過 Storybook 的版本，直接用最典型的狀態（但不一定效果最佳）轉換成 Vue, 或者 Villina JS 的版本。 這對於開發者，是一個多大的福音，Do Once, Call Everywhere. Web Container Web Container, 正所謂，Container 之下無蟒夫，容器化不只是能夠跑在後端，現在也能夠跑在前端，加速了整體的部署，同時也加速了以往的 SSR 的限制，以往很多時候『it works on my pc』的窘境將不再復見，你的瀏覽器將是我的雲端，You are the edge of mine, 聽起來有多浪漫，光靠這招就是一個歡呼！ 完全就是一個端到端，環境的問題接下來將再不是一個問題，以往會有的 Node.js 的問題，接下來都可以在 Web Container 裡面排除掉，直接快速的進行部署實現，同時執行出應用端應該有的樣子。 當然瀏覽器支援度會是一個問題，不過我相信這只是時間的問題而已，相信在座的各位，最多的就是時間！ 等吧！ JSDC 2024  JavaScript Developer 年度盛會，線上展開。 這次講師要講什麼，就是要講這些有的沒的，還不來聽嗎？ 聽懂幾個關鍵字，開心學會一輩子！ JSDC 2024 網站： https://2024.jsdc.tw/ JSDC 2024 售票連結： https://www.a...
張貼留言
繼續閱讀>>

從易經八卦到 AI 應用：用 LLM 自動化數據整理的工程探險

從 2023 年開始，在去年 為何技術老人這樣想那樣做？ 的那場分享之前，就開始探索管理的更多可能性，以及探索更深層的奧秘，宇宙的二進位，生活中的陰與陽，到透過朋友深入探索 8 進位和 64 進位的玄學領域。 一開始只是想將自己體驗進行工程的還原，先是以為透過 ai 可以很快（偷懶）就可以解決掉資訊整理的問題，這邊有些踩雷的過程，以及對於整體實作的紀錄，分享給大家。 人生，原本以為很輕鬆的事情，最後都會不太容易 原本目標是希望將網路上許多的八卦資訊，以及六十四卦象內容，透過 AI 將資料進行彙整，就資料進行整合以及釐清就花了些時間 （汗） 以下且聽我慢慢道來 ... . 思緒步驟 大概步驟會是這樣，首先進行基礎八卦資訊搜集，大概由乾掛到坤卦，這些都可以在網路上容易取得，(這邊採用的是先天八卦順序） https://chatgpt.com/share/672083ea-4000-8010-ae50-3e120d845244 接著進入重點， 64 卦目前並沒有太多工程項目可以進行整合資料，因此主要透過 ChatGPT 產生資訊，以及透過 wiki 進行先達到快速效果。 https://chatgpt.com/share/67208416-c210-8010-9d43-a8c7235a1b03 緊接著，就會得到一串很像是 64 掛的內容， 不看不知道，一看嚇一跳，取得資料中會包含錯誤資訊，對應錯誤的上下卦，但畢竟是電腦，有錯很正常，這才是我認識的 ChatGPT （這邊也有試過 Claude 也有相同問題）。 校正回歸 此時經驗就非常重要，透過 AI 協助我們進行資料編寫比對，但不是單純的比對，而是要先想清楚自己的目標是什麼。 64 卦，兩兩相對。 64 卦，每個卦象不重複。 基礎於一開始 『懶』的狀態 ， 首先直覺性的，是將比對錯誤的 json 直接丟入，原本預計透過 chain of thought 的方式，讓 llm 進行重複確認，但 ... 測試發現，需要透過 llm 產出原生資料越大時，隱藏的重複錯誤性會隨之提高。 llm 不轉，我轉 因此，這邊的解法朝向糾錯為主。 首先回到目的性，我們需要得到的結果是 完整的 64 卦象 取得對應的正確上下卦位置。 當我們有這樣明...
張貼留言
繼續閱讀>>