API網(wǎng)關(guān)將API請(qǐng)求從客戶端路由到適當(dāng)?shù)姆?wù)。但對(duì)這個(gè)簡單定義的一個(gè)很大誤解是，API網(wǎng)關(guān)是一種獨(dú)特的技術(shù)。
當(dāng)云計(jì)算環(huán)境中不再需要某個(gè)應(yīng)用程序時(shí)，考慮將其退役是很重要的。當(dāng)應(yīng)用程序的功能在環(huán)境中的其他地方被復(fù)制時(shí)，應(yīng)該被替換，它們沒有什么價(jià)值，或者替換它們比遷移它們更具成本效益。
服務(wù)器是一種高性能計(jì)算機(jī)，作為網(wǎng)絡(luò)的節(jié)點(diǎn)，存儲(chǔ)、處理網(wǎng)絡(luò)上80%的數(shù)據(jù)、信息，因此也被稱為網(wǎng)絡(luò)的靈魂。普通服務(wù)器是以CPU為計(jì)算能力的提供者，采用串行架構(gòu)，擅長邏輯計(jì)算和浮點(diǎn)計(jì)算。
ChatGPT主要進(jìn)行矩陣向量計(jì)算，AI服務(wù)器處理效率更高。從ChatGPT模型結(jié)構(gòu)來看，基于Transformer架構(gòu)，ChatGPT模型采用注意力機(jī)制進(jìn)行文本單詞權(quán)重賦值，并向前饋神經(jīng)網(wǎng)絡(luò)輸出數(shù)值結(jié)果，這一過程需要進(jìn)行大量向量及張量運(yùn)算。
對(duì)于大多數(shù)企業(yè)來說，大多數(shù)時(shí)候，服務(wù)器上的10 Gb/秒甚至25 Gb/秒端口都可以，而PC的10 Gb/秒端口就足夠了。令人瘋狂的是，10 Gb/秒和更慢的以太網(wǎng)交換設(shè)備在世界上的銷量仍然如此之高，這就是原因。
高速增長的數(shù)據(jù)量，推動(dòng)了更多加速器和計(jì)算架構(gòu)的布局。在此背景下，通過數(shù)據(jù)接口技術(shù)的不斷演進(jìn)來滿足上述應(yīng)用對(duì)新性能和容量的需求，正在成為核心的關(guān)鍵技術(shù)。
