有了微積分,人類就能把握運(yùn)動的過程。微積分成了人們描述世界、尋求問題答案的有力工具。微積分促進(jìn)了工業(yè)大革命,帶來了大工業(yè)生產(chǎn),許多現(xiàn)代化交通工具的產(chǎn)生都與微積分相關(guān)。微積分知識在人工智能算法中可以說無處不在。求導(dǎo)是微積分的基本概念之一,也是很多理工科領(lǐng)域的基礎(chǔ)運(yùn)算。
導(dǎo)數(shù)是變化率的極限,是用來找到“線性近似”的數(shù)學(xué)工具,是一種線性變換,體現(xiàn)了無窮、極限、分割的數(shù)學(xué)思想,主要用來解決極值問題。人工智能算法的最終目標(biāo)是得到最優(yōu)化模型,其最后都可轉(zhuǎn)化為求極大值或極小值的問題。
比如,梯度下降法和牛頓法是人工智能的基礎(chǔ)算法,現(xiàn)在主流的求解代價函數(shù)最優(yōu)解的方法都是基于這兩種算法改造的,如隨機(jī)梯度法和擬牛頓法,其底層運(yùn)算就是基礎(chǔ)的導(dǎo)數(shù)運(yùn)算。級數(shù)也是微積分中非常重要的概念,常見的級數(shù)有泰勒級數(shù)、傅里葉級數(shù)等,它們在人工智能算法中也有非常重要的地位。
泰勒級數(shù)體現(xiàn)了用多項式近似和逼近函數(shù)的思想。泰勒級數(shù)在人工智能算法的底層起到了非常重要的作用,泰勒級數(shù)對理解很多基礎(chǔ)算法的原理很有幫助。例如,梯度下降法的數(shù)學(xué)原理涉及代價函數(shù)的一階泰勒近似,而牛頓法的推導(dǎo)過程應(yīng)用了目標(biāo)函數(shù)的二階泰勒近似。
其與泰勒級數(shù)類似,只是用來逼近和近似函數(shù)的基本元素從多項式變成了三角函數(shù)。它可以反映函數(shù)的頻率特性,每階的三角函數(shù)系數(shù)可以看成該階頻率的成分量。傅里葉級數(shù)和傅里葉變換是緊密聯(lián)系的,它們在人工智能、模式識別中起到了很重要的作用,尤其是在計算機(jī)視覺方面,當(dāng)處理圖像、視頻時,經(jīng)常要分析其頻率特性,如進(jìn)行平滑濾波、銳化濾波、邊緣特征提取和譜分析等,這些都會涉及傅里葉級數(shù)和傅里葉變換。
凸函數(shù)也是微積分中的重要概念,人工智能算法中涉及的優(yōu)化問題要求函數(shù)模型必須是凸函數(shù),否則優(yōu)化問題沒有最優(yōu)解。除了以上提到的概念,微積分中還有許多概念,如方向?qū)?shù)、梯度、伽馬函數(shù)等,它們都在人工智能中有廣泛的應(yīng)用,讀者可以在后面的章節(jié)中詳細(xì)了解相關(guān)內(nèi)容。