• Some p oin ts around a saddle p oin t hav e greater cost than the saddle p oin t, while others hav e a lo wer cost. A t a saddle p oint, the Hessian matrix has b oth p ositiv e and negative eigen v alues. P oin ts lying along eigenv ectors asso ciated with p ositiv e eigenv alues hav e greater cost than the saddle p oint, while p oin ts lying along negative eigenv alues ha ve low er v alue. W e can think of a saddle p oin t as b eing a lo cal minimum along one cross-section of the cost function and a lo cal maxim um along another cross-section. See Fig. for an illustration. 4.5 Man y classes of random functions exhibit the following behavior: in low- dimensional spaces, lo cal minima are common. In higher dimensional spaces, lo cal minima are rare and saddle p oints are more common. F or a function f : R n → R of this type, the exp ected ratio of the num b er of saddle p oin ts to lo cal minima grows exp onen tially with n . T o understand the intuition b ehind this b eha vior, observe that the Hessian matrix at a lo cal minimum has only p ositiv e eigen v alues. The Hessian matrix at a saddle p oin t has a mixture of p ositive and negativ e eigenv alues. Imagine that the sign of eac h eigenv alue is generated by flipping a coin. In a single dimension, it is easy to obtain a lo cal minimum b y tossing a coin and getting heads once. In n -dimensional space, it is exp onentially unlikely that all n coin tosses will 285 --- Page Break --- CHAPTER 8. OPTIMIZA TION FOR TRAINING DEEP MODELS b e heads. See ( ) for a review of the relev ant theoretical work. Dauphin et al. 2014 An amazing prop erty of many random functions is that the eigenv alues of the Hessian b ecome more likely to b e p ositive as we reach regions of lo wer cost. In our coin tossing analogy , this means we are more lik ely to hav e our coin come up heads n times if w e are at a critical p oint with low cost. This means that lo cal minima are muc h more lik ely to hav e lo w cost than high cost. Critical p oints with high cost are far more likely to b e saddle p oin ts. Critical p oints with extremely high cost are more lik ely to b e lo cal maxima. This happ ens for many classes of random functions. Do es it happ en for neural net w orks? ( ) sho wed theoretically that shallo w autoenco ders Baldi and Hornik 1989 (feedforw ard net works trained to cop y their input to their output, describ ed in Chapter ) with no nonlinearities hav e global minima and saddle p oints but no 14 lo cal minima with higher cost than the global minimum. They observed without pro of that these results extend to deep er net works without nonlinearities. The output of suc h netw orks is a linear function of their input, but they are useful to study as a mo del of nonlinear neural netw orks b ecause their loss function is a non-conv ex function of their parameters. Such netw orks are essentially just m ultiple matrices comp osed together. ( ) pro vided exact solutions Saxe et al. 2013 to the complete learning dynamics in suc h netw orks and show ed that learning in these mo dels captures man y of the qualitativ e features observed in the training of deep mo dels with nonlinear activ ation functions. ( ) sho wed Dauphin et al. 2014 exp erimen tally that real neural netw orks also hav e loss functions that contain very man y high-cost saddle p oin ts. Choromansk a 2014 et al. ( ) provided additional theoretical arguments, showing that another class of high-dimensional random functions related to neural net w orks do es so as well. What are the implications of the proliferation of saddle p oints for training algo- rithms? F or first-order optimization algorithms that use only gradient information, the situation is unclear. The gradient can often b ecome v ery small near a saddle p oin t. On the other hand, gradient descent empirically seems to b e able to escap e saddle p oints in man y cases. ( ) provided visualizations of Goo dfellow et al. 2015 sev eral learning tra jectories of state-of-the-art neural net w orks, with an example giv en in Fig. . These visualizations show a flattening of the cost function near 8.2 a prominent saddle p oin t where the w eigh ts are all zero, but they also show the gradien t descent tra jectory rapidly escaping this region. ( ) Goo dfellow et al. 2015 also argue that con tin uous-time gradient descent ma y b e shown analytically to b e rep elled from, rather than attracted to, a nearb y saddle p oint, but the situation ma y b e differen t for more realistic uses of gradient descen t. F or Newton’s metho d, it is clear that saddle points constitute a problem. 286 --- Page Break --- CHAPTER 8. OPTIMIZA TION FOR TRAINING DEEP MODELS Pro jection 2 of θ Pro jection 1 of θ J( ) θ Figure 8.2: A visual ization of the cost functi on of a neural netw ork. Image adapte d with p ermiss ion from Go o dfello w 2015 et al. ( ). The se visual ization s app ear simila r for feedfo rw ard neural net works , con voluti onal net works , and recurr ent netw orks applie d to real ob ject recogn ition and natura l langua ge pro cessing tasks. Surpri singly , these visual ization s usuall y do not sho w many conspi cuous obstac les. P rior to the succes s of sto c hastic gradie nt descen t for trainin g very large mo dels b eginni ng in roughl y 2012, neural net cost functi on surfac es were genera lly b elieved to hav e muc h more non-co nv ex structu re than is rev ealed by these pro jection s. Th e prima ry obstac le reveal ed b y this pro jection is a saddle p oint of high cost near where the param eters are initial ized, but, as indica ted by the blue path, the SGD trainin g tra jectory escap es this saddle p oint readily .
  • Some points around a saddle point have greater cost than the saddle point, while others have a lower cost.
    • 固定搭配:“while”在此处表示对比,意为“而;然而”。
    • 句子分析:这是一个并列复合句,由“while”连接两个并列的句子,对比了鞍点周围不同点的成本情况。
    • 翻译:鞍点周围的一些点的成本比鞍点高,而其他点的成本比鞍点低。
    • 单词分析:
      • saddle:名词,词源来自古英语“sadol”,词义:鞍;鞍状物。
        • 记忆方法:联想“saddle”发音像“赛斗”,骑马比赛时要用到鞍。
        • 形近词:saddle/saddleback(鞍状峰)、addled(头脑糊涂的)。
        • 发音解析:
          • 音节分解:sad + dle,/ˈsædl/,重音在第一音节
          • 规则:sad → /sæd/, “sad” 发 /sæd/ 音,其中 “a” 发短元音 /æ/。
          • 规则:dle → /dl/, “dle” 发 /dl/ 音。
  • At a saddle point, the Hessian matrix has both positive and negative eigenvalues.
    • 固定搭配:“both...and...”意为“两者都”。
    • 句子分析:简单句,描述在鞍点处黑塞矩阵的特征值情况。
    • 翻译:在鞍点处,黑塞矩阵既有正特征值又有负特征值。
    • 单词分析:
      • Hessian:名词,词源可能与数学家Hesse有关,词义:黑塞矩阵。
        • 记忆方法:可直接记忆人名相关。
        • 形近词:Hessian/Hess(赫斯,姓氏)。
        • 发音解析:
          • 音节分解:Hes + sian,/ˈhesiən/,重音在第一音节
          • 规则:Hes → /hes/, “Hes” 发 /hes/ 音。
          • 规则:sian → /iən/, “sian” 发 /iən/ 音。
    • eigenvalues:名词复数,词源来自德语“eigen”(自身的)和“wert”(值),词义:特征值。
      • 记忆方法:“eigen”表示自身的,特征值就是矩阵自身的一种特性值。
      • 形近词:eigenvalues/eigenfunction(特征函数)。
      • 发音解析:
        • 音节分解:ei + gen + val + ues,/ˈaɪɡənˌvæljuːz/,重音在第一音节
        • 规则:ei → /aɪ/, “ei” 发 /aɪ/ 音。
        • 规则:gen → /ɡen/, “gen” 发 /ɡen/ 音。
        • 规则:val → /væl/, “val” 发 /væl/ 音。
        • 规则:ues → /juːz/, “ues” 发 /juːz/ 音。
  • Points lying along eigenvectors associated with positive eigenvalues have greater cost than the saddle point, while points lying along negative eigenvalues have lower value.
    • 固定搭配:“lie along”意为“沿着”;“be associated with”意为“与……相关联”。
    • 句子分析:并列复合句,用“while”对比了沿着不同特征向量的点与鞍点成本和值的关系。
    • 翻译:沿着与正特征值相关联的特征向量的点的成本比鞍点高,而沿着负特征值的点的值较低。
    • 单词分析:
      • eigenvectors:名词复数,词源同“eigenvalues”,词义:特征向量。
        • 记忆方法:与“eigenvalues”关联记忆,特征向量和特征值是相关概念。
        • 形近词:eigenvectors/eigenstate(特征态)。
        • 发音解析:
          • 音节分解:ei + gen + vec + tors,/ˈaɪɡənˌvektəz/,重音在第一音节
          • 规则:ei → /aɪ/, “ei” 发 /aɪ/ 音。
          • 规则:gen → /ɡen/, “gen” 发 /ɡen/ 音。
          • 规则:vec → /vek/, “vec” 发 /vek/ 音。
          • 规则:tors → /təz/, “tors” 发 /təz/ 音。
  • We can think of a saddle point as being a local minimum along one cross - section of the cost function and a local maximum along another cross - section.
    • 固定搭配:“think of...as...”意为“把……看作……”。
    • 句子分析:简单句,描述了对鞍点的一种理解方式,即从不同横截面看,鞍点分别是局部最小值和局部最大值。
    • 翻译:我们可以把鞍点看作是成本函数在一个横截面上的局部最小值,在另一个横截面上的局部最大值。
    • 单词分析:
      • cross - section:名词,由“cross”(交叉)和“section”(部分)组成,词义:横截面;截面。
        • 记忆方法:“cross”表示交叉,“section”表示部分,交叉的部分就是横截面。
        • 形近词:cross - section/crosswalk(人行横道)。
        • 发音解析:
          • 音节分解:cross + sec + tion,/ˈkrɔːssekʃn/,重音在第一音节
          • 规则:cross → /krɔːs/, “cross” 发 /krɔːs/ 音。
          • 规则:sec → /sek/, “sec” 发 /sek/ 音。
          • 规则:tion → /ʃn/, “tion” 发 /ʃn/ 音。
  • See Fig. for an illustration. 4.5 Many classes of random functions exhibit the following behavior: in low - dimensional spaces, local minima are common.
    • 固定搭配:“exhibit...behavior”意为“表现出……行为”。
    • 句子分析:复合句,冒号后是对前面“behavior”的具体说明,描述了随机函数在低维空间的特性。
    • 翻译:见图4.5的示例。许多类随机函数表现出以下行为:在低维空间中,局部最小值很常见。
    • 单词分析:
      • exhibit:动词,词源来自拉丁语“exhibere”(展示),词义:展示;表现。
        • 记忆方法:“ex-”表示向外,“hibit”可联想“hold”,向外拿出来就是展示。
        • 形近词:exhibit/exhibition(展览)、prohibit(禁止)。
        • 发音解析:
          • 音节分解:ex + hib + it,/ɪɡˈzɪbɪt/,重音在第二音节
          • 规则:ex → /ɪɡˈz/, “ex” 发 /ɪɡˈz/ 音。
          • 规则:hib → /hɪb/, “hib” 发 /hɪb/ 音。
          • 规则:it → /ɪt/, “it” 发 /ɪt/ 音。
    • low - dimensional:形容词,由“low”(低的)和“dimensional”(维度的)组成,词义:低维的。
      • 记忆方法:直接组合记忆。
      • 形近词:low - dimensional/high - dimensional(高维的)。
      • 发音解析:
        • 音节分解:low + di + men + sion + al,/ˌləʊdaɪˈmenʃənl/,重音在第三音节
        • 规则:low → /ləʊ/, “low” 发 /ləʊ/ 音。
        • 规则:di → /daɪ/, “di” 发 /daɪ/ 音。
        • 规则:men → /men/, “men” 发 /men/ 音。
        • 规则:sion → /ʃn/, “sion” 发 /ʃn/ 音。
        • 规则:al → /l/, “al” 发 /l/ 音。
  • In higher dimensional spaces, local minima are rare and saddle points are more common.
    • 句子分析:简单句,对比了高维空间中局部最小值和鞍点的出现频率。
    • 翻译:在高维空间中,局部最小值很少见,而鞍点更常见。
  • For a function f: R n → R of this type, the expected ratio of the number of saddle points to local minima grows exponentially with n.
    • 固定搭配:“the ratio of...to...”意为“……与……的比率”。
    • 句子分析:简单句,描述了特定类型函数中鞍点数量与局部最小值数量的比率随维度n的变化情况。
    • 翻译:对于这种类型的函数f: R n → R,鞍点数量与局部最小值数量的预期比率随n呈指数增长。
    • 单词分析:
      • expected:形容词,由“expect”(期望)的过去分词形式而来,词义:预期的;预料的。
        • 记忆方法:“expect”表示期望,“-ed”表示被动或完成,被期望的就是预期的。
        • 形近词:expected/unexpected(意外的)。
        • 发音解析:
          • 音节分解:ex + pect + ed,/ɪkˈspektɪd/,重音在第二音节
          • 规则:ex → /ɪkˈs/, “ex” 发 /ɪkˈs/ 音。
          • 规则:pect → /pekt/, “pect” 发 /pekt/ 音。
          • 规则:ed → /ɪd/, “ed” 发 /ɪd/ 音。
    • exponentially:副词,由“exponential”(指数的)加“-ly”构成,词义:以指数方式;呈指数地。
      • 记忆方法:“exponent”表示指数,“-ial”表示形容词后缀,“-ly”表示副词后缀。
      • 形近词:exponentially/exponentiation(求幂)。
      • 发音解析:
        • 音节分解:ex + po + nen + tial + ly,/ˌekspəˈnenʃəli/,重音在第三音节
        • 规则:ex → /ekˈs/, “ex” 发 /ekˈs/ 音。
        • 规则:po → /pəʊ/, “po” 发 /pəʊ/ 音。
        • 规则:nen → /nen/, “nen” 发 /nen/ 音。
        • 规则:tial → /ʃəl/, “tial” 发 /ʃəl/ 音。
        • 规则:ly → /li/, “ly” 发 /li/ 音。
  • To understand the intuition behind this behavior, observe that the Hessian matrix at a local minimum has only positive eigenvalues.
    • 固定搭配:“observe that...”意为“观察到……”。
    • 句子分析:复合句,“To understand...”是目的状语,“observe that...”引导宾语从句,描述为理解某种行为要观察的内容。
    • 翻译:为了理解这种行为背后的直觉,观察到在局部最小值处黑塞矩阵只有正特征值。
    • 单词分析:
      • intuition:名词,词源来自拉丁语“intueri”(看),词义:直觉;直观。
        • 记忆方法:“in-”表示向内,“tuition”可联想“教导”,向内的教导就是直觉。
        • 形近词:intuition/intuitive(直觉的)。
        • 发音解析:
          • 音节分解:in + tu + i + tion,/ˌɪntjuːˈɪʃn/,重音在第二音节
          • 规则:in → /ɪn/, “in” 发 /ɪn/ 音。
          • 规则:tu → /tjuː/, “tu” 发 /tjuː/ 音。
          • 规则:i → /ɪ/, “i” 发 /ɪ/ 音。
          • 规则:tion → /ʃn/, “tion” 发 /ʃn/ 音。
  • The Hessian matrix at a saddle point has a mixture of positive and negative eigenvalues.
    • 固定搭配:“a mixture of...”意为“……的混合”。
    • 句子分析:简单句,描述鞍点处黑塞矩阵特征值的情况。
    • 翻译:鞍点处的黑塞矩阵有正特征值和负特征值的混合。
    • 单词分析:
      • mixture:名词,由“mix”(混合)加“-ture”构成,词义:混合;混合物。
        • 记忆方法:“mix”表示混合,“-ture”是名词后缀。
        • 形近词:mixture/mix(混合,动词)。
        • 发音解析:
          • 音节分解:mix + ture,/ˈmɪkstʃə(r)/,重音在第一音节
          • 规则:mix → /mɪks/, “mix” 发 /mɪks/ 音。
          • 规则:ture → /tʃə(r)/, “ture” 发 /tʃə(r)/ 音。
  • Imagine that the sign of each eigenvalue is generated by flipping a coin.
    • 固定搭配:“flip a coin”意为“抛硬币”。
    • 句子分析:复合句,“Imagine that...”引导宾语从句,描述一种想象的情景。
    • 翻译:想象每个特征值的符号是通过抛硬币来确定的。
    • 单词分析:
      • generated:动词过去式,由“generate”(产生;生成)的过去分词形式而来,词义:产生;生成。
        • 记忆方法:“gen-”表示产生,“-erate”是动词后缀。
        • 形近词:generated/generator(发电机;发生器)。
        • 发音解析:
          • 音节分解:gen + er + at + ed,/ˈdʒenəreɪtɪd/,重音在第一音节
          • 规则:gen → /dʒen/, “gen” 发 /dʒen/ 音。
          • 规则:er → /ə(r)/, “er” 发 /ə(r)/ 音。
          • 规则:at → /eɪt/, “at” 发 /eɪt/ 音。
          • 规则:ed → /ɪd/, “ed” 发 /ɪd/ 音。
  • In a single dimension, it is easy to obtain a local minimum by tossing a coin and getting heads once.
    • 固定搭配:“toss a coin”意为“抛硬币”。
    • 句子分析:简单句,描述在一维情况下通过抛硬币得到局部最小值的容易程度。
    • 翻译:在一维空间中,通过抛一次硬币得到正面来获得局部最小值很容易。
  • In n - dimensional space, it is exponentially unlikely that all n coin tosses will...(原句不完整)
    • 句子分析:复合句,“it”是形式主语,真正的主语是“that”引导的从句,描述在n维空间中所有n次抛硬币结果的情况。
    • 翻译:在n维空间中,所有n次抛硬币……(原句不完整,无法完整翻译)

  • CHAPTER 8. OPTIMIZATION FOR TRAINING DEEP MODELS b e heads.
    • 句子分析:此句存在拼写错误,推测可能是“CHAPTER 8. OPTIMIZATION FOR TRAINING DEEP MODELS”,这是一个标题,介绍章节主题为深度模型训练的优化。
    • 翻译:第8章. 深度模型训练的优化

  • See ( ) for a review of the relevant theoretical work.
    • 固定搭配:"a review of"意为 "对……的综述"。
    • 句子分析:祈使句,建议读者参考括号内内容获取相关理论工作的综述。
    • 翻译:参考( )获取相关理论工作的综述。
    • 单词分析:
      • relevant:形容词,词源来自拉丁语 "relatus"(相关的),词义:相关的;切题的。
        • 记忆方法:联想 "re-"(再)+"levant"(升起)→ 再次升起相关的东西 → 相关的。
        • 形近词:relevant/irrelevant(不相关的)、relate(联系)。
        • 发音解析:
          • 音节分解:re + le + vant /ˈreləvənt/,重音在第一音节
          • 规则:re → /rɪ/, “re” 发 /rɪ/ 音,其中 “r” 发 /r/ 音,“e” 发短元音 /ɪ/。
          • 规则:le → /lɪ/, “le” 发短音 /lɪ/,类似于 “let” 的发音。
          • 规则:vant → /vənt/, “vant” 发 /vənt/ 音,其中 “v” 发 /v/ 音,“a” 发短元音 /ə/,“nt” 发 /nt/ 音。
  • Dauphin et al. 2014 An amazing property of many random functions is that the eigenvalues of the Hessian become more likely to be positive as we reach regions of lower cost.
    • 句子分析:主系表结构,“An amazing property of many random functions”是主语,“is”是系动词,“that...”引导表语从句。表语从句中“as we reach regions of lower cost”是时间状语从句。
    • 翻译:多芬等人(2014年)指出,许多随机函数的一个惊人特性是,当我们到达成本较低的区域时,海森矩阵的特征值更有可能为正。
    • 单词分析:
      • eigenvalues:名词复数,“eigen”来自德语,有“自身的、特有的”意思,“value”是“值”,词义:特征值。
        • 记忆方法:联想 “eigen”(独特的)+“value”(值)→ 独特的值 → 特征值。
        • 形近词:eigenvalue/value(价值)、evaluate(评估)。
        • 发音解析:
          • 音节分解:ei + gen + val + ues /ˈaɪɡənˌvæljuːz/,重音在第一音节
          • 规则:ei → /aɪ/, “ei” 发 /aɪ/ 音,类似于 “eye” 的发音。
          • 规则:gen → /dʒen/, “gen” 发 /dʒen/ 音,其中 “g” 发 /dʒ/ 音,“e” 发短元音 /ɛ/,“n” 发 /n/ 音。
          • 规则:val → /væl/, “val” 发 /væl/ 音,其中 “v” 发 /v/ 音,“a” 发短元音 /æ/,“l” 发 /l/ 音。
          • 规则:ues → /juːz/, “ues” 发 /juːz/ 音,其中 “u” 发长元音 /juː/,“e” 不发音,“s” 发 /z/ 音。
    • Hessian:名词,以德国数学家奥托·黑塞(Otto Hesse)命名,词义:海森矩阵。
      • 记忆方法:联想以数学家黑塞命名的矩阵 → 海森矩阵。
      • 形近词:Hessian/Hess(赫斯,姓氏)。
      • 发音解析:
        • 音节分解:Hes + si + an /ˈhesiən/,重音在第一音节
        • 规则:Hes → /hes/, “Hes” 发 /hes/ 音,其中 “H” 发 /h/ 音,“e” 发短元音 /ɛ/,“s” 发 /s/ 音。
        • 规则:si → /si/, “si” 发 /si/ 音,其中 “s” 发 /s/ 音,“i” 发长元音 /iː/。
        • 规则:an → /ən/, “an” 发 /ən/ 音,其中 “a” 发短元音 /ə/,“n” 发 /n/ 音。
  • In our coin tossing analogy, this means we are more likely to have our coin come up heads n times if we are at a critical point with low cost.
    • 固定搭配:"come up"意为 "出现;发生";“be likely to”意为 "有可能做某事"。
    • 句子分析:主从复合句,“this means...”是主句,“we are more likely to...if...”是宾语从句,其中“if we are at a critical point with low cost”是条件状语从句。
    • 翻译:在我们抛硬币的类比中,这意味着如果我们处于成本较低的临界点,我们的硬币更有可能正面朝上n次。
    • 单词分析:
      • analogy:名词,词源来自希腊语 “analogia”(比例;相似),词义:类比;类推。
        • 记忆方法:联想 “ana-”(类似)+“logy”(学科)→ 类似的学科 → 类比。
        • 形近词:analogy/analog(模拟的;类似物)、analyze(分析)。
        • 发音解析:
          • 音节分解:a + na + log + y /əˈnælədʒi/,重音在第二音节
          • 规则:a → /ə/, “a” 发短元音 /ə/。
          • 规则:na → /næ/, “na” 发 /næ/ 音,其中 “n” 发 /n/ 音,“a” 发短元音 /æ/。
          • 规则:log → /lɒɡ/, “log” 发 /lɒɡ/ 音,其中 “l” 发 /l/ 音,“o” 发短元音 /ɒ/,“g” 发 /ɡ/ 音。
          • 规则:y → /i/, “y” 发长元音 /iː/。
    • critical:形容词,词源来自希腊语 “kritikos”(判断的;关键的),词义:关键的;临界的;批评的。
      • 记忆方法:联想 “crit-”(判断)+“-ical”(形容词后缀)→ 需要判断的 → 关键的。
      • 形近词:critical/critic(批评家)、criticize(批评)。
      • 发音解析:
        • 音节分解:cri + ti + cal /ˈkrɪtɪkl/,重音在第一音节
        • 规则:cri → /krɪ/, “cri” 发 /krɪ/ 音,其中 “c” 发 /k/ 音,“r” 发 /r/ 音,“i” 发短元音 /ɪ/。
        • 规则:ti → /tɪ/, “ti” 发 /tɪ/ 音,其中 “t” 发 /t/ 音,“i” 发短元音 /ɪ/。
        • 规则:cal → /kl/, “cal” 发 /kl/ 音,其中 “c” 发 /k/ 音,“a” 不发音,“l” 发 /l/ 音。
  • This means that local minima are much more likely to have low cost than high cost.
    • 句子分析:主从复合句,“This means...”是主句,“that...”引导宾语从句。
    • 翻译:这意味着局部最小值更有可能具有低成本而非高成本。
    • 单词分析:
      • minima:名词复数,是 “minimum” 的复数形式,词源来自拉丁语 “minimum”(最小量),词义:最小值。
        • 记忆方法:联想 “mini-”(小的)+“-ma”(复数后缀)→ 小的东西的复数 → 最小值。
        • 形近词:minima/minimum(最小值)、maximum(最大值)。
        • 发音解析:
          • 音节分解:mi + ni + ma /ˈmɪnɪmə/,重音在第一音节
          • 规则:mi → /mɪ/, “mi” 发 /mɪ/ 音,其中 “m” 发 /m/ 音,“i” 发短元音 /ɪ/。
          • 规则:ni → /nɪ/, “ni” 发 /nɪ/ 音,其中 “n” 发 /n/ 音,“i” 发短元音 /ɪ/。
          • 规则:ma → /mə/, “ma” 发 /mə/ 音,其中 “m” 发 /m/ 音,“a” 发短元音 /ə/。
  • Critical points with high cost are far more likely to be saddle points.
    • 句子分析:主系表结构,“Critical points with high cost”是主语,“are”是系动词,“saddle points”是表语。
    • 翻译:高成本的临界点更有可能是鞍点。
    • 单词分析:
      • saddle:名词,词源来自古英语 “sadol”,词义:鞍;鞍状物;鞍点(数学术语)。
        • 记忆方法:联想骑马时坐的鞍 → 鞍点。
        • 形近词:saddle/sad(悲伤的)、add(添加)。
        • 发音解析:
          • 音节分解:sad + dle /ˈsædl/,重音在第一音节
          • 规则:sad → /sæd/, “sad” 发 /sæd/ 音,其中 “s” 发 /s/ 音,“a” 发短元音 /æ/,“d” 发 /d/ 音。
          • 规则:dle → /dl/, “dle” 发 /dl/ 音,其中 “d” 发 /d/ 音,“l” 发 /l/ 音。
  • Critical points with extremely high cost are more likely to be local maxima.
    • 句子分析:主系表结构,“Critical points with extremely high cost”是主语,“are”是系动词,“local maxima”是表语。
    • 翻译:成本极高的临界点更有可能是局部最大值。
    • 单词分析:
      • maxima:名词复数,是 “maximum” 的复数形式,词源来自拉丁语 “maximum”(最大量),词义:最大值。
        • 记忆方法:联想 “maxi-”(大的)+“-ma”(复数后缀)→ 大的东西的复数 → 最大值。
        • 形近词:maxima/maximum(最大值)、minimum(最小值)。
        • 发音解析:
          • 音节分解:ma + xi + ma /ˈmæksɪmə/,重音在第一音节
          • 规则:ma → /mæ/, “ma” 发 /mæ/ 音,其中 “m” 发 /m/ 音,“a” 发短元音 /æ/。
          • 规则:xi → /ksɪ/, “xi” 发 /ksɪ/ 音,其中 “x” 发 /ks/ 音,“i” 发短元音 /ɪ/。
          • 规则:ma → /mə/, “ma” 发 /mə/ 音,其中 “m” 发 /m/ 音,“a” 发短元音 /ə/。
  • This happens for many classes of random functions.
    • 句子分析:简单句,主谓结构。
    • 翻译:这种情况发生在许多类随机函数中。
  • Does it happen for neural networks?
    • 句子分析:一般疑问句,询问某事是否会在神经网络中发生。
    • 翻译:这种情况会在神经网络中发生吗?
  • ( ) showed theoretically that shallow autoencoders Baldi and Hornik 1989 (feedforward networks trained to copy their input to their output, described in Chapter ) with no nonlinearities have global minima and saddle points but no 14 local minima with higher cost than the global minimum.
    • 句子分析:主从复合句,“( ) showed...”是主句,“that...”引导宾语从句。宾语从句中包含一个较长的插入语 “(feedforward networks trained to copy their input to their output, described in Chapter )” 对 “shallow autoencoders” 进行解释。
    • 翻译:( )从理论上表明,1989年巴尔迪和霍尔尼克提出的无非线性的浅层自动编码器(在第 章描述的,被训练将输入复制到输出的前馈网络)有全局最小值和鞍点,但没有比全局最小值成本更高的局部最小值。
    • 单词分析:
      • theoretically:副词,词源来自 “theory”(理论),词义:理论上;从理论上来说。
        • 记忆方法:联想 “theory”(理论)+“-ally”(副词后缀)→ 从理论上。
        • 形近词:theoretically/theory(理论)、theoretical(理论的)。
        • 发音解析:
          • 音节分解:theo + ret + i + cal + ly /ˌθiːəˈretɪkli/,重音在第二音节
          • 规则:theo → /θiːə/, “theo” 发 /θiːə/ 音,其中 “th” 发 /θ/ 音,“e” 发长元音 /iː/,“o” 发短元音 /ə/。
          • 规则:ret → /ret/, “ret” 发 /ret/ 音,其中 “r” 发 /r/ 音,“e” 发短元音 /ɛ/,“t” 发 /t/ 音。
          • 规则:i → /ɪ/, “i” 发短元音 /ɪ/。
          • 规则:cal → /kl/, “cal” 发 /kl/ 音,其中 “c” 发 /k/ 音,“a” 不发音,“l” 发 /l/ 音。
          • 规则:ly → /li/, “ly” 发 /li/ 音,其中 “l” 发 /l/ 音,“y” 发长元音 /iː/。
    • autoencoders:名词复数,“auto-”表示 “自动的”,“encoder”是 “编码器”,词义:自动编码器。
      • 记忆方法:联想 “auto-”(自动)+“encoder”(编码器)→ 自动编码器。
      • 形近词:autoencoders/encoder(编码器)、decoder(解码器)。
      • 发音解析:
        • 音节分解:au + to + en + cod + ers /ˌɔːtəʊɪnˈkəʊdəz/,重音在第二音节
        • 规则:au → /ɔː/, “au” 发 /ɔː/ 音,类似于 “awe” 的发音。
        • 规则:to → /təʊ/, “to” 发 /təʊ/ 音,其中 “t” 发 /t/ 音,“o” 发长元音 /əʊ/。
        • 规则:en → /en/, “en” 发 /en/ 音,其中 “e” 发短元音 /ɛ/,“n” 发 /n/ 音。
        • 规则:cod → /kəʊd/, “cod” 发 /kəʊd/ 音,其中 “c” 发 /k/ 音,“o” 发长元音 /əʊ/,“d” 发 /d/ 音。
        • 规则:ers → /əz/, “ers” 发 /əz/ 音,其中 “e” 发短元音 /ə/,“r” 发 /r/ 音,“s” 发 /z/ 音。
    • nonlinearities:名词复数,“non-”表示 “非”,“linear”是 “线性的”,“-ity”是名词后缀,词义:非线性。
      • 记忆方法:联想 “non-”(非)+“linear”(线性的)+“-ity”(名词后缀)→ 非线性。
      • 形近词:nonlinearities/linear(线性的)、nonlinear(非线性的)。
      • 发音解析:
        • 音节分解:non + lin + e + ar + i + ties /ˌnɒnˌlɪniˈærɪtiz/,重音在第二音节
        • 规则:non → /nɒn/, “non” 发 /nɒn/ 音,其中 “n” 发 /n/ 音,“o” 发短元音 /ɒ/,“n” 发 /n/ 音。
        • 规则:lin → /lɪn/, “lin” 发 /lɪn/ 音,其中 “l” 发 /l/ 音,“i” 发短元音 /ɪ/,“n” 发 /n/ 音。
        • 规则:e → /iː/, “e” 发长元音 /iː/。
        • 规则:ar → /ær/, “ar” 发 /ær/ 音,其中 “a” 发短元音 /æ/,“r” 发 /r/ 音。
        • 规则:i → /ɪ/, “i” 发短元音 /ɪ/。
        • 规则:ties → /tiːz/, “ties” 发 /tiːz/ 音,其中 “t” 发 /t/ 音,“i” 发长元音 /iː/,“e” 不发音,“s” 发 /z/ 音。
  • They observed without proof that these results extend to deeper networks without nonlinearities.
    • 句子分析:主从复合句,“They observed...”是主句,“that...”引导宾语从句。“without proof”是状语。
    • 翻译:他们未经证明就观察到,这些结果可以推广到无非线性的更深层网络。
    • 单词分析:
      • observed:动词过去式,词源来自拉丁语 “observare”(观察;遵守),词义:观察;注意到。
        • 记忆方法:联想 “ob-”(朝向)+“serve”(服务;观察)→ 朝向去观察 → 观察。
        • 形近词:observed/observe(观察)、observer(观察者)。
        • 发音解析:
          • 音节分解:ob + serv + ed /əbˈzɜːvd/,重音在第二音节
          • 规则:ob → /əb/, “ob” 发 /əb/ 音,其中 “o” 发短元音 /ə/,“b” 发 /b/ 音。
          • 规则:serv → /sɜːv/, “serv” 发 /sɜːv/ 音,其中 “s” 发 /s/ 音,“e” 发长元音 /ɜː/,“r” 发 /r/ 音,“v” 发 /v/ 音。
          • 规则:ed → /d/, “ed” 发 /d/ 音。
    • extend:动词,词源来自拉丁语 “extendere”(伸展;延伸),词义:延伸;扩展;推广。
      • 记忆方法:联想 “ex-”(向外)+“tend”(伸展)→ 向外伸展 → 延伸。
      • 形近词:extend/extent(程度;范围)、extensive(广泛的)。
      • 发音解析:
        • 音节分解:ex + tend /ɪkˈstend/,重音在第二音节
        • 规则:ex → /ɪkˈs/, “ex” 发 /ɪkˈs/ 音,其中 “e” 发短元音 /ɪ/,“x” 发 /s/ 音。
        • 规则:tend → /tend/, “tend” 发 /tend/ 音,其中 “t” 发 /t/ 音,“e” 发短元音 /ɛ/,“n” 发 /n/ 音,“d” 发 /d/ 音。

  • The output of such networks is a linear function of their input, but they are useful to study as a model of nonlinear neural networks because their loss function is a non - convex function of their parameters.
    • 固定搭配:“linear function”意为“线性函数”;“nonlinear neural networks”意为“非线性神经网络”;“loss function”意为“损失函数”;“non - convex function”意为“非凸函数”。
    • 句子分析:这是一个并列复合句,由“but”连接两个分句。前一个分句是主系表结构,后一个分句中包含“because”引导的原因状语从句。句子描述了这类网络输出与输入的关系,以及研究它们作为非线性神经网络模型的原因。
    • 翻译:这类网络的输出是其输入的线性函数,但作为非线性神经网络的模型来研究它们是有用的,因为它们的损失函数是其参数的非凸函数。
    • 单词分析:
      • nonlinear:形容词,词源:“non -”表示否定,“linear”表示“线性的”,词义:非线性的。
        • 记忆方法:“non -”(非)加上“linear”(线性),表示不是线性的。
        • 形近词:linear(线性的)。
        • 发音解析:
          • 音节分解:non + lin + ear /ˌnɒnˈlɪniə(r)/,重音在第二音节。
          • 规则:non → /nɒn/,“non”发 /nɒn/ 音,其中“o”发短元音 /ɒ/。
          • 规则:lin → /lɪn/,“lin”发 /lɪn/ 音,其中“i”发短元音 /ɪ/。
          • 规则:ear → /iə(r)/,“ear”发 /iə(r)/ 音。
    • non - convex:形容词,词源:“non -”表示否定,“convex”表示“凸的”,词义:非凸的。
      • 记忆方法:“non -”(非)加上“convex”(凸),表示不是凸的。
      • 形近词:convex(凸的)。
      • 发音解析:
        • 音节分解:non + con + vex /ˌnɒnˈkɒnveks/,重音在第二音节。
        • 规则:non → /nɒn/,“non”发 /nɒn/ 音,其中“o”发短元音 /ɒ/。
        • 规则:con → /kɒn/,“con”发 /kɒn/ 音,其中“o”发短元音 /ɒ/。
        • 规则:vex → /veks/,“vex”发 /veks/ 音,其中“e”发短元音 /e/。

  • Such networks are essentially just multiple matrices composed together.
    • 固定搭配:“multiple matrices”意为“多个矩阵”。
    • 句子分析:主系表结构的简单句,描述了这类网络的本质是多个矩阵组合在一起。
    • 翻译:这类网络本质上只是多个矩阵组合在一起。
    • 单词分析:
      • essentially:副词,词源:来自“essential”(本质的),词义:本质上;基本上。
        • 记忆方法:由“essential”加“- ly”构成副词,可联想“本质地”。
        • 形近词:essential(本质的)。
        • 发音解析:
          • 音节分解:es + sen + tial + ly /ɪˈsenʃəli/,重音在第二音节。
          • 规则:es → /ɪ/,“es”发 /ɪ/ 音,其中“e”发短元音 /ɪ/。
          • 规则:sen → /sen/,“sen”发 /sen/ 音,其中“e”发短元音 /e/。
          • 规则:tial → /ʃəl/,“tial”发 /ʃəl/ 音。
          • 规则:ly → /li/,“ly”发 /li/ 音。
    • matrices:名词复数,词源:“matrix”的复数形式,“matrix”来自拉丁语,词义:矩阵。
      • 记忆方法:可联想数学中的矩阵概念。
      • 形近词:matrix(矩阵)。
      • 发音解析:
        • 音节分解:ma + tri + ces /ˈmeɪtrɪsiːz/,重音在第一音节。
        • 规则:ma → /meɪ/,“ma”发 /meɪ/ 音,其中“a”发长元音 /eɪ/。
        • 规则:tri → /trɪ/,“tri”发 /trɪ/ 音,
        • 其中“i”发短元音 /ɪ/。
        • 规则:ces → /siːz/,“ces”发 /siːz/ 音。
  • Saxe et al. 2013 provided exact solutions to the complete learning dynamics in such networks and showed that learning in these models captures many of the qualitative features observed in the training of deep models with nonlinear activation functions.
    • 固定搭配:“et al.”意为“等人”;“provide solutions to”意为“为……提供解决方案”。
    • 句子分析:这是一个并列句,由“and”连接两个谓语动词“provided”和“showed”。“showed”后接“that”引导的宾语从句。句子讲述了Saxe等人在2013年为这类网络的学习动态提供解决方案,并展示了这些模型学习的特点。
    • 翻译:Saxe等人在2013年为这类网络的完整学习动态提供了精确的解决方案,并表明这些模型的学习捕捉到了在具有非线性激活函数的深度模型训练中观察到的许多定性特征。
    • 单词分析:
      • exact:形容词,词源:来自拉丁语“exactus”,词义:精确的;准确的。
        • 记忆方法:可联想“ex -”(向外)+“act”(行动),精确地行动。
        • 形近词:exactly(精确地)。
        • 发音解析:
          • 音节分解:ex + act /ɪɡˈzækt/,重音在第二音节。
          • 规则:ex → /ɪɡˈz/,“ex”发 /ɪɡˈz/ 音,其中“e”发短元音 /ɪ/,“x”发 /z/ 音。
          • 规则:act → /ækt/,“act”发 /ækt/ 音,其中“a”发短元音 /æ/。
    • dynamics:名词,词源:来自希腊语“dynamis”(力量),词义:动力学;动态。
      • 记忆方法:可联想“动力的状态”。
      • 形近词:dynamic(动态的)。
      • 发音解析:
        • 音节分解:dy + nam + ics /daɪˈnæmɪks/,重音在第二音节。
        • 规则:dy → /daɪ/,“dy”发 /daɪ/ 音,其中“y”发长元音 /aɪ/。
        • 规则:nam → /næm/,“nam”发 /næm/ 音,其中“a”发短元音 /æ/。
        • 规则:ics → /ɪks/,“ics”发 /ɪks/ 音。
    • qualitative:形容词,词源:来自“quality”(质量;性质),词义:定性的;性质上的。
      • 记忆方法:由“quality”加“- itative”构成,可联想与性质相关。
      • 形近词:quality(质量;性质)。
      • 发音解析:
        • 音节分解:qual + i + ta + tive /ˈkwɒlɪtətɪv/,重音在第一音节。
        • 规则:qual → /kwɒl/,“qual”发 /kwɒl/ 音,其中“qu”发 /kw/ 音,“a”发短元音 /ɒ/。
        • 规则:i → /ɪ/,“i”发短元音 /ɪ/。
        • 规则:ta → /tə/,“ta”发 /tə/ 音,其中“a”发短元音 /ə/。
        • 规则:tive → /tɪv/,“tive”发 /tɪv/ 音。
  • Dauphin et al. 2014 showed experimentally that real neural networks also have loss functions that contain very many high - cost saddle points.
    • 固定搭配:“show... experimentally”意为“通过实验展示……”;“saddle points”意为“鞍点”。
    • 句子分析:这是一个主从复合句,“showed”后接“that”引导的宾语从句,该宾语从句中又包含“that”引导的定语从句修饰“loss functions”。句子说明Dauphin等人在2014年通过实验展示了真实神经网络损失函数的特点。
    • 翻译:Dauphin等人在2014年通过实验表明,真实的神经网络也有包含很多高代价鞍点的损失函数。
    • 单词分析:
      • experimentally:副词,词源:来自“experiment”(实验),词义:通过实验地。
        • 记忆方法:由“experiment”加“- ally”构成副词,可联想“以实验的方式”。
        • 形近词:experiment(实验)。
        • 发音解析:
          • 音节分解:ex + per + i + men + tal + ly /ɪkˌsperɪˈmentəli/,重音在第三音节。
          • 规则:ex → /ɪkˈs/,“ex”发 /ɪkˈs/ 音,其中“e”发短元音 /ɪ/,“x”发 /s/ 音。
          • 规则:per → /pɜː(r)/,“per”发 /pɜː(r)/ 音,其中“e”发长元音 /ɜː(r)/。
          • 规则:i → /ɪ/,“i”发短元音 /ɪ/。
          • 规则:men → /men/,“men”发 /men/ 音,其中“e”发短元音 /e/。
          • 规则:tal → /təl/,“tal”发 /təl/ 音。
          • 规则:ly → /li/,“ly”发 /li/ 音。
    • saddle:名词,词源:来自古英语“sadol”,词义:鞍;鞍状物。
      • 记忆方法:可联想骑马时用的马鞍。
      • 形近词:saddler(马具商)。
      • 发音解析:
        • 音节分解:sad + dle /ˈsædl/,重音在第一音节。
        • 规则:sad → /sæd/,“sad”发 /sæd/ 音,其中“a”发短元音 /æ/。
        • 规则:dle → /dl/,“dle”发 /dl/ 音。
  • Choromanska 2014 et al. provided additional theoretical arguments, showing that another class of high - dimensional random functions related to neural networks does so as well.
    • 固定搭配:“high - dimensional”意为“高维的”。
    • 句子分析:这是一个简单句,“showing...”是现在分词短语作伴随状语,“showing”后接“that”引导的宾语从句。句子讲述了Choromanska等人在2014年提供额外理论论据,并展示了高维随机函数的情况。
    • 翻译:Choromanska等人在2014年提供了额外的理论论据,表明与神经网络相关的另一类高维随机函数也有同样情况。
    • 单词分析:
      • additional:形容词,词源:来自“add”(添加),词义:额外的;附加的。
        • 记忆方法:由“add”加“- itional”构成,可联想“添加的”。
        • 形近词:add(添加)。
        • 发音解析:
          • 音节分解:ad + di + tion + al /əˈdɪʃənl/,重音在第二音节。
          • 规则:ad → /əd/,“ad”发 /əd/ 音,其中“a”发短元音 /ə/。
          • 规则:di → /dɪ/,“di”发 /dɪ/ 音,其中“i”发短元音 /ɪ/。
          • 规则:tion → /ʃən/,“tion”发 /ʃən/ 音。
          • 规则:al → /l/,“al”发 /l/ 音。
    • theoretical:形容词,词源:来自“theory”(理论),词义:理论的。
      • 记忆方法:由“theory”加“- etical”构成,可联想“与理论相关的”。
      • 形近词:theory(理论)。
      • 发音解析:
        • 音节分解:theo + ret + i + cal /ˌθɪəˈretɪkl/,重音在第三音节。
        • 规则:theo → /θɪə/,“theo”发 /θɪə/ 音,其中“th”发 /θ/ 音,“e”发长元音 /ɪə/。
        • 规则:ret → /ret/,“ret”发 /ret/ 音,其中“e”发短元音 /e/。
        • 规则:i → /ɪ/,“i”发短元音 /ɪ/。
        • 规则:cal → /kl/,“cal”发 /kl/ 音。
    • dimensional:形容词,词源:来自“dimension”(维度),词义:维度的。
      • 记忆方法:由“dimension”加“- al”构成,可联想“与维度相关的”。
      • 形近词:dimension(维度)。
      • 发音解析:
        • 音节分解:di + men + sion + al /daɪˈmenʃənl/,重音在第二音节。
        • 规则:di → /daɪ/,“di”发 /daɪ/ 音,其中“i”发长元音 /aɪ/。
        • 规则:men → /men/,“men”发 /men/ 音,其中“e”发短元音 /e/。
        • 规则:sion → /ʃən/,“sion”发 /ʃən/ 音。
        • 规则:al → /l/,“al”发 /l/ 音。
  • What are the implications of the proliferation of saddle points for training algorithms?
    • 固定搭配:“the implications of... for...”意为“……对……的影响”;“the proliferation of”意为“……的激增”。
    • 句子分析:这是一个特殊疑问句,询问鞍点激增对训练算法的影响。
    • 翻译:鞍点的激增对训练算法有什么影响呢?
    • 单词分析:
      • implications:名词复数,词源:来自“imply”(暗示),词义:含义;影响。
        • 记忆方法:由“imply”加“- ation”再加“- s”构成复数,可联想“暗示的内容”。
        • 形近词:imply(暗示)。
        • 发音解析:
          • 音节分解:im + pli + ca + tion + s /ˌɪmplɪˈkeɪʃnz/,重音在第三音节。
          • 规则:im → /ɪm/,“im”发 /ɪm/ 音,其中“i”发短元音 /ɪ/。
          • 规则:pli → /plɪ/,“pli”发 /plɪ/ 音,其中“i”发短元音 /ɪ/。
          • 规则:ca → /kə/,“ca”发 /kə/ 音,其中“a”发短元音 /ə/。
          • 规则:tion → /ʃən/,“tion”发 /ʃən/ 音。
          • 规则:s → /z/,“s”发 /z/ 音。
    • proliferation:名词,词源:来自拉丁语“proliferare”(繁殖),词义:激增;扩散。
      • 记忆方法:可联想“大量繁殖”。
      • 形近词:proliferate(激增;繁殖)。
      • 发音解析:
        • 音节分解:pro + li + fer + a + tion /prəˌlɪfəˈreɪʃn/,重音在第三音节。
        • 规则:pro → /prə/,“pro”发 /prə/ 音,其中“o”发短元音 /ə/。
        • 规则:li → /lɪ/,“li”发 /lɪ/ 音,其中“i”发短元音 /ɪ/。
        • 规则:fer → /fə(r)/,“fer”发 /fə(r)/ 音,其中“e”发长元音 /ə(r)/。
        • 规则:a → /ə/,“a”发短元音 /ə/。
        • 规则:tion → /ʃən/,“tion”发 /ʃən/ 音。
  • For first - order optimization algorithms that use only gradient information, the situation is unclear.
    • 固定搭配:“first - order optimization algorithms”意为“一阶优化算法”;“gradient information”意为“梯度信息”。
    • 句子分析:这是一个主从复合句,“that use only gradient information”是定语从句修饰“algorithms”。句子说明对于仅使用梯度信息的一阶优化算法,情况不明确。
    • 翻译:对于仅使用梯度信息的一阶优化算法,情况尚不清楚。
    • 单词分析:
      • optimization:名词,词源:来自“optimize”(优化),词义:优化。
        • 记忆方法:由“optimize”加“- ation”构成,可联想“使达到最佳状态”。
        • 形近词:optimize(优化)。
        • 发音解析:
          • 音节分解:op + ti + mi + za + tion /ˌɒptɪmaɪˈzeɪʃn/,重音在第三音节。
          • 规则:op → /ɒp/,“op”发 /ɒp/ 音,其中“o”发短元音 /ɒ/。
          • 规则:ti → /tɪ/,“ti”发 /tɪ/ 音,其中“i”发短元音 /ɪ/。
          • 规则:mi → /maɪ/,“mi”发 /maɪ/ 音,其中“i”发长元音 /aɪ/。
          • 规则:za → /zə/,“za”发 /zə/ 音,其中“a”发短元音 /ə/。
          • 规则:tion → /ʃən/,“tion”发 /ʃən/ 音。
    • gradient:名词,词源:来自拉丁语“gradus”(步),词义:梯度。
      • 记忆方法:可联想“逐步变化的程度”。
      • 形近词:grade(等级)。
      • 发音解析:
        • 音节分解:gra + di + ent /ˈɡreɪdiənt/,重音在第一音节。
        • 规则:gra → /ɡreɪ/,“gra”发 /ɡreɪ/ 音,其中“a”发长元音 /eɪ/。
        • 规则:di → /dɪ/,“di”发 /dɪ/ 音,其中“i”发短元音 /ɪ/。
        • 规则:ent → /ənt/,“ent”发 /ənt/ 音。
  • The gradient can often become very small near a saddle point.
    • 句子分析:简单句,描述了在鞍点附近梯度的情况。
    • 翻译:在鞍点附近,梯度通常会变得非常小。
  • On the other hand, gradient descent empirically seems to be able to escape saddle points in many cases.
    • 固定搭配:“on the other hand”意为“另一方面”;“gradient descent”意为“梯度下降”。
    • 句子分析:简单句,说明在很多情况下梯度下降法似乎能逃离鞍点。
    • 翻译:另一方面,从经验上看,梯度下降法在很多情况下似乎能够逃离鞍点。
    • 单词分析:
      • empirically:副词,词源:来自“empirical”(经验主义的),词义:凭经验地;从经验上来说。
        • 记忆方法:由“empirical”加“- ly”构成副词,可联想“基于经验地”。
        • 形近词:empirical(经验主义的)。
        • 发音解析:
          • 音节分解:em + pir + i + cal + ly /ɪmˈpɪrɪkli/,重音在第二音节。
          • 规则:em → /ɪm/,“em”发 /ɪm/ 音,其中“e”发短元音 /ɪ/。
          • 规则:pir → /pɪr/,“pir”发 /pɪr/ 音,其中“i”发短元音 /ɪ/。
          • 规则:i → /ɪ/,“i”发短元音 /ɪ/。
          • 规则:cal → /kl/,“cal”发 /kl/ 音。
          • 规则:ly → /li/,“ly”发 /li/ 音。
  • Goodfellow et al. 2015 provided visualizations of several learning trajectories of state - of - the - art neural networks, with an example given in Fig. 8.2.
    • 固定搭配:“state - of - the - art”意为“最先进的”;“learning trajectories”意为“学习轨迹”。
    • 句子分析:简单句,描述了Goodfellow等人在2015年提供了最先进神经网络学习轨迹的可视化示例。
    • 翻译:Goodfellow等人在2015年提供了几个最先进神经网络学习轨迹的可视化展示,图8.2给出了一个示例。
    • 单词分析:
      • visualizations:名词复数,词源:来自“visualize”(可视化),词义:可视化展示。
        • 记忆方法:由“visualize”加“- ation”再加“- s”构成复数,可联想“使可视化的结果”。
        • 形近词:visualize(可视化)。
        • 发音解析:
          • 音节分解:vi + su + al + i + za + tion + s /ˌvɪʒuəlaɪˈzeɪʃnz/,重音在第四音节。
          • 规则:vi → /vɪ/,“vi”发 /vɪ/ 音,其中“i”发短元音 /ɪ/。
          • 规则:su → /ʒuː/,“su”发 /ʒuː/ 音,其中“u”发长元音 /uː/。
          • 规则:al → /l/,“al”发 /l/ 音。
          • 规则:i → /ɪ/,“i”发短元音 /ɪ/。
          • 规则:za → /zə/,“za”发 /zə/ 音,其中“a”发短元音 /ə/。
          • 规则:tion → /ʃən/,“tion”发 /ʃən/ 音。
          • 规则:s → /z/,“s”发 /z/ 音。
    • trajectories:名词复数,词源:来自拉丁语“traiectus”(跨越),词义:轨迹;轨道。
      • 记忆方法:可联想“物体移动的路径”。
      • 形近词:trajectory(轨迹)。
      • 发音解析:
        • 音节分解:tra + jec + to + ry + s /ˈtrædʒɪktriz/,重音在第一音节。
        • 规则:tra → /træ/,“tra”发 /træ/ 音,其中“a”发短元音 /æ/。
        • 规则:jec → /dʒek/,“jec”发 /dʒek/ 音,其中“e”发短元音 /e/。
        • 规则:to → /təʊ/,“to”发 /təʊ/ 音,其中“o”发长元音 /əʊ/。
        • 规则:ry → /ri/,“ry”发 /ri/ 音。
        • 规则:s → /z/,“s”发 /z/ 音。
  • These visualizations show a flattening of the cost function near a prominent saddle point where the weights are all zero, but they also show the gradient descent trajectory rapidly escaping this region.
    • 固定搭配:“a flattening of”意为“……的变平”;“gradient descent trajectory”意为“梯度下降轨迹”。
    • 句子分析:这是一个并列句,由“but”连接两个分句。前一个分句中包含“where”引导的定语从句修饰“saddle point”。句子展示了可视化结果中成本函数在鞍点附近的情况以及梯度下降轨迹的情况。
    • 翻译:这些可视化展示显示,在一个显著的鞍点(权重都为零)附近,成本函数变平了,但它们也显示梯度下降轨迹迅速逃离了这个区域。
    • 单词分析:
      • flattening:名词,词源:来自“flatten”(使变平),词义:变平。
        • 记忆方法:由“flatten”加“- ing”构成,可联想“使变得平坦的过程”。
        • 形近词:flatten(使变平)。
        • 发音解析:
          • 音节分解:flat + ten + ing /ˈflætənɪŋ/,重音在第一音节。
          • 规则:flat → /flæt/,“flat”发 /flæt/ 音,其中“a”发短元音 /æ/。
          • 规则:ten → /tən/,“ten”发 /tən/ 音,其中“e”发短元音 /ə/。
          • 规则:ing → /ɪŋ/,“ing”发 /ɪŋ/ 音。
    • prominent:形容词,词源:来自拉丁语“prominere”(突出),词义:显著的;突出的。
      • 记忆方法:可联想“向前突出的”。
      • 形近词:prominence(突出;显著)。
      • 发音解析:
        • 音节分解:pro + min + ent /ˈprɒmɪnənt/,重音在第一音节。
        • 规则:pro → /prɒ/,“pro”发 /prɒ/ 音,其中“o”发短元音 /ɒ/。
        • 规则:min → /mɪn/,“min”发 /mɪn/ 音,其中“i”发短元音 /ɪ/。
        • 规则:ent → /ənt/,“ent”发 /ənt/ 音。
  • Goodfellow et al. 2015 also argue that continuous - time gradient descent may be shown analytically to be repelled from, rather than attracted to, a nearby saddle point, but the situation may be different for more realistic uses of gradient descent.
    • 固定搭配:“continuous - time”意为“连续时间的”;“be repelled from”意为“被排斥;被击退”;“rather than”意为“而不是”。
    • 句子分析:这是一个并列复合句,由“but”连接两个分句。前一个分句中“argue”后接“that”引导的宾语从句。句子讲述了Goodfellow等人的观点以及梯度下降实际应用的情况。
    • 翻译:Goodfellow等人在2015年还认为,连续时间的梯度下降从分析上可能会被证明是被附近的鞍点排斥,而不是被吸引,但对于梯度下降更实际的应用,情况可能不同。
    • 单词分析:
      • continuous:形容词,词源:来自拉丁语“continuus”(连续的),词义:连续的;持续的。
        • 记忆方法:可联想“不断延续的”。
        • 形近词:continue(继续)。
        • 发音解析:
          • 音节分解:con + tin + u + ous /kənˈtɪnjuəs/,重音在第二音节。
          • 规则:con → /kən/,“con”发 /kən/ 音,其中“o”发短元音 /ə/。
          • 规则:tin → /tɪn/,“tin”发 /tɪn/ 音,其中“i”发短元音 /ɪ/。
          • 规则:u → /juː/,“u”发 /juː/ 音。
          • 规则:ous → /əs/,“ous”发 /əs/ 音。
    • analytically:副词,词源:来自“analytical”(分析的),词义:分析地。
      • 记忆方法:由“analytical”加“- ly”构成副词,可联想“以分析的方式”。
      • 形近词:analytical(分析的)。
      • 发音解析:
        • 音节分解:an + a + ly + ti + cal + ly /ˌænəˈlɪtɪkli/,重音在第三音节。
        • 规则:an → /æn/,“an”发 /æn/ 音,其中“a”发短元音 /æ/。
        • 规则:a → /ə/,“a”发短元音 /ə/。
        • 规则:ly → /lɪ/,“ly”发 /lɪ/ 音,其中“y”发短元音 /ɪ/。
        • 规则:ti → /tɪ/,“ti”发 /tɪ/ 音,其中“i”发短元音 /ɪ/。
        • 规则:cal → /kl/,“cal”发 /kl/ 音。
        • 规则:ly → /li/,“ly”发 /li/ 音。
    • repelled:动词过去式,词源:来自拉丁语“repellere”(击退),词义:被排斥;被击退。
      • 记忆方法:可联想“向后推”。
      • 形近词:repel(排斥;击退)。
      • 发音解析:
        • 音节分解:re + pel + led /rɪˈpeld/,重音在第二音节。
        • 规则:re → /rɪ/,“re”发 /rɪ/ 音,其中“e”发短元音 /ɪ/。
        • 规则:pel → /pel/,“pel”发 /pel/ 音,其中“e”发短元音 /e/。
        • 规则:led → /led/,“led”发 /led/ 音。
  • For Newton’s method, it is clear that saddle points constitute a problem.
    • 固定搭配:“Newton’s method”意为“牛顿法”。
    • 句子分析:这是一个主从复合句,“it”是形式主语,真正的主语是“that”引导的从句。句子表明对于牛顿法,鞍点是个问题。
    • 翻译:对于牛顿法来说,很明显鞍点构成了一个问题。
    • 单词分析:
      • constitute:动词,词源:来自拉丁语“constituere”(建立;组成),词义:构成;组成。
        • 记忆方法:可联想“共同建立”。
        • 形近词:constitution(宪法;组成)。
        • 发音解析:
          • 音节分解:con + sti + tute /ˈkɒnstɪtjuːt/,重音在第一音节。
          • 规则:con → /kɒn/,“con”发 /kɒn/ 音,其中“o”发短元音 /ɒ/。
          • 规则:sti → /stɪ/,“sti”发 /stɪ/ 音,其中“i”发短元音 /ɪ/。
          • 规则:tute → /tjuːt/,“tute”发 /tjuːt/ 音。

  • The visualizations appear similar for feedforward neural networks, convolutional networks, and recurrent networks applied to real object recognition and natural language processing tasks.
    • 固定搭配:“feedforward neural networks” 意为 “前馈神经网络”;“convolutional networks” 意为 “卷积网络”;“recurrent networks” 意为 “循环网络”;“natural language processing” 意为 “自然语言处理”。
    • 句子分析:简单句,“The visualizations” 是主语,“appear” 是系动词,“similar” 是表语,“for...” 是状语,“applied to...” 是后置定语修饰前面的各种网络。句子描述了在某些网络应用于特定任务时,可视化结果呈现出相似性。
    • 翻译:对于应用于真实物体识别和自然语言处理任务的前馈神经网络、卷积网络和循环网络而言,这些可视化结果看起来很相似。
    • 单词分析:
      • visualizations:名词复数,词源来自 “visualize”(使可视化),“visual”(视觉的),词义:可视化结果。
        • 记忆方法:“visual”(视觉的)+ “-ize”(动词后缀,使……)+ “-ation”(名词后缀)→ 使视觉化的结果。
        • 形近词:visualization/visualize(使可视化)、visual(视觉的)。
        • 发音解析:
          • 音节分解:vi + su + al + i + za + tion /ˌvɪʒuəlaɪˈzeɪʃn/,重音在倒数第二个音节
          • 规则:vi → /vɪ/, “vi” 发短音 /vɪ/,类似于 “victory” 中 “vi” 的发音。
          • 规则:su → /ʒuː/, “su” 发 /ʒuː/ 音,其中 “s” 发 /ʒ/ 音,“u” 发长元音 /uː/。
          • 规则:al → /əl/, “al” 发 /əl/ 音,其中 “a” 发短元音 /ə/,“l” 发 /l/ 音。
          • 规则:i → /aɪ/, “i” 发 /aɪ/ 音,类似于 “bike” 中 “i” 的发音。
          • 规则:za → /zeɪ/, “za” 发 /zeɪ/ 音,其中 “z” 发 /z/ 音,“a” 发长元音 /eɪ/。
          • 规则:tion → /ʃn/, “tion” 发 /ʃn/ 音,其中 “t” 不发音,“ion” 发 /ʃn/ 音。
    • feedforward:形容词,由 “feed”(馈送)和 “forward”(向前)组合而成,词义:前馈的。
      • 记忆方法:联想 “feed”(输送)和 “forward”(向前),表示向前输送信息的。
      • 形近词:feedforward/feedback(反馈)。
      • 发音解析:
        • 音节分解:feed + for + ward /ˈfiːdfɔːwəd/,重音在第一音节
        • 规则:feed → /fiːd/, “feed” 发 /fiːd/ 音,其中 “ee” 发长元音 /iː/。
        • 规则:for → /fɔː/, “for” 发 /fɔː/ 音,其中 “o” 发长元音 /ɔː/。
        • 规则:ward → /wəd/, “ward” 发 /wəd/ 音,其中 “w” 发 /w/ 音,“a” 发短元音 /ə/,“rd” 发 /d/ 音。
    • convolutional:形容词,词源来自 “convolution”(卷积),词义:卷积的。
      • 记忆方法:“con-”(一起)+ “volve”(卷)+ “-tion”(名词后缀)+ “-al”(形容词后缀)→ 卷在一起的 → 卷积的。
      • 形近词:convolutional/convolution(卷积)、evolve(进化)。
      • 发音解析:
        • 音节分解:con + vo + lu + tion + al /ˌkɒnvəˈluːʃənl/,重音在倒数第三个音节
        • 规则:con → /kɒn/, “con” 发 /kɒn/ 音,其中 “c” 发 /k/ 音,“o” 发短元音 /ɒ/。
        • 规则:vo → /və/, “vo” 发 /və/ 音,其中 “v” 发 /v/ 音,“o” 发短元音 /ə/。
        • 规则:lu → /luː/, “lu” 发 /luː/ 音,其中 “l” 发 /l/ 音,“u” 发长元音 /uː/。
        • 规则:tion → /ʃn/, “tion” 发 /ʃn/ 音,其中 “t” 不发音,“ion” 发 /ʃn/ 音。
        • 规则:al → /l/, “al” 发 /l/ 音,其中 “a” 不发音,“l” 发 /l/ 音。
    • recurrent:形容词,词源来自 “recur”(复发;重现),词义:循环的;递归的。
      • 记忆方法:“re-”(再次)+ “cur”(跑)→ 再次跑回来 → 循环的。
      • 形近词:recurrent/recur(复发;重现)、occur(发生)。
      • 发音解析:
        • 音节分解:re + cur + rent /rɪˈkʌrənt/,重音在第二音节
        • 规则:re → /rɪ/, “re” 发 /rɪ/ 音,其中 “r” 发 /r/ 音,“e” 发短元音 /ɪ/。
        • 规则:cur → /kʌr/, “cur” 发 /kʌr/ 音,其中 “c” 发 /k/ 音,“u” 发短元音 /ʌ/,“r” 发 /r/ 音。
        • 规则:rent → /rənt/, “rent” 发 /rənt/ 音,其中 “r” 发 /r/ 音,“e” 发短元音 /ə/,“nt” 发 /nt/ 音。

  • Surprisingly, these visualizations usually do not show many conspicuous obstacles.
    • 固定搭配:无。
    • 句子分析:简单句,“these visualizations” 是主语,“do not show” 是谓语,“many conspicuous obstacles” 是宾语。句子表达了令人惊讶的是,这些可视化结果通常没有显示出很多明显的障碍。
    • 翻译:令人惊讶的是,这些可视化结果通常没有显示出很多明显的障碍。
    • 单词分析:
      • conspicuous:形容词,词源来自拉丁语 “conspicuus”(明显的),词义:明显的;显著的。
        • 记忆方法:“con-”(强调)+ “spic”(看)+ “-uous”(形容词后缀)→ 大家都能看到的 → 明显的。
        • 形近词:conspicuous/suspicious(可疑的)、perspicacious(有洞察力的)。
        • 发音解析:
          • 音节分解:con + spi + cu + ous /kənˈspɪkjuəs/,重音在第二音节
          • 规则:con → /kən/, “con” 发 /kən/ 音,其中 “c” 发 /k/ 音,“o” 发短元音 /ə/。
          • 规则:spi → /spɪ/, “spi” 发 /spɪ/ 音,其中 “s” 发 /s/ 音,“p” 发 /p/ 音,“i” 发短元音 /ɪ/。
          • 规则:cu → /kjuː/, “cu” 发 /kjuː/ 音,其中 “c” 发 /k/ 音,“u” 发长元音 /juː/。
          • 规则:ous → /əs/, “ous” 发 /əs/ 音,其中 “o” 发短元音 /ə/,“us” 发 /s/ 音。
  • Prior to the success of stochastic gradient descent for training very large models beginning in roughly 2012, neural net cost function surfaces were generally believed to have much more non - convex structure than is revealed by these projections.
    • 固定搭配:“prior to” 意为 “在……之前”;“stochastic gradient descent” 意为 “随机梯度下降”。
    • 句子分析:复合句,“Prior to...” 是时间状语,主句是 “neural net cost function surfaces were generally believed...”,其中包含比较状语从句 “than is revealed by these projections”。句子讲述了在大约2012年随机梯度下降法在训练大型模型取得成功之前,人们普遍认为神经网络成本函数表面有比这些投影所显示的更多的非凸结构。
    • 翻译:在大约2012年随机梯度下降法在训练非常大的模型取得成功之前,人们普遍认为神经网络成本函数表面具有比这些投影所显示的多得多的非凸结构。
    • 单词分析:
      • stochastic:形容词,词源来自希腊语 “stokhazesthai”(猜测),词义:随机的。
        • 记忆方法:联想 “stoch” 发音类似 “猜测”,表示有猜测性的、不确定的,即随机的。
        • 形近词:stochastic/stochast(随机变量)、stoical(坚忍的)。
        • 发音解析:
          • 音节分解:sto + cha + stic /stəˈkæstɪk/,重音在第二音节
          • 规则:sto → /stə/, “sto” 发 /stə/ 音,其中 “s” 发 /s/ 音,“t” 发 /t/ 音,“o” 发短元音 /ə/。
          • 规则:cha → /kæ/, “cha” 发 /kæ/ 音,其中 “ch” 发 /k/ 音,“a” 发短元音 /æ/。
          • 规则:stic → /stɪk/, “stic” 发 /stɪk/ 音,其中 “s” 发 /s/ 音,“t” 发 /t/ 音,“i” 发短元音 /ɪ/,“c” 发 /k/ 音。
    • gradient:名词,词源来自拉丁语 “gradus”(步),词义:梯度。
      • 记忆方法:“grad”(步)+ “-ient”(名词后缀)→ 像一步一步变化的 → 梯度。
      • 形近词:gradient/graduate(毕业)、grade(等级)。
      • 发音解析:
        • 音节分解:gra + di + ent /ˈɡreɪdiənt/,重音在第一音节
        • 规则:gra → /ɡreɪ/, “gra” 发 /ɡreɪ/ 音,其中 “g” 发 /ɡ/ 音,“a” 发长元音 /eɪ/。
        • 规则:di → /diː/, “di” 发 /diː/ 音,其中 “d” 发 /d/ 音,“i” 发长元音 /iː/。
        • 规则:ent → /ənt/, “ent” 发 /ənt/ 音,其中 “e” 发短元音 /ə/,“nt” 发 /nt/ 音。
    • descent:名词,词源来自 “descend”(下降),词义:下降;降落。
      • 记忆方法:“de-”(向下)+ “scend”(爬)→ 向下爬 → 下降。
      • 形近词:descent/descend(下降)、ascend(上升)。
      • 发音解析:
        • 音节分解:de + scent /dɪˈsent/,重音在第二音节
        • 规则:de → /dɪ/, “de” 发 /dɪ/ 音,其中 “d” 发 /d/ 音,“e” 发短元音 /ɪ/。
        • 规则:scent → /sent/, “scent” 发 /sent/ 音,其中 “s” 发 /s/ 音,“c” 不发音,“e” 发短元音 /e/,“nt” 发 /nt/ 音。
    • non - convex:形容词,由 “non-”(非)和 “convex”(凸的)组成,词义:非凸的。
      • 记忆方法:“non-” 表示否定,“convex” 是凸的,合起来就是非凸的。
      • 形近词:non - convex/convex(凸的)。
      • 发音解析:
        • 音节分解:non + con + vex /nɒnˈkɒnveks/,重音在第二音节
        • 规则:non → /nɒn/, “non” 发 /nɒn/ 音,其中 “n” 发 /n/ 音,“o” 发短元音 /ɒ/。
        • 规则:con → /kɒn/, “con” 发 /kɒn/ 音,其中 “c” 发 /k/ 音,“o” 发短元音 /ɒ/。
        • 规则:vex → /veks/, “vex” 发 /veks/ 音,其中 “v” 发 /v/ 音,“e” 发短元音 /e/,“x” 发 /ks/ 音。
    • projections:名词复数,词源来自 “project”(投射),词义:投影;投射。
      • 记忆方法:“pro-”(向前)+ “ject”(扔)+ “-ion”(名词后缀)→ 向前扔出去的东西 → 投影。
      • 形近词:projections/project(投射)、inject(注射)。
      • 发音解析:
        • 音节分解:pro + jec + tion /prəˈdʒekʃn/,重音在第二音节
        • 规则:pro → /prə/, “pro” 发 /prə/ 音,其中 “p” 发 /p/ 音,“r” 发 /r/ 音,“o” 发短元音 /ə/。
        • 规则:jec → /dʒek/, “jec” 发 /dʒek/ 音,其中 “j” 发 /dʒ/ 音,“e” 发短元音 /e/,“c” 发 /k/ 音。
        • 规则:tion → /ʃn/, “tion” 发 /ʃn/ 音,其中 “t” 不发音,“ion” 发 /ʃn/ 音。
  • The primary obstacle revealed by this projection is a saddle point of high cost near where the parameters are initialized, but, as indicated by the blue path, the SGD training trajectory escapes this saddle point readily.
    • 固定搭配:“saddle point” 意为 “鞍点”。
    • 句子分析:并列复合句,由 “but” 连接两个分句。前一个分句中 “The primary obstacle” 是主语,“is” 是系动词,“a saddle point...” 是表语,“near where...” 是地点状语;后一个分句中 “the SGD training trajectory” 是主语,“escapes” 是谓语。句子说明投影显示的主要障碍是参数初始化附近的高成本鞍点,但随机梯度下降训练轨迹能轻易逃离这个鞍点。
    • 翻译:这个投影所显示的主要障碍是参数初始化附近的一个高成本鞍点,但正如蓝色路径所示,随机梯度下降训练轨迹能轻易逃离这个鞍点。
    • 单词分析:
      • saddle:名词,词源来自古英语 “sadol”,词义:鞍;鞍状物。
        • 记忆方法:可以联想骑马时用的马鞍。
        • 形近词:saddle/sad(悲伤的)、addled(头脑糊涂的)。
        • 发音解析:
          • 音节分解:sad + dle /ˈsædl/,重音在第一音节
          • 规则:sad → /sæd/, “sad” 发 /sæd/ 音,其中 “s” 发 /s/ 音,“a” 发短元音 /æ/,“d” 发 /d/ 音。
          • 规则:dle → /dl/, “dle” 发 /dl/ 音,其中 “d” 发 /d/ 音,“l” 发 /l/ 音,“e” 不发音。
    • initialized:动词过去式,词源来自 “initialize”(初始化),词义:初始化。
      • 记忆方法:“initia”(开始)+ “-lize”(动词后缀)→ 使开始 → 初始化。
      • 形近词:initialized/initial(最初的)、initiate(发起)。
      • 发音解析:
        • 音节分解:in + i + tia + li + zed /ɪˈnɪʃəlaɪzd/,重音在第二音节
        • 规则:in → /ɪn/, “in” 发 /ɪn/ 音,其中 “i” 发短元音 /ɪ/,“n” 发鼻音。
        • 规则:i → /ɪ/, “i” 发 /ɪ/ 音,类似于 “sit” 中 “i” 的发音。
        • 规则:tia → /ʃə/, “tia” 发 /ʃə/ 音,其中 “t” 不发音,“i” 发短元音 /ə/,“a” 不发音。
        • 规则:li → /laɪ/, “li” 发 /laɪ/ 音,其中 “l” 发 /l/ 音,“i” 发长元音 /aɪ/。
        • 规则:zed → /zd/, “zed” 发 /zd/ 音,其中 “z” 发 /z/ 音,“e” 不发音,“d” 发 /d/ 音。
    • trajectory:名词,词源来自拉丁语 “traiectus”(横过),词义:轨迹;轨道。
      • 记忆方法:“tra-”(横过)+ “ject”(扔)+ “-ory”(名词后缀)→ 扔过去的路线 → 轨迹。
      • 形近词:trajectory/project(投射)、inject(注射)。
      • 发音解析:
        • 音节分解:tra + jec + to + ry /ˈtrædʒɪktəri/,重音在第一音节
        • 规则:tra → /træ/, “tra” 发 /træ/ 音,其中 “t” 发 /t/ 音,“r” 发 /r/ 音,“a” 发短元音 /æ/。
        • 规则:jec → /dʒek/, “jec” 发 /dʒek/ 音,其中 “j” 发 /dʒ/ 音,“e” 发短元音 /e/,“c” 发 /k/ 音。
        • 规则:to → /təʊ/, “to” 发 /təʊ/ 音,其中 “t” 发 /t/ 音,“o” 发长元音 /əʊ/。
        • 规则:ry → /ri/, “ry” 发 /ri/ 音,其中 “r” 发 /r/ 音,“y” 发短元音 /i/。
    • readily:副词,词源来自 “ready”(准备好的),词义:轻易地;乐意地。
      • 记忆方法:“ready”(准备好的)+ “-ly”(副词后缀)→ 准备好地 → 轻易地。
      • 形近词:readily/ready(准备好的)、read(阅读)。
      • 发音解析:
        • 音节分解:read + i + ly /ˈredɪli/,重音在第一音节
        • 规则:read → /red/, “read” 发 /red/ 音,其中 “r” 发 /r/ 音,“e” 发短元音 /e/,“d” 发 /d/ 音。
        • 规则:i → /ɪ/, “i” 发 /ɪ/ 音,类似于 “sit” 中 “i” 的发音。
        • 规则:ly → /li/, “ly” 发 /li/ 音,其中 “l” 发 /l/ 音,“y” 发短元音 /i/。
Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐