光華講壇——社會名流與企業(yè)家論壇第6720期

主 題：A Semi-smooth, Self-shifting, and Singular Newton Method for Sparse Optimal Transport一種稀疏最優(yōu)傳輸下的半光滑自偏移奇異牛頓法

主講人：上海財經(jīng)大學 邱怡軒教授

主持人：統(tǒng)計學院 林華珍教授

時間：1月22日 14:00-15:00

舉辦地點：柳林校區(qū)弘遠樓408會議室

主辦單位：統(tǒng)計研究中心和統(tǒng)計學院 科研處

主講人簡介：

邱怡軒，上海財經(jīng)大學統(tǒng)計與管理學院副教授，博士畢業(yè)于普渡大學統(tǒng)計系，畢業(yè)后曾于卡內基梅隆大學擔任博士后研究員。主要研究方向包括深度學習、生成式模型和大規(guī)模統(tǒng)計計算等，科研成果發(fā)表在統(tǒng)計學國際權威期刊及機器學習頂級會議上。長期參與建設統(tǒng)計學與數(shù)據(jù)科學社區(qū)“統(tǒng)計之都”，是眾多開源軟件的開發(fā)者與維護者。

內容簡介：

Newton's method is an important second-order optimization algorithm that has been extensively studied. However, many challenging optimization problems break the classical assumptions of Newton's method. For example, the objective function may not be twice differentiable, and the optimal solution may be non-unique. In this article, we propose a general Newton-type algorithm named S5N, to solve problems that have possibly non-smooth gradients and non-isolated solutions, a setting highly motivated by the sparse optimal transport problem. Compared with existing Newton-type approaches, the proposed S5N algorithm has broad applicability, does not require hyperparameter tuning, and possesses rigorous global and local convergence guarantees. Extensive numerical experiments show that on sparse optimal transport problems, S5N gains superior performance on convergence speed and computational efficiency.

牛頓法作為一種重要的二階優(yōu)化算法，目前已得到了廣泛的研究。然而，許多具有挑戰(zhàn)性的優(yōu)化問題打破了牛頓方法的經(jīng)典假設。例如，目標函數(shù)可能不是二次可微的，最優(yōu)解也可能不是唯一的。在稀疏最優(yōu)傳輸問題的場景設置下，主講人提出了一種通用的牛頓型算法S5N來解決可能存在的非光滑梯度和非唯一解的問題。與現(xiàn)有的牛頓算法相比，本文所提出的 S5N算法適用性廣，不需要調整超參數(shù)，并可以嚴格保證全局和局部的收斂性。大量的數(shù)值實驗表明，在稀疏最優(yōu)傳輸問題上，S5N 算法在收斂速度和計算效率方面都有較好的表現(xiàn)。