Anwendung jüngster Resultate der Proximal Theorie jenseits der Komfortzone
Employing recent outcomes in proximal theory outside the comfort zone
DACH: Österreich - Deutschland - Schweiz
Wissenschaftsdisziplinen
Mathematik (100%)
Keywords
-
Proximal Theory,
Monotone Inclusions,
Bregman distances,
Resolvents In Banach Spaces,
Vector Optimization,
First- And Second-Order Dynamical Systems
Mit diesem Forschungsprojekt verfolgen die Antragsteller einerseits die Fortführung ihrer mehr als fünfzehnjährigen fruchtbarenwissenschaftlichen Zusammenarbeitund möchten gleichzeitig drei Nachwuchswissenschaftlern eine Beschäftigungsmöglichkeit auf aktuellen und modernen Gebieten der Optimierung und der Angewandten Funktionalanalysis bieten. Das Hauptziel des Projektes, welches auf den Ergebnissen eines kürzlich erfolgreich beendeten DFG-Projektes eines der Antragsteller beruht, ist die Verallgemeinerung und Erweiterung einiger klassischer Techniken zur iterativen Minimierung konvexer Funktionen in Hilberträumen auf Forschungsfelder, die jenseits ihrer Komfortzone liegen. Diese bisher entwickelten Methoden gruppieren sich um das Konzept der sogenannten Proximalität, welche auf der Auswertung und Behandlung einer geeigneter Regularisierung des zu behandelnden mathematischen Objektes beruht. Die Zuverlässigkeit, Einfachheit und Genauigkeit dieses Konzeptes erlaubte in jüngster ZeitdieeffektiveLösungeinerVielzahl komplexernichtdifferenzierbarer konvexer Optimierungsprobleme und monotoner Inklusionsprobleme mit zahlreichen praktischen Anwendungen insbesondere im Bereich hochdimensionaler und großer Datenmengen. Fünf Forschungsziele sollen mit dem Projekt angesprochen werden. Diese erstrecken sich von der Erweiterung des Proximalitäts-Paradigmas mittels allgemeinerer Distanzbegriffe, mit welchen die angesprochene Regularisierung realisiert werden soll, und bezüglich allgemeinerer Klassen von Funktionen und Räumen, über die Untersuchung von multikriteriellen Optimierungsproblemen hinsichtlich direkter Lösungen, bis hin zur Behandlung von monotonen Inklusionsproblemen via impliziten dynamischen Systemen erster und zweiter Ordnung. Die angestrebtenResultatewerdenfruchtbare Auswirkungeneinerseits auf die Behandlung von Aufgabenstellungen aus verschiedenen Gebietender Mathematik, wie gewöhnliche undpartielle Differentialgleichungen, Optimale Steuerung, Funktionalanalysis, Spiel- und Gleichgewichtstheorie und die Theorie des optimalen Transports haben, und andererseits auch reale praktische Anwendungen etwa auf den Feldern der Bildverarbeitung, des maschinellen Lernens, der optimalen Standortwahl, der Risikoquantifizierung, der Netzwerkkommunikation und der Videobearbeitung ermöglichen.
Viele für die heutige wissenschaftliche und technologische Entwicklung der Gesellschaft relevanten Probleme führen zu hochdimensionalen Optimierungsproblemen mit komplexen Strukturen, für deren Lösung spezifische numerische Algorithmen entwickelt werden müssen. Dies umfasst Probleme zur Bestimmung des optimalen Standortes, der Signalverarbeitung, das maschinellen Lernens, der Risikoquantifizierung, der Netzwerkkommunikation, der Spieltheorie und der Energiemärkte. Der wesentliche Fokus dieses Projekts lag auf der Entwicklung deterministischer aber auch stochastischer numerischer Methoden für nichtglatte konvexe und nichtkonvexe Optimierungsprobeme, der theoretischen Untersuchung von deren Konvergenzeigenschaften und deren Validierung durch numerische Experimente. Die theoretischen Überlegungen standen im Zusammenhang mit Fragen wie unter welchen Annahmen die vorhandenen Algorithmen konvergieren, möglicherweise mit nachweisbaren Konvergenzraten, wie man ein verbessertes Konvergenzverhalten erzielt oder wie man die deterministischen Methoden auf ein stochastisches Setting ausweitet. Im Rahmen des Projekts wurden unterschiedliche mathematische Ansätze angewendet: die Theorie maximal monotoner Operatoren und die Lösung monotoner Inklusionen; die asymptotische Analyse dynamischer Systeme erster und zweiter Ordnung, deren Trajektorien auf die Menge der Lösungen/kritischen Punkte eines Optimierungsproblems abzielen; die Theorie der KL-Funktionen, die die globale Konvergenz von Algorithmen für nichtkonvexe Optimierungsprobleme gewährleisten. Das Hauptanwendungsfeld war maschinelles Lernen und Data Science, wofür neue numerische Methoden für das Training von "Deep Neural Networks", insbesondere von "Generative Adversarial Networks" bereitgestellt wurden. Einige der entwickelten numerischen Methoden wurden in der Zusammenarbeit mit zwei österreichischen Partnern aus der Industrie aus dem Automobil- und Energiesektor angewendet und implementiert. Das Projekt wurde in Zusammenarbeit mit der Forschungsgruppe Approximationstheorie der Technischen Universität Chemnitz, die von der Deutschen Forschungsförderungsgemeinschaft finanziert wurde, durchgeführt. Zwei Doktoranden und ein PostDoc wurden an der Universität Wien angestellt und eine Doktorandin an der Technischen Universität Chemnitz. Die beiden Doktoranden in Österreich haben bereits erfolgreich abgeschlossen, während die Doktorandin in Deutschland ihr Doktoratsstudium bald abschließen wird. Der PostDoc hat erfolgreich ein Nachfolgeprojekt beantragt. Im Rahmen des Forschungsprojekts wurden insgesamt 19 Publikationen veröffentlicht, der Großteil davon wurde in hochrangigen Journalen im Bereich Optimierung und Angewandte Mathematik publiziert. Viele dieser erzielten bereits innerhalb kurzer Zeit eine große Anzahl an Zitierungen. Die Ergebnisse wurden vom Hauptantragsteller und den Projektmitgliedern auf wichtigen internationalen Konferenzen und Workshops präsentiert, oftmals in Form von Keynote-Präsentationen. Außerdem fand ein abschließender Workshop der 20 Mitglieder und Forschungspartner der Forschungsgruppe des PIs statt, der eine Bühne zur Präsentation der im Rahmen des Projekts erzielten Ergebnisse bot.
- Universität Wien - 100%
- Regina Burachik, University of South Australia - Australien
- Gert Wanka, Technische Universität Chemnitz - Deutschland
- Hedy Attouch, Université Montpellier 2 - Frankreich
Research Output
- 611 Zitationen
- 59 Publikationen
- 9 Wissenschaftliche Auszeichnungen
- 1 Weitere Förderungen
-
2021
Titel A strongly convergent Krasnosel’skii–Mann-type algorithm for finding a common fixed point of a countably infinite family of nonexpansive operators in Hilbert spaces DOI 10.1016/j.cam.2021.113589 Typ Journal Article Autor Bot R Journal Journal of Computational and Applied Mathematics Seiten 113589 -
2021
Titel A forward-backward dynamical approach for nonsmooth problems with block structure coupled by a smooth function DOI 10.1016/j.amc.2020.125822 Typ Journal Article Autor Bot R Journal Applied Mathematics and Computation Seiten 125822 Link Publikation -
2022
Titel Extrapolated Proximal Subgradient Algorithms for Nonconvex and Nonsmooth Fractional Programs DOI 10.1287/moor.2021.1214 Typ Journal Article Autor Bot R Journal Mathematics of Operations Research Seiten 2415-2443 Link Publikation -
2020
Titel Tikhonov regularization of a second order dynamical system with Hessian driven damping DOI 10.1007/s10107-020-01528-8 Typ Journal Article Autor Bot R Journal Mathematical Programming Seiten 151-186 Link Publikation -
2020
Titel Inducing strong convergence of trajectories in dynamical systems associated to monotone inclusions with composite structure DOI 10.1515/anona-2020-0143 Typ Journal Article Autor Bot R Journal Advances in Nonlinear Analysis Seiten 450-476 Link Publikation -
2020
Titel A primal-dual dynamical approach to structured convex minimization problems DOI 10.1016/j.jde.2020.07.039 Typ Journal Article Autor Bot R Journal Journal of Differential Equations Seiten 10717-10757 Link Publikation -
2020
Titel Fixing and extending some recent results on the ADMM algorithm DOI 10.1007/s11075-020-00934-5 Typ Journal Article Autor Banert S Journal Numerical Algorithms Seiten 1303-1325 Link Publikation -
2021
Titel Minibatch Forward-Backward-Forward Methods for Solving Stochastic Variational Inequalities DOI 10.1287/stsy.2019.0064 Typ Journal Article Autor Bot R Journal Stochastic Systems Seiten 112-139 Link Publikation -
2021
Titel Convergence Rates of First- and Higher-Order Dynamics for Solving Linear Ill-Posed Problems DOI 10.1007/s10208-021-09536-6 Typ Journal Article Autor Bot R Journal Foundations of Computational Mathematics Seiten 1567-1629 Link Publikation -
2019
Titel Newton-Like Dynamics Associated to Nonconvex Optimization Problems DOI 10.1007/978-3-030-11370-4_6 Typ Book Chapter Autor Bot R Verlag Springer Nature Seiten 131-149 -
2019
Titel Variable smoothing for convex optimization problems using stochastic gradients DOI 10.48550/arxiv.1905.06553 Typ Preprint Autor Bot R -
2019
Titel A primal-dual dynamical approach to structured convex minimization problems DOI 10.48550/arxiv.1905.08290 Typ Preprint Autor Bot R -
2019
Titel Forward-backward-forward methods with variance reduction for stochastic variational inequalities DOI 10.48550/arxiv.1902.03355 Typ Preprint Autor Bot R -
2019
Titel Strong Convergence of Forward-Backward-Forward Methods for Pseudo-monotone Variational Inequalities with Applications to Dynamic User Equilibrium in Traffic Networks DOI 10.48550/arxiv.1908.07211 Typ Preprint Autor Duvocelle B -
2019
Titel Local convergence of the Levenberg–Marquardt method under Hölder metric subregularity DOI 10.1007/s10444-019-09708-7 Typ Journal Article Autor Ahookhosh M Journal Advances in Computational Mathematics Seiten 2771-2806 -
2019
Titel Variable Metric ADMM for Solving Variational Inequalities with Monotone Operators over Affine Sets DOI 10.1007/978-3-030-25939-6_4 Typ Book Chapter Autor Bot R Verlag Springer Nature Seiten 91-112 -
2019
Titel Inducing strong convergence of trajectories in dynamical systems associated to monotone inclusions with composite structure DOI 10.48550/arxiv.1911.04758 Typ Preprint Autor Bot R -
2019
Titel A primal-dual dynamical approach to structured convex minimization problems DOI 10.13140/rg.2.2.25111.62882 Typ Other Autor Boţ R Link Publikation -
2019
Titel A strongly convergent Krasnosel'ski\vi-Mann-type algorithm for finding a common fixed point of a countably infinite family of nonexpansive operators in Hilbert spaces DOI 10.48550/arxiv.1911.11656 Typ Preprint Autor Bot R -
2019
Titel Tikhonov regularization of a second order dynamical system with Hessian driven damping DOI 10.48550/arxiv.1911.12845 Typ Preprint Autor Bot R -
2019
Titel A Proximal Minimization Algorithm for Structured Nonconvex and Nonsmooth Problems DOI 10.1137/18m1190689 Typ Journal Article Autor Bot¸ R Journal SIAM Journal on Optimization Seiten 1300-1328 Link Publikation -
2016
Titel A general double-proximal gradient algorithm for d.c. programming DOI 10.48550/arxiv.1610.06538 Typ Preprint Autor Banert S -
2016
Titel Approaching nonsmooth nonconvex optimization problems through first order dynamical systems with hidden acceleration and Hessian driven damping terms DOI 10.48550/arxiv.1610.00911 Typ Preprint Autor Bot R -
2016
Titel Fixing and extending some recent results on the ADMM algorithm DOI 10.48550/arxiv.1612.05057 Typ Preprint Autor Banert S -
2016
Titel Inducing strong convergence into the asymptotic behaviour of proximal splitting algorithms in Hilbert spaces DOI 10.48550/arxiv.1609.01627 Typ Preprint Autor Bot R -
2016
Titel A second order dynamical system with Hessian-driven damping and penalty term associated to variational inequalities DOI 10.48550/arxiv.1608.04137 Typ Preprint Autor Bot R -
2017
Titel Newton-like dynamics associated to nonconvex optimization problems DOI 10.48550/arxiv.1703.01339 Typ Preprint Autor Bot R -
2017
Titel An Inertial Proximal-Gradient Penalization Scheme for Constrained Convex Optimization Problems DOI 10.60692/fe0dj-w9d35 Typ Other Autor Ernö Robert Csetnek Link Publikation -
2017
Titel An Inertial Proximal-Gradient Penalization Scheme for Constrained Convex Optimization Problems DOI 10.60692/fzrkz-v5h12 Typ Other Autor Ernö Robert Csetnek Link Publikation -
2017
Titel Second order dynamical systems with penalty terms associated to monotone inclusions DOI 10.48550/arxiv.1701.05246 Typ Preprint Autor Bot R -
2018
Titel A second-order dynamical approach with variable damping to nonconvex smooth minimization DOI 10.1080/00036811.2018.1495330 Typ Journal Article Autor Bot R Journal Applicable Analysis Seiten 361-378 Link Publikation -
2018
Titel Erratum DOI 10.1080/00036811.2018.1505361 Typ Journal Article Journal Applicable Analysis Seiten 548-548 Link Publikation -
2018
Titel The Proximal Alternating Minimization Algorithm for Two-Block Separable Convex Optimization Problems with Linear Constraints DOI 10.1007/s10957-018-01454-y Typ Journal Article Autor Bitterlich S Journal Journal of Optimization Theory and Applications Seiten 110-132 Link Publikation -
2018
Titel A forward–backward penalty scheme with inertial effects for monotone inclusions. Applications to convex bilevel programming DOI 10.1080/02331934.2018.1556662 Typ Journal Article Autor Bot R Journal Optimization Seiten 1855-1880 Link Publikation -
2018
Titel Inertial forward–backward methods for solving vector optimization problems DOI 10.1080/02331934.2018.1440553 Typ Journal Article Autor Bot R Journal Optimization Seiten 959-974 Link Publikation -
2018
Titel Second-order dynamical systems with penalty terms associated to monotone inclusions DOI 10.1142/s0219530518500021 Typ Journal Article Autor Bot R Journal Analysis and Applications Seiten 601-622 Link Publikation -
2018
Titel Approaching nonsmooth nonconvex minimization through second-order proximal-gradient dynamical systems DOI 10.1007/s00028-018-0441-7 Typ Journal Article Autor Bot R Journal Journal of Evolution Equations Seiten 1291-1318 Link Publikation -
2018
Titel A general double-proximal gradient algorithm for d.c. programming DOI 10.1007/s10107-018-1292-2 Typ Journal Article Autor Banert S Journal Mathematical Programming Seiten 301-326 Link Publikation -
2020
Titel Variable Smoothing for Convex Optimization Problems Using Stochastic Gradients DOI 10.1007/s10915-020-01332-8 Typ Journal Article Autor Bot R Journal Journal of Scientific Computing Seiten 33 Link Publikation -
2020
Titel Variable Smoothing for Weakly Convex Composite Functions DOI 10.48550/arxiv.2003.07612 Typ Preprint Autor Böhm A -
2020
Titel The Proximal Alternating Direction Method of Multipliers in the Nonconvex Setting: Convergence Analysis and Rates DOI 10.1287/moor.2019.1008 Typ Journal Article Autor Bot R Journal Mathematics of Operations Research Seiten 682-712 Link Publikation -
2020
Titel A Relaxed Inertial Forward-Backward-Forward Algorithm for Solving Monotone Inclusions with Application to GANs DOI 10.48550/arxiv.2003.07886 Typ Preprint Autor Bot R -
2020
Titel Extrapolated Proximal Subgradient Algorithms for Nonconvex and Nonsmooth Fractional Programs DOI 10.48550/arxiv.2003.04124 Typ Preprint Autor Bot R -
2020
Titel A forward-backward dynamical approach for nonsmooth problems with block structure coupled by a smooth function DOI 10.48550/arxiv.2001.10051 Typ Preprint Autor Bot R -
2020
Titel The forward–backward–forward method from continuous and discrete perspective for pseudo-monotone variational inequalities in Hilbert spaces DOI 10.1016/j.ejor.2020.04.035 Typ Journal Article Autor Bot R Journal European Journal of Operational Research Seiten 49-60 Link Publikation -
2018
Titel ADMM for monotone operators: convergence analysis and rates DOI 10.1007/s10444-018-9619-3 Typ Journal Article Autor Bot R Journal Advances in Computational Mathematics Seiten 327-359 Link Publikation -
2018
Titel An incremental mirror descent subgradient algorithm with random sweeping and proximal step DOI 10.1080/02331934.2018.1482491 Typ Journal Article Autor Bot R Journal Optimization Seiten 33-50 Link Publikation -
2018
Titel Inducing strong convergence into the asymptotic behaviour of proximal splitting algorithms in Hilbert spaces DOI 10.1080/10556788.2018.1457151 Typ Journal Article Autor Bot R Journal Optimization Methods and Software Seiten 489-514 Link Publikation -
2018
Titel A second-order dynamical system with Hessian-driven damping and penalty term associated to variational inequalities DOI 10.1080/02331934.2018.1452922 Typ Journal Article Autor Bot R Journal Optimization Seiten 1265-1277 Link Publikation -
2018
Titel A proximal minimization algorithm for structured nonconvex and nonsmooth problems DOI 10.48550/arxiv.1805.11056 Typ Preprint Autor Bot R -
2018
Titel The proximal alternating direction method of multipliers in the nonconvex setting: convergence analysis and rates DOI 10.48550/arxiv.1801.01994 Typ Preprint Autor Bot R -
2018
Titel Convergence Rates of First and Higher Order Dynamics for Solving Linear Ill-posed Problems DOI 10.48550/arxiv.1812.09343 Typ Preprint Autor Bot R -
2018
Titel The Forward-Backward-Forward Method from continuous and discrete perspective for pseudo-monotone variational inequalities in Hilbert spaces DOI 10.48550/arxiv.1808.08084 Typ Preprint Autor Bot R -
2018
Titel The Proximal Alternating Minimization Algorithm for two-block separable convex optimization problems with linear constraints DOI 10.48550/arxiv.1806.00260 Typ Preprint Autor Bitterlich S -
2018
Titel The Boosted DC Algorithm for nonsmooth functions DOI 10.48550/arxiv.1812.06070 Typ Preprint Autor Artacho F -
2017
Titel Approaching Nonsmooth Nonconvex Optimization Problems Through First Order Dynamical Systems with Hidden Acceleration and Hessian Driven Damping Terms DOI 10.1007/s11228-017-0411-1 Typ Journal Article Autor Bot R Journal Set-Valued and Variational Analysis Seiten 227-245 Link Publikation -
2017
Titel An Inertial Proximal-Gradient Penalization Scheme for Constrained Convex Optimization Problems DOI 10.1007/s10013-017-0256-9 Typ Journal Article Autor Bot R Journal Vietnam Journal of Mathematics Seiten 53-71 Link Publikation -
2017
Titel Approaching nonsmooth nonconvex minimization through second order proximal-gradient dynamical systems DOI 10.48550/arxiv.1711.06570 Typ Preprint Autor Bot R -
2017
Titel ADMM for monotone operators: convergence analysis and rates DOI 10.48550/arxiv.1705.01913 Typ Preprint Autor Bot R
-
2019
Titel Computational Optimization and Applications Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2019
Titel Computational Optimization and Applications Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2019
Titel The Sixth International Conference on Continuous Optimization (ICCOPT 2019) Typ Personally asked as a key note speaker to a conference Bekanntheitsgrad Continental/International -
2018
Titel Control and Cybernetics Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2018
Titel Optimization Methods and Software Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2018
Titel Optimization Methods and Software Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2018
Titel Control and Cybernetics Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2017
Titel Applied Mathematics and Optimization Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International -
2017
Titel Applied Mathematics and Optimization Typ Appointed as the editor/advisor to a journal or book series Bekanntheitsgrad Continental/International
-
2019
Titel Algorithms for Solving Variational Inequalities Typ Other Förderbeginn 2019