ML-Methoden zur Feature Identifikation Globaler Optimierung

Evolutionäre Algorithmen sind von der Natur inspirierte Lern- Such und Optimierungsverfahren, die den natürlichen Evolutionsprozess einer Spezies als Vorbild haben, sich bestmöglich an aktuell vorherrschende Rahmenbedingungen anzupassen. Methodische Weiterentwicklungen in Kombination mit stetig steigenden Rechenressourcen führen dazu, dann immer komplexere und höherdimensionale Aufgabenstellungen mir evolutionären Algorithmen gelöst werden können. Fast alle dieser Optimierungs- und maschinellen Lernaufgabenstellungen sind jedoch stationär. Das heißt, dass sich das Optimierungs- oder Modellierungsziel während eines Algorithmenlaufes nicht verändert. Dieses Projekt beschäftigt sich damit, mit verschiedenen methodischen Ansätzen in den nicht- stationären Bereich vorzustoßen. Obwohl bisher fast ausschließlich für stationäre Aufgaben angewandt stellen evolutionäre Ansätze eine ideale Ausgangsbasis dar, da ja die natürliche Evolution selbst hochgradig nicht-stationär ist. Eine Spezies, die ihre Anpassungsfähigkeit an neue Umweltbedingungen durch zu gierige Anpassung an aktuell vorherrschende Rahmenbedingungen verliert würde ebenso rasch aussterben, wie es durch eine zu schnelle Änderung der Umweltbedingungen passieren kann. Ein ausreichend hohes Vorhandensein genetischer Diversität ist daher in der Natur im Sinne der Anpassungsfähigkeit ebenso wichtig wie für nicht-stationäre Optimierung und Modellierung. Unter Einbindung biologischer Expertise wird die österreichische Projektgruppe an impliziten Methoden wie selbstadaptiven Verfahrenserweiterungen forschen, die durch steten Zufluss neuer genetischer Diversität die Anpassungsfähigkeit aufrechterhalten ohne auf bereits Erlerntes verzichten zu müssen. Eine vielversprechende methodische Ausgangsbasis stellen hier altersgeschichtete Populationssstrukturen dar. Ansätze dieser Art wurden bisher schwerpunktmäßig verwendet, um durch stetige Zufuhr neuer genetischer Diversität über die jungen Altersschichten verfrühte Konvergenz zurückzudrängen. Im Zuge des gegenständlichen Projektes sollten diese Ansätze in Richtung permanenter Anpassung auf veränderte Ziele und Rahmenbedingungen erweitert werden und Konzepte erforscht werden, wie und welche strategische Methodeninformation von den Älteren auf die Jüngeren transferiert werden können. Die in diesem Projekt kooperierende Gruppe von der Siberian State University of Science and Technology wird von der Zielsetzung her in die gleiche Richtung mit expliziten Ansätzen gehen, die auf Basis von Fitnesslanschaftsindikatoren zur Laufzeit die Algorithmenparameter verändern oder zwischen Algorithmen wechseln.

In diesem Projekt wurde untersucht, wie Optimierungsalgorithmen lernen können, sich im Laufe der Zeit an veränderte Bedingungen anzupassen - so wie sich auch Spezies durch Evolution an wechselnde Umgebungen anpassen. Traditionelle Optimierungsmethoden gehen davon aus, dass ein Problem, wie beispielsweise die Produktionsplanung, bis zu seiner Lösung unverändert bleibt. In der Realität ändern sich die Bedingungen jedoch ständig: Es kommen neue Aufträge hinzu, Routen dauern länger als erwartet oder Maschinen fallen aus. Das Projekt konzentrierte sich darauf, wie evolutionäre Algorithmen, die die natürliche Selektion und das Überleben der Stärksten imitieren, erweitert werden können, um solche dynamischen Situationen zu bewältigen. Ein zentrales Thema war, wie sich ein zu starker Verlust von Eigenschaftsinformationen verhindern lässt. Dies kann auftreten, wenn ein Optimierer zu stark auf eine Lösung oder schnelle Erfolge fokussiert. Es wurden verschiedene Wege untersucht, um den Optimierer widerstandsfähiger zu machen. Zum Beispiel kann ein Optimierer etwa mit mehreren nach Reifegrad sortierten Schichten von Lösungsgruppen eine gute Mischung aus neuen und bewährten Lösungen behalten und so verhindern, dass er sich zu sehr auf eine Richtung festlegt. Bei Problemen, bei denen die Lösungen unterschiedlich kompliziert sind, half ein ständiges Ausdünnen (Pruning) dabei, die mathematischen Ausdrücke übersichtlich und gut verständlich zu halten. In praktischen Tests, wie beim dynamischen Lagermanagement, zeigte sich, dass kurzsichtige Strategien das System zum Stillstand bringen können. Dies unterstrich die Notwendigkeit, kurzfristige Effizienz mit langfristiger Stabilität in Einklang zu bringen und Warnsysteme einzubauen, die menschliche Bediener auf Trends aufmerksam machen, denen der Optimierer nicht ausweichen kann. Im Verlauf des Projekts richtete sich die Aufmerksamkeit auf die Wechselwirkung zwischen Optimierungsalgorithmen und den maschinellen Lernmodellen, die zur Einschätzung der Lösungsqualität eingesetzt werden. Wenn ein Algorithmus bestimmte Betriebsbedingungen wiederholt vermeidet, können die Vorhersagemodelle lernen, dass diese Bedingungen eine schlechte Wahl sind, auch wenn dies nicht der Fall ist. Dadurch entsteht eine Rückkopplungsschleife, die Verzerrungen verstärkt und die Leistung des Systems einschränken kann. Das Team entwickelte Methoden zur Erkennung, Überwachung und Minderung solcher Effekte, um sicherzustellen, dass lernbasierte Bewertungen über einen längeren Zeitraum hinweg genau und ausgewogen bleiben. Diese Erkenntnisse wiesen auch auf eine größere Herausforderung hin: selbst wenn die Bewertungen korrekt sind, erfordert die Optimierung häufig Kompromisse zwischen konkurrierenden Zielen. Schließlich befasste sich das Projekt direkt mit diesen Kompromissen. Die Verbesserung eines Kriteriums, wie zum Beispiel Kosten oder Geschwindigkeit, führt häufig zu einer Verschlechterung eines anderen, etwa Qualität oder Nachhaltigkeit. Die Forscher entwickelten mathematische Werkzeuge zum Vergleich und zur Vorhersage des Fortschritts von Algorithmen unter solchen widersprüchlichen Anforderungen, darunter Auswahlkriterien, die vorhergesagte Qualitäten gegen Unsicherheiten abwägen, sowie Wahrscheinlichkeitsmodelle, die die Chancen für weitere Verbesserungen abschätzen. Zusammenfassend lässt sich sagen, dass das Projekt Prinzipien aus der evolutionären Optimierung, der mathematischen Modellierung und der künstlichen Intelligenz kombinierte, um Optimierungssysteme besser auf Veränderungen reagieren zu lassen.