Wir freuen uns sehr über die Zusammenarbeit mit den Studenten und wir möchten euch kurz vorstellen, in welchen Themengebieten wir uns besonders über eure Unterstützung freuen würden. Kommt gerne mit euren Ideen und Vorstellungen vorbei und wir suchen gemeinsam nach Möglichkeiten, wie ihr eure Abschlussarbeiten, Seminararbeiten, Forschungs- und Projektmodule bei uns erledigen könnt. Für Fragen stehen wir euch jederzeit zur Verfügung.
Vorhersage von Leistungsfähigkeit von Menschen durch GPT Modelle
Am Lehrstuhl für Mechatronik untersuchen wir Mensch-Roboter Interaktion von einem besonderen Blickwinkel. Jeder Mensch besitzt Fähigkeiten. Diese lassen sich bereits über arbeitsmedizinische Dokumentationsverfahren bewerten. Gleichsam lassen sich Anforderungen an einen Arbeitsprozess definieren. Über den Vergleich von Fähigkeiten und Anforderungen lässt sich dann auswerten, in welchen Bereichen eine Person eingesetzt werden kann. Das ist besonders dann wichtig, wenn es sich bei den Personen um Menschen mit Behinderung oder alternde Arbeitnehmer handelt, die eben nicht in beliebigen Arbeitsprozessen eingesetzt werden können.
Um dieses Vorgehen in Mensch-Roboter-Systemen einsetzen zu können, muss der Roboter in die Lage versetzt werden, die Fähigkeiten des Menschen automatisch erfassen zu können. In dieser Arbeit soll untersucht werden, inwiefern Multimodale GPT Modelle (auch Vision Language Models genannt) verwendet werden können, um basierend auf Videodaten Vorhersagen über die Leistungsfähigkeit von Personen zu treffen. Dazu sollen verschiedene Ansätze verglichen und erweitert werden, um später Fragen bewerten zu können, wie „Kann die Person die Schraube greifen?“ oder „Kann die Person das Werkzeug bedienen?“.
Deine Aufgaben
- Erstellen eines kleinen Datensatzes mit unserem Prüfstand
- Benchmark bestehender GPT Modelle im Hinblick auf die Vorhersagequalität der Leistungsfähigkeit von Menschen
- Einsatz von Prompt Engineering Techniken, sowie Erweiterung und Fein-Tuning der Modelle
- Anbindung der Methodik an unseren Prüfstand
Du bietest
- Studium der Ingenieursinformatik, Informatik, Medizininformatik, Mathematik oder ähnliche Studiengänge
- Interesse an Mensch-Roboter Teaming und Ergonomie
- Interesse an Maschinellem Lernen
- Gute Deutschkenntnisse in Wort und Schrift
Die Arbeit wird von mir zusammen mit Damian Boborzi betreut.
Kombination von Arbeitsmedizin und KI zur Vorhersage menschlicher Fähigkeiten
In meiner Forschung beschäftige ich mich mit der Vorhersage von menschlichen Fähigkeiten, um damit Robotervrhaltne zu planen und insbesondere Menschen mit Behinderung in ihrem Arbeitsalltag zu unterstützen. Dabei werden Methoden aus der Arbeitsmedizin und dem Maschinellen Lernen kombiniert. Ziel ist, dass eines Tages Personen egal welcher körperlichen Fähigkeiten und Voraussetzungen gemeinsam am Arbeitsalltag teilhaben können.
In dieser Arbeit sollen neue Vorhersagemodelle erstellt und validiert werden. Die Modelle bauen auf den bestehenden Standards ICF (International Classification of Functioning, Disability and Health) und IMBA (Inklusion von Menschen mit Behinderung in die Arbeitswelt) auf. Diese sollen in Bayessche Netze überführt und mit vorhandenen Daten vortrainiert werden. Je nach Art und Umfang der Arbeit, soll ebenfalls eine Nutzerstudie durchgeführt werden, um (a) Datne zu gewinnen und (b) die Methode zu validieren.
Was wir bieten
- Einblicke in die Mensch-Roboter-Interaktion und medizinisch korrekte Simulation von Menschen
- Lockere Arbeitsathmosphäre
- Flexible Betreuung
- Prüstandsarbeit/Realvalidierung möglich
Was du mitbringst
- Studium der Ingenieursinformatik, Medizininformatik, Informatik, oder ähnliche
- Interesse an Mensch-Roboter-Interaktion und sozialer Teilhabe
- Vorwissen in Maschinellem Lernen und Bayesschen Netzen wünschenswert
Datengetriebene Model Predictive Control
Du hast Kenntnisse in der Regelungstechnik und Interesse an der Integration von KI-Methoden in die Regelungs-/Steuerungsmethoden?
Model Predictive Control ist eine Reglungstechnik, bei der ein System – wie z. B. ein Auto, eine Drohne oder eine Industrieanlage – in die Zukunft “blickt”, um zu entscheiden, was es als Nächstes tun soll. MPC nutzt ein Modell, um vorherzusagen, wie sich das System entwickeln wird. Es plant also im Voraus, indem es berechnet, welche Aktionen (wie Beschleunigen, Bremsen oder Lenken) am besten geeignet sind, um ein Ziel zu erreichen, ohne dabei Einschränkungen zu verletzen (wie z. B. eine maximale Geschwindigkeit oder bestimmte Sicherheitsgrenzen).
Was wir bieten
- Einblicke in den Stand der Technik von probabilistischem Deep Learning
- Einführung von Jax
- Flexible Betreuung
Was du mitbringst
- Vorkenntnisse in Regelungstechnik, Deep Learning, Reinforcement Learning
- Programmierfähigkeit in Python
Datengetriebene Beobachter
Du hast Kenntnisse in der Regelungstechnik und Interesse an der Integration von KI-Methoden in die Regelungs-/Steuerungsmethoden?
In der Regelungstechnik ist ein Beobachter ein System, das aus bekannten Eingangsgrößen (z.B. Stellgrößen oder messbaren Störgrößen) und Ausgangsgrößen (Messgrößen) eines beobachteten Bezugssystems nicht messbare Größen (Zustände) rekonstruiert. Für nichtlineare Systeme mit teilweiser unbekannter Dynamik sind traditionelle Beobachter nur bedingt einsetzbar. Unser Ziel ist es, einen datengesteuerten Beobachter zu entwerfen, der nicht messbare Zustände aus Systemeingaben und -ausgaben lernen kann.
Was wir bieten
- Einblicke in den Stand der Technik von probabilistischem Deep Learning
- Einführung von Jax
- Flexible Betreuung
Was du mitbringst
- Vorkenntnisse in Regelungstechnik, Deep Learning
- Programmierfähigkeit in Python
Evaluation neuer Use-Cases mit Graph Neural Networks
Unser Softwarepaket MeshGraphNets.jl wurde bereits erfolgreich auf verschiedene Use-Cases (z.B. eine Fahrzeugkabine oder eine hydraulische Bremse) innerhalb unserer Projekte angewendet. Hier enden jedoch die Möglichkeiten für die Anwendung nicht, da viele weitere Domänen ähnliche Problemstellungen besitzen.
Mögliche Anwendungsfälle:
- Medizin (z.B. kardiovasuläres System)
- Energienetze (z.B. Windkraftanlagen)
- …
Fine-tuning von Large Reconstruction Models für die 3D Objektgenerierung
Kann man per Knopfdruck 3D-Objekte erzeugen? Generative Modelle wie Stable Diffusion oder DALL-E können bereits beeindruckende Bilder anhand einer Beschreibung auf Knopfdruck erzeugen. Das wäre auch für 3D-Objekte interessant, und tatsächlich lassen sich Methoden der Bildgenerierung auch zur Erzeugung von 3D-Objekten nutzen. Allerdings sind die Ergebnisse oft noch nicht so überzeugend wie im Bildbereich und haben häufig eine lange Rechenzeit.
Large Reconstruction Models (zum Beispiel InstantMesh) sollen vor allem das Problem der langen Rechenzeit lösen, indem ein großes Transformermodell darauf trainiert wird, in einem Durchgang direkt ein 3D-Modell zu erzeugen.
Aus dem Bildbereich kennt man verschiedene Methoden, um große generative Modelle durch Fine-Tuning anzupassen, um einen bestimmten Stil oder eine bestimmte Art von Bildern zu erzeugen. Ähnlich soll in dieser Arbeit untersucht werden, wie ein Large Reconstruction Model mithilfe von Fine-Tuning angepasst werden könnte, um Objekte aus einer bestimmten Domäne, wie beispielsweise Fahrzeuge, besser generieren zu können.
Konditionierung von Diffusion Modellen
Du findest generative Modelle wie Stable Diffusion oder DALL-E, die anhand von Text detailreiche Bilder erzeugen können, spannend und hast Interesse, dich in aktuelle Machine-Learning-Themen einzuarbeiten?
In dieser Arbeit hast du die Möglichkeit, Methoden wie Stable Diffusion und SV3D genauer kennenzulernen. Stable Diffusion ermöglicht es, Bilder anhand von Text oder anderen Vorgaben zu erzeugen. Bei der Methode SV3D wird ein Bild als Vorgabe verwendet, um mehrere Bilder zu generieren, die das Objekt aus verschiedenen Perspektiven zeigen. Mithilfe dieser Perspektiven können anschließend 3D-Objekte erzeugt werden. In der Arbeit sollen Möglichkeiten untersucht werden, wie Diffsuion Modelle auf andere Eingaben, wie zum Beispiel Zeichnungen, konditioniert werden können und wie sich diese Eingaben auf die Generierung auswirken. Abhängig von der Art der Arbeit können verschiedene Ansätze untersucht werden.