Exercise: Autonomous Learning (EinfAuLearn-01a) (080003)- Dozentinnen/Dozenten
- Prof. Dr.-Ing. Sven Tomforde, Connor Schönberner, M.Sc., Nikita Smirnov, M.Sc.
- Angaben
- Übung, 2 SWS
Praesenzveranstaltung, für ERASMUS-/Austauschstudierende geeignet, Unterrichtssprache Englisch
Zeit und Ort: Mo 14:15 - 15:45, LMS8 - R.EG.010 (26)
vom 9.4.2023 bis zum 9.7.2023
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 25
- Zugeordnet zu: infAuLearn-01a: Autonomous Learning (080037)
infAuLearn-01a: Autonomous Learning (infAuLearn-01a) (080037)- Dozentinnen/Dozenten
- Prof. Dr.-Ing. Sven Tomforde, Connor Schönberner, M.Sc., Nikita Smirnov, M.Sc.
- Angaben
- Vorlesung, 2 SWS, ECTS-Studium, ECTS-Credits: 8
Praesenzveranstaltung, für ERASMUS-/Austauschstudierende geeignet, Unterrichtssprache Englisch
Zeit und Ort: Mi 10:15 - 11:45, LMS8 - R.EG.010 (26)
vom 9.4.2023 bis zum 9.7.2023
- Voraussetzungen / Organisatorisches
- Autonomous Learning research aims at understanding how autonomous systems can efficiently learn from the interaction with the environment, especially by having an integrated approach to decision making and learning, allowing systems to autonomously decide on actions, representations, hyper-parameters and model structures for the purpose of efficient learning. The term "autonomous" refers to the ability of the system to learn without or with only very limited external support, which includes manual intervention of humans, availability of pre-defined models or expert knowledge, and availability of large sets of sample data. Specific research topics are: Adaptation of the learning models / techniques based on observations, learning from interaction with the environment, re-using knowledge from one domain in another domain, detection of behaviour that deviates from 'usual' or expected behaviour, and learning from and with other systems of the same kind. The lecture gives an introduction to the field of autonomous learning with a particular focus on a utilisation of the different techniques within intelligent systems. Autonomous Learning is cutting edge research, which means that parts of the lecture are based on current research articles rather than on textbooks. Furthermore, a practitioner's perspective is combined with theoretical understanding of the concepts: the lecture units are combined with traditional exercises but also with practical tasks that have to be solved by making use of techniques discussed in the lecture.
The overall goal of the course is to derive a basic understanding of the motivation, the general concept, and particularly important methods covering the most prominent parts of the field of autonomous learning. This includes techniques for the following aspects of machine learning:
Fully autonomous learning behaviour: hyper-parameter optimisation, transfer learning, (self-)evaluation,
self-awareness or environment-awareness with a major focus on anomaly/novelty detection
By interaction with the environment via sensors and actuators: reinforcement learning
By efficiently integrating humans into the learning process: active learning
By interacting with other intelligent systems: collaborative learning
By using all the above: meta-learning
Particular goals are:
a) Knowledge / Skills:
Understanding of methods for achieving "intelligence" in technical systems, control of learning behaviour with minimal user interaction, continuous self-improvement of system behaviour, cooperation in learning between distributed technical systems
b) Abilities:
Selection and application of techniques of machine learning in technical systems under real-world conditions to control autonomous system behaviour
c) Competencies:
Ability to analyse autonomous learning processes and their behaviour, to determine and interpret relevant assessment parameters / Competence to plan, design and develop intelligent technical systems with the ability to learn autonomously
Other requirements:
No mandatory modules. However, basic modules such as mathematics 1 to 3 are considered to be common knowledge. We recommend to visit the "Intelligent Systems" module before.
Exam Performance:
Oral exam (duration: 25 minutes) or written exam (90 minutes) - depending on COVID19 developments and number of participants. Successful completion of all practical tasks (i.e., second part / practical part of the exercises) plus quizzes is mandatory for participation in the exam. Practical tasks and quizzes are not graded, only passed/not passed.
- Inhalt
- a) Introduction and organisation
b) Recapitulation of basic machine learning terms and techniques
c) Model selection (hyper-parameter optimisation and evaluation)
d) Transfer Learning
e) Self-Awareness
f) Reinforcement Learning
g) Active Learning
h) Collaborative Learning
i) Summary and outlook (incl. meta-learning)
Teaching and Learning Methods:
The lecture is accompanied by an exercise that requires active participation of the students. Task sheets and presence work will be discussed in small groups of students. In addition, a second type of exercise is used where
a) The lecture is based on the use of the following teaching methods:
Explanatory lecture with slide sets
Blackboard with illustrating examples
Use of video sequences for illustration purposes
Interactive elements (questions, tasks)
Internet-based quiz
b) The exercise uses the following building blocks:
Exercise sheets with written tasks (e.g. calculations)
Implementation of individual tasks (mostly in Python using Jupyter Notebooks)
Reading and assessing scientific publications (i.e. journal articles or conference papers)
Presentation of the results by participants
Discussions
c) The practical exercise tasks use the following building blocks: - Practical tasks (e.g., given in Jupyter Notebooks) need to be solved by actually applying, testing, and analysing the behaviour of techniques from the field of autonomous learning - In particular, 4 to 6 assignments allowing for an increasing complexity in '0self-learning systems' have to be solved by the students.
- Empfohlene Literatur
- Thomas Mitchell: Machine Learning, The McGraw-Hill Companies, 1997, ISBN 978-0071154673
Ethem Alpaydin: Introduction to Machine Learning (Adaptive Computation and Machine Learning). The Mit Press, 3rd revised edition, 2014. ISBN: 978-0262028189
C. Müller-Schloer, S. Tomforde: Organic Computing - Technical Systems for Survival in the real World
B. Settles: Active Learning
M. Yamada, Jianhuii Chen, Yi Chang: Transfer Learning: Algorithms and Applications
C. Bishop: Pattern Recognition and Machine Learning (Information Science and Statistics)
Sutton, Richard S., and Andrew G. Barto. Introduction to reinforcement learning. Vol. 135. Cambridge: MIT press, 1998.
S. Russell and P. Norvig: Künstliche Intelligenz. Ein moderner Ansatz. 3. Aufl. PEARSON
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 25
- Zugeordnete Lehrveranstaltungen
- UE: Exercise: Autonomous Learning (080003)
-
Dozentinnen/Dozenten: Prof. Dr.-Ing. Sven Tomforde, Connor Schönberner, M.Sc., Nikita Smirnov, M.Sc.
Zeit und Ort: Mo 14:15 - 15:45, LMS8 - R.EG.010 (26)
- UE: Practical Exercise: Autonomous Learning (080045)
-
Dozentinnen/Dozenten: Prof. Dr.-Ing. Sven Tomforde, Connor Schönberner, M.Sc., Nikita Smirnov, M.Sc.
Zeit und Ort: Mi 12:15 - 13:45, LMS8 - R.EG.010 (26)
infBSemIS-01a: Bachelorseminar - Selbst-organisierte Systeme (infBSemIS-01a) (080077)- Dozentinnen/Dozenten
- Prof. Dr.-Ing. Sven Tomforde, Ghassan al Falouji, M.Eng.
- Angaben
- Seminar, 2 SWS, benoteter Schein, ECTS-Studium, ECTS-Credits: 5
Praesenzveranstaltung
Zeit und Ort: n.V.
Sondertermin: 11.7.2023, 9:00 - 16:30 Uhr
- Voraussetzungen / Organisatorisches
- Lernziele:
Die Studierenden lernen, sich komplexe Sachverhalte anhand der kompakten Darstellung, wie sie in wissenschaftlichen Veröffentlichungen (d. h. Paper, Artikel oder Fachbüchern) üblich ist, eigenständig anzueignen und in verständlicher Form aufzubereiten.
Lehrinhalte:
Gegenstand des Seminars sind Algorithmen aus dem Gebiet der selbst-organisierten Systeme.
Der Fokus liegt in jedem Semester auf einem unterschiedlichen Bereich der Selbstorganisation. Studierende werden neben Basistechnologien im jeweiligen Gebiet unterschiedliche Grundsysteme untersuchen und vorstellen. Dazu gehört ebenfalls eine Einordnung in den übergeordneten Rahmen der selbstorganisierten Systeme.
Konzeptionell bildet die Veranstaltung einen prototypischen akademischen Veröffentlichungsprozess nach: Erstellung eines Konzeptes, Erstellung einer Veröffentlichung, EInreichung und Review mittels Konferenzmanagementsystem, Anfertigen der Camera Ready Version und Einreichung, Präsentation auf der Konferenz inkl. Moderation.
Weitere Voraussetzungen:
Grundlegende Kenntnisse in wissenschaftlichem Arbeiten.
Prüfungsleistung:
Die Note setzt sich aus den folgenden Aspekten zusammen:
Ausarbeitung
Reviews
Organisation (Rolle des Session Chairs, Einhalten von Deadlines)
Vortrag
Workload
30 Std. Mitarbeit im Seminar, 90 Std. Selbststudium
- Inhalt
- Das Seminar widmet sich dem Thema "Selbst-organisierte Systeme". Darunter werden im Kontext dieses Seminars Mengen aus autonomen, technischen Einheiten verstanden, die zusammenarbeiten, um ein gemeinsames Ziel zu erreichen. Dabei treten unterschiedliche Fragestellungen auf, die beherrscht werden müssen.
Das Seminar im WS 19/20 widmet sich dabei der konsistenten, schnellen und zuverlässigen Speicherung sowie des damit einhergehenden Auffindens von Inhalten innerhalb solcher selbst-organisierten Systeme. Dies wird anhand von Algorithmen des Peer-to-Peer Computing untersucht.
Das Seminar im SS 20 widmet sich dabei der Kooperation von autonomen intelligenten Systemen sowie den damit einhergehenden Interaktionsmustern innerhalb solcher selbst-organisierten Systeme. Dies wird anhand von Beispielen des Organic Computing untersucht.
Das Seminar im WS 20/21 widmet sich der selbstorganisierten Zusammenarbeit in offenen Systemen. Dabei stehen Fragestellungen des gegenseitigen vertrauens im Vordergrund des Interesses (d.h. Konzepte des 'Computational Trust').
Das Seminar im SS 21 widmet sich der selbstorganisierten Kommunikation mittels Datenkommunikationsprotokollen. Dabei stehen Fragestellungen der Anpassung an sich ändernde Gegebenheiten (Umgebung, Fehler, etc.) im Vordergrund des Interesses. Wir betrachten dezentral organisierte Arbeiten, zentral organisierte Ansätze und Methoden aus dem Bereich "Protocol Stack Composition". Diese sollen mit einem Refenezansatz aus dem Gebiet des Organic Computing verglichen werden.
Das Seminar im WS 21/22 widmet sich der Selbstorganisation in zellulären Datenkommunikationssystemen (d.h. in Mobilfunknetzen der vierten und fünften Generation). Dabei stehen Fragestellungen des verteilten Einbindung von Einheiten, die nicht direkt mit einer Basis-Station verbunden sind, im Vordergrund des Interesses.
Im Sommersemester 2022 fokussiert sich das Seminar auf den Anwendungsfall Produktionssysteme. Wir untersuchen unterschiedliche Ansätze, die Prinzipien der Selbstorganisation in entsprechende Abläufe integrieren - und sind damit im Umfeld "Industrie 4.0" angesiedelt.
Im Wintersemester 2022 fokussiert sich das Seminar auf den Anwendungsfall Robotiksysteme. Wir untersuchen unterschiedliche Ansätze, die Prinzipien der Selbstorganisation in entsprechende Abläufe von mehreren miteinander kooperierenden Robotern (bspw. als Schwarm) integrieren.
- Empfohlene Literatur
- Die Studierenden erhalten spezielle Literatur, welche sie in dem Seminar bearbeiten sollen.
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 10
infCI-01a: Computational Intelligence (infCI-01a) (080112)- Dozentinnen/Dozenten
- Prof. Dr.-Ing. Sven Tomforde, Connor Schönberner, M.Sc., Michel Spils, M.Sc.
- Angaben
- Vorlesung, 4 SWS, benoteter Schein, ECTS-Studium, ECTS-Credits: 8
Zeit und Ort: Di 16:15 - 17:45, LMS8 - R.EG.016 (40); Do 10:15 - 11:45, LMS8 - R.EG.016 (40)
vom 9.4.2023 bis zum 9.7.2023
1. Prüfungstermin (Klausur am Ende der Vorlesungszeit eines Semesters): 12.7.2023, 10:00 - 12:00 Uhr, Raum CAP2 - Hörsaal D
2. Prüfungstermin (Klausur zu Beginn der Vorlesungszeit des Folgesemesters): 18.10.2023, 10:00 - 12:00 Uhr, Raum CAP2 - Hörsaal D
Klausureinsicht: 26.7.2023, 10:00 - 11:30 Uhr; 25.10.2023, 11:00 - 12:00 Uhr
- Voraussetzungen / Organisatorisches
- Ziel der Veranstaltung ist die Vermittlung eines ersten Überblicks über das Gebiet der Computational Intelligence in Theorie und Praxis. Darauf aufbauend sollen Studierende ein Grundverständnis und entsprechende Herangehensweisen vermittelt werden, sodass insbesondere folgende Ziele erreicht werden:
Die Studierenden haben ein Grundverständnis der Komplexität von Technischen Systemen und wissen wie diese beherrscht werden kann.
Sie wissen wie scheinbar komplexe Zusammenhänge mit Mechanismen der Computational Intelligence einfach beschreiben werden können.
Techniken aus dem Feld Computational Intelligence / Soft Computing sowie deren Vor- und Nachteile im Vergleich sind bekannt.
Keine verpflichtenden Vorraussetzungen.
Grund- oder Aufbaumodule wie Mathematik und Betriebssysteme und Kommunikationssysteme sollten bekannt sein.
Workload:
60 Std. Vorlesung, 30 Std. Präsenzübung, 150 Std. Selbststudium
- Inhalt
- Der Begriff "Computational Intelligence" (CI) beschreibt ein Teilgebiet der künstlichen Intelligenz. Im Wesentlichen fasst er drei biologisch motivierte Fachgebiete der Informationsverarbeitung zusammen: Basierend auf Algorithmen der Fuzzylogik und künstlichen neuronalen Netzen sowie auf den Evolutionären Algorithmen wird die Beherrschung komplexer Systeme angestrebt und mit weiteren, typischerweise biologisch-inspirierten, Verfahren kombiniert. Urspünglich in den 1990er-Jahren vom Institute of Electrical and Electronics Engineers (IEEE) geprägt, wird der Begriff heutzutage oft synonym mit dem Soft-Computing verwendet. Alle beinhalteten Teilgebiete haben gemeinsam, dass sie Mechanismen natürlicher (d. h. insbesondere biologische, physische oder soziale) Problemlösungsstrategien für mathematische oder Ingenieur-technische Fragestellungen nutzbar machen. Dabei wird nicht auf eine direkte Übertragung oder "technische Kopie" abgezielt, sondern auf ein Verständnis und eine Imitation der Basismechanismen. Die so entwickelten Verfahren stehen im Gegensatz zu exakt-mathematischen Verfahren - man folgt eher frei dem Motto: "Erlaubt ist, was funktioniert".
- Empfohlene Literatur
- Basisliteratur:
Anthony Brabazon, Michael O'Neill, Seán McGarraghy: Natural Computing Algorithms (Natural Computing Series), Springer Verlag 2015, ISBN: 978-3662436301
Computational Intelligence: Eine methodische Einführung von Kruse, Borgelt, Braune, Klawonn, Moewes, Steinbrecher, 2015, Springer, ISBN 9783658109035
Einzelne Kapitel stützen sich auf weiterführende Literatur: Fraktale:
E. Behrends. "Vorlesungen zum Gedenken an Felix Hausdorff". In: Heldermann Verlag, 1994. Kap. Fraktale und Mathematik - eine elementare Einführung. http://www.heldermann.de/BSM/BSM05/bsm05-191.pdf
Zelluläre Automaten:
Joel L. Schiff. Cellular Automata: A Discrete View of the World. Wiley, 2008. 252 S. ISBN: 978-0-470-16879-0. http://psoup.math.wisc.edu/pub/Schiff_CAbook.pdf
Selbstorganisierende Systeme:
Marco Dorigo und Thomas Stüzle. Ant Colony Optimization. The MIT Press, 2004. https://pdfs.semanticscholar.org/7c72/393febe25ef5ce2f5614a75a69e1ed0d9857.pdf
Christian Müller-Schloer und Sven Tomforde. Organic Computing - Technical Systems for Survival in the Real World. Birkhäuser, 2017.
https://link.springer.com/book/10.1007%2F978-3-319-68477-2 Evolutionäre Algorithmen:
Melanie Mitchell. An Introduction to Genetic Algorithms. Cambridge, MA, USA: MIT Press, 1998. ISBN: 0262631857.
http://www.boente.eti.br/fuzzy/ebook-fuzzy-mitchell.pdf Neuronale Netzwerke:
Ian Goodfellow, Yoshua Bengio und Aaron Courville. Deep Learning. MIT Press, 2016 http://www.deeplearningbook.org
Verweise:
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 40
- Zugeordnete Lehrveranstaltungen
- UE: Übung zu: Computational Intelligence (080345)
-
Dozentinnen/Dozenten: Connor Schönberner, M.Sc., Prof. Dr.-Ing. Sven Tomforde, Michel Spils, M.Sc.
Zeit und Ort: Mo 10:15 - 11:45, LMS8 - R.EG.016 (40)
infMPInS-01a: Master project - Intelligent Systems (infMPInS-01a) (080092)- Dozentinnen/Dozenten
- Prof. Dr.-Ing. Sven Tomforde, Nils Bischoff, M.Sc.
- Angaben
- Übung, 4 SWS, ECTS-Studium, ECTS-Credits: 10
Praesenzveranstaltung, Unterrichtssprache Englisch, Kick-off meeting for the Master Project Intelligent Systems to be announced
Zeit und Ort: n.V.
- Voraussetzungen / Organisatorisches
- Scope
This project is offered as a master project (If you are interested in a Bachelor/Master Thesis within the scope of this project, please contact torben.schnuchel@uni-passau.de for more information)
Group
This project is offered as a group task; a team of 3 to 6 students is required (deliverables are adjusted based on the number of participants)
- Inhalt
- Motivation
Smartphones nowadays are equipped with a variety of sensors that developers have access to (Accelerometer, GPS, Bluetooth, ...). Since they collect this data from individuals, they are particularly well suited in crowdsourcing scenarios where multiple participants share data to build a central knowledge base. One exciting application scenario of crowdsensing is the monitoring of traffic to infer information about traffic flow, road conditions, crashes, etc. in a distributed manner.
Registration
Interested students may contact the group (i.e., Torben Schnuchel torben.schnuchel@uni-passau.de) for more details.
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 6
Practical Exercise: Autonomous Learning (PEinfAuLearn-01a) (080045)- Dozentinnen/Dozenten
- Prof. Dr.-Ing. Sven Tomforde, Connor Schönberner, M.Sc., Nikita Smirnov, M.Sc.
- Angaben
- Übung, 2 SWS
Praesenzveranstaltung, für ERASMUS-/Austauschstudierende geeignet, Unterrichtssprache Englisch
Zeit und Ort: Mi 12:15 - 13:45, LMS8 - R.EG.010 (26)
vom 9.4.2023 bis zum 9.7.2023
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 25
- Zugeordnet zu: infAuLearn-01a: Autonomous Learning (080037)
Übung zu: Computational Intelligence (ÜinfCI-01a) (080345)- Dozentinnen/Dozenten
- Connor Schönberner, M.Sc., Prof. Dr.-Ing. Sven Tomforde, Michel Spils, M.Sc.
- Angaben
- Übung, 2 SWS
Zeit und Ort: Mo 10:15 - 11:45, LMS8 - R.EG.016 (40)
vom 9.4.2023 bis zum 9.7.2023
- Zusätzliche Informationen
- Erwartete Teilnehmerzahl: 40
- Zugeordnet zu: infCI-01a: Computational Intelligence (080112)
|
|
