11847 - Neural Networks and Learning Theory Modulübersicht

Module Number: 11847
Module Title:Neural Networks and Learning Theory
  Neuronale Netze und Lerntheorie
Department: Faculty 1 - Mathematics, Computer Science, Physics, Electrical Engineering and Information Technology
Responsible Staff Member:
  • Prof. Dr. rer. nat. habil Meer, Klaus
Language of Teaching / Examination:English
Duration:1 semester
Frequency of Offer: Each summer semester odd year
Credits: 8
Learning Outcome:Students will get insight into different network architectures and their principles of operation. Notions like artificial intelligence and automatic learning will be made precise during the course. A central issue is the understanding of mathematical ideas underlying different network learning algorithms. This includes both positive solutions of problems and knowledge about limits of the approaches studied.
Contents:Some central network architectures are treated. These architectures differ in the way they manipulate input data, the way they perform learning tasks and the analysis of corresponding algorithms by mathematical means. More precisely, the following types of networks are covered:
  • General aspects of architecures, in particular feedforward nets, recurrent nets
  • Perceptron network, perceptron learning algorithm
  • Backpropagation algorithm
  • Radial basis function networks
  • Support Vector Machines
  • Learning theory and Vapnik-Chervonenkis dimension
  • Self-organizing networks
  • Hopfield networks
Special emphasis will be given to the mathematical analysis of algorithms. This will make it necessary to study some basic facts of optimization and probability theory.
Recommended Prerequisites:Basic knowledge both concerning optimality criteria in differentiable optimization and probability theory are advisable, but will be treated briefly in the course.
Solid knowledge of the content of module
  • 11213: Mathematics IT -3 (Analysis)
Mandatory Prerequisites:No successful participation in associated phase-out module 12450 - Neuronale Netze und Lerntheorie.
Forms of Teaching and Proportion:
  • Lecture / 4 Hours per Week per Semester
  • Exercise / 2 Hours per Week per Semester
  • Self organised studies / 150 Hours
Teaching Materials and Literature:
  •  E. Alpaydin: Maschinelles Lernen, Oldenbourg Verlag München, 2008
  •  M. Anthony, N.Biggs: Computational Learning Theory, Cambridge University Press 1997
  •  N. Christiani, J. Shawe-Taylor: An Introduction to Support Vector Machines and kernel-based Learning Methods, Cambridge Univ. Press,  2003
  •  A.C.C Coolen, R. Kühn, P. Sollich: Theory of Neural Information Processing Systems, Oxford University Press 2005
  • P. Fischer: Algorithmisches Lernen, Teubner 1999
  • P. Flach: Machine Learning: The Art and Science of Algorithms that Make Sense of Data, Cambridge University Press 2012
  • F. M. Ham, I. Kostanic: Principles of Neurocomputing for Science & Engineering, McGraw Hill 2001
  • S. Haykin: Neural Networks, Prentice Hall, 1999
  • R. Rojas: Theorie der neuronalen Netze, Springer 1996
  • S. Shalev-Shwartz, S. Ben-David: Understanding Machine Learning, Cambridge University Press 2014.
Module Examination:Final Module Examination (MAP)
Assessment Mode for Module Examination:
  • Oral examination, 30-45 minutes
Evaluation of Module Examination:Performance Verification – graded
Limited Number of Participants:None
Part of the Study Programme:
  • M.Sc. / Angewandte Mathematik (research-oriented profile) / Prüfungsordnung 2008
  • M.Sc. / Angewandte Mathematik (research-oriented profile) / Prüfungsordnung 2019
  • Abschluss im Ausland / Cyber Security / keine Prüfungsordnung
  • M.Sc. / Cyber Security (research-oriented profile) / Prüfungsordnung 2017
  • M.Sc. / Informatik (research-oriented profile) / Prüfungsordnung 2008 - 2. SÄ 2017
  • M.Sc. / Informations- und Medientechnik (research-oriented profile) / Prüfungsordnung 2017
  • M.Sc. / Maschinenbau (research-oriented profile) / Prüfungsordnung 2021
  • B.Sc. / Mathematik (research-oriented profile) / Prüfungsordnung 2019
  • M.Sc. / Physics (research-oriented profile) / Prüfungsordnung 2021
  • B.Sc. / Wirtschaftsmathematik (research-oriented profile) / Prüfungsordnung 2019 - SÄ 2021
Remarks:
  • Study programme Computer Science M.Sc.: Compulsory elective module in complex „Foundations of Computer Science" (level 400)
  • Study programme Cyber Security M.Sc.: Compulsory elective module in complex „Computer Science"
  • Study programme Information and Media Technology M.Sc.: compulsory elective module in „Fundamental Methods"
  • Study programme Applied Mathematics M.Sc.: Compulsory elective module in complex „Analysis / Algebra / Combinatorics“
  • Study programme Mathematics B.Sc.: Compulsory elective module in complex „Specialisation“, in limited extend
  • Study programme Economathematics B.Sc.: Compulsory elective module in complex „Specialisation“, in limited extend
  • Study programme Physics M. Sc.: Compulsory elective module in complex „Minor Subject“

If there is no need that the module is taught in English, alternatively the german version 12450 „Neuronal Netze und Lerntheorie“ may be offered instead.

Module Components:
  • Lecture: Neural Networks and Learning Theory
  • Accompanying exercise
  • Related examination
Components to be offered in the Current Semester:
  • no assignment
Phase-out Module: Follow-up Module since: 06.10.2017

Unsere Webseite verwendet Cookies. Diese haben zwei Funktionen: Zum einen sind sie erforderlich für die grundlegende Funktionalität unserer Website. Zum anderen können wir mit Hilfe der Cookies unsere Inhalte für Sie immer weiter verbessern. Hierzu werden pseudonymisierte Daten von Website-Besuchern gesammelt und ausgewertet. Das Einverständnis in die Verwendung der technisch nicht notwendigen Cookies können Sie jeder Zeit wiederrufen. Weitere Informationen erhalten Sie auf unseren Seiten zum Datenschutz.

Erforderlich

Diese Cookies werden für eine reibungslose Funktion unserer Website benötigt.

Statistik

Für den Zweck der Statistik betreiben wir die Plattform Matomo, auf der mittels pseudonymisierter Daten von Websitenutzern der Nutzerfluss analysiert und beurteilt werden kann. Dies gibt uns die Möglichkeit Websiteinhalte zu optimieren.

Name Zweck Ablauf Typ Anbieter
_pk_id Wird verwendet, um ein paar Details über den Benutzer wie die eindeutige Besucher-ID zu speichern. 13 Monate HTML Matomo
_pk_ref Wird benutzt, um die Informationen der Herkunftswebsite des Benutzers zu speichern. 6 Monate HTML Matomo
_pk_ses Kurzzeitiges Cookie, um vorübergehende Daten des Besuchs zu speichern. 30 Minuten HTML Matomo