Current information from HFU about the Corona virus: www.hs-furtwangen.de/coronavirus

Few-Shot learning

Studium Generale: Wie künstliche Intelligenz fast ohne Beispieldaten selbstständig lernen kann

Spätestens durch Deep Learning wurde das Lernen aus Beispielen zum vorherrschenden Paradigma in der künstlichen Intelligenz: Um Aufgaben automatisch zu lösen werden tausende Beispiele von Hand annotiert, die dann als Trainingsdaten für ein neuronales Netzwerk dienen. Leider ist diese Annotation oft mit extrem großem Aufwand verbunden und so ist künstliche Intelligenz für viele Anwendungsfälle nach wie vor nicht einsetzbar.

In diesem Vortrag berichtet Timo Schick über eine Methode, mit der künstliche Intelligenz schon aus zehn oder weniger Beispielen lernen kann, schwierige Aufgaben zu lösen. Der vorgestellte Ansatz ist so effizient, dass er sogar eines der derzeit größten neuronalen Netzwerke zur Textverarbeitung übertrifft - dabei aber nur knapp 0,1% seiner Größe benötigt und deshalb sogar auf einem gewöhnlichen Computer verwendet werden kann. Das reduziert nicht nur die erhebliche Umweltbelastung, die bei der Verwendung neuronaler Netze entsteht, sondern erlaubt außerdem jedem Anwender, Probleme mit KI zu lösen, ohne dafür tausende Beispiele annotieren oder teure Hardware beschaffen zu müssen. Damit trägt dieser Ansatz zu einer Demokratisierung der künstlichen Intelligenz bei.

Zur Person
Timo Schick ist Doktorand am Center für Informations- und Sprachverarbeitung (CIS) der Ludwig-Maximilians-Universität (LMU) München. Dort promoviert er im Bereich "Natural Language Processing", also der Verarbeitung natürlicher Sprache mit künstlicher Intelligenz (KI). Neben seiner Promotion arbeitet er seit einigen Jahren als Data Scientist in der Automobil-Industrie. Die Motivation für viele seiner Forschungsarbeiten stammt aus seinen dort gesammelten Erfahrungen.

Timo Schicks derzeitige Forschung beschäftigt sich zum einen mit Few-Shot Learning, also mit der Frage, wie neuronale Netzwerke und andere KI-Modelle schwierige Aufgaben aus nur einer Handvoll an Trainingsbeispielen lernen können. Zum anderen arbeitet er an Techniken zum Representation Learning, also dem Lernen für viele Aufgaben geeigneter Wissensrepräsentationen aus großen, unstrukturierten Datensätzen.

Zum online-Vortragsraum (der Zugang wird eine halbe Stunde vor Beginn des Vortrags geöffnet):
https://app.alfaview.com/#/join/projekt-digitaldialog21/778856ea-2ece-4811-91f8-e19df25a3c01/2b46501e-edb8-4aad-b396-99c9c9c7ea6f

  • Date
  • - pm
  • Location
  • Online