Zum Inhalt springen
LG4ML
  • Start
  • Idee
  • Projekte
  • Über uns
  • Wiki
  • Blog

Buzzwords

7
  • Transfer Learning
  • Machine Learning
  • Künstliche Intelligenz
  • Deep Learning
  • Data Science Workflow
  • Computer Vision
  • Big Data

Computer Vision

3
  • YOLOv4
  • Object Tracking
  • Frame Differencing

Grundlagen

14
  • Unüberwachtes Lernen
  • Überwachtes Lernen
  • Trainingsphase
  • Sampling
  • Regression
  • Preprocessing
  • Metrics
  • Klassifikation
  • Hyperparameter Tuning
  • Hyperparameter
  • Distanzmetriken
  • Data Science Workflow
  • Data Exploration
  • Cross Validation

Lernverfahren

8
  • Support Vector Machine
  • Principal Component Analysis
  • Perceptron
  • Logistische Regression
  • Lineare Regression
  • K-Nearest-Neighbours
  • K-Means
  • Decision Tree

Neuronale Netze

5
  • Verlustfunktion
  • Transfer Learning
  • Künstliches Neuron
  • Early Stopping
  • Aktivierungsfunktion

Preprocessing

8
  • Value Imputation
  • Scaling
  • Principal Component Analysis
  • Outlier Detection Basic
  • Outlier Detection Advanced
  • Frequenz Filter
  • Feature Engineering
  • Data Augmentation

Python Pakete

1
  • Data-Science Pakete
View Categories
  • Startseite
  • Docs
  • Grundlagen
  • Trainingsphase

Trainingsphase

1 min read

In der Trainingsphase geht es darum, ein Modell so zu trainieren, dass es möglichst gute Ergebnisse erzielt. Es soll also neue, unbekannte Daten möglichst gut klassifizieren bzw. vorhersagen können. Um das zu erreichen, nutzen wir bestimmtes Learning Setup.

Die Idee dahinter ist die Folgende: wenn wir ein Modell trainieren, dass alle unsere Daten zu 100% korrekt klassifizieren/vorhersagen kann, dann ist das zwar schön, aber was ist mit unbekannten Daten? Was ist, wenn wir unser Modell in der Praxis einsetzen wollen, um neue Datensätze klassifizieren/vorhersagen zu können? Möglicherweise kann unser Modell mit diesen neuen Daten nicht so gut umgehen.

Hierfür gibt es eine Lösung: das Aufteilen des ursprünglichen Datensatzes in drei kleine Datensätze: einen Trainingsdatensatz, einen Validation-Datensatz und einen Testdatensatz.

Abbildung 1: Aufsplitten des Datensatzes in Trainings-, Validation- und Testdatensätze

Der Trainingsdatensatz dient dazu, dass Modell zu trainieren. Während wir das Modell trainieren, nutzen wir den Validation-Datensatz als Abgleich, um zu überprüfen, dass das Modell auch auf unbekannten gut performt. Mit den Testdaten führen wir dann einen abschließenden Test des Modells durch. Daran können wir feststellen, wie “gut” das Modell ist, also wie gut es unbekannte oder neue Daten klassifizieren/vorhersagen kann.

Die prozentuale Aufteilung erfolgt nach einem sehr verbreiteten Schema. Vom Original-Datensatz werden 70% der Daten für das Training des Modells verwendet. Die restlichen 30% werden auf Validation- und Testdatensatz aufgeteilt. Die Prozentwerte sind jedoch nicht fest und je nach Daten und Datenmenge könnte man beispielsweise auch eine 80-20 bzw. 80-10-10-Aufteilung der Daten in Betracht ziehen.

Overfitting & Underfitting #

Ein paar Anmerkungen:

  1. Man verwendet nicht immer zwingend auch ein Validation-Datensatz. In einigen Anwendungen wird das Modell auch ausschließlich mit dem Trainingsdatensatz trainiert. Ein anderer Ansatz ist die Cross-Validation (kurz CV), bei der die Validation-Daten bei jeder Trainings-Runde aus den Trainingsdaten zufällig ausgewählt werden. Damit bleiben dann mehr Testdaten übrig (z. B. die vollen 30%).
  2. Im Idealfall werden die Daten so aufgeteilt, dass in jedem der zwei oder drei Datensätze die Proportionen der Klassen annähernd mit dem denen des Original-Datensatzes übereinstimmen. Dieser Ansatz wird auch stratified splitting genannt.
    Es wäre für die Performance des Modells auch äußerst abträglich, wenn es nur mit Datensätzen der Klasse A gelernt wird, und dann Testdaten klassifizieren soll, die ausschließlich Klasse B enthalten.

Aber wieso genau teilen wir unsere Daten denn jetzt so auf? Damit unser Modell nicht overfitted, sich also nicht zu sehr auf die Trainingsdaten einstellt. Abbildung 2 stellt mit der grünen Linie als Decision Boundary sehr anschaulich dar, was bei Überanpassung des Modells auf die Trainingsdaten passieren kann. Eine bessere Klassifizierung erhalten wir, wenn wir die schwarze Linie als Decision Boundary nutzen, die wesentlich allgemeiner klassifiziert, als die grüne.

Abbildung 2: Overfitting (grüne Linie) und wie das Modell eigentlich sein sollte (schwarze Linie) (Quelle)
Updated on 12/03/2022

What are your Feelings

  • Happy
  • Normal
  • Sad
Share This Article :
  • Facebook
  • X
  • LinkedIn
  • Pinterest

Schreibe einen Kommentar Antworten abbrechen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Inhalt
  • Overfitting & Underfitting

LG4ML

Promoting Machine Learning from Lüneburg!

© 2025 LG4ML

Navigation

  • Kontakt
  • Datenschutzerklärung
  • Impressum

Folge uns auf

Github Slack Instagram

Made with 🍺 in Lüneburg.

Cookie-Hinweis
Wir verwenden Cookies auf unserer Website, um Ihnen die bestmögliche Erfahrung zu bieten, indem wir uns an Ihre Präferenzen und wiederholten Besuche erinnern. Wenn Sie auf "Alle akzeptieren" klicken, erklären Sie sich mit der Verwendung aller Cookies einverstanden. Sie können jedoch die Einstellungen besuchen, um eine kontrollierte Zustimmung zu erteilen.
EinstellungenAlle akzeptieren
Zustimmung verwalten

Privacy Overview

This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
Necessary
immer aktiv
Necessary cookies are absolutely essential for the website to function properly. These cookies ensure basic functionalities and security features of the website, anonymously.
CookieDauerBeschreibung
cookielawinfo-checkbox-analytics11 monthsThis cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Analytics".
cookielawinfo-checkbox-functional11 monthsThe cookie is set by GDPR cookie consent to record the user consent for the cookies in the category "Functional".
cookielawinfo-checkbox-necessary11 monthsThis cookie is set by GDPR Cookie Consent plugin. The cookies is used to store the user consent for the cookies in the category "Necessary".
cookielawinfo-checkbox-others11 monthsThis cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Other.
cookielawinfo-checkbox-performance11 monthsThis cookie is set by GDPR Cookie Consent plugin. The cookie is used to store the user consent for the cookies in the category "Performance".
viewed_cookie_policy11 monthsThe cookie is set by the GDPR Cookie Consent plugin and is used to store whether or not user has consented to the use of cookies. It does not store any personal data.
Functional
Functional cookies help to perform certain functionalities like sharing the content of the website on social media platforms, collect feedbacks, and other third-party features.
Performance
Performance cookies are used to understand and analyze the key performance indexes of the website which helps in delivering a better user experience for the visitors.
Analytics
Analytical cookies are used to understand how visitors interact with the website. These cookies help provide information on metrics the number of visitors, bounce rate, traffic source, etc.
Advertisement
Advertisement cookies are used to provide visitors with relevant ads and marketing campaigns. These cookies track visitors across websites and collect information to provide customized ads.
Others
Other uncategorized cookies are those that are being analyzed and have not been classified into a category as yet.
SPEICHERN & AKZEPTIEREN