- Überanpassung: Hohe Varianz, Auswendiglernen und Fallen in neuen Daten; Dies wird durch Regularisierung, Validierung, Poda, Dropout, mehr Daten und vorzeitiges Stoppen korrigiert.
- Unteranpassung: Alto Sesgo, Incapaz de Aprender Patrones; Es wird mit mehr Komplexität, mehr Epochen, größerer technischer Intelligenz und geringerer Regelmäßigkeit abgemildert.
- Sesgo–varianza: kritisches Gleichgewicht; Vollständigkeit reduziert den Sitzungszeitraum, erhöht jedoch die Varianz und umgekehrt.
- Praktische Übungen: Datenkalibrierung, Normalisierung, Driftüberwachung, K-Faltung, Zusammenhänge (Einsacken/Boosten) und Lerntransfer.
Als wir uns mit Modellen für maschinelles Lernen beschäftigten, wurde uns klar: Das funktioniert gut mit den Daten, die Sie gesehen haben, über alles, mit neuen Daten. Dieses Gleichgewicht zwischen dem Verständnis und der Verallgemeinerung ohne Auswendiglernen besteht in den Unterschieden zwischen einem visuellen Prototyp und einem leistungsfähigen Produktionssystem.
Das Problem besteht darin, dass dieser Punkt in der Zwischenzeit nicht trivial ist. Zu den klassischen Klassikern gehören: Überanpassung (sobreajuste) und Unteranpassung (subajuste) . Der erste Schritt erfolgt, sobald das Modell auf die Renndaten trifft, die den Ruido mit dem Señal verwechseln; Im zweiten Moment ist das Modell so einfach (oder es ist nicht begrenzt), dass es nicht die grundlegenden Kunden erfasst. Zu den folgenden Abschnitten gehörten Ursachen, Ereignisse, Beispiele, die Beziehung zwischen Mensch und Tier sowie ein Arsenal praktischer Techniker, um jeden Fall zu korrigieren.
Das ist eine Über- oder Unteranpassung
Ein Modell mit Überanpassung wurde von seiner Trainingseinheit abgezogen, einschließlich eigenartiger Verhaltensweisen und Ausreißern, die nicht wiederholt werden konnten. Rinde de lujo en enteramiento y flojea en validación o test . Es ist wie ein Student, der die Antworten aus dem Gedächtnis lesen muss: Drücken Sie die Simulation, aber die Prüfung wird wirklich durchgeführt.
El underfitting is la cara opuesta. Das Modell ist nicht in der Lage, die Struktur des Problems zu erfassen : Es wird sofort als Test durchgeführt. Stellen Sie sich vor, Sie stellen eine gerade Linie auf die Daten ein, die eine Kurve anzeigen. Von vielen Dingen, die es gibt, kann ich es nicht verstehen. El subajuste suele venir acompañado alto sesgo y baja varianza.
In der Praxis handelt es sich hierbei um metrische Situationen in den verschiedenen Umgebungen. Es gibt große Unterschiede zwischen der Abrechnung, der Durchführung und der Validierung , da die Ergebnisse möglicherweise nicht korrekt sind. Überprüfen Sie außerdem den Fehler während der Teilnahme an weiteren Pisten.
Sesgo y varianza: das ausgeglichene Gleichgewicht
Die folgenden Fehlerquellen sind hier: Sesgo (Bias) und Varianz ( Analyse der Varianz ). Nachdem das Modell zu kurz gekommen war, wurde angenommen, dass es zu einfach war, und es wurde auf eine Unteranpassung verwiesen. Die Abweichungen innerhalb des Modells sind sehr empfindlich, da einige Schwankungen im Zusammenhang mit der Entwicklung zu einer Überanpassung führen.
Der berühmte Trade-off-Sesgo-Varianz-Treffer erfordert die Begegnung mit einem Zwischenpunkt. Als die Komplexität zunahm, wurde die Sitzung nur noch kleiner als die Varianz; Vereinfacht, geschieht das Gegenteil. Im Laufe des Wettbewerbs kann die Situation aufgrund der geringeren Varianz immer größer werden , da Sie das Verhalten und die Validierung überwachen und auf unbestimmte Zeit nicht teilnehmen müssen.
Schnelles Beispiel: Vorhersage der Lebenspreise. Eine Recta (Alt-Sesgo) kann sich verlangsamen, wenn die Beziehung curvilínea (Unteranpassung) ist; Ein 4-Grad-Polinom, der jedes Mal das Ruder einfangen kann (hohe Varianz, Überanpassung); Eine sanfte Kurve der vollständigen Moderation (z. B. ein 2-Grad-Polynom, das regelmäßig reguliert wurde) war der größte Kompromiss.
Wie identifiziere ich jedes Problem?
Zu den folgenden Top-Tipps gehören: Höchste Präzision im Training und deutlich geringere Leistung im Test ; Die Eintrittssperre liegt in der Mitte der Gültigkeitsprüfung, die bis zu einem gewissen Grad erfolgt; extreme Sensibilität bei kleinen Veränderungen am Eingang; Und diese komplexeren Modelle „gingen“ ins Rennen, waren aber nicht besser als die Generalisierung.
Für den Fall, dass Sie mittelmäßige Messwerte in Kombination mit einem Test erhalten haben: Wenn die Zeitspanne unterschiedlich lang ist, überprüfen Sie, ob die Kapazität des Modells nicht ausreicht. Andere typische Vorhersagen stammen von Generalisten: Ein Klassifikator, der die bürgermeisterliche Klasse prädizierte, oder ein Regressor, der den Medien zugefügt wurde.
Die Gültigkeitsdauer wurde bis zum Schluss bestätigt. Eine große Variabilität zwischen Falten (Falten) kann zu einer Überanpassung führen . Kohärenz in der Mittelklasse, aber auch in der Veränderung, was zu einer Unteranpassung führt. Dies gilt sowohl für die Genauigkeit als auch für Vorhersagefehler (MAE, MSE) oder spezifische Messwerte der Waage.
Häufige Ursachen für Überanpassung
Die Grundvoraussetzung ist die Vollständigkeit. Modelle mit unterschiedlichen Parametern für die Vielfalt und Vielfalt der verfügbaren Daten, die Sie benötigen, um besondere Orte zu verstehen. Auch das Eingreifen während der Zeit, in der die Kontrolle verloren geht: Wenn keine Anwendungen für die Zeit vorhanden sind, kann das Modell nicht auswendig gelernt werden.
Der andere Weg, um zu verstehen, ist die Intelligenz der Variablen ohne Kontrolle: Entfernen Sie irrelevante Merkmale oder viele Korrelationen, die Sie dem Modell entnehmen können, um fantastische Beziehungen zu entwickeln. Die kleinen Leute oder die Vertreter, die das Problem lösen, gehen davon aus, dass das Gericht keine ausreichende Variation wie das allgemeine Modell vorweisen kann.
Aufgrund der tiefen Neuronen ist die große Repräsentationskapazität eine Doppelbewaffnung. Bei ausreichender Regelmäßigkeit und ausreichenden Daten müssen wir Sie mit der Hilfe unterstützen . Einschließlich Aspekten wie einer großen Menge (Chargengröße), die mit großer Präzision geliefert werden können.
Häufige Ursachen für Unteranpassung
Für die Vollständigkeit des Problems sind nur wenige Modelle verfügbar (z. B. Linien über Beziehungen, keine Linien). Die für L1/L2 erforderlichen Regularisierungen können auch zu einfachen und übertriebenen Lösungen führen.
Ein weiterer Faktor besteht darin, dass die Informationen in den Eingängen nicht mehr nützlich sind. Wenn die Merkmale keine relevanten Faktoren erkennen , kann das Modell nicht nachgefragt werden. Durch unangemessene Änderungen an der Normalisierungs-/Standardisierungsmethode kann es zu Schwierigkeiten bei der Optimierung und Übersetzung in einer Studie kommen, bei der es sich um eine Unteranpassung handelt.
Letzten Endes, auch wenn Sie nicht in eine ausreichende Zeitspanne eintreten (viele zehn Jahre oder Monate), wenn Sie das Modell verlassen, weil es kurz vor dem Abbruch steht , oder wenn die Datensicherheit Sie daran hindert, die Kunden wegen übermäßiger Beanspruchung in den Ruhestand zu schicken.
Ejemplos cotidianos para entenderlo
Bild und Vision: Wenn eine rote Hand geschrieben ist, um konkrete Pixel auswendig zu lernen, kann die Eingabe beendet und mit aufgeschriebenen Ziffern auf andere Art und Weise (Überanpassung) verwechselt werden. Techniken wie Datenerweiterung (Rotationen, Voltzahlen) bevorzugen die Generalisierung.
Finanzen: Ein zeitliches Serienmodell könnte nachträglich Änderungen an der Vergangenheit vornehmen, die nicht in die Zukunft zurückkehren, wenn es noch nicht abgeschlossen ist. Aufgrund von Unteranpassungen sind wir nicht in der Lage, auf veränderte Strukturen zu reagieren.
Ein neugieriges Beispiel ist es, einen Baloncesto-Roboter zu betreten, der ihn bis zum letzten Detail eines konkreten Spielers nachahmt. Der Roboter war perfekt in den aufeinander folgenden Sequenzen, aber er musste vor neuen Spielen verkauft werden . Falta generalización fuera del guion.
In der Meteorologie beabsichtigte man, den Himmel allein mit der Temperatur aus nächster Nähe oder unter Druck zu erreichen. Diese Variablen können zu einer Unteranpassung führen : Das Modell aus der Stadt liegt nun unter der Messuhr.
Weil der Mensch „schlecht“ sein kann, weil er unter ihm ist
Hay un matiz teórico importante. Ein extrem niedrig eingestelltes Modell kann eine Konstante sein, ignorieren Sie die Eingabe: Sie haben einen Fehler und testen die Varianz der Zielvariable . In diesem Fall hat ein Modell so viel Spaß gemacht, dass die Interpolation aller Wettbewerbspunkte zwischen den Spielen zu kleinen Fehlern führen und den Fehler in einem Formtest mit potenziell ungünstiger Wirkung beheben kann.
Dies kann mit hochgradiger Politik oder auch mit MLP-Funktionen erfolgen: Jeder Punkt wird angepasst, zwischen Beobachtungen „oszilliert“ und dem Publikum absurde Werte verliehen. Das Ergebnis ist, dass die Verschlechterung des Leistungsniveaus während der Teilnahme nicht mehr klar ist.
Overfitting vs. Sobreparametrierung: Das ist kein Problem
Conviene diferenciar términos. Diese Parametrierung bedeutet, dass die Modellklasse über die nötige Kapazität verfügt, um die Struktur des Problems darzustellen. Eine Überanpassung tritt schon bald auf, da es sich um ein konkretes Modell handelt. Die Optimierung der Form ist die bessere im Wettbewerb als die Verallgemeinerung . Durch die ordnungsgemäße Regulierung ist es möglich, dass ein Modell so parametriert wurde, dass es nicht richtig war. Die Regulierungstechniken (z. B. Ridge oder Lasso) werden in den Konzepten „entfernt“.
Wie Sie die Einstellung bewerten und überwachen
Teilen Sie den Flujo in Eintritt, Validierung und Prüfung. Meine Genauigkeit, Fehler oder die Metrik, die ich in jedem Segment habe . Wenn die Prüfung noch nicht abgeschlossen ist, müssen Sie unbedingt darauf achten; Wenn dies nicht der Fall ist, ist die Kapazität oder die Daten wahrscheinlich verloren gegangen.
Die Kreuzvalidierung (k-fach) reduziert die Anzahl der gewonnenen Erkenntnisse aus einer einzigen Teilnahme. Wenn das Validierungsmedium stabil ist und die Lieferung zwischen den Anbietern noch nicht abgeschlossen ist , gibt es mehr Garantien, als das Modell verallgemeinert wird. Es muss auch eine endgültige Bewertungseinheit (Test) definiert werden, die nicht während der Einstellung der Parameter angezeigt werden muss.
Achten Sie außerdem darauf, dass die Daten rechtzeitig verteilt werden . Die Datendrift (Änderungen im Eingangsbereich) kann in ein unbrauchbares Modell umgewandelt werden, das die Funktion hat: Regelmäßige Überwachung und erneute Eingabe ist Teil des Empfangs, aber nicht ein Jahr später.
Techniken zur Reduzierung der Überanpassung
Daten und weitere Daten. Erweitern Sie die Lautstärke und die Vielfalt der Teilnehmer, bis das Modell zufällige Details entdeckt. Das ist mir am besten: Ausreißer entfernen, wenn Verzerrungen auftreten, und Fehler korrigieren, die Priorität haben.
Regularisierung. L1 (Lasso) bevorzugt die Auswahl der Merkmale, wenn der Peso auf Null geht; L2 (Grat) weist auf die Strafe hin , bei der die Pesos nicht ringförmig sind. Die Kombination von Elastic Net und vielen anderen ist ein guter mittelmäßiger Termin.
Architektur und Eintritt. Dropout in neuen Neuronalen wandelt Neuronen einfach um und vermeidet, dass das Modell von bestimmten Routen abhängig ist. In den Baumstämmen ist die Schnitttiefe begrenzt und die Anzahl der Hojas ist auf die Vollständigkeit beschränkt. Vorübergehend : Überwachen Sie die Validierungsfrist und warten Sie, bis die Gültigkeitsdauer überschritten ist.
Validierung und Auswahl. k-fache Kreuzvalidierung, um Anpassungsentscheidungen zu validieren und zu vermeiden, dass das „beste“ Modell allein für die Zukunft verloren geht. Reduzieren Sie die Anzahl der Variablen und erhöhen Sie dadurch die Variabilität und die Interpretierbarkeit.
Optimierung und Lots. Viele kleine Leute haben im Laufe der Zeit „saludable“ eingeführt , weil sie eine bessere Verallgemeinerung haben; Viele Giganten können die Entscheidung treffen, indem sie Optimierungsstrategien verfolgen, die den Eintrittspreis genau bestimmen.
Techniken zur Reduzierung der Unteranpassung
Kapazität des Modells. Die Komplexität muss berücksichtigt werden, wenn die benötigten Daten vorhanden sind (lineare Linien, tiefgründigere Pfeile, weniger oberflächliche Zeichen). Der Schlüssel ist nicht frenada und begleitet von soliden Validierungen.
Regularisierung und Zeit. Wenn es zu einer übermäßigen Bestrafung kommt, muss erst die Regulierung erfolgen, damit das Modell nicht mehr eingeatmet werden kann . Erweitern Sie die Anzahl der Epochen: Je mehr das Modell benötigt, desto mehr Zeit müssen Sie aufwenden , um ein Auge auf die Validierung zu werfen, damit Sie es nicht brauchen.
Merkmale und Vorbereitung. Erweiterte und bessere Eigenschaften (Interaktionen, politische Termine, zusätzliche Codes für Variablenkategorien). Normalisierung oder Standardisierung, damit der Algorithmus keine „bevorzugten“ Variablen durch Erweitern erhält. In vielen Fällen filtern Sie den gewünschten Nutzen.
Daten und Cobertura. Weitere repräsentative Daten verringern die Wahrscheinlichkeit, dass sie weitergegeben werden . Wenn das so ist, übertragen Sie das Lernen auf Sicht auf NLP, um sich in Ihren Vorbereitungen zurechtzufinden und ein Modell zu vermeiden, das „nicht vereinbart“ werden muss.
Datenqualität, Drift und Automatisierung
Die Qualität der Daten ist manda. Genauigkeit, Vollständigkeit und Konsistenz müssen sorgfältig überprüft und mit allen möglichen Fehlern kombiniert werden. Techniken wie Normalisierung (0-1) oder Standardisierung (Mittel 0, Abweichung 1) verhindern, dass das Modell der Primvariablen durch die Skala verändert wird.
Mit der Zeit, los kambianische Daten. Die Datendrift kann im neuen Kontext sowohl eine Überanpassung als auch eine Unteranpassung verursachen . Der Empfang: Überwachen Sie die Messdaten, prüfen Sie die Vertriebsstellen und treten Sie regelmäßig mit aktualisierten Daten ein.
AutoML -Herren können die Auswahl von Parametern, die Genialität von Merkmalen und die Erstellung von Bewertungspipelines beschleunigen und die Analyse auf hoher Ebene beschleunigen. Ein historischer Grund: Der Amazon Machine Learning-Service wird nicht aktualisiert und nimmt keine neuen Benutzer an . Wenn Sie mit der Antigua-Dokumentation arbeiten, werden Sie sie nicht präsentieren.
Señales clave y reglas de pulgar
In der täglichen Praxis sind viele Mitarbeiter gleich: Sie müssen wissen, ob das Modell so weit ist, oder ob Sie einfach nur kurz vor dem Training stehen . Mit der Erfahrung werden Sie drei Dinge erleben: große Lücken zwischen Zug und Prüfung (genaue Angaben), konsistente Ergebnisse in nur wenigen Schritten (zusätzliche Angaben) und große Variationen zwischen den Falten (genaue Angaben zum Handbuch).
Bitte geben Sie keine Informationen über die Bonitas im Wettbewerb an. Eine Sperrkurve, die nicht in den Zug gelangen kann, obwohl der Arbeitgeber eine Bestätigung erhalten hat, wird von der MEMORIZACIÓN empfohlen . Wenn dies der Fall ist, müssen Sie die Zeitspanne einhalten und die Anwendung regulieren.
Zusammengefasst, Auswahl der Merkmale und Anzahl der Lots
Die Verbindungsmethoden sind ayudan. Absacken (wie Random Forest) reduziert die Varianz und stellt ein gutes Gegenmittel gegen die Umwelt dar; Boosting (wie XGBoost) reduziert den Sitzungszeitraum und kann leicht zugängliche Modelle ermöglichen, aber Sie müssen wissen, was Sie nicht wissen müssen.
Durch die Auswahl der Merkmale werden redundante oder irrelevante Variablen entfernt, der Aufwand verringert und die Generalisierung verbessert. Es gibt eine der wirksamsten Abhilfemaßnahmen, sobald das Problem durch unnötige Eingaben behoben wird.
Über den Lot-Tamaño, den Sie unterstellt haben: Kleine Lots wurden in den Farbverlauf eingeführt, der sich am besten verallgemeinern lässt ; Es gibt viele großartige Lösungen, mit denen Sie den Wettbewerb abschließen können, bevor Sie einen Test durchführen.
Wählen Sie den Algorithmus: Empieza sencillo, escala cuando toque
Abhängig vom Problem und den Daten sind die Unterschiede in der Familie brillanter. Wenn es klar ist, können SVM oder Bäume in Maravilla einsteigen . Zusammen mit großen und komplexen, tiefgreifenden Reden oder Ensembles mit dem Potenzial aktueller Flexibilität. Modelle, die als lineare Regression für k-NN gelten, werden mit bescheidenen Datensätzen verwendet, sobald die Interpretierbarkeit erreicht ist.
Eine wirksame Strategie besteht darin, einfache und komplexe Versionen parallel mit einer guten Validierungsmethode zu vergleichen. Immer dann, wenn der Komplex geöffnet ist, ist er sehr zerbrechlich. Es ist nicht erforderlich, dass das Modell „komplizierter“ wird, da es in der Welt am einfachsten ist.
Fälle von Gebrauch und Konsequenzen im Geschäft
Aus gesundheitlichen Gründen muss ein Riesgo-Vorhersager mehr für ein Krankenhaus oder eine bestimmte Kohorte verallgemeinern. Sobreajustar a patrones locales puede ser peligroso ; subajustar, inútil. In der Finanzwelt sind Modelle, die sich an historische Ereignisse erinnern, überliefert und in die Zukunft gerückt.
In autonomen Fahrzeugen müssen die Erkennungssysteme Objekte in unterschiedlichen Umgebungen ausfindig machen ; Merken Sie sich konkrete Bilder, die nicht angezeigt werden. Im NLP gibt es bei einem Gefühlsanalysator in den Trainingsphasen „Karriere“ keine neuen Formeln.
Auf der Ebene des Verhandlungsgeschehens war es so, dass das Unternehmen falsche Positivmeldungen (z. B. Betrügereien) oder Strategien einreichte , die eine interne Validierung vorsahen, die jedoch zum Scheitern verurteilt war . Unterm Strich ergeben sich aus eigener Erfahrung Vorhersagen , die über triviale Dinge hinausgehen, ohne das Vertrauen in die Datenausrüstung zu verlieren.
Preguntas Frecuentes y matices prácticos
Was ist mit der Auswahl der Merkmale, die Sie vermeiden möchten? Um Ruido und Redundanzen zu vermeiden, wird die Varianz verringert und die Generalisierung verbessert . Es besteht die Möglichkeit, dass die wichtigsten Informationen über irrelevante Informationen vorliegen.
¿Los Ensembles reduzieren Ambos-Probleme? Das Absacken erfolgt zu einer höheren Stufe (weniger als 100 %) und die Steigerung zu einer durchschnittlichen Stufe (zu gering). Bien ajustados, son herramientas muy potentes.
Warum sind die tiefgreifenden Reden einfach mit Leichtigkeit zu verstehen? Aufgrund seiner enormen Kapazität. Regularisierung, Ausstieg und weitere Daten/Ergänzungen sind unerlässlich, um Ehrlichkeit zu wahren.
¿El tamaño de lote influye? Si. Es wurden viele kleine Menschen eingeführt, die der Generalisierung Vorschub leisten; Große Mengen können mit mehr Leichtigkeit „auswendig gelernt“ werden.
¿Ayuda-Lernen übertragen? Mucho. Überprüfen Sie die Darstellung Ihrer Daten und reduzieren Sie gleichzeitig die Kapazitätsauslastung (effektive Kapazitätsreduzierung) durch die Bereitstellung kleinerer Datensätze.
Checklist accionable rápido
Um mit einer praktischen Aufzeichnung zu beginnen, müssen Sie einen großen Gap-Zug/Test durchführen, in die Regel einsteigen, weniger Abschluss, mehr Daten, vorzeitiges Anhalten , Ausstieg , Poda-en-Arboles, und mit K-Faltung validieren. Wenn Sie nicht trainieren und testen , berücksichtigen Sie mehr Kapazität, mehr Zeiträume, eine bessere Regelmäßigkeit , bessere Eigenschaften und angemessene Vorbereitungen (normalisieren/standardisieren).
Und der Bediener muss nicht darauf achten, die Drift zu überwachen , erneute Eingaben zu planen, die Datenqualität zu überprüfen und sich dann in AutoML zu engagieren, um die mechanischen Teile von Hyperparameter-Bussen und Auswertungspipelines zu automatisieren.
Dieses Thema bestand aus dem Gleichgewicht: Erobere den Señal, ohne ihn zu verfolgen . Sobald diese Waage vorhanden ist, funktioniert das Modell innerhalb und außerhalb des Labors. Wenn du tobst, llegan los sustos. Nachdem Sie die Señales ermittelt haben, wenden Sie sich an die entsprechenden Techniker und achten Sie auf die Daten, die den Unterschied zwischen „Quest Corre“ und „Quest Aporta Valor“ bedeuten.
