„Next-Video“

Model Card



17.06.2024


Die Model Card beschreibt sowohl den fachlichen Anwendungsfall als auch seine technische Implementierung. Model Cards dienen vor allem der Transparenz für Entwickler:innen, Redakteur:innen und für Nutzer:innen der ZDFmediathek.

Zielsetzung

Der Nutzer:in soll zum gerade gesehenen Video ein passendes nächstes Video empfohlen werden.

Inhalte und Regeln

Algorithmen greifen bei der Empfehlung von Inhalten nicht auf alle Inhalte zurück, die in der ZDF Mediathek vorhanden sind oder von der Nutzer:in gesehen wurden. Je nach Einsatzort und Ziel eignen sich bestimmte Inhalte besser oder schlechter. Die Teilmenge an Inhalten, auf die ein Algorithmus bei der Ausspielung zurückgreifen darf, ist pro Anwendungsfall über Regeln in Abstimmung mit der ZDF Redaktion bestimmt. Im Folgenden sind die Details gelistet.

Alle ZDF-Video-Inhalte, die abspielbar und verfügbar sind. Davon ausgeschlossen:

  • ZDFinternational
  • The European Collection
  • logo!

Hier erklären wir, welche publizistischen Regeln für die Ausspielung der Empfehlung gelten.

Es werden zwei Fälle unterschieden:

  • (1) Next-Episode: Zeigt das nächste Video einer Serie an. Wenn keine nächste Episode vorhanden ist, wird (2) reguläres Next-Video ausgespielt.
  • (2) Reguläres Next-Video: Zeigt einen passenden nächsten Inhalt bei nicht-seriellen Inhalten oder bei seriellen Inhalten ohne eine folgende Episode an.

    • Filter:

      • Empfehlungen für ZDFtivi-Beiträge dürfen nur andere Kinder-Inhalte sein
      • Empfehlungen für Dokus & Reportagen dürfen nur andere Dokus & Reportagen sein
      • Empfehlungen für serielle Inhalte dürfen nicht dieselbe Serie empfehlen
      • Empfehlungen von seriellen Inhalten dürfen nur erste Folgen sein (S01E01 oder erste Episode der letzten Staffel)
    • Eine Empfehlung wird aktiv ausgeblendet, wenn:

      • Keine reguläres Next-Video möglich ist
      • Für Beiträge aus /nachrichten'
      • Reguläre Next-Video Empfehlungen ausschließlich serielle Inhalte ohne erste Folge beinhalten
      • nur bereits gesehenen Beiträge empfohlen werden

Metadaten

Pro Anwendungsfall kann sich wesentlich unterscheiden, welche Metadaten Algorithmen für die Berechnung verwenden. Metadaten beschreiben zum Beispiel den Inhalt, die Umgebung oder den Kontext, in dem sich die Nutzer:in zum Zeitpunkt der Empfehlung befindet. Mit Metadaten werden wichtige Fragen bezüglich des Anwendungsfalls und jeweiliger Nutzer:in beantwortet, z.B.: "Welche Empfehlungen werden abhängig von der Nutzerhistorie, dem Login-Status und der Präferenzen für welche Personengruppen ausgespielt? Welchen Inhalt haben Nutzer:innen vorher geschaut? Welcher Inhalt passt als nächstes am besten?"

Welche Nutzer:innen-Gruppen werden durch diesen Anwendungsfall bedient?

  • Nutzer:innen mit und ohne Login werden gleichermaßen bedient

Wir verwenden verschiedene weitere Parameter, die sich aus der Umgebung der Nutzer:in ergeben, um eine passgenaue Empfehlung zu erzeugen. Wie zu Beispiel von welchem Abspielgerät oder Startpunkt in der ZDFmediathek die Anfrage kommt.

Algorithmus

Ein Algorithmus ist eine Anzahl vorgegebener Schritte, die ein Computer durchführen soll, um zu einem Ergebnis zu erlangen. Pro Empfehlungsband in der Mediathek verwenden wir unterschiedliche Algorithmen, um die verschiedenen Ziele der Anwendungsfälle bestmöglich abzubilden. Welches Modell wird genutzt? Wie und mit welchen Daten wird es trainiert? Gibt es Einschränkungen oder Bias? Antworten auf solche Fragen findest Du weiter unten.

Machine Learning Algorithmen werden mit Hilfe von verschiedenen Daten trainiert. Das Ergebnis dieses Trainings ist ein Modell. Hier kann es je nach Anwendungsfall zu wesentlichen Unterschieden kommen, die auch eine Auswirkung auf das Ergebnis haben.

Basis-Algorithmus. Um unsere Modelle zu trainieren, verwenden wir Algorithmen, die auf Erkenntnissen der Wissenschaft basieren. Folgende Basis-Algorithmen und Quellen haben wir hier verwendet:

Sequence Base Recommendation (nur für personalisiertes Next-Video):

Postprocessing. Nachdem ein Algorithmus eine Empfehlung ausgesprochen hat, müssen wir daraufhin wieder Regeln anwenden, um das Ergebnis noch zu verbessern:

  • Bereits von der Nutzer:in gesehene Videos werden nicht mehr angezeigt

Machine Learning Algorithmen brauchen einen genau festgelegten Satz an Daten, anhand derer sie Muster lernen, um Empfehlungen aussprechen zu können. Folgende Daten werden in diesem Anwendungsfall verwendet:

Nutzungsdaten:

  • (1) Next-Episode (serielle Stoffe):
    • kein Training
  • (2) Reguläres Next-Video kombiniert nutzungsbasierte und ähnlichkeitsbasierte Empfehlungen:
    • 30 Tage (ZDFtracking, alle Nutzer:innen), pro Geräteklasse
    • nur Plays mit mindestens 35% Nutzung des Videos
    • Denoising (Videos mindestens 20x gesehen über alle Nutzer:innen hinweg)

Metadaten:

  • aus redaktionellem Content Management System (zur Filterung von Inhalten)

Bias (qualitativ):

  • Neuheit / recency (nur letzte 30 Tage Nutzungsdaten)
  • Beliebtheit / popularity (30 Tage Nutzungsdaten, keine ungenutzten Inhalte, Denoising)
  • Exposition / exposure (nur genutzte Inhalte)

Beim Abruf von Empfehlungen aus der ZDFmediathek, sendet die Mediathek verschiedene Daten über die Nutzer:in mit. Bevor eine Empfehlung ausgesprochen wird, muss entschieden werden, welche der Daten für die Berechnung der Empfehlung überhaupt relevant sind. Im Folgenden sind die wichtigsten davon gelistet:

Nutzungshistorie: Bei der personalisierten Empfehlung werden die folgenden Ergebnisse aus der Nutzungshistorie in hierarchisch absteigender Folge berücksichtigt:

  • Alle Sichtungen mit mehr als 30 Sekunden Abspielfortschritt
  • Wenn dies zu leeren Sichtungen führen würde: alle Sichtungen ohne Filterung
  • Wenn Sichtungen insgesamt leer sind: alle Klicks
  • Wenn keine Historie mitgeschickt wird: Neueste Episode jeder gemerkten Sendung als Historie

Angebotsseite:

  • Ausgangsbeitrag

Geräteklasse:

  • z.B: TV / Smartphone

Wie gut ein Model ist, wird durch kontinuierliche Tests bestimmt. Je nach Model kann es auch Unterschiede geben, wie häufig dieses aktualisiert wird und ob Ergebnisse von Tests automatisch in die Weiterentwicklung des Models einfließen.

Weiterentwicklung:

  • Sequence Model: reines Offline-Training, alle 4 Stunden, Bereitstellung des trainierten Modells unmittelbar nach dem Training

Tests:

  • Analyse möglicher Bias
  • Kontinuerliche A/B-Tests zum Monitoring, jedoch...
  • kein automatisches Machine Learning nach A/B-Tests
  • keine automatische Hyperparameter-Optimierung

Key Performance Indicators (KPI's)

Algorithmen müssen so geschrieben werden, dass sie ein Ziel erreichen können. Um Ziele überprüfen zu können, müssen diese messbar sein. Messbare Ziele nennt man im Allgemeinen Key Performance Indikatoren oder in unserem Fall auch Metriken. Welche Testgrößen gibt es, um den Algorithmus / Anwendungsfall zu bewerten und zu optimieren? Lies weiter und finde es heraus!

Das Sehvolumen ist eine wichtige KPI für den Anwendungsfall „Next-Video“. Damit messen wir, wie erfolgreich die ausgespielten Empfehlungen bei den Nutzer:innen sind.

Hinweise allgemein / Known Issues

Hier dokumentieren wir Probleme und sonstige Informationen zu jedem Anwendungsfall, die wissenswert sind und nicht in eine der anderen Kategorien passen. Für den Anwendungsfall „Next-Video“ gilt Folgendes:

  • (1) Next-Episode: extrem abhängig von Qualität der Serieninformationen in Metadaten
  • (2) Reguläres Next-Video: Suche nach erster Folge bei Empfehlung serieller Inhalte kann lange dauern und damit zum Ausblenden führen