WiMi entwickelte eine innovative Technologie: Aufmerksamkeits-Autoencoder-Netzwerk für effizientes Empfehlungssystem

BEIJING, 29. August 2023 – WiMi Hologram Cloud Inc. (NASDAQ: WIMI) (“WiMi” oder das “Unternehmen”), ein führender globaler Anbieter von Hologramm-Augmented-Reality-(“AR”)-Technologie, kündigte heute an, dass es eine innovative Technologie entwickelt hat: ein aufmerksamkeitsgesteuertes Autoencoder-Netzwerk für effiziente Empfehlungssysteme, das Empfehlungssysteme auf ein höheres Niveau an Genauigkeit, Effizienz und Benutzerfreundlichkeit bringt.

WiMi war schon immer bestrebt, die Empfehlungstechnologie voranzutreiben, und dieser jüngste technologische Durchbruch wird den Nutzern genauere und persönlichere Empfehlungsdienste bieten. Die neue Technologie verwendet ein Autoencoder-Netzwerk und führt einen Aufmerksamkeitsmechanismus ein, um die Herausforderungen unzureichender Daten, des Cold Starts und der Informationsüberlastung zu bewältigen, die in herkömmlichen Empfehlungssystemen bestehen.

In früheren Forschungen sehen sich Empfehlungssysteme mit unzureichenden Daten und Cold-Start-Problemen konfrontiert. Mit unzureichenden Daten ist WiMis aufmerksamkeitsgesteuertes Autoencoder-Netzwerk in der Lage, genauere Empfehlungen bei unzureichenden Daten zu erzielen, indem es die Attributinformationen von Nutzern und Artikeln lernt und automatisch die Funktionen extrahiert, die bei den Empfehlungsergebnissen eine wichtige Rolle spielen. Beim Cold-Start-Problem ist WiMis Technologie in der Lage, personalisierte Empfehlungen ohne ausreichende historische Daten des Nutzers zu geben, indem es die Attributinformationen des Nutzers und des Artikels fusioniert, um eine bessere Empfehlungserfahrung für neue Nutzer zu bieten.

Zusätzlich zum Umgang mit dem Problem der Informationsüberlastung kombiniert WiMis aufmerksamkeitsgesteuertes Autoencoder-Netzwerk Nutzer- und Artikelattributinformationen, um die Interessen und Bedürfnisse der Nutzer besser zu verstehen und einen persönlicheren und genaueren Empfehlungsservice zu bieten, um Nutzern zu helfen, Inhalte zu filtern und darauf zuzugreifen, die sie wirklich interessieren.

Unzureichende Datenprobleme: In Empfehlungssystemen bewerten Nutzer nur eine kleine Anzahl von Artikeln, während die meisten Artikel kein Feedback haben. Dies erschwert die Erzielung zufriedenstellender Empfehlungsdienste. Diese Technik löst das Problem, indem sie die Attributinformationen der Nutzer verwendet, um die Genauigkeit und Abdeckung von Empfehlungen zu verbessern.

Cold-Start-Problem: Cold Start bezieht sich auf den Mangel an ausreichenden Daten, um genaue Empfehlungen für neue Nutzer oder neue Programme zu geben. In einer Cold-Start-Situation können traditionelle kollaborative Filtermethoden keine effektiven Empfehlungen geben. Diese Technik überwindet das Cold-Start-Problem, indem sie die Attributinformationen des Nutzers einführt, was personalisierte Empfehlungen in der Cold-Start-Situation ermöglicht.

Informationsüberlastungsproblem: Mit der rasanten Entwicklung der Informationstechnologie sind Menschen mit einer großen Menge an Informationen konfrontiert, was leicht in das Dilemma der Informationsüberlastung führen kann. Traditionelle Empfehlungssysteme neigen dazu, Empfehlungen nur auf der Grundlage des Nutzerverhaltens zu geben, ohne die personalisierten Bedürfnisse und Präferenzen des Nutzers zu berücksichtigen. Diese Technologie verwendet die Attributinformationen des Nutzers, um die Interessen und Bedürfnisse des Nutzers besser zu verstehen, und bietet damit personalisiertere Empfehlungsdienste an, um das Problem der Informationsüberlastung zu lindern.

Der Kern der Innovation von WiMis Entwicklung dieser Technologie ist die Einführung des Aufmerksamkeitsmechanismus, der es dem Modell ermöglicht, automatisch die Wichtigkeit der Attributinformationen von Nutzern und Projekten zu erlernen und das Gewicht der Attributinformationen dynamisch an unterschiedliche Anwendungsszenarien anzupassen. Auf diese Weise kann sich WiMis Technologie flexibler an die Unterschiede zwischen verschiedenen Nutzern und Projekten anpassen und effizientere Empfehlungsdienste bereitstellen.

WiMis aufmerksamkeitsgesteuertes Autoencoder-Netzwerk ist ein technischer Rahmen für effiziente Empfehlungssysteme, der Autoencoder und Aufmerksamkeitsmechanismen kombiniert, um die Genauigkeit und Effizienz von Empfehlungen zu verbessern. Sein technischer Rahmen umfasst Daten-Vorverarbeitung, Autoencoder-Netzwerk, Nutzer- und Artikel-Merkmalsextraktion, Aufmerksamkeitsmechanismus, Empfehlungsberechnung und -auswertung, Modelltraining und -optimierung, Hyperparameterauswahl und -abstimmung.

Datenvorverarbeitung: Rohdaten müssen vorverarbeitet werden, bevor das aufmerksamkeitsgesteuerte Autoencoder-Netzwerk verwendet wird. Dazu gehören Schritte wie Datenverarbeitung, Merkmalsextraktion und Datennormalisierung. Die Datenverarbeitung entfernt Rauschen und Ausreißer, die Merkmalsextraktion extrahiert nützliche Attributinformationen aus den Rohdaten, und die Datennormalisierung skaliert die Werte verschiedener Merkmale auf denselben Bereich zur Stabilität beim Modelltraining und bei der Empfehlungsberechnung.

Autoencoder-Netzwerke: Der Kern des aufmerksamkeitsgesteuerten Autoencoder-Netzwerks ist der Autoencoder. Ein Autoencoder ist eine neuronale Netzwerkstruktur, die aus einem Encoder und einem Decoder besteht. Der Encoder wandelt die Eingabedaten in eine niedrigdimensionale Darstellung um, und der Decoder rekonstruiert die niedrigdimensionale Darstellung in die Eingabedaten. Das Ziel des Autoencoders ist es, den Rekonstruktionsfehler zu minimieren, so dass die rekonstruierten Daten so ähnlich wie möglich zu den Originaldaten sind.

Nutzer- und Artikel-Merkmalsextraktion: Das aufmerksamkeitsgesteuerte Autoencoder-Netzwerk nutzt Attributinformationen von Nutzern und Artikeln, um Merkmale zu extrahieren. Für Nutzer können Attribute wie persönliche Informationen, Verhalten und Präferenzen des Nutzers als Eingabe verwendet werden. Für Artikel können Attribute wie Kategorien, Bezeichnungen, Beschreibungen und Inhaltsmerkmale von Artikeln als Eingabe verwendet werden. Indem die Attributinformationen von Nutzern und Artikeln in den Encoder-Teil des Autoencoder-Netzwerks eingegeben werden, können niedrigdimensionale Darstellungen von Nutzern und Artikeln, d.h. Nutzermerkmale und Artikelfeatures, erhalten werden.

Aufmerksamkeitsmechanismus: Nachdem die Nutzermerkmale und Artikelfeatures erhalten wurden, wird der Aufmerksamkeitsmechanismus eingeführt, um automatisch die Wichtigkeit der Nutzer- und Artikelattributinformationen zu erlernen. Indem den verschiedenen Attributinformationen unterschiedliche Gewichte zugewiesen werden, ermöglicht der Aufmerksamkeitsmechanismus dem Modell, sich auf die Attribute zu konzentrieren, die für die Empfehlungsergebnisse von entscheidender Bedeutung sind. Aufmerksamkeitsgewichte können durch Lernen erhalten werden oder basierend auf Domänenwissen festgelegt werden. Durch die Einführung des Aufmerksamkeitsmechanismus können die Qualität und Personalisierung der Empfehlungsergebnisse verbessert werden.

Empfehlungsberechnung und -auswertung: Nach dem Training kann das aufmerksamkeitsgesteuerte Autoencoder-Netzwerk die Empfehlungsberechnung auf der Grundlage von Nutzer- und Artikelfeatures durchführen. Die generierten Nutzer- und Artikelfeatures werden in der Regel verwendet, um die Bewertung oder Wahrscheinlichkeit des Nutzers für den Artikel zu berechnen. Die Empfehlungsergebnisse können basierend auf den Bewertungen oder Wahrscheinlichkeiten sortiert werden, um dem Nutzer eine personalisierte Liste mit Empfehlungen zu bieten. Um die Wirksamkeit von Empfehlungen zu bewerten, kann die Qualität der Empfehlungsergebnisse mithilfe von Bewertungsbenchmarks wie Genauigkeit, Recall und mittlere durchschnittliche Präzision (MAP) gemessen werden.

Modelltraining und -optimierung: Der Trainingsprozess des aufmerksamkeitsgesteuerten Autoencoder-Netzwerks beinhaltet die Minimierung des Empfehlungsfehlers. Optimierungsalgorithmen wie Backpropagation-Algorithmus und Gradientenabstieg werden in der Regel verwendet, um die Gewichte und Parameter des Modells zu aktualisieren. Während des Trainingsprozesses kann der Trainingsdatensatz zur Aktualisierung der Modellparameter verwendet werden, und der Validierungsdatensatz kann zur Modellabstimmung und -auswahl verwendet werden. Durch den iterativen Trainings- und Optimierungsprozess kann das aufmerksamkeitsgesteuerte Autoencoder-Netzwerk die Genauigkeit und Effizienz von Empfehlungen kontinuierlich verbessern.

Hyperparameterauswahl und -abstimmung: Aufmerksamkeitsgesteuerte Autoencoder-Netzwerke beinhalten auch die Auswahl und Abstimmung einiger Hyperparameter. Zum Beispiel die Anzahl der Schichten und Knoten des Autoencoder-Netzwerks, die Art und Parameter des Aufmerksamkeitsmechanismus, die Lernrate und den Regularisierungsterm des Optimierungsalgorithmus. Die Wahl der richtigen Hyperparameter kann einen wichtigen Einfluss auf die Leistung des Modells und die Empfehlungsergebnisse haben, so dass Experimente und Validierung erforderlich sind, um die optimalen Hyperparametereinstellungen zu bestimmen.

Das aufmerksamkeitsgesteuerte Autoencoder-Netzwerk ist ein technischer Rahmen für effiziente Empfehlungssysteme, der Merkmale aus den Attributinformationen von Nutzern und Artikeln extrahieren und Empfehlungsberechnungen auf der Grundlage von Wichtungsgewichtungen durchführen kann, indem Autoencoder und Aufmerksamkeitsmechanismen kombiniert werden. Die wichtigsten Schritte dieses Rahmens umfassen die Datenvorverarbeitung, den Aufbau eines Autoencoder-Netzwerks, die Nutzer- und Artikel-Merkmalsextraktion, die Einführung des Aufmerksamkeitsmechanismus, die Empfehlungsberechnung und -auswertung. Durch den Trainings- und Optimierungsprozess kann das aufmerksamkeitsgesteuerte Autoencoder-Netzwerk die Genauigkeit, Effizienz und Personalisierung des Empfehlungssystems verbessern und den Nutzern einen besseren Empfehlungsservice bieten.