BERT (Künstliche Intelligenz)

Was ist BERT?

BERT (abgekürzt von Bidirektionale Encoder-Darstellungen von Transformatoren) ist ein Modell der künstlichen Intelligenz und ein Algorithmus des maschinellen Lernens, der von Google verwendet wird, um die Suchabsicht zu verstehen.

Google hat BERT als Open Source Projekt im Jahr 2018. Vor BERT ermittelte Google die Suchabsicht, indem es die Keywords in der Abfrage analysierte. Mit BERT setzt Google auf Technologie Verarbeitung natürlicher Sprache (NLP).

Anstatt nur die Keywords aus der Abfrage mit den Keywords auf den Ergebnisseiten zu vergleichen, erkennt BERT Keywords in der Abfrage und analysiert Kontext in dem sie verwendet wurden. Auf diese Weise kann Google besser verstehen, wonach der Nutzer tatsächlich sucht, und ihm relevantere Ergebnisse zeigen.

BERT ist keine generative KI wie ChatGPT oder Gemini. Er ist Sprachverständnismodell, die für Aufgaben wie das Klassifizieren von Text, das Beantworten von Fragen und das Erkennen von Entitätsnamen bestimmt sind. BERT lernt, indem es vorhandenen Text analysiert und versteckte Wörter in Sätzen antizipiert, anstatt neue Inhalte zu erstellen.

Generative Modelle wie GPT erzeugen neuen Text – Sätze, Absätze oder ganze Dokumente. Im Gegensatz dazu ist BERT spezialisiert auf Analyse und Verständnis des bestehenden Textes, Nicht für seine Generation.

Wie unterscheidet sich BERT von anderen KI-Modellen?

Als es veröffentlicht wurde, war BERT einzigartig, weil es verstehen konnte, Kontext in dem ein Wort verwendet wird.

Andere KI-Modelle konnten dann nur die kommenden Wörter vorhersagen nach einige Wörter oder Wortgruppen – sie waren einseitig (von links nach rechts).

BERT kann jedoch die kommenden Worte vorhersagen Vorher und Nachher Ein paar Worte. Das ist der Grund, warum er bidirektionale – den Text in beide Richtungen analysieren: von links nach rechts und von rechts nach links.

So funktioniert BERT

Klassische Modelle des maschinellen Lernens wandeln Wörter in Zahlen (sogenannte Vektoren) um. Ein Modell wie word2vec würde den gleichen Vektor für das Wort verwenden Stuhl In beiden Sätzen, ohne unterschiedliche Bedeutungen.

BERT verwendet jedoch verschiedene Vektoren Weil er versteht, dass das Wort in verschiedenen Kontexten verwendet wird. Mit anderen Worten, sie werden als zwei verschiedene Wörter behandelt, obwohl sie gleich geschrieben sind. Dadurch kann er genauer vorhersagen, welche Wörter in einem Satz erscheinen sollen.

Eine der wichtigsten Möglichkeiten, BERT zu trainieren, ist die Verwendung von Maskierte Wörter. Dies sind Wörter, die während des Trainings bewusst versteckt werden.

Bei der Suche erkennt BERT zunächst Die wichtigsten Wörter in der Abfrage, Analysiert dann die Wörter um sie herum, um ihren Kontext zu verstehen. Das ist der Grund, warum es die reale Absicht zu suchen.

Wie BERT die Google-Suchergebnisse verbessert

Google nutzt BERT, um besser zu verstehen Was der Nutzer wirklich will. Dies ist besonders nützlich für Konversationsabfragen, Long-Tail-Abfragen und Abfragen, die wichtige Vorschläge wie „für“ und „an“ enthalten, da sie oft eine Schlüsselbedeutung haben.