Lernen Sie Metas Shepherd AI kennen, die Leit-KI, die LLMs korrigiert

Es ist an der Zeit, von der Berichterstattung über die KI-Durchbrüche von Microsoft einen Schritt zurückzutreten und einen Blick auf eines der Modelle zu werfen, an denen der jüngste Partner Meta gearbeitet hat.

Das Facebook-Unternehmen hat die Forschung zu KI auch selbst finanziert, und das Ergebnis ist ein KI-Modell, das in der Lage ist, große Sprachmodelle (LLMs) zu korrigieren und sie bei der Bereitstellung der richtigen Antworten anzuleiten.

Das Team hinter dem Projekt nannte das Modell suggestiv „Shepherd AI“ und das Modell wurde entwickelt, um die Fehler zu beheben, die LLMs machen können, wenn sie mit der Erfüllung bestimmter Aufgaben beauftragt werden.

In dieser Arbeit stellen wir Shepherd vor, ein Sprachmodell, das speziell darauf abgestimmt ist, Modellreaktionen zu kritisieren und Verfeinerungen vorzuschlagen. Es geht über die Fähigkeiten eines nicht abgestimmten Modells hinaus, verschiedene Fehler zu identifizieren und Vorschläge zu deren Behebung zu liefern. Im Mittelpunkt unseres Ansatzes steht ein hochwertiger Feedback-Datensatz, den wir aus Community-Feedback und menschlichen Anmerkungen kuratieren.

Meta-KI-Forschung, FAIR

Wie Sie vielleicht wissen, hat Meta vor einigen Wochen seine LLMs, Llama 2, in einer Partnerschaft mit Microsoft veröffentlicht. Llama 2 ist ein atemberaubendes Open-Source-Modell mit 70 Milliarden Parametern , das Microsoft und Meta an Benutzer und Organisationen kommerzialisieren wollen, um ihre internen KI-Tools zu entwickeln.

Aber KI ist noch nicht perfekt. Und viele seiner Lösungen scheinen nicht immer richtig zu sein. Laut Meta AI Research ist Shepherd hier, um diese Probleme anzugehen, indem er sie korrigiert und Lösungen vorschlägt.

Shepherd AI ist ein informeller, natürlicher KI-Lehrer

Wir alle wissen, dass Bing Chat beispielsweise dazu neigt, bestimmten Mustern zu folgen: Das Tool kann kreativ sein , es kann aber auch seine Kreativität einschränken . Wenn es um berufliche Angelegenheiten geht, kann Bing AI auch eine seriöse Haltung einnehmen.

Es scheint jedoch, dass Metas Shepherd AI als informeller KI-Lehrer für die anderen LLMs fungiert. Das mit 7B-Parametern deutlich kleinere Modell hat einen natürlichen und informellen Tonfall bei Korrekturen und Lösungsvorschlägen.

Dies alles war dank einer Vielzahl von Schulungsquellen möglich, darunter:

• Community-Feedback: Shepherd AI wurde mit kuratierten Inhalten aus Online-Foren (insbesondere Reddit-Foren) trainiert, was natürliche Eingaben ermöglicht.
• Von Menschen kommentierter Input: Shepherd AI wurde auch auf einer Reihe ausgewählter öffentlicher Datenbanken trainiert, was seine organisierten und sachlichen Korrekturen ermöglicht.

Shepherd AI ist durchaus in der Lage, trotz seiner relativ kleinen Infrastruktur eine bessere Sachkorrektur zu liefern als beispielsweise ChatGPT. FAIR und Meta AI Research haben herausgefunden, dass das KI-Tool mit einer durchschnittlichen Gewinnrate von 53–87 % bessere Ergebnisse liefert als die meisten seiner Konkurrenzalternativen . Darüber hinaus kann Shepherd AI genaue Beurteilungen aller Arten von LLM-generierten Inhalten vornehmen.

Derzeit handelt es sich bei Shepherd um ein neuartiges KI-Modell, aber je mehr Forschung daran betrieben wird, desto wahrscheinlicher wird das Modell in Zukunft als Open-Source-Projekt veröffentlicht.

Freust du dich darüber? Würden Sie damit Ihr eigenes KI-Modell korrigieren? Was denkst du darüber?