Poznaj Meta’s Shepherd AI, sztuczną inteligencję przewodnika, która koryguje LLM

Nadszedł czas, aby cofnąć się o krok od opisywania przełomowych odkryć Microsoftu w zakresie sztucznej inteligencji , aby przyjrzeć się jednemu z modeli, nad którym pracował jego niedawny partner, firma Meta.

Firma Facebook również sama finansuje badania nad sztuczną inteligencją, a rezultatem jest model sztucznej inteligencji, który jest w stanie poprawić duże modele językowe (LLM) i poprowadzić je do udzielania poprawnych odpowiedzi.

Zespół stojący za projektem sugestywnie nazwał model Shepherd AI , a model został zbudowany w celu uwzględnienia błędów, które LLM mogą popełnić, gdy zostaną poproszone o wykonanie określonych zadań.

W tej pracy przedstawiamy Shepherd, model językowy specjalnie dostrojony do krytyki odpowiedzi modelu i sugerowania udoskonaleń, wykraczający poza możliwości niedostrojonego modelu do identyfikowania różnych błędów i dostarczania sugestii, jak je naprawić. U podstaw naszego podejścia leży wysokiej jakości zestaw danych zwrotnych, który wybieramy na podstawie opinii społeczności i ludzkich adnotacji.

Badania Meta AI, FAIR

Jak być może wiesz, kilka tygodni temu Meta wypuściła swoje LLM, Llama 2, we współpracy z Microsoftem. Llama 2 to oszałamiający model open source o parametrach 70B , który Microsoft i Meta planują skomercjalizować użytkownikom i organizacjom w celu zbudowania własnych narzędzi sztucznej inteligencji.

Ale sztuczna inteligencja nie jest jeszcze doskonała. A wiele z jego rozwiązań nie zawsze wydaje się poprawnych. Shepherd jest tutaj, aby rozwiązać te problemy, poprawiając je i sugerując rozwiązania, zgodnie z Meta AI Research.

Shepherd AI to nieformalny, naturalny nauczyciel AI

Wszyscy wiemy, że na przykład Bing Chat ma tendencję do podążania za pewnymi wzorcami: narzędzie może być kreatywne , ale może też ograniczać jego kreatywność . Jeśli chodzi o sprawy zawodowe, Bing AI również potrafi przyjąć poważną postawę.

Wygląda jednak na to, że Shepherd AI firmy Meta działa jako nieformalny nauczyciel sztucznej inteligencji dla innych LLM. Model, który jest znacznie mniejszy przy parametrach 7B, ma naturalny i nieformalny ton głosu podczas poprawiania i sugerowania rozwiązań.

Było to możliwe dzięki różnorodnym źródłom szkoleń, w tym:

• Opinie społeczności: Sztuczna inteligencja Shepherd została przeszkolona na podstawie wyselekcjonowanych treści z forów internetowych (w szczególności z forów Reddit), co umożliwia jej naturalny wkład.
• Dane wprowadzane przez ludzi: sztuczna inteligencja Shepherd została również przeszkolona w zakresie zestawu wybranych publicznych baz danych, co umożliwia jej uporządkowane i merytoryczne korekty.

Shepherd AI jest doskonale w stanie zapewnić lepszą korektę merytoryczną niż na przykład ChatGPT, pomimo stosunkowo małej infrastruktury. Badania FAIR i Meta AI wykazały, że narzędzie AI zapewnia lepsze wyniki niż większość jego konkurencyjnych alternatyw, ze średnim współczynnikiem wygranych wynoszącym 53-87% . Ponadto Shepherd AI może również dokonywać trafnych ocen na temat wszelkiego rodzaju treści generowanych przez LLM.

Na razie Shepherd jest nowatorskim modelem sztucznej inteligencji, ale w miarę dalszych badań model najprawdopodobniej zostanie wydany w przyszłości jako projekt open source.

Czy jesteś tym podekscytowany? Czy użyłbyś go do poprawienia własnego modelu AI? Co o tym sądzisz?