Incontra Meta’s Shepherd AI, l’IA guida che corregge gli LLM

È tempo di fare un passo indietro rispetto alle scoperte sull’intelligenza artificiale di Microsoft , per dare un’occhiata a uno dei modelli su cui il suo recente partner, Meta, ha lavorato.

Anche la società di Facebook ha finanziato da sola la ricerca sull’intelligenza artificiale e il risultato è un modello di intelligenza artificiale in grado di correggere i modelli linguistici di grandi dimensioni (LLM) e guidarli nel fornire le risposte corrette.

Il team dietro il progetto ha chiamato suggestivamente il modello Shepherd AI e il modello è costruito per affrontare gli errori che gli LLM possono commettere quando gli viene chiesto di svolgere determinati compiti.

In questo lavoro, presentiamo Shepherd, un modello linguistico specificamente sintonizzato per criticare le risposte del modello e suggerire perfezionamenti, estendendosi oltre le capacità di un modello non sintonizzato per identificare diversi errori e fornire suggerimenti per porvi rimedio. Al centro del nostro approccio c’è un set di dati di feedback di alta qualità, che curiamo dal feedback della community e dalle annotazioni umane.

Ricerca Meta AI, FAIR

Come forse saprai, Meta ha rilasciato i suoi LLM, Llama 2, in collaborazione con Microsoft, diverse settimane fa. Llama 2 è uno sbalorditivo modello open source da 70 miliardi di parametri che Microsoft e Meta intendono commercializzare a utenti e organizzazioni per costruire i propri strumenti di intelligenza artificiale interni.

Ma l’intelligenza artificiale non è ancora perfetta. E molte delle sue soluzioni non sembrano sempre corrette. Shepherd è qui per affrontare questi problemi correggendoli e suggerendo soluzioni, secondo Meta AI Research.

Shepherd AI è un insegnante di intelligenza artificiale informale e naturale

Sappiamo tutti che Bing Chat, ad esempio, tende a dover seguire alcuni schemi: lo strumento può essere creativo , ma può anche limitarne la creatività . Quando si tratta di questioni professionali, Bing AI può anche assumere un atteggiamento serio.

Tuttavia, sembra che Shepherd AI di Meta funzioni come insegnante di intelligenza artificiale informale per gli altri LLM. Il modello, che è considerevolmente molto più piccolo ai parametri 7B, ha un tono di voce naturale e informale quando corregge e suggerisce soluzioni.

Tutto questo è stato possibile grazie a una varietà di fonti per la formazione, tra cui:

• Feedback della community: Shepherd AI è stata addestrata su contenuti curati dai forum online (forum Reddit, in particolare), che consente i suoi input naturali.
• Input con annotazioni umane: Shepherd AI è stato anche addestrato su una serie di database pubblici selezionati, che ne consentono correzioni organizzate e fattuali.

Shepherd AI è perfettamente in grado di fornire una migliore correzione dei fatti rispetto a ChatGPT, ad esempio, nonostante la sua infrastruttura relativamente piccola. FAIR e Meta AI Research hanno scoperto che lo strumento AI fornisce risultati migliori rispetto alla maggior parte delle sue alternative competitive, con una percentuale di vincita media del 53-87% . Inoltre, Shepherd AI può anche esprimere giudizi accurati su qualsiasi tipo di contenuto generato da LLM.

Per ora, Shepherd è un nuovo modello di intelligenza artificiale, ma man mano che vengono approfondite le ricerche, molto probabilmente il modello verrà rilasciato in futuro, come progetto open source.

Ne sei entusiasta? Lo useresti per correggere il tuo modello di intelligenza artificiale? Cosa ne pensi?