Overview |
I modelli Llama 2 rappresentano un’evoluzione del progetto di intelligenza artificiale open-source di Meta. Per il pre-training di questi modelli sono state utilizzate fonti pubblicamente disponibili. In particolare, per il modello fine-tuned denominato Llama Chat, Meta ha impiegato dataset di istruzioni di pubblico dominio, integrati con oltre un milione di note raccolte appositamente.
Rispetto alla precedente generazione Llama 1, i nuovi modelli Llama 2 vantano un addestramento su un corpus molto più ampio, costituito da 2 miliardi di token. Inoltre, Llama 2 è in grado di gestire una finestra di contesto raddoppiata rispetto a quella disponibile con il suo predecessore e ciò permette di elaborare sequenze di input più lunghe.
Meta rende disponibili licenze per l’utilizzo dei modelli Llama 2 e dei relativi pesi addestrati, sia per enti commerciali che per scopi di ricerca accademica. |