Ce este algoritmul SMITH?

Algoritmul SMITH este un nume pentru un nou model folosit de Algoritm de căutare Google, pentru încercarea de a înțelege documente întregi în care modele precum BERT sunt instruite să înțeleagă cuvinte în contextul propozițiilor.

Într-o descriere foarte simplificată, modelul SMITH este antrenat să înțeleagă pasaje în contextul întregului document.

În timp ce algoritmi precum BERT sunt antrenați pe seturi de date pentru a prezice cuvintele ascunse aleatoriu care provin din contextul din propoziții, algoritmul SMITH este antrenat pentru a prezice care este următorul bloc de propoziții.

Acest tip de instruire ajută algoritmul să înțeleagă mai bine documentele mai mari decât algoritmul BERT, potrivit cercetătorilor.

Află mai multe aici.