Perplexity razbija PDF na vektore — pretraživanje više ne traži OCR

|Autor: Urednički tim QUASA|5 min čitanja| 2
Perplexity razbija PDF na vektore — pretraživanje više ne traži OCR

Perplexity je 7. listopada 2026. u tehničkoj objavi predstavio modele pplx-embed-v2-late u inačicama 0,6B i 9B. Tekstualnim upitom mogu pretraživati PDF stranice prikazane kao slike, bez prethodnog prepoznavanja teksta OCR-om. Umjesto jednog vektora za cijelu stranicu, zadržavaju zasebne vektore za njezine tokene kako bi upit mogao pronaći i manji detalj.

Težine obaju modela javno su dostupne za vlastito pokretanje. Perplexity je najavio postupno uvođenje podrške na svojoj API platformi, ali nije naveo datum za ovu obitelj modela. Tko sada želi pretraživati PDF-ove tim postupkom, mora sam prikazati stranice kao slike, kodirati ih i pohraniti nastale vektore. Upravo količina tih vektora određuje najvažniji praktični kompromis.

Zašto jedan vektor može propustiti detalj

Klasičan model za vektorsko pretraživanje može dokument ili njegov odsječak sažeti u jedan vektor. Usporedba s upitom tada je jednostavna, ali isti prikaz mora nositi glavnu temu, sitnu stavku u tablici i opis uz sliku. Što je sadržaj raznovrsniji, to je teže sačuvati svaku pojedinost u jednom sažetku. Dijeljenje dokumenta na odsječke ublažava pritisak, no može razdvojiti informacije koje na stranici pripadaju zajedno.

pplx-embed-v2-late za svaki token zadržava 128-dimenzionalni vektor. Pri usporedbi metodom MaxSim svaki token upita traži najbolje podudaranje među tokenima dokumenta, a te se najbolje ocjene zbrajaju. Dijelovi istog upita zato mogu odgovarati različitim mjestima na stranici. Model ne mora svesti cijeli prikaz na jednu ocjenu sličnosti između dvaju jedinstvenih vektora.

Uzmimo uvjetan upit koji spominje stavku u tablici i objašnjenje uz grafikon. Više vektora daje modelu priliku da oba traga prepozna na različitim dijelovima prikazane stranice. Rezultat je poredak stranica prema relevantnosti, a ne doslovan prijepis tražene stavke niti jamstvo da je pronađeni sadržaj točan odgovor.

Što se događa s PDF stranicom

Stranica najprije ulazi u model kao slika. Tako u prikazu za pretraživanje ostaju dostupni raspored tablice, položaj natpisa uz sliku i prostorni odnos dijelova grafikona. Postupak koji se oslanja samo na izdvojeni tekst može izgubiti te odnose, a OCR pri prepoznavanju znakova može uvesti pogreške. Tekstualni upit zatim se uspoređuje s vektorima nastalima iz vizualnog prikaza.

Rad bez OCR-a odnosi se na pronalaženje relevantne stranice. Ako je nakon pronalaska potreban točan citat, kopiranje teksta ili provjera pojedinog znaka, sustav može trebati dodatno izdvajanje ili prepoznavanje teksta. Slično tome, vizualni prikaz pomaže pronaći tablicu u izvornom rasporedu, ali sam rezultat pretraživanja još nije tablica pretvorena u strukturirane podatke.

Isti model prihvaća i tekstualne dokumente te obične slike. PDF je ovdje osobito važan zato što jedna njegova stranica može istodobno sadržavati tekst, tablice i figure. Pretraživanje prikazane stranice omogućuje da ti dijelovi ostanu u zajedničkom vizualnom kontekstu dok model određuje relevantnost.

Indeks može graditi 9B, a upite obrađivati 0,6B

Obje inačice dijele isti prostor vektorskih prikaza. Zato veći model može unaprijed kodirati dokumente, a manji kodirati nove upite i uspoređivati ih s tako izgrađenim indeksom. Izrada indeksa obavlja se pri unosu dokumenata; obrada upita ponavlja se pri svakom pretraživanju. Ta asimetrija premješta zahtjevniji rad na dio postupka koji nije na putu svakog korisničkog upita.

U Perplexityjevu testu vizualnog pretraživanja na javnom skupu ViDoRe v3 kombinacija upita kodiranih modelom 0,6B i indeksa izrađenog modelom 9B postigla je 63,5 % prema mjeri nDCG@10, nasuprot 62,3 % kada je manji model kodirao i upite i dokumente. AI Insiders prenosi i Perplexityjev rezultat: na skupini tekstualnih testova asimetrična kombinacija ostvarila je prosječan dobitak od 1,6 postotnih bodova. To su rezultati objavljenog testiranja, a ne mjerenje na proizvoljnoj zbirci PDF-ova.

Veći model pritom ostaje potreban kad se indeks gradi ili obnavlja tom konfiguracijom. Novi i izmijenjeni dokumenti moraju se ponovno kodirati. Manji trošak kodiranja upita zato ne znači da su nestali trošak pripreme stranica i prostor za njihove vektore.

Preciznije podudaranje povećava indeks

Kasna interakcija čuva više informacija upravo zato što čuva više vektora. Sustav s jednim vektorom po dokumentu pohranjuje jedan skup vrijednosti za taj dokument; ovaj pristup pohranjuje zasebne prikaze njegovih tokena. Pri ocjenjivanju kandidata uspoređuje i više parova tokena. Trošak pohrane i rada zato raste s količinom sadržaja koji ulazi u indeks.

U posve uvjetnom primjeru, ako prikaz stranice proizvede tisuću pohranjenih tokena, nastaje tisuću vektora umjesto jednog vektora za cijelu stranicu. To nije procjena stvarnog broja tokena na PDF stranici: vizualni tokeni nisu isto što i riječi koje bi prepoznao OCR. Stvarna veličina indeksa ovisi i o načinu zapisa ili sažimanja vektora te o dodatnim podacima potrebnima za pretraživanje.

Pojedinačni vektor modela uzak je u odnosu na neke druge višektorske modele, no mala širina ne uklanja učinak njihova velikog broja. Veličina indeksa stoga se ne može zaključiti samo iz veličine modela 0,6B ili 9B. Za zbirku s mnogo vizualno bogatih stranica pohrana prikaza dokumenata može biti znatniji trošak od samog kodiranja kratkog upita.

Kako pokrenuti objavljene modele

Kartica modela na Hugging Faceu navodi licenciju MIT te traži sentence-transformers 6.0.0 ili noviji i transformers 5.4.0 ili noviji. Njezin primjer učitava odabranu inačicu klasom MultiVectorEncoder na uređaju CUDA. Tekst upita kodira metodom encode_query, dokument metodom encode_document, a ocjenu podudaranja računa metodom similarity.

Za vizualni PDF stranice se prije kodiranja moraju prikazati kao slike. Primjer učitava slikovnu datoteku, pretvara je u RGB i predaje metodi encode_document; tekstualne i slikovne dokumente obrađuje u odvojenim pozivima. Miješani tekstualno-slikovni ulaz u jednom pozivu kartica ne podržava. To je dostupna osnova za vlastiti sustav pretraživanja, dok za hostani API ove obitelji modela još nema potvrđenog datuma.

Pročitajte i:

Podijeli:

Pretplatite se na naš newsletter

Primajte najnovije vijesti o Web3-u, AI-ju i kriptovalutama izravno u svoj sandučić.

0