XMASKNEWS
Aktualizacja:
Help Net SecurityEN→PLAI

Cloudflare twierdzi, że przepłacasz za używanie LLM do odczytywania faktur

Cloudflare zaprezentowało Clairic – model do ekstrakcji danych, który wyciąga konkretne wartości z tekstów i obrazów znacznie szybciej i taniej niż tradycyjne modele LLM.

Cloudflare zaprezentowało Clairic, nowy model do ekstrakcji danych, który ma zastąpić kosztowne i zawodne procesy oparte na dużych modelach językowych (LLM). Zamiast generować tokeny wyjściowe, Clairic wyciąga konkretne typy danych, takie jak liczby czy daty, bezpośrednio z nieuporządkowanego tekstu i obrazów. W testach porównawczych rozwiązanie to okazało się niemal trzykrotnie szybsze i o połowę tańsze od potoków opartych na LLM.

Model działa w ramach Workers AI i pozwala na przesyłanie tekstu oraz do czterech obrazów wraz z listą wymaganych pól. W przeciwieństwie do standardowych LLM, Clairic zwraca dane w ściśle określonych formatach, co eliminuje problemy z błędnym składniem JSON czy literówkami w cyfrach. Każda odpowiedź zawiera wskaźnik pewności oraz prawdopodobieństwo, że dana wartość w ogóle nie występuje w tekście.

Choć model świetnie radzi sobie z ekstrakcją faktów, Cloudflare zaznacza, że architektura gwarantuje poprawność struktury danych, a niekoniecznie ich merytoryczną prawdziwość. Eksperci zalecają, aby skomplikowane obliczenia matematyczne i sumowanie wielu wierszy w tabelach pozostawić tradycyjnemu kodowi, zamiast polegać na modelu AI. W przypadku braku danych model zwraca wartość null, co pozwala uniknąć błędnego przypisywania nieistniejących informacji do konkretnych pól.