Antillia · model w treningu
lexpl — polski model językowy, który czyta prawo
Trenujemy go od zera. Własne dane, własny tokenizer, własne wagi. Pod spodem nie ma zagranicznego modelu bazowego.
Sprawdzam czat… Porozmawiaj z naszym asystentem AICzat działa w wybranych godzinach na otwartym modelu (wersja testowa). lexpl dołączy do czatu, gdy skończymy trening.
Fundament jest nasz
Douczony gotowy model zawsze stoi na cudzym fundamencie. lexpl od pierwszego tokenu jest polski i w całości należy do nas.
Język prawa to inny polski
„Art. 26³ ust. 2 pkt 1 lit. a” to dla zagranicznego modelu szum, dla prawnika codzienność.
Wiesz, na czym działa narzędzie
Kancelaria, biuro rachunkowe czy urząd powinny wiedzieć, czemu powierzają dane. Model mieści się na jednym serwerze.
Gdzie jesteśmy
- 30 mldtokenów polskich tekstów: ustawy, orzecznictwo, interpretacje podatkowe
- 12 mln+dokumentów w korpusie; dane osobowe usuwamy, zanim model cokolwiek przeczyta
- ok. 1 mldparametrów; model w treningu, rozmiar na jeden serwer, nie na centrum danych
- 4 500pytań z egzaminów na aplikację adwokacką, radcowską, notarialną i komorniczą do oceny jakości
Ten sam tekst prawniczy. Nawet 2,4× mniej tokenów.
Zanim model przeczyta tekst, tnie go na kawałki, tak zwane tokeny. Popularne modele uczyły się ciąć głównie angielski i polski tekst prawniczy, na przykład „Dz. U. z 2024 r. poz. 1061, z późn. zm.”, rozbijają na mnóstwo drobnych kawałków. Do lexpl wytrenowaliśmy własny tokenizer, tylko na polskich tekstach.
- lexpl769
- GPT-4o / GPT-5417
- Mistral Nemo405
- Llama 3.1365
- Mistral 7B317
Szybsza odpowiedź
Odpowiedź generuje się mniej więcej dwa razy mniejszą liczbą kroków.
Więcej przepisów naraz
W tym samym oknie kontekstu mieści się około dwa razy więcej tekstu prawa.
Tańszy trening
Przy tym samym budżecie model widzi około dwa razy więcej polskiego tekstu.
Uczciwie: ta przewaga dotyczy polskiego. Tamte tokenizery są wielojęzyczne i obsługują też angielski czy kod. My celowo gramy na jednym boisku.
Cel
Odpowiedź z cytatem z przepisu w brzmieniu z konkretnego dnia. A gdy pewnego źródła brak, uczciwe „nie wiem”.
Wyszukiwarka przepisów, z której korzysta model, znajduje właściwy przepis wśród pięciu pierwszych wyników w 86% pytań egzaminacyjnych. To trafność wyszukiwania, nie trafność odpowiedzi modelu.
Szukamy partnerów i inwestorów
Najtrudniejszą część, czyli dane, mamy już za sobą. Porozmawiajmy.