Ollama pentru flexibilitate și iterație rapidă, vLLM când contează debitul și numărul de cereri simultane.
Instalăm sisteme de inteligență artificială pe infrastructura ta — LLM-uri private, RAG pe documentele companiei, computer vision. Datele nu pleacă din rețea. Nu e o promisiune comercială, e arhitectura.
Un model AI local rulează pe hardware pe care îl controlezi tu. Fără API extern. Fără abonament per token. Fără ca documentele tale să treacă prin serverele altcuiva.
Diferența nu e de nuanță. Când trimiți un contract la un serviciu cloud, documentul ăla părăsește compania. Când rulezi un model local, promptul, documentul și răspunsul nu ies din rețeaua ta. Nu pentru că cineva promite că nu se uită — pentru că nu au pe unde să iasă.
Asta contează practic în trei situații:
Dacă rulezi câteva zeci de cereri pe săptămână și nu ai date sensibile, un serviciu cloud e alegerea corectă — și îți spunem asta la prima discuție, nu după ce ai cumpărat un server.
AI local are sens la volum, la sensibilitatea datelor sau la cerințe de latență și funcționare offline. Nu ca principiu, și nu pentru că sună bine în ședință. Dacă ai nevoie de cel mai bun model de raționament existent pe piață, ăla nu se rulează local — și atunci cloud-ul e răspunsul, oricât de mult ne-ar conveni nouă altceva.
Modele open-weight instalate pe server propriu sau pe un server dedicat. Servite printr-un API compatibil cu standardul din piață — dacă ai deja cod care vorbește cu un serviciu extern, schimbi adresa endpoint-ului și funcționează.
Modelul nu „știe" nimic despre firma ta. Nu știe ce scrie în procedura ta de calibrare sau în contractul cu furnizorul X. Dacă îl întrebi, inventează ceva plauzibil — asta face un model de limbaj: continuă text plauzibil.
RAG rezolvă exact asta: caută în documentele tale bucata relevantă, i-o dă modelului ca context, iar răspunsul se construiește pe ea, cu citarea sursei. Consecința practică e că problema nu mai e cât de deștept e modelul, ci cât de bine găsești pagina corectă.
Arhitectura noastră folosește căutare hibridă — semantică plus lexicală — cu reordonarea rezultatelor înainte să ajungă la model, și tăierea documentelor după structura lor reală, nu la un număr fix de cuvinte. Diferența se vede la întrebări de tipul „ce prevede articolul 57": căutarea semantică găsește tot ce vorbește despre subiect, cea lexicală găsește exact articolul. Separat, fiecare ratează. Împreună, nimeresc.
Segmentare, clasificare și măsurare pe imagini de proces. Rulează local pentru că imaginile de producție nu se urcă nicăieri.
Extragere de date din documente, clasificare, sumarizare. Modelele generice se descurcă mediu pe română — diferența o face evaluarea pe corpus real, nu presupunerea.
Un chatbot care merge frumos în demo și nu se conectează la nimic nu rezolvă nicio problemă. Livrăm cu integrare în sistemele existente: ERP, mail, fișiere, baze de date. Aici se duce de fapt efortul unui proiect — nu în model.
Infrastructură
Nu o listă de buzzwords. Astea sunt componentele pe care le folosim și motivul pentru care le-am ales.
Ollama pentru flexibilitate și iterație rapidă, vLLM când contează debitul și numărul de cereri simultane.
Open-weight, alese pe caz. Modelul potrivit pentru extragere de date nu e același cu cel pentru raționament pe documente lungi.
Multilingv. Multe modele de embeddings sunt antrenate predominant pe engleză și pierd nuanțe pe română.
Reordonează rezultatele după relevanța reală. Fără el, modelul primește zgomot și răspunde cu încredere din context greșit.
În funcție de proiect: pgvector când datele stau oricum în PostgreSQL și nu are sens încă un serviciu.
Interfața și API-ul prin care sistemul ajunge în fluxul real de lucru, nu într-un terminal.
Mediu replicabil, reverse proxy, acces controlat. Un sistem care nu se poate reconstrui identic nu e un sistem, e o improvizație.
Variabila care decide e VRAM-ul: modelul trebuie să încapă în memoria plăcii, împreună cu contextul și cererile simultane.
Dovezi
Diferența dintre „putem face" și „am făcut" e singura care contează când semnezi.
Sistem complet livrat on-premise la un laborator de metrologie acreditat. Strat AI opțional pentru procesarea documentelor. Verdictele de conformitate rămân deterministe, în cod — într-un audit, „modelul crede că e conform" nu e un răspuns.
Platformă cu asistent RAG pe legislația de achiziții publice. Răspunde cu citarea articolului, ca omul să poată verifica. Un sistem verificabil e un sistem în care ai încredere.
Segmentare și măsurare pe imagini de proces, cu raport generat automat. Imaginile de producție nu părăsesc locația.
Mai lucrăm și pe proiecte care nu pot fi descrise public. Detaliile despre fiecare implementare le discutăm direct, în limita a ce ne permit acordurile cu clienții.
Proces
Ne uităm la ce vrei să automatizezi și îți spunem dacă are sens AI local. Dacă nu are, îți spunem asta — e mai ieftin pentru amândoi decât un proiect care eșuează.
Rulăm pe datele tale reale, nu pe un demo pregătit. La final știi dacă funcționează, măsurat pe cazurile tale.
Instalare on-premise sau pe server dedicat. Integrare în sistemele existente. Documentație.
Rămâne al tău. Poți să-l muți, să-l modifici, să-l oprești. Componente open-source standard, fără vendor lock-in.
N-o să găsești un tabel de prețuri pe pagina asta, și nu din coquetărie comercială. Un preț publicat pentru AI local ar fi greșit în două feluri deodată.
Întâi, pentru că nu știm ce vrei. Aplicațiile și nevoile sunt prea specifice ca o cifră să însemne ceva. Diferența dintre un proiect scurt și unul lung nu e modelul — e câte sisteme trebuie să vorbească între ele. Un asistent care răspunde frumos și nu se leagă la nimic e o jucărie ieftină. Unul care intră în ERP, în mail și în arhiva de fișiere e altă discuție.
Apoi, pentru că piața de hardware se mișcă absurd. Memoriile variază de la o săptămână la alta, storage-ul de la o zi la alta — și nu doar în sus. Aceeași componentă poate sări cu zeci de procente și reveni în câteva zile. Orice tabel de configurații publicat azi e ficțiune peste două săptămâni, iar noi n-avem chef să publicăm ficțiune ca să ieșim bine la căutări.
Ce putem spune e ce mută acul:
Îl cumperi tu, direct, și îți spunem exact ce să iei. Sau ți-l aducem noi — uneori reușim un preț mai bun prin distribuitor. Ambele variante sunt în regulă, iar care e mai bună depinde de ce scoate piața în săptămâna aia.
Îți spunem deschis care e situația în momentul respectiv, pentru că oricum ai presupune că există o marjă undeva. Prima întrebare la evaluare rămâne însă dacă poți folosi hardware-ul pe care îl ai deja — e varianta cea mai ieftină pentru tine, și adesea se poate.
Întrebări frecvente
Depinde de model și de câți oameni îl folosesc simultan. Variabila care decide e VRAM-ul: modelul trebuie să încapă în memoria plăcii video, plus memoria pentru context — care crește cu lungimea documentelor și cu numărul de cereri simultane. Aici se sparg proiectele: se dimensionează pe model și se uită contextul.
Pe raționament general, da. Pe o sarcină specifică, cu RAG pe documentele tale, diferența dispare aproape complet — pentru că problema nu mai e cât de deștept e modelul, ci dacă găsește informația corectă. Un model local mediu cu retrieval bun bate un model de vârf fără context, la întrebări despre procedurile tale interne.
Dacă datele nu părăsesc infrastructura ta, nu ai transfer către terț și nici transfer internațional. Dispare un lanț întreg de obligații. Nu rezolvă tot GDPR-ul — datele tot trebuie protejate — dar scoate din ecuație partea complicată.
Modelele multilingve recente se descurcă rezonabil. Dar diferența o face evaluarea pe corpusul tău real: măsurăm pe documentele voastre înainte să promitem ceva. Un model care merge bine pe engleză poate să scadă vizibil pe terminologie tehnică românească.
Cum preferi. Îl iei direct și îți spunem exact ce, sau ți-l aducem noi — uneori ieșim mai bine prin distribuitor. Îți spunem deschis care variantă e mai bună în momentul ăla.
Un pilot pe un caz clar: câteva săptămâni. O implementare completă: de la câteva săptămâni la câteva luni, în funcție de câte sisteme trebuie să vorbească între ele. Integrările dau ritmul, nu AI-ul.
Sistemul rămâne al tău, pe hardware-ul tău, cu documentație. Folosim componente open-source standard. Nu există buton de oprire la noi.
Adesea da, și e prima întrebare la evaluare — pentru că e cea mai ieftină variantă pentru tine.
Următorul pas
O oră de discuție. Ne uităm la un proces concret și îți spunem dacă AI local îl rezolvă sau dacă îți trebuie altceva. Al doilea răspuns e la fel de util ca primul, și îl auzi mai des decât te-ai aștepta.
Cere o evaluare gratuităServicii conexe