AI ten, kur duomenys negali išeiti iš organizacijos: atviri modeliai mūsų GPU debesijoje Lietuvoje, Claude per Amazon Bedrock ES regione arba modelis jūsų serveriuose. Jokio mokymo iš jūsų duomenų, prieigos ir žurnalai jūsų rankose, atitiktis BDAR, TIS2 ir DORA.
Paruošta pagal ISO 27001NIS2 / TIS2DORA
Klinika turi išrašus, kontora – bylas, lizingo bendrovė – paraiškas su finansinėmis ataskaitomis, gamintojas – brėžinius ir kainodarą. Visiems jiems AI būtų naudingas lygiai taip pat, kaip ir kitiems, bet duomenų į viešą paslaugą siųsti negalima: draudžia sutartys su klientais, sektoriaus reguliavimas arba sveikas protas. Dažniausias rezultatas – darbuotojai vis tiek naudoja ChatGPT iš asmeninių paskyrų, tik niekas to nemato ir nevaldo.
Privatus AI šią dilemą išsprendžia architektūra, ne pažadais. Modelį vykdome ten, kur duomenys gali būti: atvirus modelius (Llama, Mistral, Qwen, Gemma) savo GPU debesijoje duomenų centre Lietuvoje, Claude per Amazon Bedrock ES regione Frankfurte jūsų AWS paskyroje arba, kai reikia visiškos izoliacijos, jūsų pačių serveriuose. Nė vienu atveju duomenys nenaudojami modelių mokymui, prieigos valdomos jūsų Microsoft 365 aplinkos (Tenant) tapatybėmis, o kiekviena užklausa ir agento veiksmas užrašomi žurnale, kurį galite parodyti auditoriui.
Parenkame pagal tai, kur gali būti jūsų duomenys ir kokios kokybės reikia užduočiai. Dažnai – du kartu.
Llama, Mistral, Qwen ar Gemma vykdomi NVIDIA GPU serveriuose mūsų duomenų centre Lietuvoje, skirtoje jūsų aplinkoje. Duomenys neišeina iš šalies, kaina fiksuota už GPU, o ne už užklausą. Tinka asistentams iš dokumentų, klasifikavimui, santraukoms ir dokumentų atpažinimui.
Kai reikia stipriausios dokumentų analizės ir agentų kokybės: Claude modeliai vykdomi Amazon Bedrock Frankfurto regione, jūsų AWS paskyroje, be mokymo iš duomenų, su jūsų raktais ir CloudTrail žurnalais. Duomenys lieka ES, o kaina – pagal naudojimą.
Visiškai izoliuota aplinka be interneto: GPU serveris jūsų patalpose, modelis ir vektorinė duomenų bazė viduje. Reikalinga retai – gynybos, kritinės infrastruktūros ar sutartimis apribotiems duomenims – bet kai reikia, kito kelio nėra. Projektuojame, diegiame ir prižiūrime nuotoliniu būdu per jūsų VPN.
Tie patys sprendimai kaip ir su viešomis platformomis, tik modelis ir duomenys lieka jūsų kontrolėje.
RAG paieška per sutartis, tvarkas, bylas ar išrašus su nuoroda į šaltinį ir pagal esamas prieigos teises.
Sąskaitos, paraiškos, KYC dokumentai ir išrašai išskaidomi į laukus privačiame modelyje, be siuntimo į užsienio OCR paslaugas.
Daugiažingsnės užduotys jūsų sistemose su mažiausiomis teisėmis, patvirtinimo žingsniais ir pilnu veiksmų žurnalu.
El. paštas, skundai, incidentai ir atsiliepimai rūšiuojami ir nukreipiami pagal jūsų taisykles, jautrūs duomenys neišeina.
Išrašų, bylų, ataskaitų ir susitikimų santraukos, atsakymų ir sutarčių juodraščiai pagal jūsų šablonus.
Hibridas: privatus modelis pašalina asmens duomenis, o tik anonimizuotas tekstas keliauja į Claude ar ChatGPT.
Programuotojų asistentas su jūsų kodo baze, kai kodas negali išeiti iš įmonės.
Vektorinė duomenų bazė ir semantinė paieška per milijonus dokumentų, sujungta su SharePoint, ERP ar DMS.
Trumpas palyginimas, nuo ko pradedame pokalbį.
| ChatGPT / Copilot (viešos paslaugos) | Claude per Amazon Bedrock ES | Atviri modeliai MDP CLOUD GPU | |
|---|---|---|---|
Kur vykdomas modelis | tiekėjo platformoje (OpenAI, Microsoft) | jūsų AWS paskyroje, Frankfurto regione | mūsų duomenų centre Lietuvoje, jūsų aplinkoje |
Duomenys mokymui | ne (verslo planuose ir API) | ne | ne |
Duomenų vieta | ES saugojimas pagal planą | ES (Vokietija) | Lietuva |
Modelių kokybė | aukščiausia | aukščiausia | pakankama daugumai verslo užduočių |
Kaina | už vartotoją arba pagal naudojimą | pagal naudojimą | fiksuota už GPU, nepriklauso nuo užklausų |
Visiška izoliacija (be interneto) | |||
Jūsų raktai ir žurnalai | iš dalies (administravimo žurnalai) | ||
Tinka reguliuojamoms sritims | ribotai, pagal duomenų kategoriją |
Nuo duomenų įvertinimo iki prižiūrimos aplinkos per 4–8 savaites.
Kartu surašome, kokie duomenys pateks į AI, kokios jų kategorijos pagal BDAR ir sektoriaus taisykles, kam jie gali būti prieinami. Iš to išplaukia, ar užtenka Bedrock ES, ar reikia modelio Lietuvoje, ar visiškos izoliacijos.
Parenkame modelį pagal užduotį ir kalbą (lietuvių kalbai testuojame kelis), suprojektuojame vektorinę duomenų bazę, jungtis su SharePoint, ERP ar DMS ir prieigų modelį per jūsų Microsoft 365 aplinkos (Tenant) tapatybes.
Sukuriame skirtą GPU aplinką, įjungiame žurnalus ir stebėseną, suvedame dokumentus ir bandome su jūsų darbuotojais ant istorinių atvejų, kol atsakymų kokybė ir šaltinių tikslumas atitinka sutartą slenkstį.
Prižiūrime kaip ir kitą infrastruktūrą: atnaujiname modelius ir komponentus, stebime našumą ir sąnaudas, darome kopijas, peržiūrime žurnalus. Kai pirmas sprendimas veikia, pridedame kitus toje pačioje aplinkoje.
Jei turite savo komandą ir norite patys vykdyti modelius, nuomojame NVIDIA GPU serverius duomenų centre Lietuvoje su priežiūra ir kopijomis.
Bendriems kūrybiniams uždaviniams didieji komerciniai modeliai vis dar pranašesni, todėl tokiems atvejams siūlome Claude per Bedrock ES. Tipiniams verslo darbams – paieškai savo dokumentuose su šaltiniu, klasifikavimui, santraukoms, dokumentų atpažinimui – atvirų modelių kokybė yra pakankama, ir tai patikriname bandymais su jūsų dokumentais prieš pasirašant.
Naujausi atviri modeliai lietuviškai supranta ir rašo gerai, bet skirtumai tarp jų yra, todėl kalbą testuojame su jūsų tekstais ir parenkame tinkamiausią. Dokumentų atpažinimui naudojame OCR su lietuviškomis raidėmis.
Privataus modelio kaina fiksuota už GPU aplinką ir nepriklauso nuo užklausų skaičiaus, todėl aktyviai naudojant ji dažnai pigesnė nei licencijos kiekvienam vartotojui. Bedrock mokama pagal naudojimą. Skaičiavimą pateikiame pagal jūsų numatomą apkrovą po pirmo pokalbio.
Taip, ir tai yra pagrindinė priežastis rinktis privatų AI: duomenys lieka ES arba Lietuvoje, nenaudojami mokymui, prieigos ribojamos, veiksmai žurnaluojami, o infrastruktūra prižiūrima pagal ISO 27001 reikalavimus. Padedame parengti ir dokumentaciją auditui – duomenų srautų aprašą, rizikų vertinimą, tvarkytojo sutartį.
Taip, ir taip rekomenduojame: vienas procesas, vienas dokumentų rinkinys, viena vartotojų grupė. Pirmas sprendimas įprastai užtrunka 4–8 savaites, o toliau toje pačioje aplinkoje pridedami kiti be naujos infrastruktūros.
Šią paslaugą teikia specialistai su galiojančiais tarptautiniais sertifikatais – kompetenciją patvirtino ne mes patys, o nepriklausomos organizacijos.
AI sistemos diegiamos su apsauga nuo duomenų nutekėjimo ir piktnaudžiavimo modeliais.
GPU infrastruktūra ir AI darbo krūviai eksploatuojami pagal NVIDIA praktikas.
AI saugumo programa ir kontrolės valdomos pagal ISACA metodiką.
Atsakome per 1 darbo dieną
