AI, ami az ismétlődő munkát elvégzi,
a döntés viszont az Ön kezében marad.

Az árat három dolog határozza meg: mennyi és milyen rendezett adattal indulunk, hány rendszerhez kell hozzákötni, valamint felhőben vagy saját szerveren fut a modell. Egy szűk pilot többnyire körbejárható néhány hét alatt, és ebből már látszik a teljes bevezetés nagyságrendje. Ajánlat előtt megnézzük, van-e reális hozam, mert olyan munkát nem vállalunk el, ami nem térül meg.

Egy jól körülhatárolt pilot jellemzően 2–4 hét alatt működőképes, a teljes bevezetés és bekötés inkább 2–3 hónap. A leghosszabb rész szinte mindig az adatok összeszedése és rendbetétele, nem maga a fejlesztés. Ezért kezdjük egy szűk folyamattal, hogy hamar legyen kapaszkodó.

Azzal, ami egyszerre gyakori, ismétlődő és jól leírható: beérkező levél vagy ajánlatkérés előszűrése, termékleírások előkészítése, ügyfélszolgálati válaszok piszkozata, belső dokumentumokban való keresés. Ezeknél a hiba ára alacsony, a megtakarítás viszont naponta jelentkezik.

Amivel nem érdemes kezdeni: a látványos, de kockázatos ügyek, például automatikus árazás vagy ellenőrzés nélküli ügyfélválasz. Ezek jöhetnek később, amikor már van mérés és tapasztalat.

Nem méret kérdése, hanem ismétlődésé. Ha egy feladat hetente több órát visz el és nagyrészt sablonos, már néhány fős cégnél is megtérül: a felhős modellek használati díja havi pár ezer forinttól indul, a fejlesztés pedig egyszeri tétel.

Kis cégnél éppen az a jellemző, hogy nincs kinek delegálni. Ott egy jól beállított asszisztens tényleg időt szabadít fel, nem létszámot vált ki.

A projekt elején írásban rögzítjük, melyik adat hagyja el a rendszert és melyik nem. Felhős modellnél olyan szolgáltatót választunk, amely szerződésben zárja ki a tanítási célú felhasználást és EU-s adatkezelést kínál. Érzékeny adatnál a személyes mezők már küldés előtt álnevet kapnak, teljes zártság esetén pedig helyben futó modellt használunk.

A legtöbb feladathoz nem, mert a felhős modellek olcsóbbak és erősebbek. Ahol viszont az adat nem hagyhatja el a céget, ott saját Ubuntu VPS szerveren futtatunk helyi modellt. Ez lassabb és drágább üzemeltetést jelent, cserébe semmilyen adat nem megy ki a házból.

Igen, és ezt nem csak az EU AI-rendelete kívánja meg: az átláthatóság bizalmat is épít. A gyakorlatban ez egy rövid jelölés a chat felületén és egy mondat az adatkezelési tájékoztatóban arról, milyen adatot dolgoz fel a rendszer és hogyan lehet emberhez kerülni.

A magas kockázatú felhasználás (például önálló döntés hitelről vagy munkavállalóról) külön szabályok alá esik. Az általunk épített megoldások szándékosan emberi jóváhagyásra épülnek, így ez a kör elkerülhető.

Jogilag a cég, amelynek a nevében a válasz megjelenik. Épp ezért építjük úgy a folyamatot, hogy ahol a tévedés pénzbe vagy hitelbe kerül, ott ember hagyja jóvá a kimenetet: az AI piszkozatot ad, nem végleges választ.

Ehhez naplózás is tartozik: visszakereshető, mikor mi történt, milyen forrásból született a válasz és ki hagyta jóvá. Ez utólagos vita esetén ér a legtöbbet.

Igen, minden nyelvi modell tud tévedni, ezért nem is engedünk közvetlen, ellenőrizetlen kimenetet ügyfél felé olyan helyen, ahol a hiba árt. A válaszokat a cég saját dokumentumaira szűkítjük és forrást kérünk mellé, így ellenőrizhető marad, honnan származik az állítás. Ha a modell nem talál fedezetet, akkor nem talál ki választ, hanem átadja az ügyet embernek.

Igen, a mai modellek magyarul is meggyőzően írnak és értenek. A tapasztalat viszont az, hogy szakszótár és stílusszabályok nélkül a szöveg felismerhetően gépi lesz. Ezért minden projekthez összeállítjuk a cég saját szóhasználatát és tiltólistáját, hogy a kimenet a márka hangján szólaljon meg.

Bevezetés előtt összeállítunk egy tesztsort a cég valódi eseteiből: jellemzően 30–50 kérdés vagy dokumentum, ismert helyes válasszal. Ezen mérjük, hány százalékban ad használható eredményt, és ugyanezt futtatjuk újra minden változtatás után.

Éles üzemben három szám érdekes: hány esetet oldott meg ember nélkül, mennyi időt spórolt és hányszor kellett javítani a kimenetét. Ennél több mutató csak elfedi a lényeget.

A megoldást úgy építjük, hogy a modell cserélhető legyen, tehát nem kötődik egyetlen szolgáltatóhoz. Új modell érkezésekor a méréseket újrafuttatjuk, és csak akkor váltunk, ha ténylegesen jobb eredményt vagy olcsóbb üzemeltetést hoz. Ez az üzemeltetési csomag része.

Webáruházhoz, ügyviteli és számlázó rendszerhez, levelezéshez, adatbázishoz és a legtöbb olyan szolgáltatáshoz, amelynek van API-ja. Saját keretrendszerünk mellett WordPress, WooCommerce és Magento 2 környezetben is otthon vagyunk. Ahol nincs API, ott általában találunk más utat, például export és import alapú szinkront.

Az MCP egy nyílt szabvány arra, hogy egy AI-asszisztens biztonságosan elérje a cég rendszereit: lekérdezzen, összegezzen és piszkozatot készítsen, pontosan meghatározott jogosultságokkal. Enélkül minden alkalommal másolni és beilleszteni kell az adatokat, ami lassú és hibázik. A saját keretrendszerünkön élesben működik ilyen kapcsolat, tehát nem kísérletezni fogunk az Ön rendszerén.

Ezt hívják RAG-nak: a kérdésre először a cég saját anyagaiban keres a rendszer (szerződések, árajánlatok, termékleírások, belső szabályzatok), és csak a megtalált részletek alapján fogalmaz választ, forrásmegjelöléssel.

Ennek két előnye van: a válasz ellenőrizhető, és frissítéshez nem kell modellt tanítani, elég a dokumentumot kicserélni. A legtöbb céges feladatra ez a helyes megoldás.

Lehetséges (ezt hívják finomhangolásnak), de ritkán éri meg. Drágább, minden adatváltozásnál ismételni kell, és a tévedés utána is benne marad a modellben, csak már nehezebben javíthatóan.

A finomhangolás ott indokolt, ahol nem tudás kell, hanem stílus vagy szigorú formátum: például minden válasz ugyanabban a struktúrában álljon elő. Tudáshoz a dokumentumalapú megoldás a jobb.

Amit átvesz, az az ismétlődő előkészítés: gépelés, keresés, összegzés, adatmásolás. A döntés és a jóváhagyás marad emberi feladat, mert a felelősség is ott van. A gyakorlatban a kollégák jellemzően több időt fordítanak arra, amihez tényleg emberi ítélet kell.

Amelyik jobban megfelel: vagy mi, üzemeltetési csomagban, vagy a saját csapata, ha betanítjuk rá. A karbantartás nem nagy munka, de van: a promptok és szabályok finomítása, a forrásdokumentumok frissítése, a költség és a hibák figyelése, valamint a modellek változásainak követése.

Az átadáshoz írásos dokumentáció tartozik, és minden hozzáférés az Ön cégére szól. Nem építünk függőséget magunktól.

Két tételből áll: a modell használati díja és az üzemeltetés. A használati díj a feldolgozott szöveg mennyiségével arányos, ezért egy belső asszisztensnél gyakran havi néhány ezer forint, nagy forgalmú ügyfélszolgálati használatnál több.

A bevezetés előtt becslést adunk a várható havi költségre és keretet állítunk be, hogy ne érje meglepetés. A mért fogyasztás a riportban végig látszik.

Ezért kezdünk pilottal: egy szűk, mérhető feladaton derül ki, van-e értelme a folytatásnak. Ha a mérés nem hozza a várt eredményt, azt megmondjuk és leállítjuk, nem építjük tovább.

A pilotból akkor is marad használható eredmény: a rendezett adat, a folyamat leírása és a tesztsor később, más eszközzel is értékes marad.