Question 1

Mogu li integrirati AI u moj postojeći sustav bez preuređenja?

Accepted Answer

Da. AI Retrofitting postojećih sustava je naša specijalnost. Koristimo n8n workflow engine i LangChain za spajanje vašeg legacy SQL-a, ERP-a ili internih alata s modernim LLM-ovima poput GPT-4o i Claude Sonnet bez potrebe za prepisivanjem centralnog sustava. N8n orchesetrator povezuje API-je između vaših postojećih aplikacija i AI sloja, dok Pinecone vektorska baza omogućuje inteligentno pretraživanje vaših poslovnih podataka u realnom vremenu.

Question 2

Koja AI rješenja koristite?

Accepted Answer

Koristimo OpenAI GPT-4o, Anthropic Claude Sonnet, Google Gemini i lokalne modele poput Mistral i LLaMA za slučajeve koji zahtijevaju potpunu privatnost podataka. Odabir modela ovisi o konkretnom use-caseu, volumenu upita i proračunu, za jednostavne klasifikacije koristimo manje modele radi uštede, dok za kompleksne agentske zadatke koristimo naprednije modele. Vercel AI SDK omogućuje jednostavno prebacivanje između providera bez promjene aplikacijskog koda.

Question 3

Kako se zaštićuju privatni poslovni podaci?

Accepted Answer

Vaši poslovni podaci se nikad ne šalju na treniranje javnih modela, to je naša temeljna sigurnosna garancija. Koristimo RAG arhitekturu s privatnim Pinecone vektorskim bazama gdje se podaci enkriptiraju AES-256 enkripcijom i pohranjuju izolirano od javnih instanci. Za regulirane industrije (zdravstvo, financije) nudimo Azure OpenAI on-premise deplojment ili lokalne LLM modele koji nikad ne napuštaju vašu mrežu, čime osiguravamo punu GDPR usklađenost.

Question 4

Koliko traje implementacija AI integracije?

Accepted Answer

Rok ovisi o opsegu. Jednostavne AI integracije, poput chatbota na postojećoj web stranici, idu brže. Složenije integracije s legacy ERP sustavima, višekanalnim deploymentom i custom AI agentima traju dulje i idu kroz fazni pristup koji osigurava da svaka faza donosi mjerljivu vrijednost. Koristimo Agile metodologiju s dvotjednim sprintovima i transparentnim izvješćivanjem, tako da u svakom trenutku znate status projekta i sljedeće korake.

Question 5

Treba li nama uopće AI?

Accepted Answer

Često ne, i to ćemo reći. AI se isplati kad postoji zadatak koji se ponavlja, ima puno teksta ili podataka i troši ljudsko vrijeme na prosuđivanje koje je uglavnom mehaničko: razvrstavanje upita, izvlačenje podataka iz dokumenata, pisanje prvih verzija odgovora, pretraga vlastite baze znanja. Ako vaš problem je da se podaci prepisuju iz jednog sustava u drugi, to rješava obična integracija i jeftinije je i pouzdanije. Prije procjene pitamo koji zadatak točno želite skinuti s ljudi i koliko sati mjesečno on danas troši.

Question 6

Hoće li AI zamijeniti naše zaposlenike?

Accepted Answer

Ne u projektima kakve gradimo. Ono što AI stvarno preuzima je prvi korak: prijedlog odgovora, nacrt dokumenta, razvrstavanje ulazne pošte, izvlačenje podataka iz priloga. Čovjek i dalje potvrđuje, ispravlja i odgovara za rezultat, jer sustav koji nitko ne provjerava griješi tiho i skupo. Realan ishod je da isti tim stigne više, a ne da tima nema.

Question 7

Što ako pružatelj modela podigne cijene ili ugasi model koji koristimo?

Accepted Answer

Zato integraciju ne vežemo čvrsto uz jednog pružatelja. Poziv modelu ide kroz sloj koji se može prebaciti na drugi model bez prepisivanja ostatka sustava, a vaši podaci, upute i logika ostaju kod vas, ne kod pružatelja. Modeli se povlače i cijene se mijenjaju, to je normalno stanje ovog tržišta. Ako pisanje aplikacije oko jednog modela izgleda jednostavnije danas, migracija za godinu dana neće biti.

Question 8

Idu li naši podaci u treniranje modela?

Accepted Answer

Ne, kod postavki koje koristimo. Poslovni pristup preko API-ja kod velikih pružatelja isključuje korištenje podataka za treniranje po zadanim postavkama, a mi to postavljamo i provjeravamo umjesto da pretpostavljamo. Uz to šaljemo samo ono što je nužno za zadatak: ako model treba prepoznati vrstu upita, ne treba mu cijeli dosje klijenta. Za osjetljive podatke postoji i opcija modela koji se izvodi na infrastrukturi pod vašom kontrolom, uz veći trošak i manju kvalitetu odgovora, i to je odluka koju donosite s punom informacijom.

Question 9

Kako znamo da AI daje točne odgovore?

Accepted Answer

Tako da se mjeri, ne tako da se vjeruje. Prije lansiranja složimo skup stvarnih primjera s poznatim ispravnim odgovorom i na njemu testiramo svaku promjenu upute ili modela, jer bez toga popravak jedne stvari tiho pokvari drugu. U pogonu se rubni slučajevi bilježe i pregledavaju, a kritični koraci traže ljudsku potvrdu prije nego išta ode van. Sustav koji nema ni jedan od ta tri mehanizma nije spreman za produkciju, bez obzira koliko dobro djeluje na demonstraciji.

Question 10

Možemo li početi s malim pilotom?

Accepted Answer

Da, i to obično preporučamo. Jedan jasno omeđen zadatak s mjerljivim ishodom daje odgovor na pravo pitanje: štedi li ovo stvarno vrijeme i je li kvaliteta dovoljna za vaš standard. Pilot koji ne uspije je jeftina informacija, pilot koji uspije daje brojku kojom se opravdava sljedeći korak. Ono što ne preporučamo je istovremeno uvođenje AI-ja u pet procesa, jer tada ne znate što je od toga radilo.

Question 11

Trebamo li vlastiti model ili je dovoljan postojeći?

Accepted Answer

Za gotovo sve poslovne slučajeve dovoljan je postojeći model uz vaše podatke. Treniranje vlastitog modela traži velike količine označenih podataka, stalno održavanje i trošak koji se rijetko vrati. Dohvat iz vaših dokumenata u trenutku upita daje modelu vaše znanje bez treniranja, a ažurira se time što promijenite dokument. Vlastiti model ima smisla u uskim tehničkim domenama s puno vlastitih podataka, i tada ćemo to reći.

Question 12

Što je EU AI Act i pogađa li nas?

Accepted Answer

EU AI Act je europska uredba koja klasificira AI sustave prema riziku i s tim vezuje obveze. Većina poslovnih primjena o kojima se ovdje govori, poput podrške, razvrstavanja upita ili obrade dokumenata, spada u niži rizik, gdje je glavna obveza transparentnost: korisnik mora znati da komunicira s AI sustavom. Više obveze nose primjene koje utječu na zapošljavanje, kreditnu sposobnost, obrazovanje ili pristup uslugama. Kategoriju utvrđujemo prije razvoja jer ona određuje što sustav mora bilježiti i objaviti, a za pravnu potvrdu specifičnog slučaja uputit ćemo vas odvjetniku.

AI integracije: Pametni softver i automatizacija u Zagrebu