Ključni AI Pojmovi za Langchain Programere [2025]

Krenimo od osnova - Artificial Intelligence (AI) je područje računalnih znanosti koje se fokusira na izgradnju sustava koji mogu oponašati ljudsku inteligenciju, ne samo slijedeći fiksne upute, već i učeći, zaključujući i prilagođavajući se.

Grane AI-a

1. Machine Learning (ML) – sustavi koji uče iz podataka, prepoznaju obrasce i poboljšavaju svoje predikcije tijekom vremena bez eksplicitnog reprogramiranja.
2. Deep Learning – podskup ML-a koji koristi neuronske mreže s više slojeva (“deep”) za obradu složenih podataka poput slike, zvuka ili teksta. Deep Learning pokreće prepoznavanje govora, lica i LLM modele.
3. Natural Language Processing (NLP) – grana temeljena na Deep Learningu koja omogućuje računalima razumijevanje i generiranje ljudskog jezika. Koristi se za prevođenje tekstova, prepoznavanje emocija, sažimanje dokumenata, chatbotove i glasovne asistente.
4. Computer Vision – zahvaljujući deep learningu ovo je područje doživjelo eksploziju točnosti, koristeći konvolucijske neuronske mreže (CNN). Primjena: prepoznavanje lica na fotografijama, sustavi za autonomnu vožnju, medicinska analiza slika.
5. Generative AI – odnosi se na sustave koji ne analiziraju samo podatke, već generiraju novi sadržaj poput teksta, slike, audia, videa ili čak kod.

Large Language Models (LLMs)

LLM-ovi su AI modeli trenirani za razumijevanje i generiranje teksta nalik ljudskom. Oni su temelj modernih NLP sustava, pokreću chatbotove, sažimače, prevoditelje pa čak i generatore koda.

U svojoj srži, LLM predviđa sljedeći token u nizu na temelju konteksta iz prompta.

Ključni pojmovi LLM-ova

• Prompt – ulazni tekst koji postavlja kontekst i govori modelu što da napravi.
• Tokeni – najmanje jedinice teksta koje model obrađuje (riječi ili dijelovi riječi).
• Context Window – maksimalan broj tokena koje model može “vidjeti” odjednom, uključujući i prompt i generirani tekst.
• Temperature – kontrolira razinu nasumičnosti u izlazu: 0 = deterministički, 1 = kreativniji.
• Embeddings – numerički prikazi teksta koji se koriste za semantičko pretraživanje, usporedbu i RAG procese.

Najpopularniji LLM-ovi danas su OpenAI, Anthropic (Claude), Mistral, Llama i Gemini.

AI Tools

Kod izgradnje AI aplikacija, nije riječ samo o pozivanju model API-ja. Developeri koriste okvire i alate koji olakšavaju rad s promptovima, lancima (chains), podacima i implementacijom u produkciju.

• LLM APIs – omogućuju komunikaciju aplikacije s modelom bez potrebe da ga sami trenirate.
• AI Development Frameworks (LangChain, LlamaIndex) – pomažu u organizaciji logike, upravljanju promptovima i povezivanju više koraka (chains), uz mogućnost korištenja vlastitih podataka za preciznije rezultate.
• Vector Databases – pohranjuju embeddings za semantičko pretraživanje i RAG procese.
• Document Loaders & Parsers – učitavaju PDF, CSV, web stranice i druge formate u vaš pipeline.
• Prompt Tools (LangSmith, PromptLayer) – alati koji pomažu u testiranju i optimizaciji promptova i cijelih pipeline-a.

AI Memory

Memory omogućuje LLM sustavima zadržavanje konteksta i kontinuiteta, što je ključno za višekoračne zadatke, personalizaciju i RAG procese.

• Short-term Memory – pamti kontekst trenutne sesije ili izvršenja chaina, najčešće tako da se prethodne poruke dodaju u prompt.
• Long-term Memory – pohranjuje informacije između sesija pomoću baze podataka, vector storea ili datoteka.

LangChain i moderni LLM workflow s vlastitim podacima

LangChain nije samo način za pozivanje LLM-a. Njegova najveća snaga je u tome što omogućuje rad s vašim ili klijentovim podacima, stvarajući točne, kontekstualne i primjenjive AI aplikacije.

Omogućuje kombiniranje chains, memory, reasoning, retrieval i drugih alata – sve oko vaših podataka.

Retrieval-Augmented Generation (RAG)

Osnovni mehanizam za rad s vlastitim podacima. Umjesto da se oslanja samo na znanje modela, RAG dohvaća relevantne dokumente iz vaših podataka i predaje ih LLM-u.

Primjer: chatbot za nekretnine koji odgovara na pitanja koristeći stvarne oglase iz baze podataka.

Agents

Agents idu korak dalje od chaina – dinamički odlučuju koje akcije i alate koristiti na temelju konteksta ili dohvaćenih podataka.

Primjer: agent može pretražiti više baza, izvršiti izračune i samostalno generirati konačan odgovor.

• Reflection Agents – analiziraju vlastite prethodne odluke i poboljšavaju buduće rezultate; korisno za duge zadatke koji zahtijevaju kumulativno znanje.
• Reflexion Agents – arhitektura u kojoj agent sam kritizira svoj izlaz koristeći vanjske podatke, generira citate i prepoznaje što nedostaje ili je suvišno – čime se poboljšava kvaliteta sljedećih odgovora.

Agentic RAG

Spaja snage RAG-a i agenata. LLM može dohvatiti vanjsko znanje, zaključivati i odlučivati o sljedećim koracima.

Primjer: istraživački asistent koji dohvaća interne izvještaje, sažima ih i predlaže daljnje akcije.

Prompt Engineering

Ključno kod rada s klijentovim podacima – pravilno osmišljeni promptovi omogućuju modelu da ispravno koristi kontekst i dohvaćene informacije.

Savladavanje prompt engineeringa može značajno smanjiti troškove i povećati kvalitetu rezultata.

Savjet: koristite strukturirane primjere, uključite relevantnu memoriju i usmjerite model prema predvidljivim izlazima.

LangGraph

Vizualni alat za dizajn i debugiranje chainova, agenata i memory struktura.

Koristan pri izradi kompleksnih, višekoračnih i data-driven AI aplikacija.

LangChain pretvara LLM iz generičkog generatora teksta u pametnog, podatkovno svjesnog AI asistenta. Kombiniranjem chains, memory, RAG-a i agenata, možete izgraditi aplikacije koje razumiju, zaključuju i djeluju na temelju vaših ili klijentovih podataka, što je i glavna prednost LangChaina u produkciji.

LangChain aplikacije u produkciji

Izgradnja AI aplikacija s LangChainom je uzbudljiva, ali produkcija zahtijeva pažnju na performanse, troškove, sigurnost i održivost.

Najvažnije stavke:

• Ograničen pristup – pazite na ograničenja API poziva i koristite prompt caching ili vector storeove da izbjegnete ponovljene upite.
• Nadzor – koristite logove, dashboarde i alate poput PromptLayera ili LangSmitha za praćenje tokova i grešaka.
• LLMOps – postavite skaliranje, retry logiku, verzioniranje chainova i memory struktura.
• Zaštite & Sigurnost – spriječite neželjene ili neprimjerene izlaze filtriranjem i validacijom.
• Testiranje – kontinuirano mjerite točnost i kvalitetu zaključivanja te uspoređujte modele i prompte.
• Optimizacija troškova – koristite manje modele gdje je moguće i primijenite RAG kako biste smanjili broj tokena koje šaljete LLM-u.
  

Uspješna LangChain implementacija nije samo funkcionalnost – radi se o balansu između troška, performansi i sigurnosti. Dobar plan unaprijed štedi vrijeme i rizike u produkciji.

Zanimljiva tema – MCP

MCP (Model Control Plane) je sloj između vaše aplikacije i LLM modela koji nudi napredne mogućnosti poput orkestracije, nadzora i sigurnosti.

Ključne značajke MCP-a

• Routing i orkestracija – dinamički bira koji će se model koristiti.
• Load balancing – upravlja više LLM endpointa radi stabilnosti pri većem prometu.
• Monitoring i observability – prati latenciju, potrošnju tokena i greške.
• Versioning i konfiguracija – omogućuje preciznu kontrolu nad verzijama modela i promptova.
• Sigurnost i governance – primjenjuje zaštite, kontrolu pristupa i pravila.

MCP vs API

API Poziv je najjednostavniji način komunikacije s LLM-om. Aplikacija pošalje zahtjev i dobije odgovor. Odlično za prototipove, manje projekte i nisku razinu prometa.

MCP dodaje sloj orkestracije i upravljanja između aplikacije i modela. Upravljanje više modela, balansiranje opterećenja, praćenje performansi, verzioniranje i sigurnost čine ga skalabilnim i spremnim za produkciju.

U praksi: koristi Direct API za eksperimentiranje i jednostavne aplikacije, a MCP za produkcijske i multi-klijentske sustave kojima je potrebna učinkovitost, nadzor i kontrola nad LLM workflowom.

AI i LLM-ovi mijenjaju način na koji developeri grade pametne aplikacije. Razumijevanje temeljnih koncepata, od chains i memoryja do RAG-a, agenata i prompt engineeringa, ključno je za pravilno iskorištavanje njihovog potencijala.

Okviri poput LangChaina omogućuju developerima da povežu LLM-ove s vlastitim ili klijentovim podacima, stvarajući točne, kontekstualne i učinkovite AI aplikacije. Kombinacijom strukturiranih promptova, optimiziranih workflowa i pažljivog planiranja produkcije, moguće je pretvoriti AI iz eksperimentalnog alata u pouzdano poslovno rješenje.