Mesterséges intelligencia asszisztens felhőalapó RAG architektúrában = Artificial Intelligence Assistant in a Cloud-based RAG Architecture

Kelemen, László Ádám (2026) Mesterséges intelligencia asszisztens felhőalapó RAG architektúrában = Artificial Intelligence Assistant in a Cloud-based RAG Architecture. In: A tudomány, az oktatás és a közgyűjteményi kiszolgálás új informatikai szinergiái : NETWORKSHOP 2026 : 35. Országos Informatikai Konferencia : 2026. március 31-április 2. Debreceni Egyetem, Debrecen. Hungarnet Egyesület, Budapest, pp. 151-161. ISBN 9786156792297 (In Press)

Preview

Text kelemen_nws_2026_inpress.pdf - Published Version Available under License Creative Commons Attribution. Download (902kB) | Preview

Abstract

A nagy nyelvi modellek fejlődése lehetővé tette olyan intelligens asszisztens rendszerek létrehozását, amelyek természetes nyelven támogatják a felhasználókat az információkeresési és ügyintézési feladatok során. A kizárólag generatív modellekre épülő megoldások ugyanakkor intézményi környezetben korlátozott megbízhatóságúak lehetnek, mivel pontatlan vagy nem naprakész válaszokat is előállíthatnak. A tanulmány egy felhőalapú Retrieval-Augmented Generation (RAG) architektúrára épülő mesterséges intelligencia asszisztens keretrendszert mutat be, amelyet a Szegedi Tudományegyetem számára fejlesztettünk. A rendszer Azure felhőszolgáltatásokra épül, és hibrid keresést, vektoralapú dokumentum-visszakeresést, szemantikus újrarangsorolást, valamint többfázisú dokumentumfeldolgozást alkalmaz. A dokumentumfeldolgozás során jelenleg két chunking stratégia támogatott: a standard paragraph-first chunking és a fejezetszintű struktúrát figyelembe vevő hierarchical chunking. A rendszer enterprise retrieval optimalizációkat, jogosultságkezelést és biztonsági mechanizmusokat is tartalmaz. Az eredmények alapján az architektúra alkalmas nagyméretű intézményi dokumentumállományok feldolgozására és kontextusérzékeny válaszok generálására, miközben csökkenti a hallucinációs kockázatot. | The advancement of large language models has enabled the development of intelligent assistant systems that support users in natural language information retrieval and administrative tasks. However, solutions relying exclusively on generative models may have limited reliability in institutional environments, as they can produce inaccurate or outdated responses. This paper presents a cloud-based Retrieval-Augmented Generation (RAG) artificial intelligence assistant framework developed for the University of Szeged. The system is built on Microsoft Azure cloud services and employs hybrid search, vector-based document retrieval, semantic reranking, and a multi-stage document processing pipeline. During document processing, the system currently supports two chunking strategies: standard paragraph-first chunking and hierarchical chunking, which preserves chapter-level semantic structure. The architecture also includes enterprise retrieval optimizations, access control, and security mechanisms. The results indicate that the system is suitable for processing large institutional document collections and generating context-aware responses while reducing hallucination risk.

Actions (login required)

Edit Item