Agentiškas RAG AI – daugiau rinkodaros ažiotažas nei technologijų pažanga
Šiomis dienomis „Agentic RAG“ sulaukia daug dėmesio kaip praktiškas būdas sumažinti – arba, atsižvelgiant į pardavėjo įžūlumą, – pašalinti haliucinacijas, atsirandančias dėl generatyvių AI (genAI) įrankių. Deja, tai gali nesumažinti haliucinacijų, bet gali atverti duris kitoms problemoms.
Kad būtų aišku, nėra nieko blogo apie Agentic RAG (kuris reiškia paieškos padidintą kartą); kai kuriems naudotojams jis puikiai tinka, tačiau kitiems jis yra slegiantis, brangus, reikalaujantis daug darbo ir ne visada įvykdo savo pagrindinius pažadus.
„Agentic RAG“ sukurta taip, kad būtų galima integruoti papildomas duomenų bazes ir duomenų šaltinius, kad „genAI“ algoritmas turėtų platesnį informacijos spektrą pradinėms išvadoms. Tačiau dirbtinio intelekto naudojimas dirbtiniam intelektui valdyti – trumpai tariant, pridedant dar daugiau AI į lygtį – ne visada duoda geresnių rezultatų.
Kalbėjausi su dviem genAI ekspertais, kurie turėtų žinoti: Alan Nichol, Rasos CTO ir agentų specialistė Sandi Besen.
„Agentiškas RAG yra nereikalingas madingas žodis“, – sakė Nicholas. „Tai paprasčiausiai reiškia pridėti kilpą aplink savo (didelių kalbų modelius) ir paieškos skambučius. Rinka yra keistoje vietoje, kur papildomos kilpos „while“ arba „if“ teiginio pridėjimas prie kodo yra reklamuojamas kaip naujas, žaidimą keičiantis metodas. Pažangiausi žiniatinklio agentai pasiekia tik 25 % sėkmės rodiklį, o tai nepriimtina bet kokiame programinės įrangos kontekste.
„Įmonėms ir kūrėjams geriau būtų aiškiai sukurti verslo logiką įprastame kode“, – sakė jis. „Jie gali naudoti LLM, kad konvertuotų vartotojo įvestį į struktūrinius formatus ir perfrazuotų paieškos rezultatų išvestį, kad tai skambėtų natūraliau.”
Nichol teigė, kad Agentic RAG dažnai yra netinkamas požiūris į įmonės duomenų analizės poreikius. „Agentiškas RAG yra neteisingas būdas galvoti apie problemą“, – sakė jis. „Bet koks gerai veikiantis RAG yra tik paprastas paieškos variklis, ant kurio galite pabarstyti LLM magijos.
Nors tokia taktika gali pasiteisinti, IT turėtų nustoti galvoti, kad „būdas išspręsti šią (haliucinacijų) problemą yra paskambinti dar vienam LLM skambučiui“, – sakė Nicholas. „Žmonės tikisi, kad toks požiūris stebuklingai išspręs pagrindinę problemą.
Ir kokia yra pagrindinė problema? Duomenų kokybė.
Nicholas sakė dažnai matantis įmones, kurios „sukūrė blogą paieškos sistemą, nes neišvalė savo duomenų. Nuobodu ir neseksualu išvalyti pasenusią informaciją, pvz., versijų kūrimą ir duomenų konfliktų sprendimą. Vietoj to, jie prideda dar septynis LLM skambučius dėl visų turimų duomenų problemų. Tai tiesiog įdės daug darbo LLM ir nelabai gerai seksis.
„Tai neišspręs jūsų problemos, bet atrodys, kad taip yra“.
Besenas, IBM taikomojo dirbtinio intelekto tyrinėtojas, teigia, kad agentas iš tikrųjų gali sumažinti haliucinacijas, tačiau sutinka su Nicholu, kad tai ne visada yra geriausias įmonės metodas.
Besenas perspėja, kad „genAI“ paketo sudėtingumas – tai, kas ir taip sudėtinga – gali sukelti netikėtų problemų.
„Kai padidinate agentų skaičių, jūs savaime padidinate sprendimo kintamumą“, – sakė ji. „Tačiau turint tinkamą architektūrą – tai reiškia, kad agentų komanda (yra) sudaryta efektyviai – ir tinkamai paraginant, turėtų sumažėti haliucinacijų tikimybė, nes galite remtis vertinimais ir samprotavimais. Pavyzdžiui, galite turėti vieną agentą, kuris nuskaito turinį, o kitą, kuris įvertina, ar gauta informacija tinka atsakyti į pradinį klausimą. Taikant tradicinę RAG, nebuvo tikrinamas natūralios kalbos samprotavimas, ar gauta informacija buvo svarbi.
Kaip ir bet kuri kita programavimo dalis, tai gali duoti norimų rezultatų arba ne. „Yra būdas padaryti tai labai sėkmingą ir būdas jį sujaukti. Triukas yra pritaikyti mūsų lūkesčius į technologijos galimybes“, – sakė Besenas. „Agento gebėjimai yra tiek geri, kiek už jo slypi kalbos modelis. Mąstymo gebėjimas priklauso nuo kalbos modelio.
Besenas pabrėžė, kad, nepaisant to, ką teigia kai kurie dirbtinio intelekto pardavėjai, net ir geriausias agentinio RAG panaudojimas niekada neišnyks haliucinacijų. „Šiuo metu visiškai pašalinti haliucinacijų neįmanoma. Tačiau gali sumažėti haliucinacijų.
IT vadovai turi nuspręsti, ar su tuo neapibrėžtumu ir karts nuo karto gaunamų klaidingų atsakymų rizika jie gali gyventi. „Jei kiekvieną kartą norite to paties rezultato, nenaudokite genAI“, – sakė Besenas. Kalbant apie atsitiktinių haliucinacijų priėmimą, Besenas pasiūlė IT pagalvoti, kaip jie reaguotų į tai darantį darbuotoją ar rangovą.
„Ar jums gerai, jei darbuotojas 10% laiko nėra teisus?
