„Microsoft“ teigia, kad naujasis „Pataisos“ įrankis gali ištaisyti genAI haliucinacijas – „Computerworld“.
„Microsoft“ pirmą kartą pristatė savo „pagrįstumo“ aptikimo funkciją kovo mėn. „Microsoft“ teigė, kad norint ją naudoti, „genAI“ programa turi prisijungti prie įžeminimo dokumentų, kurie naudojami dokumentų apibendrinimo ir RAG pagrįstų klausimų ir atsakymų scenarijuose. Nuo tada klientai teiraujasi, ką jie galėtų daryti, kai aptiktų klaidingą informaciją, be jos blokavimo.
„Tai išryškina didelį iššūkį sparčiai besivystančiame generatyviame AI aplinkoje, kur tradiciniai turinio filtrai dažnai nesugeba įveikti unikalios generatyvinių AI haliucinacijų keliamos rizikos“, – dienoraščio įraše rašė „Microsoft“ vyresnioji produktų rinkodaros vadovė Katelyn Rothney.
Remiantis esamu įmonės pagrįstumo aptikimu, taisymo įrankis leidžia „Azure AI Content Safety“ nustatyti ir ištaisyti haliucinacijas realiuoju laiku – prieš genAI programų naudotojams su jomis susiduriant. Tai veikia pirmiausia pažymint nepagrįstą turinį. Tada „Azure Safety“ sistema inicijuoja perrašymo procesą realiuoju laiku, kad peržiūrėtų netikslias dalis ir užtikrintų suderinimą su prijungtais duomenų šaltiniais.
