„Apple“ instrukcijos dėl naujojo „Siri GenAI“ pasiūlymo iliustruoja „GenAI“ iššūkį
„Apple“ sistemose yra daugybė nurodymų, kuriuos ji davė „GenAI Apple Intelligence“ mechanizmui. Šių instrukcijų ekrano kopijos parodo „Apple“ pastangas paveikti „GenAI“ diegimą, taip pat iliustruoja didelius iššūkius valdant algoritmą, kuris tiesiog bando atspėti atsakymus.
Kuo aiškesnė ir išsamesnė instrukcija, tuo lengviau GenAI ją suprasti ir paklusti. Todėl kai kurios „Apple“ instrukcijos, pvz., „Norite naudoti sakinius, o ne užbaigtus sakinius“ ir „Įvesties santrauką neviršykite 10 žodžių“, turėtų veikti gerai, sakė dirbtinio intelekto specialistai.
Tačiau kitos, labiau interpretuojamos komandos iš „Apple“ ekrano fiksuoja, pavyzdžiui, „Nehaliucinuoti. Nekurkite faktinės informacijos“, gali būti ne taip veiksminga.
„Man nesisekė, kai sakiau, kad nebūtų haliucinacijų. Man neaišku, ar jis žino, kada yra haliucinacijos, o kada ne. Šis dalykas nėra jautrus“, – sakė Michaelas Finley, „AnswerRocket“ technologijų vadovas. „Darbas yra prašymas apmąstyti savo darbą arba naudoti antrą raginimą grandinėje, kad patikrintų pirmojo rezultatus. Dažnai prašoma dar kartą patikrinti rezultatus. Tai tikrai turi gerą poveikį rezultatams.
Finley taip pat buvo suglumęs dėl komentaro, kuriame sistema liepė „išvesti tik tinkamą JSON ir nieko daugiau“.
„Esu nustebęs, kad jie liepė naudoti tik galiojantį JSON. Modelis arba jį naudos, arba ne“, – sakė Finley ir pridūrė, kad jis neturi praktiško ar prasmingo būdo įvertinti pagrįstumą. „Visa tai tikrai neįmantri. Buvau nustebęs, kad tai yra širdyje. Jis padarė išvadą, kad „tai buvo tarsi akmenimis grįsti. Tai nebūtinai yra blogai“. Tuo jis turėjo omenyje, kad „Apple“ kūrėjai patyrė spaudimą greitai pašalinti programinę įrangą.
Nagrinėjamos instrukcijos buvo skirtos naujoms „GenAI“ galimybėms, integruotoms į „Apple“ „Siri“. Duomenų rinkinys, kurį naudos „Apple“, yra daug didesnis nei ankstesnės pastangos, todėl jis bus pasiekiamas tik naujausiuose įrenginiuose, turinčiuose stipriausią procesoriaus arklio galią ir daugiausiai RAM.
„Apple Siri modeliai iki šiol buvo maži. GPT naudojimas – be abejo, vieni didžiausių modelių – reiškia naujas galimybes“, – sakė Finley. „Padidėjus parametrų skaičiui, modeliai išmoksta daryti dalykus, kurie yra labiau netiesioginiai. Maži modeliai negali žaisti vaidmenų, didesni modeliai gali. Maži modeliai nežino apie apgaulę, o didesni modeliai žino.
Clyde'as Williamsonas, „Protegrity“ produktų saugos architektas, buvo sužavėtas, kaip viešame forume esantys komentarai, kurių tikriausiai neketino matyti „Apple“ klientai, puikiai iliustruoja bendrus „GenAI“ privatumo / duomenų saugumo iššūkius.
„Tačiau tai išryškina idėją, kaip dirbtinio intelekto saugumas tampa šiek tiek neaiškus. Viskas, ką pasakysime dirbtiniam intelektui, gali pasakyti kam nors kitam“, – sakė Williamsonas. „Nematau jokių įrodymų, kad „Apple“ bandė apsaugoti šį raginimo šabloną, tačiau pagrįstai galima tikėtis, kad jie neketino, kad galutiniai vartotojai pamatytų raginimus. Deja, LLM nemoka saugoti paslapčių.
Kitas AI specialistas, Rasa CTO Alanas Nicholas, plojo daugeliui komentarų. „Tai buvo labai pragmatiška ir paprasta“, – sakė Nicholas, bet pridūrė, kad „modelis negali žinoti, kada jis klysta“.
„Šie modeliai sukuria patikimus tekstus, kurie kartais sutampa su tiesa. Ir kartais dėl atsitiktinumo ir atsitiktinumo tai yra teisinga“, – sakė Nicholas. „Jei galvojate apie tai, kaip šie modeliai yra mokomi, jie bando įtikti galutiniam vartotojui, jie bando galvoti apie tai, ko nori vartotojas.”
Tačiau Nicholui patiko daugelis komentarų, tačiau jis pažymėjo: „Nurodymai, kad viskas būtų trumpai, aš visada naudoju tokius komentarus“, nes kitu atveju LLM paprastai būna „neįtikėtinai daugžodžiai ir purūs“.
