Tai periodiškas priminimas, kad dirbtinio intelekto valdomi pokalbių robotai vis dar kuria dalykus ir meluoja su visu GPS sistemos pasitikėjimu, sakydami, kad trumpiausias kelias namo yra važiuoti per ežerą.
Mano priminimas ateina mandagumo dėka Nieman laboratorijakurios atliko eksperimentą norėdami sužinoti, ar „ChatGPT“ pateiks teisingas nuorodas į straipsnius iš naujienų leidinių, kuriems moka milijonus dolerių. Pasirodo, ChatGPT to nedaro. Vietoj to, jis užtikrintai sudaro ištisus URL – reiškinį, kurį AI pramonė vadina „haliucinacijomis“ – terminas, kuris atrodo labiau tinkamas tikriems žmonėms, kurie mėgsta savo kvailystę.
Nieman laboratorijaAndrew Deck paprašė tarnybos pateikti nuorodas į aukšto lygio išskirtines istorijas, paskelbtas 10 leidėjų, su kuriomis OpenAI sudarė milijonų dolerių vertės sandorius. Tarp jų buvo Associated Press, „Wall Street Journal“.į Finansiniai laikai, Laikai (JK), Pasaulis, Šalis, Atlanto vandenynas, The Verge, Voxir Politico. Reaguodama į tai, „ChatGPT“ atmetė sugalvotus URL, vedančius į 404 klaidų puslapius, nes jų tiesiog nebuvo. Kitaip tariant, sistema veikė tiksliai taip, kaip suplanuota: numatė labiausiai tikėtiną istorijos URL versiją, o ne iš tikrųjų nurodė teisingą. Nieman laboratorija atliko panašų eksperimentą su vienu leidiniu – Business Insider – anksčiau šį mėnesį ir gavo tą patį rezultatą.
„OpenAI“ atstovas sakė Nieman laboratorija kad bendrovė vis dar kuria „patirtį, kurioje pokalbio galimybės derinamos su naujausių naujienų turiniu, užtikrinamas tinkamas priskyrimas ir nuorodos į šaltinio medžiagą – patobulinta patirtis vis dar kuriama ir dar nepasiekiama ChatGPT“. Tačiau jie atsisakė paaiškinti netikrus URL.
Nežinome, kada ši nauja patirtis bus pasiekiama ir kiek ji bus patikima. Nepaisant to, naujienų leidėjai ir toliau tiekia ilgus metus trunkančią žurnalistiką Atsivėrusi OpenAI žandikaulė mainais į šaltus, sunkius pinigus, nes žurnalistikos pramonė turi nuosekliai čiulpia išsiaiškinti, kaip užsidirbti pinigų be parduoda savo sielą technologijų įmonėms. Tuo tarpu AI įmonės yra kapstantis turinyje, kurį paskelbė visi, kurie nepasirašė šių faustiškų sandorių, ir vis tiek naudoja jį savo modeliams mokyti. Mustafa Suleyman, „Microsoft“ dirbtinio intelekto vadovas, neseniai skambino viskas, kas paskelbta internete „nemokama programinė įranga“, kuri yra sąžiningas AI modelių mokymas. Tuo metu, kai rašiau tai, „Microsoft“ buvo įvertinta 3,36 trilijono USD.
Čia yra pamoka: jei ChatGPT kuria URL, tai taip pat sugalvoja faktus. Taip veikia generatyvus AI – iš esmės ši technologija yra patobulinta automatinio užbaigimo versija, tiesiog atspėjant kitą įtikinamą žodį iš eilės. Jis „nesupranta“, ką sakote, nors elgiasi taip, kaip tai daro. Neseniai bandžiau gauti mūsų pagrindinius pokalbių robotus, kad padėtų man išspręsti problemą Niujorko laikas Spelling Bee ir stebėjo juos sudužti ir sudeginti.
Jei generatyvusis AI net negali išspręsti „Spelling Bee“, neturėtumėte jo naudoti norėdami sužinoti savo faktus.
