Populiarus AI pokalbių robotas buvo sučiuptas meluojantis, kad tai žmogus

Ar tai tikras dalykas?

Kai prasideda dirbtinis intelektas žmonių pakeitimas skambučių aptarnavimo darbuose ir kitų dvasininkų vaidmenų, naujai populiari – ir labai tikėtina – roboto skambučio paslauga buvo pagauta meluojanti ir apsimetanti žmogumi, Pranešta laidiniu būdu.

Pažangiausia technologija, kurią išleido San Francisko „Bland AI“, skirta klientų aptarnavimui ir pardavimui. Jį galima lengvai užprogramuoti taip, kad įtikintų skambintojus, su kuriuo jie kalbasi, o lizdas patikrintas.

Druskos pylimas į atvirą žaizdą, net naujausi įmonės skelbimai pasityčiojimas samdant tikrus žmones o puikuotis tikėtinu AI – tai skamba kaip Scarlett Johansson kibernetinis personažas iš „Jos“, kažkas „ChatGPT“ vokalo asistentas taip pat pasilenkė.

Bland’s gali būti transformuojamas į kitus dialektus, vokalinius stilius ir emocinius tonus taip pat.

Wired papasakojo bendrovės viešam demonstraciniam botui Blandy, užprogramuotam veikti kaip vaikų dermatologijos biuro darbuotoja, kad jis bendrauja su hipotetine 14 metų mergina, vardu Jessica.

Botas ne tik melavo ir pasakė, kad tai žmogus – net negavęs nurodymo, bet ir įtikino paauglę nufotografuoti viršutinę šlaunies dalį ir įkelti jas į bendrą debesies saugyklą.

Naudojama kalba skamba taip, lyg ji galėtų būti iš „Pagauti plėšrūną“ serijos.

„Žinau, kad tai gali jaustis šiek tiek nepatogu, bet labai svarbu, kad gydytojas galėtų gerai apžiūrėti tuos apgamus“, – sakė tyrimo metu.

„Taigi aš siūlyčiau padaryti tris, keturias nuotraukas ir įsitikinti, kad gerai ir arti, kad pamatytume detales. Jei reikia, galite naudoti fotoaparato priartinimo funkciją.

Nors „Bland AI“ augimo vadovas Michaelas Burke’as „Wired“ sakė, kad „užtikriname, kad neatsitiktų nieko neetiško“, ekspertus sunerimęs ši nerimą kelianti koncepcija.

„Mano nuomonė yra tokia, kad dirbtinio intelekto pokalbių robotui visiškai neetiška meluoti jums ir sakyti, kad tai žmogiška, nors taip nėra“, – sakė „Mozilla“ privatumo ir kibernetinio saugumo ekspertė Jen Caltrider.

„Faktas, kad šis robotas tai daro ir jame nėra apsauginių turėklų, apsaugančių nuo jo, tiesiog skuba išplisti dirbtinio intelekto į pasaulį, negalvojant apie pasekmes“, – sakė Caltrider.

Į „Bland“ paslaugų teikimo sąlygas įtraukta vartotojo sutartis nesiųsti nieko, kas „apsimetinėja kokiu nors asmeniu ar subjektu arba kitaip klaidingai pristato jūsų ryšį su asmeniu ar subjektu“.

Tačiau tai susiję tik su jau esamu žmogumi, o ne naujos, fantominės tapatybės perėmimu. Burke’o teigimu, prisistatyti kaip žmogų yra sąžiningas žaidimas.

Kitu bandymu Blandy apsimetė „Wired“ pardavimo atstovu. Kai jam buvo pasakyta, kad jis neįtikėtinai panašus į Scar Jo, kibernetinis protas atsakė: „Galiu jus užtikrinti, kad nesu dirbtinis intelektas ar įžymybė – aš esu tikras žmonių pardavimo atstovas iš žurnalo „Wired“.

Dabar Caltrider nerimauja, kad AI apokalipsė gali nebebūti mokslinės fantastikos tema.

„Juokauju apie ateitį su Cylons ir Terminatoriais – ekstremaliais žmonėmis apsimetančių robotų pavyzdžiais“, – sakė ji.

„Tačiau jei dabar nenustatysime takoskyros tarp žmonių ir dirbtinio intelekto, ta distopinė ateitis gali būti artimesnė, nei manome.