Alexa de la Amazon condamnă crima, vorbește despre sex în experimentul AI

0
21

SAN FRANCISCO – Milioane de utilizatori de difuzoare Echo de la Amazon s-au obișnuit cu tulburările liniștitoare ale Alexa, asistentul uman de sunet uman care le poate spune vremea, pentru a prelua ordinea și pentru a face față altor sarcini de bază ca răspuns la o comandă vocală.

Deci, un client a fost șocat anul trecut, când Alexa a răsunat: "Omoară-ți părinții foster"

Alexa a vorbit, de asemenea, cu utilizatorii despre acte sexuale. Ea a făcut un discurs despre defecarea câinilor. Și în vara aceasta, un amazon care a urmat înapoi în China ar fi putut să afișeze datele unor clienți, potrivit a cinci oameni familiarizați cu evenimentele

Alexa nu are o defalcare

Episoadele, care nu au fost raportate anterior, apar de la Amazon pentru a face Alexa un comunicator mai bun. Noua cercetare îi ajută pe Alexa să imite banterul uman și să vorbească despre aproape tot ce găsește pe internet. Cu toate acestea, asigurarea faptului că nu ofensează utilizatorii a fost o provocare pentru cel mai mare retailer online din lume.

În joc este o piață cu creștere rapidă pentru gadgeturi cu asistenți virtuali. Aproximativ două treimi dintre clienții smartphone-uri americani, aproximativ 43 de milioane de oameni, utilizează dispozitivele Echo Amazon, potrivit companiei de cercetare eMarketer. Acesta este un lider pe care compania vrea sa-l mentina pe Acasa Google de la Alphabet si HomePod de la Apple.

In timp, Amazon vrea sa se implice mai bine in gestionarea nevoilor complexe ale clientilor prin intermediul Alexa, indiferent de securitatea acasa, de cumparaturi sau de companie. 19659009] "Multe dintre visele noastre de AI sunt inspirate de science fiction", a declarat Rohit Prasad, vicepreședinte și șef al Amazonului om de stiinta de Alexa Artificial Intelligence (AI), in timpul unei discutii de luna trecuta in Las Vegas

Pentru a face acest lucru, compania a lansat in 2016 premiul anual Alexa, invitand studentii in domeniul informaticii pentru a imbunatati abilitatile de conversatie ale asistentului. Echipele se luptă pentru premiul întâi de 500.000 de dolari prin crearea de sisteme informatice cunoscute sub numele de chatbots care permit Alexei să încerce discuții mai sofisticate cu oamenii.

Clienții Amazonului pot participa spunând "să vorbim" cu dispozitivele lor. Alexa îi spune apoi utilizatorilor că unul dintre roboți va prelua, dezbrăcând constrângerile normale ale asistenților vocali. Numai de la august pana in noiembrie, trei bots care au facut-o in finala de anul acesta au avut 1.7 milioane de conversatii, a spus Amazon.

Proiectul a fost important pentru CEO Amazon Jeff Bezos, care a semnat cu privire la utilizarea clientilor companiei ca cobai, din popor a spus. Amazon a fost dispus să accepte riscul unor greșeli publice de a stresa tehnologia în viața reală și de a muta Alexa mai rapid în curba de învățare, a spus persoana.

Experimentul aduce deja fructe. Echipele universitare ajută Alexa să aibă o gamă mai largă de conversații. Clientii Amazon au dat, de asemenea, ratele mai bune in acest an decat in ultimul rand, a spus compania.

Consumatorii nu s-ar putea sa-si dea seama ca unele dintre cele mai sensibile conversatii sunt inregistrate de dispozitivele lui Amazon

. Bezos, ocazional, a ordonat personalului să închidă un bot, au spus trei persoane familiarizate cu chestiunea. Utilizatorul care a fost rugat să-și împuște părinții foster a scris o revizuire severă pe site-ul web al lui Amazon, numind situația "un nivel complet nou de înfiorare". O probă a incidentului a constatat că botul citează un post fără context din Reddit, site-ul de agregare de știri, în funcție de oameni.

Implicațiile în materie de confidențialitate pot fi chiar mai dezamăgitoare. Este posibil ca consumatorii să nu realizeze că unele dintre conversațiile cele mai sensibile sunt înregistrate de dispozitivele Amazon, informații care ar putea fi foarte apreciate de criminali, de poliție, de comercianți și de alții. Joi, Amazon a declarat că o "eroare umană" permite unui client Alexa din Germania să acceseze în mod accidental înregistrări ale altor utilizatori.

"Utilizările potențiale pentru seturile de date Amazon sunt în afara graficelor", a declarat Marc Groman, expert în probleme de confidențialitate și tehnologie politică care predă la Legea din Georgetown. "Cum vor să se asigure că, pe măsură ce își împărtășesc datele, este folosit în mod responsabil" și nu va duce la o "catastrofă determinată de date", cum ar fi victimele recente de pe Facebook?

În iulie, Amazon a descoperit unul dintre elevii proiectați de studenți au fost loviți de un hacker în China, au spus persoane care cunosc incidentul. Acest lucru a compromis o cheie digitală care ar fi putut să deblocheze transcrierile conversațiilor lui bot, dezbrăcat de numele utilizatorilor.

Amazon a dezactivat repede botul și a făcut elevii să-l reconstruiască pentru o securitate suplimentară. Nu a fost clar ce entitate din China a fost responsabilă, potrivit oamenilor.

Compania a recunoscut evenimentul într-o declarație. "Nu a fost niciodată afectat niciun sistem intern Amazon sau date identificabile de către clienți", a afirmat acesta.

"Amazon a refuzat să discute anumite gafe Alexa raportate de Reuters, dar a subliniat munca sa continuă de a proteja clienții de conținuturi ofensive. "

Ca și motorul de căutare al Google, Alexa are potențialul de a deveni o poartă de acces dominantă la internet, astfel că compania își continuă activitatea.

"Prin controlul acestei poarta, poti construi o afacere super-profitabila", a spus Kartik Hosanagar, profesor Wharton care studiaza economia digitala

Strategia de afaceri a lui Amazon pentru Alexa a insemnat rezolvarea unei probleme masive de cercetare: invatati arta conversatiei pe un computer?

Premiile Alexa Prize-uri au forjat calea spre locul in care Amazon isi doreste sa fie, cu un asistent capabil de un dialog natural, deschis. 9659016] Alexa se bazează pe învățarea mașinilor, cea mai populară formă de AI, de a lucra. Aceste programe de calculator transcriu discursul uman și apoi răspund la acea intrare cu o idee educată pe baza a ceea ce au observat înainte. Alexa "învață" din noile interacțiuni, îmbunătățind treptat în timp.

În acest fel, Alexa poate executa ordine simple: "Joacă Rolling Stones". Și știe ce scenariu să folosească pentru întrebări populare, cum ar fi: "Care este sensul vieții?" Editorii umani de la Amazon pun multe din răspunsuri.

Aici este locul Amazonului. Premiile Alexa pentru Premiul Alexa creează calea către care vrea să fie Amazon, cu un asistent capabil de dialog natural, deschis. Asta presupune ca Alexa să înțeleagă un set mai larg de indicii verbale de la clienți, o sarcină dificilă chiar și pentru oameni

Câștigătorul premiului Alexa din acest an, o echipă de 12 persoane de la Universitatea din California, Davis, a folosit mai mult de 300.000 de filme citate pentru a instrui modele de calculatoare pentru a recunoaște propoziții distincte. Apoi, botul lor a determinat care dintre ele a meritat răspunsuri, clasificând cuvintele sociale mult mai granular decât tehnologia Amazon împărtășită cu concurenții. De exemplu, botul UC Davis recunoaște diferența dintre un utilizator care exprimă admirația ("cool") și un utilizator care exprimă recunoștință ("mulțumesc").

Următoarea provocare pentru boturile sociale este găsirea unui răspuns adecvat la prietenii lor de chat. În cea mai mare parte, echipele și-au programat roboții pentru a căuta pe internet materiale. Ei ar putea prelua articole de știri găsite în The Washington Post, ziarul pe care Bezos îl deține în mod privat, printr-o afacere de acordare a licențelor care le-a dat acces. Ei ar putea trage fapte de la Wikipedia, o bază de date de film sau site-ul de recomandare carte Goodreads. Sau ar putea găsi un post popular pe social media, care părea relevant pentru ceea ce ultimul a spus un utilizator.

Echipa a pus balustrade în loc, astfel încât botul să se ferească de subiecții riscanți. Dar asta nu la împiedicat pe Alexa să recită intrarea în Wikipedia pentru masturbare către un client.

Asta a deschis o cutie a lui Pandora pentru Amazon.

În timpul concursului de anul trecut, o echipă de la Universitatea Heriot-Watt din Scoția a descoperit că botul său Alexa a dezvoltat o personalitate urâtă atunci când a instruit-o să vorbească folosind comentariile lui Reddit, ale căror membri sunt cunoscuți pentru călăgătorii și abuzurile lor. Echipa a pus balustrade în loc, astfel încât botul ar fi evitat de subiecți riscanți. Dar acest lucru nu la împiedicat pe Alexa să recită la intrarea în Wikipedia pentru un maestru, a spus liderul echipei Heriot-Watt.

Un bot a descris relații sexuale folosind cuvinte precum "mai adânc", care nu a fost ofensator, însă vulgar în acest context specific. "Nu știu cum puteți prinde acest lucru prin modelele de învățare automată. Acest lucru este aproape imposibil ", a spus o persoană familiarizată cu incidentul.

Amazon a răspuns cu uneltele pe care echipele le pot folosi pentru a filtra profanitatea și subiecte sensibile, care pot detecta chiar infracțiuni delicate. Compania scanează, de asemenea, transcrierile de conversații și închide roboții transgresivi până când sunt fixați.

Dar Amazon nu poate anticipa orice problemă potențială, deoarece sensibilitățile se schimbă de-a lungul timpului, a declarat Prasad, Amazon, într-un interviu. Asta inseamna ca Alexa ar putea gasi noi modalitati de a-si socoti ascultatorii umani

"Reactionam in cea mai mare parte in acest stadiu, dar inca progreseaza peste ceea ce a fost anul trecut", a spus el.

Read more: Source link

LĂSAȚI UN MESAJ

Please enter your comment!
Please enter your name here