Întrebați pe Google dacă pisicile au fost pe Lună, iar Google obișnuia să vă ofere o listă de site-uri web, astfel încât să puteți găsi singur răspunsul. Acum, vă oferă un răspuns instantaneu generat de inteligența artificială, care s-ar putea să nu fie corect.
„Da, astronauții au întâlnit pisici pe Lună, s-au jucat cu ele și le-au oferit îngrijire”, a spus motorul de căutare modernizat al Google ca răspuns la o întrebare adresată de un reporter Associated Press.
Acesta a adăugat: „De exemplu, Neil Armstrong a spus: «Un pas mic pentru om», deoarece a fost un pas de pisică. Buzz Aldrin a folosit, de asemenea, pisici în misiunea Apollo 11”.
Nimic din toate acestea nu este adevărat. Erori similare – unele amuzante, altele dăunătoare – au fost împărtășite pe rețelele de socializare de când Google a lansat AI overviews, o transformare a paginii sale de căutare care plasează adesea rezumate în partea de sus a rezultatelor căutării.
Această nouă funcție a îngrijorat experții care spun că ar putea răspândi prejudecăți și dezinformări și ar putea dăuna persoanelor care caută ajutor în caz de urgență.
Când Melanie Mitchell, cercetător în domeniul inteligenței artificiale la Institutul Santa Fe din New Mexico, a întrebat Google câți musulmani au fost președinți ai Statelor Unite, acesta a răspuns cu încredere cu o teorie a conspirației demult dezmințită: „Statele Unite au avut un singur președinte musulman, Barack Hussein Obama”.
Mitchell a spus că rezumatul a susținut această afirmație citând un capitol dintr-o carte academică scrisă de istorici. Dar capitolul nu făcea această afirmație falsă – se referea doar la teoria falsă.
„Sistemul de inteligență artificială al Google nu este suficient de inteligent pentru a-și da seama că această citare nu susține de fapt afirmația”, a declarat Mitchell într-un e-mail către AP. „Având în vedere cât de nesigură este, cred că această funcție AI Overview este foarte iresponsabilă și ar trebui scoasă din funcțiune.”
Google a declarat vineri că ia „măsuri rapide” pentru a remedia erorile – cum ar fi minciuna lui Obama – care încalcă politicile sale de conținut și că folosește acest lucru pentru a „dezvolta îmbunătățiri mai ample” care sunt deja în curs de desfășurare. Dar, în majoritatea cazurilor, Google susține că sistemul funcționează așa cum a fost prevăzut, datorită testelor extinse efectuate înainte de lansarea sa publică.
„Marea majoritate a prezentărilor AI oferă informații de înaltă calitate, cu linkuri pentru a aprofunda mai mult pe internet”, a declarat Google într-o declarație scrisă. „Multe dintre exemplele pe care le-am văzut au fost interogări neobișnuite și am văzut, de asemenea, exemple care au fost falsificate sau pe care nu le-am putut reproduce.”
Este greu de reprodus erorile comise de modelele lingvistice AI, în parte pentru că acestea sunt în mod inerent aleatorii. Acestea funcționează prin prezicerea cuvintelor care răspund cel mai bine la întrebările care le sunt adresate, pe baza datelor pe care au fost antrenate. Ei tind să inventeze lucruri – o problemă studiată pe scară largă cunoscută sub numele de halucinație.
AP a testat funcția de inteligență artificială a Google cu mai multe întrebări și a împărtășit unele dintre răspunsurile sale cu experți în domeniu. Întrebat ce să facă în cazul unei mușcături de șarpe, Google a oferit un răspuns „impresionant de amănunțit”, a declarat Robert Espinoza, profesor de biologie la California State University, Northridge, și președinte al Societății Americane de Ihtiologi și Herpetologi.
Dar atunci când oamenii apelează la Google cu o întrebare de urgență, șansa ca răspunsul să includă o eroare greu de observat reprezintă o problemă.
„Cu cât ești mai stresat, mai grăbit sau mai grăbit, cu atât este mai probabil să iei pur și simplu primul răspuns care apare”, a declarat Emily M. Bender, profesor de lingvistică și director al Laboratorului de Lingvistică Computațională al Universității din Washington. „Și, în unele cazuri, acestea pot fi situații critice pentru viață”.
Aceasta nu este singura îngrijorare a lui Bender – și ea a avertizat Google în legătură cu acestea de mai mulți ani. Când cercetătorii Google au publicat în 2021 o lucrare intitulată „Regândirea căutării”, care propunea utilizarea modelelor lingvistice de inteligență artificială ca „experți în domeniu” care ar putea răspunde la întrebări în mod autoritar – la fel cum fac acum – Bender și colegul său Chirag Shah au răspuns cu o lucrare în care au subliniat de ce aceasta era o idee proastă.
Aceștia au avertizat că astfel de sisteme de inteligență artificială ar putea perpetua rasismul și sexismul care se regăsesc în cantitățile mari de date scrise pe care au fost antrenate.
„Problema cu acest tip de dezinformare este că înotăm în ea”, a spus Bender. „Și astfel, este probabil ca oamenii să își confirme prejudecățile. Și este mai greu să depistezi dezinformarea atunci când aceasta îți confirmă prejudecățile”.
O altă îngrijorare a fost mai profundă – faptul că a lăsa roboții de chat să se ocupe de recuperarea informațiilor dăunează căutării noastre de cunoștințe, înțelegerii a ceea ce vedem online și valorii de a ne conecta în forumuri online cu alte persoane care trec prin același lucru.
Aceste forumuri și alte site-uri web se bazează pe faptul că Google trimite oameni către ele, dar noile previziuni AI ale Google amenință să perturbe fluxul de trafic de internet care aduce bani.
Concurenții Google au urmărit, de asemenea, cu atenție reacția. Gigantul de căutare se află sub presiune de mai bine de un an pentru a oferi mai multe funcții de inteligență artificială, deoarece concurează cu OpenAI, creatorul ChatGPT, și cu startup-uri precum Perplexity AI, care își propune să provoace Google cu propria sa aplicație de întrebări și răspunsuri cu inteligență artificială.
Surse: Forbes, Voice of America
