SUA și China discută inclusiv despre limite pentru AI

SUA și China au deschis pe 20 septembrie discuții la nivel înalt la New York, înaintea summitului dintre Donald Trump și Xi Jinping. Secretarul american al Trezoreriei, Scott Bessent, și vicepremierul chinez He Lifeng au discutat despre economie, comerț și minerale critice, dar și despre siguranța inteligenței artificiale. Potrivit Reuters, printre ideile discutate se află posibile „guardrails” pentru AI – mecanisme și limite menite să reducă anumite riscuri ale sistemelor avansate. Discuțiile includ și riscurile sistemelor capabile să se îmbunătățească singure și ale tehnologiilor cu utilizare atât civilă, cât și militară.

De ce este important: siguranța AI a ajuns astfel pe agenda directă a uneia dintre cele mai importante relații geopolitice din lume. Pentru utilizatorii obișnuiți, discuțiile pot părea îndepărtate, dar regulile stabilite de marile puteri pot influența ulterior ce tipuri de modele pot fi dezvoltate, cum sunt controlate și ce restricții vor exista pentru anumite utilizări. În același timp, cele două țări încearcă să-și păstreze avantajul tehnologic în competiție.

Trump anunță o „AI Force” și un „AI czar”

Donald Trump a anunțat pe 19 septembrie că va numi un nou consilier pentru inteligență artificială, denumit „AI czar”, și că intenționează să creeze o structură numită „AI Force”. Potrivit Reuters, Trump nu a oferit deocamdată detalii despre componența sau atribuțiile acestei structuri. Președintele american a susținut dezvoltarea rapidă a AI și a indicat că preferă folosirea cadrului legal existent pentru problemele legate de utilizarea tehnologiei, în locul unor noi reglementări federale.

De ce este important: anunțul arată că AI este tratată la Washington nu doar ca o industrie, ci și ca o chestiune strategică. Rămâne însă de clarificat ce va face concret „AI Force”, ce instituții vor fi implicate și ce puteri va avea noul „AI czar”. Inițiativa apare într-un moment în care administrația americană discută simultan despre securitatea AI, competiția cu China și nivelul de reglementare necesar pentru tehnologiile avansate.

„Asistentul AI vrea parola ta” – agenții personali primesc tot mai mult acces

Agenții AI încearcă să treacă de la simpla conversație la executarea unor acțiuni în numele utilizatorului: pot gestiona e-mailuri, face rezervări, cumpăra produse sau interacționa cu alte servicii. Problema este că pentru asemenea sarcini pot avea nevoie de acces la conturi, documente, parole și informații de plată. Potrivit The News, experții în securitate recomandă utilizatorilor să înceapă cu permisiuni cât mai restrânse. Fostul responsabil pentru securitate al Facebook, Joe Sullivan, recomandă ca utilizatorii să „înceapă îngust”, oferind agentului doar accesul necesar pentru sarcina respectivă și extinzându-l ulterior dacă sistemul se dovedește de încredere.

De ce este important: un agent care poate intra în e-mail, folosi un card sau modifica informații într-un cont poate produce consecințe directe. În acest caz, comoditatea și securitatea intră în aceeași ecuație: cu cât agentul poate face mai multe lucruri pentru utilizator, cu atât primește mai multe oportunități de a greși sau de a fi manipulat. Pentru utilizatorul obișnuit, acordarea accesului minim necesar devine una dintre cele mai simple măsuri de protecție.

Un inel AI poate înregistra întâlniri, cursuri și conversații – dar ridică o problemă de confidențialitate

Compania Vocci propune un nou tip de dispozitiv AI: un inel care poate înregistra conversații și întâlniri, apoi poate genera transcrieri și rezumate. Potrivit TechCrunch, dispozitivul costă 249 de dolari, cântărește mai puțin de șase grame și poate înregistra până la aproximativ opt ore. Utilizatorul poate porni înregistrarea printr-o atingere, iar ulterior poate folosi AI pentru a căuta informații în conversația înregistrată.

De ce este important: inelul transformă o funcție care până acum era asociată cu telefoanele sau reportofoanele într-una care poate fi purtată aproape permanent. Aici apare problema consimțământului: dispozitivul arată ca o bijuterie obișnuită, iar semnalul luminos care indică înregistrarea poate fi dificil de observat de către ceilalți. Pentru întâlniri, cursuri sau conversații private, întrebarea este cine știe că acea conversație este înregistrată și unde ajunge înregistrarea.