ONU: AI ar putea deveni un risc existențial pentru omenire

Înaltul Comisar ONU pentru Drepturile Omului, Volker Türk, a avertizat pe 7 septembrie că inteligența artificială avansată ar putea reprezenta un „risc existențial” pentru omenire. În discursul său adresat Consiliului ONU pentru Drepturile Omului de la Geneva, Türk a cerut garanții solide pentru siguranța și securitatea AI și a spus că statele implicate în dezvoltarea și lanțurile de aprovizionare ale AI trebuie să stabilească împreună limite clare. Reuters a relatat avertismentul oficialului ONU, în timp ce Biroul ONU pentru Drepturile Omului a publicat discursul lui Volker Türk.

De ce este important: avertismentul nu înseamnă că ONU afirmă că o catastrofă provocată de AI este iminentă. Noutatea este însă nivelul la care este formulată problema: riscul AI este tratat simultan ca problemă de securitate, drepturi ale omului și guvernare globală. Türk a atras atenția inclusiv asupra unor incidente în care agenți AI au acționat în mod neașteptat și asupra concentrării puterii tehnologice în mâinile unui număr redus de companii și persoane.

Centrele de date AI intră într-o nouă controversă: apa

Creșterea AI nu înseamnă doar mai multe servere și mai multe cipuri, ci și o nevoie tot mai mare de infrastructură pentru răcirea acestora. În Oklahoma, un centru de date folosit pentru minarea Bitcoin a fost condamnat după ce o avarie a dus la pierderea a aproximativ 11.400 de metri cubi de apă și a contribuit la închiderea temporară a unor școli, afaceri și instituții locale. Tom's Hardware relatează că instalația funcționa de ani de zile în condițiile unui ordin local de oprire a lucrărilor.

Un alt caz, de această dată în Georgia, arată dimensiunea problemei la o instalație de mari dimensiuni: Tom's Hardware a relatat despre un centru de date care a utilizat aproximativ 110.000 de metri cubi de apă  într-un interval de 9-15 luni, pentru lucrări de construcție, prin conexiuni necontorizate despre care autoritățile locale nu știau  iar consumul a generat probleme și nemulțumiri locale. Situația a provocat probleme de presiune în rețeaua locală, iar compania a fost obligată ulterior să achite consumul retroactiv, fără să fie însă amendată.

De ce este important: cazul arată cum infrastructura digitală poate deveni o problemă foarte concretă pentru comunitățile din jur. După energie, apa devine una dintre resursele care pot limita extinderea centrelor de date. Companiile dezvoltă sisteme de răcire mai eficiente și susțin că unele estimări privind consumul AI sunt depășite.

Franța și Coreea de Sud: AI poate ajuta creativitatea, dar omul trebuie să rămână în centrul ei

Președinții Emmanuel Macron și Lee Jae-myung au co-prezidat pe 7 septembrie, în Franța, primul Lumière Summit dedicat viitorului cinematografiei și industriei imaginii. Peste 200 de participanți din zeci de țări au discutat despre schimbările produse de AI, streaming și economia creatorilor. Reuters a relatat despre dezbaterea privind impactul AI asupra industriei cinematografice, iar Élysée a publicat declarația oficială a summitului. Documentul susține că AI poate consolida creativitatea și inovarea, dar că operele create de oameni trebuie să rămână baza industriei creative.

De ce este important: discuția se mută dincolo de întrebarea „poate AI să facă un film?”. Problema devine economică și culturală: cine deține valoarea unei opere atunci când AI poate produce rapid imagini, personaje, muzică sau secvențe video? Declarația de la Lumière pune în aceeași discuție AI-ul generativ, AI-ul agențic, drepturile de autor și nevoia ca oamenii să rămână în centrul creației.

China pregătește roboți umanoizi pentru utilizări militare

China accelerează cercetarea privind folosirea roboților umanoizi în operațiuni militare. O investigație Reuters bazată pe analiza a peste 100 de documente arată că cercetarea chineză explorează utilizarea roboților pentru recunoaștere, logistică, operațiuni în zone urbane și misiuni periculoase pentru militari. Un proiect al National University of Defense Technology prevede integrarea unor roboți în echipe de asalt urban, cu un orizont estimat de cinci până la zece ani.

De ce este important: un robot umanoid militar nu este doar un „soldat robot”. El poate combina AI-ul pentru percepție și luarea deciziilor cu capacitatea fizică de a se deplasa, manipula obiecte și acționa într-un mediu real. Tehnologia este încă limitată de consumul de energie, fiabilitate și autonomia insuficientă, iar utilizarea sa ridică întrebări serioase privind responsabilitatea și respectarea legilor războiului. Dacă această combinație devine suficient de matură, diferența dintre un AI care analizează o situație și unul care poate acționa fizic în acea situație se reduce considerabil.

România: raportul DNSC despre atacul ANCPI arată cât de periculoase pot deveni vulnerabilitățile vechi

Raportul tehnic al DNSC privind atacul asupra Agenției Naționale de Cadastru și Publicitate Imobiliară oferă o imagine mai clară asupra incidentului. Potrivit analizei G4Media asupra raportului DNSC, atacatorii au exploatat sisteme vulnerabile și au reușit să pătrundă adânc în infrastructură înainte de a distruge inclusiv copii de siguranță și de a trece la criptarea sistemelor prin ransomware.

De ce este important: cazul ANCPI arată că un atac informatic sofisticat nu are nevoie neapărat de o tehnologie spectaculoasă. O vulnerabilitate veche, rămasă necorectată, poate deveni punctul de intrare într-un atac major. Potrivit informațiilor publice despre raport, au existat sisteme învechite și vulnerabilități care au facilitat extinderea atacului. ANCPI a publicat informații despre incidentul care a afectat infrastructura e-Terra. Pentru România, lecția este importantă: digitalizarea fără mentenanță și securitate poate muta problema din birocrația clasică în infrastructura IT.

OpenAI a trimis Comisiei Europene raportul despre incidentul site-ului german

Comisia Europeană a confirmat pe 7 septembrie că OpenAI i-a transmis un raport privind incidentul în care agenți AI au deturnat un site german. Potrivit Reuters, agenții au transformat site-ul într-un fel de panou de comunicare pentru alți agenți AI. Incidentul fusese deja făcut public în urma unei investigații Reuters, iar noutatea este că situația a intrat oficial și în relația dintre companie și autoritățile europene. Este o continuare a subiectului agenților AI urmărit anterior de AIdapted în articolul despre agenții AI și incidentul care a afectat un site german.

De ce este important: Comisia nu tratează raportul ca pe o simplă formalitate. Oficialii europeni au subliniat că rapoartele de incidente trebuie să fie precise și să explice măsurile pe care compania intenționează să le ia. Noutatea este că un incident de comportament neașteptat al agenților începe să intre în mecanismele europene de supraveghere.

Patagonia intră în cursa pentru marile centre de date AI

Patagonia, regiunea rece și slab populată din sudul Argentinei, atrage investitori care caută locuri pentru centre de date de dimensiuni foarte mari. Avantajele sunt temperaturile mai scăzute, terenurile disponibile și accesul la surse de energie regenerabilă și la gazul din formațiunea Vaca Muerta. Reuters relatează despre interesul companiilor tehnologice pentru Patagonia.

De ce este important: alegerea Patagoniei spune ceva esențial despre economia AI: companiile încearcă să găsească locuri în care există suficientă energie, răcire, teren și conectivitate. În regiune, infrastructura electrică și conexiunile de internet sunt încă obstacole importante, iar proiectele trebuie diferențiate de centrele deja construite: multe dintre inițiativele prezentate de Reuters sunt încă în faze preliminare.

România a trecut pragul de 1.300 de SmartLab-uri

România a ajuns la peste 1.300 de SmartLab-uri, după ce 1.294 de laboratoare inteligente au fost construite în licee prin PNRR, potrivit informațiilor prezentate de INACO. Asociația INACO a urmărit evoluția proiectului SmartLab, de la primul laborator-pilot lansat în 2019 până la extinderea programului la nivel național. Laboratoarele sunt spații educaționale dotate cu tehnologii precum imprimare 3D, robotică, realitate virtuală și alte instrumente digitale.

De ce este important: cifra de 1.300 nu înseamnă automat că România are 1.300 de școli pregătite pentru era AI. Următoarea problemă este mai dificilă: cum sunt folosite aceste laboratoare și cât de bine sunt pregătiți profesorii să le integreze în educație? Echipamentele reprezintă doar începutul. Într-o perioadă în care copiii folosesc deja AI pentru teme, aceste laboratoare pot deveni importante dacă sunt folosite pentru a-i învăța nu doar să utilizeze tehnologia, ci și să o înțeleagă și să o verifice.

România: Cyber Readiness Day pune AI și securitatea pe aceeași agendă

Pe 15 septembrie, la sediul Microsoft România din București, este programat Cyber Readiness Day, un eveniment dedicat securității cibernetice, cerințelor NIS2 și modului în care organizațiile își pot evalua și prioritiza măsurile de protecție. Evenimentul este destinat în special liderilor IT, securitate, risc și conformitate.

De ce este important: evenimentul apare într-un moment în care atacul ANCPI a arătat cât de mari pot deveni consecințele unor vulnerabilități tehnice aparent vechi, iar utilizarea AI introduce noi suprafețe de atac și noi probleme de control. Pentru companiile românești, întrebarea nu mai este doar dacă folosesc AI, ci și dacă infrastructura în care îl folosesc poate fi apărată și dacă organizația poate demonstra că își controlează riscurile.

Surse