UE pregătește „EU Kids Act”: restricții pentru copii și reguli „safe by design” pentru serviciile digitale

Comisia Europeană pregătește „EU Kids Act”, un nou cadru legislativ care ar introduce restricții de vârstă pentru rețele sociale, platforme video, jocuri online și chatboturi AI. Potrivit unui document al Comisiei consultat de presa europeană, copiii sub 15 ani nu ar putea utiliza independent anumite servicii fără acordul părinților, iar platformele ar trebui să introducă mecanisme de verificare a vârstei și măsuri suplimentare de protecție. Propunerea include explicit și chatboturile și companionii AI, considerate servicii care pot prezenta riscuri specifice pentru minori. Comisia a confirmat că proiectul urma să fie prezentat de Ursula von der Leyen și Henna Virkkunen pe 17 septembrie, potrivit Comisiei Europene.

De ce este important: noutatea este că Bruxelles-ul nu tratează chatbotul AI doar ca pe un alt serviciu online. Propunerea introduce și principiul „safe by design” (siguranță inclusă încă din proiectarea produsului), ceea ce înseamnă că platformele ar trebui să prevină din construcție anumite riscuri pentru copii, nu să aștepte ca părinții să descopere și să dezactiveze ulterior funcțiile problematice. Pentru companiile AI, aceasta poate însemna verificarea vârstei, controale parentale, limite de utilizare și modificarea modului în care sunt proiectate conversațiile cu minorii. Detaliile propunerii au fost prezentate de Euronews.

Bill Gates avertizează că guvernele sunt nepregătite pentru AI și anunță 1 miliard de dolari pentru accesul la tehnologie

Bill Gates avertizează că niciun guvern din lume nu este suficient de pregătit pentru schimbările pe care inteligența artificială le va produce în societate. Într-un interviu acordat Reuters, cofondatorul Microsoft a indicat riscuri legate de locuri de muncă, atacuri informatice și dependența de companionii AI, dar a subliniat și potențialul tehnologiei de a îmbunătăți viața oamenilor. În paralel, Gates Foundation a anunțat un program de 1 miliard de dolari pentru următorii doi ani, destinat extinderii accesului la AI în sănătate, educație și agricultură și dezvoltării unor instrumente adaptate inclusiv limbilor mai puțin reprezentate în modelele actuale, potrivit Associated Press.

De ce este important: Gates introduce o dimensiune care lipsește adesea din competiția dintre marile companii AI: cine beneficiază efectiv de tehnologie

ENISA avertizează că apărarea cibernetică trebuie să ajungă la viteza atacurilor AI

Agenția UE pentru securitate cibernetică ENISA avertizează că dezvoltarea sistemelor AI de frontieră poate transforma atacurile informatice într-o cursă desfășurată la viteza mașinilor. În raportul său privind securitatea în era AI de frontieră, agenția recomandă dezvoltarea unor capacități operaționale capabile să răspundă unor amenințări care se desfășoară în minute, nu în zile. ENISA avertizează că AI poate accelera identificarea vulnerabilităților, dezvoltarea exploatărilor și coordonarea mai multor etape ale unui atac, după cum explică agenția în materialele sale despre AI și tehnologiile de nouă generație.

De ce este important: modelul tradițional de securitate presupune că apărătorii au timp să analizeze o alertă, să identifice vulnerabilitatea și apoi să decidă ce măsură trebuie luată. Dacă un agent AI poate parcurge aceste etape automat, acest avantaj dispare. De aceea, ENISA vorbește despre „machine-speed threats”: organizațiile trebuie să poată detecta, evalua și limita anumite atacuri aproape automat, păstrând intervenția umană pentru deciziile cu impact ridicat.

Trump respinge din nou avertismentele privind pericolele AI și se confruntă cu presiuni pentru reguli

Donald Trump continuă să respingă avertismentele privind riscurile dezvoltării accelerate a AI și se opune unor noi restricții federale semnificative. În același timp, presiunea politică pentru introducerea unor garanții crește în Congres, unde nu mai este limitată la democrați: și unii republicani susțin necesitatea unor reguli pentru cele mai puternice companii AI. Dezbaterea include propuneri privind limite pentru sistemele avansate și mecanisme prin care anumite modele să poată fi oprite în situații periculoase, relatează The Guardian.

De ce este important: disputa începe să depășească lumea tehnologiei și să devină o problemă politică majoră în Statele Unite. Pe de o parte, administrația Trump pune accent pe competitivitate și pe menținerea avantajului american în fața Chinei; pe de altă parte, avertismentele venite inclusiv de la lideri ai industriei alimentează presiunea pentru reguli. Dacă această divizare devine una electorală, modul în care SUA reglementează AI ar putea deveni una dintre principalele teme politice ale următorilor ani. Vezi și articolele Aidapted: ”Se cere incetinirea dezvoltării AI-ului de frontieră, dar nimeni nu vrea să fie primul care frânează” și ”Marea dezbatere despre RISCUL AI: de ce parte sunt oamenii care contează”

China ridică nivelul: Claude și GPT-5.5-Cyber sunt prezentate drept amenințări pentru infrastructură

China trece de la avertismente generale privind AI la nominalizarea explicită a unor modele americane. Chen Yixin, ministrul chinez al Securității Statului, a menționat Claude Mythos, dezvoltat de Anthropic, și GPT-5.5-Cyber, dezvoltat de OpenAI, într-un articol publicat în revista China Cyberspace. Oficialul susține că astfel de modele cresc eficiența descoperirii vulnerabilităților și dezvoltării de malware și pot amplifica riscurile pentru infrastructura chineză. Informația a fost relatată de Aidapted în articolul publicat azi ”China acuză SUA de ipocrizie tehnologică, în timp ce își construiește propriile bariere”.

De ce este important: faptul că Beijingul numește modele comerciale occidentale într-un document oficial de securitate schimbă natura disputei. Claude și GPT nu mai sunt privite doar ca produse tehnologice concurente, ci și ca instrumente cu implicații strategice și militare. Evoluția poate alimenta o fragmentare a ecosistemului AI: SUA, China și Europa ar putea ajunge să dezvolte nu doar reguli diferite, ci și infrastructuri, modele și sisteme de securitate din ce în ce mai separate.

Apple lansează iOS 27, iar noua Siri AI intră în ecosistemul iPhone

Apple a început pe 14 septembrie distribuirea iOS 27, iar una dintre cele mai importante noutăți este Siri AI, noua generație a asistentului Apple bazată pe Apple Intelligence. În versiunea beta, Siri poate înțelege contextul personal al utilizatorului, poate căuta informații în fotografii, e-mailuri și notițe și poate executa acțiuni între aplicații. Apple precizează însă că Siri AI nu este disponibilă inițial în Uniunea Europeană pe iOS, iar accesul este limitat la dispozitive și limbi compatibile, potrivit Apple.

De ce este important: aceasta este trecerea de la un chatbot pe care utilizatorul îl deschide separat la un AI care devine parte din sistemul de operare. Siri nu trebuie doar să răspundă, ci poate utiliza contextul personal și poate acționa în aplicațiile utilizatorului. Pentru Europa există însă o problemă distinctă: Apple confirmase deja că Siri AI nu va fi disponibilă inițial pe iPhone și iPad în UE, ceea ce creează o diferență importantă între experiența AI oferită utilizatorilor europeni și cea oferită în alte piețe.

Anthropic lansează Claude for Financial Advisors și îl conectează la infrastructura firmelor financiare

Anthropic a lansat Claude for Financial Advisors, un serviciu care permite consultanților financiari să conecteze Claude la platformele de custodie, gestionare a portofoliilor, CRM și planificare pe care le folosesc deja. Compania oferă conectori și fluxuri de lucru pentru cercetare, pregătirea întâlnirilor și documentare, iar soluția poate fi integrată cu instrumente folosite în industria financiară. Anthropic recomandă versiunea Enterprise firmelor de consultanță financiară, deoarece aceasta include jurnale de audit necesare pentru evidența activităților, potrivit Anthropic.

De ce este important: Claude începe să fie conectat la sistemele în care se află datele și procesele reale ale unei firme. Tocmai de aceea apar și cerințe precum jurnalele de audit: când AI participă la activități financiare profesionale, devine important nu doar ce răspuns produce, ci și ce date a consultat, ce acțiuni a efectuat și cine poate verifica ulterior procesul.

Exein atrage 270 de milioane de dolari pentru securitatea „Physical AI”

Compania italiană Exein a anunțat o finanțare de 270 de milioane de dolari, la o evaluare de 1,7 miliarde de dolari, pentru dezvoltarea unei infrastructuri de securitate dedicate sistemelor „Physical AI” — roboți, drone, vehicule și alte mașini care folosesc AI pentru a lua decizii și a acționa în lumea reală. Runda a fost condusă de Headline și a inclus Sofina, Goldman Sachs, EIB Group prin European Tech Champions Initiative, KfW Capital și investitori existenți. Exein spune că monitorizează aproximativ două miliarde de dispozitive și observă circa 5.000 de atacuri noi, nerepetitive, pe săptămână în rețeaua sa, potrivit companiei.

De ce este important: „Physical AI” schimbă miza securității. Dacă un AI atacat operează un chatbot, consecința poate fi o informație greșită; dacă același tip de sistem controlează un vehicul, un robot industrial sau o infrastructură, o vulnerabilitate poate produce efecte fizice. Exein încearcă să construiască ceea ce numește un „security layer” pentru Physical AI.