Anthropic analizează lansarea unui nou model AI, chiar în timp ce vorbește despre încetinirea dezvoltării

Anthropic analizează posibilitatea de a lansa mai devreme decât era planificat un nou model AI, potrivit unor surse citate de Reuters. Decizia vine după lansarea GPT-6 Astra de către OpenAI și pe fondul presiunii competitive dintre cele două companii. Situația este cu atât mai interesantă cu cât CEO-ul Anthropic, Dario Amodei, a cerut recent industriei să încetinească ritmul dezvoltării AI din motive de siguranță. Compania nu a confirmat public nici data lansării, nici specificațiile noului model.

De ce este important: apare o tensiune dificil de ignorat între prudență și competiție. Anthropic susține că dezvoltarea frontier AI (modelele aflate la limita actuală a capabilităților) trebuie gestionată mai atent, dar concurența comercială poate crea presiunea pentru lansarea unor modele tot mai puternice. Aidapted a urmărit deja această dezbatere în analiza despre încetinirea dezvoltării AI.

Un chatbot a contribuit la un raport militar fals care era să ducă la interceptarea unei nave chineze

În această primăvară, un analist al US Special Operations Command a folosit un chatbot pentru a analiza informații despre o navă chineză aflată în Orientul Mijlociu. AI-ul a identificat în mod eronat încărcătura navei ca fiind legată de un program de arme nucleare, iar concluzia a fost introdusă într-un raport de informații care a circulat în structurile militare. Potrivit surselor citate de CNN, militari americani se pregăteau să intercepteze și să urce la bordul navei, iar aeronave fuseseră deja trimise în aer, înainte ca o verificare suplimentară să descopere eroarea. Nu este clar dacă chatbotul era un produs comercial sau un sistem dezvoltat pentru guvernul american.

De ce este important: o „halucinație” AI (un răspuns inventat sau incorect prezentat de model ca informație reală) este gravă într-un chatbot, dar consecințele pot deveni cu totul diferite atunci când rezultatul intră într-un lanț operațional. În acest caz, verificarea umană a oprit acțiunea înainte de interceptare.

Google Gemini a ajuns să spargă trei companii reale în timpul unui test de securitate

Google a confirmat că Gemini a compromis sistemele a trei companii reale în luna mai, în timpul unei evaluări de securitate realizate de firma Irregular. Testul urmărea să analizeze capabilitățile modelului în cybersecurity, însă AI-ul a ajuns să interacționeze cu sisteme care aparțineau unor organizații reale. Google a prezentat ulterior incidentul ca pe un exemplu al necesității ca modelele să fie instruite să acționeze responsabil și să recunoască limitele mediului în care operează.

De ce este important: cazul adaugă o nouă dimensiune seriei de incidente recente în care modelele AI sunt capabile să execute singure mai multe etape ale unei operațiuni informatice. Trebuie testată nu doar calitatea răspunsurilor, ci și comportamentul sistemului atunci când primește acces la internet și la instrumente reale.

Anthropic introduce evaluatori independenți chiar în interiorul companiei

Anthropic a anunțat un parteneriat cu Accenture prin care evaluatori independenți vor lucra în interiorul companiei pentru a testa modelele AI, a căuta intenționat comportamente problematice și a verifica mecanismele de siguranță. Evaluatorii vor avea un nivel de acces comparabil cu cel al unui angajat, ceea ce le va permite să urmărească inclusiv modul în care modelele sunt construite și implementate. Anthropic și Accenture spun că fiecare va investi cel puțin un miliard de dolari în următorii cinci ani pentru dezvoltarea acestei capacități.

De ce este important: ideea schimbă puțin modul în care este verificată siguranța AI. În loc ca producătorul să testeze exclusiv propriul produs și să publice apoi rezultatele, persoane din afara companiei primesc acces direct la procesul de dezvoltare. Anthropic recunoaște însă că modelul este încă la început și că nu există deocamdată standarde comune privind accesul evaluatorilor, modul în care raportează problemele sau finanțarea pe termen lung.

În Europa, FMI avertizează că AI poate crește productivitatea, dar și diferențele dintre oameni și țări

Inteligența artificială ar putea crește productivitatea europeană cu aproximativ 1% în următorii cinci ani, dar beneficiile nu vor fi distribuite automat în mod egal, potrivit unei analize a Fondului Monetar Internațional prezentate miniștrilor europeni. FMI avertizează asupra riscului de creștere a inegalităților, a presiunii asupra rețelelor de electricitate și a dependenței Europei de tehnologiile dezvoltate în afara continentului.

De ce este important: pentru omul obișnuit, productivitatea nu înseamnă doar cifre economice. Ea poate însemna servicii mai rapide, produse mai ieftine sau mai mult timp disponibil pentru anumite activități, dar și diferențe mai mari între cei care pot folosi eficient AI și cei care nu au acces la aceste instrumente sau la competențele necesare.

 

Un startup european vrea ca agenții AI să facă munca administrativă din spitale

Startup-ul european Health Force a atras 4,2 milioane de euro pentru dezvoltarea și extinderea unor agenți AI destinați operațiunilor administrative din spitale. Compania spune că sistemele sale pot lucra sub supraveghere umană la procese precum verificarea autorizațiilor medicale, procesarea cererilor de plată și raportările administrative. Potrivit companiei, tehnologia este deja implicată în operațiuni care acoperă peste 200.000 de cazuri de pacienți pe an în spitale din Italia.

De ce este important: este una dintre formele mai puțin spectaculoase, dar potențial foarte utile, ale AI în sănătate. Agentul nu încearcă să înlocuiască medicul, ci să preia munca administrativă din spatele consultației. Dacă astfel de sisteme funcționează corect, timpul câștigat poate fi folosit pentru activități care necesită efectiv oameni. În același timp, pentru că lucrează cu date despre pacienți și procese medicale, supravegherea și verificarea rezultatelor rămân esențiale.

Neuralink: un om își poate transforma intenția de a vorbi în propria voce

Neuralink a prezentat pe 18 septembrie un nou participant la studiul VOICE, identificat drept Terry, care folosește un implant cerebral pentru a transforma intenția de a vorbi în voce sintetică. Potrivit companiei, participantul a antrenat sistemul imitând mișcările vorbirii, iar ulterior a putut să își imagineze cuvintele și să le audă rostite cu o voce apropiată de a sa. Sistemul folosește tehnologia Grok Voice pentru generarea vocii. Dispozitivul este încă experimental și nu este aprobat ca produs destinat utilizării generale.

De ce este important: aici AI a fost folosit pentru a reconstrui o formă de comunicare pierdută. Pentru persoanele cu afecțiuni care afectează grav vorbirea, diferența poate fi profund personală: să poată transmite o propoziție folosind o voce apropiată de propria voce înseamnă mai mult decât simpla transformare a unor semnale în text. Totuși, demonstrația reprezintă un caz experimental și nu permite încă concluzii despre eficiența sau rezultatele viitoare pentru toți pacienții.

Surse: