Mrinank Sharma, un expert de top în siguranța A.I. de la Anthropic, creatorul agentului Claude, a demisionat recent și a lansat un avertisment sumbru cu privire la amenințarea pe care o aduce avansul inteligenței artificiale. Sharma a avertizat că A.I.-ul reprezintă un pericol existențial pentru omenire, iar ritmul rapid al inovației, care depășește măsurile de siguranță, crește riscurile de utilizare necontrolată a inteligenței artificiale.

Dezvoltarea inteligenței artificiale nu este gestionată corespunzător

Mrinank Sharma și-a exprimat îngrijorarea că dezvoltarea inteligenței artificiale nu este gestionată corespunzător și pune lumea în pericol. Pe lângă riscurile existențiale generale, se menționează teama că inovațiile rapide pot fi folosite greșit, cum ar fi în crearea de arme biologice.

Sharma este departe de a fi singura persoană care avertizează asupra acestui pericol. Recent, o postare a antreprenorului Matt Shimer, intitulată „Se întâmplă ceva important”, a devenit virală pe internet. Investitorul Jason Calacanis a scris și el pe X, unde a zis că „nu am văzut niciodată atât de mulți experți exprimându-și preocupările atât de puternic, frecvent și cu atâta îngrijorare așa cum am văzut cu inteligența artificială”.

Sharma se asigura că A.I.-ul respectă valorile umane

Până la demisia sa, Sharma a condus echipa de Cercetare a Măsurilor de Protecție din cadrul Anthropic, unde a fost considerat un cercetător de top în domeniul alinierii A.I. – asigurarea că sistemele de inteligență artificială respectă valorile umane.

În scrisoarea sa de demisie, vizualizată de milioane de ori pe platforma X, Sharma a făcut câteva afirmații alarmante. Acesta a precizat că pericolul nu vine doar din partea inteligenței artificiale sau a armelor biologice, ci dintr-o serie de crize interconectate pe care le-a numit „policriză”. Cercetătorul a sugerat că î interiorul companiilor există presiuni constante pentru a lăsa la o parte „ceea ce contează mai mult”, adică siguranța, în favoarea vitezei de dezvoltare.

„Lumea este în pericol. Și nu doar din cauza AI sau a armelor biologice, ci din cauza unei întregi serii de crize interconectate care se desfășoară chiar în acest moment. Se pare că ne apropiem de un prag în care înțelepciunea noastră trebuie să crească în aceeași măsură cu capacitatea noastră de a influența lumea, altfel vom suporta consecințele. În plus, de-a lungul timpului petrecut aici, am văzut în repetate rânduri cât de greu este să lăsăm cu adevărat valorile noastre să ne ghideze acțiunile. Am văzut acest lucru în mine însumi, în cadrul organizației, unde ne confruntăm constant cu presiuni de a lăsa deoparte ceea ce contează cel mai mult”, a scris Sharma în scrisoarea sa de demisie.

Ultimul său proiect la Anthropic s-a concentrat pe modul în care asistenții A.I. ar putea să îi facă pe oameni „mai puțin umani” sau să le distorsioneze umanitatea și simțul realității. Plecarea lui Sharma nu este doar un incident izolat, ci face parte dintr-un val de demisii ale experților în siguranță de la marile companii care dezvoltă inteligența artificială, Anthropic și OpenAI. Acești cercetători acuză adesea faptul că profitul și competiția pentru a lansa modele tot mai puternice trec înaintea protocoalelor de siguranță.

Recomandările autorului:

„Europa este un gigant adormit”. Keir Starmer îndeamnă la Conferința de Securitate de la München la trezire militară și la un NATO mai european

Statele Unite l-au capturat pe Maduro cu ajutorul inteligenței artificiale. Pentagonul a folosit modelul Claude în timpul raidului din Venezuela

Zelenski și Orban, replici tăioase în marja Conferinței de la München. După ironia la adresa mărimii burții lui Orban, premierul maghiar ripostează

Că suntem o țară bântuită de neșansa de a avea lideri politici de mare marcă și cu potențial care să genereze bunăstare, asta am aflat de mult timp și asta simțim toți. Că încă mai avem o brumă de democrație și o Constituție din ce în ce mai neîndestulătoare în principii pentru vremurile pe care le trăim, și asta se simte din ce în ce mai mult. Când vorbim de dreptate și adevăr, convulsiile majore din societate legate de orice subiect, , de la „hrană, apă, energie” (ca să citez un “clasic” în viață) și până la manifestările cotidiene ale celor trei puteri în stat, Legislativ, Executiv și Justiție, avem dezamăgiri și frustrări care nu trec cu niciun medicament. Diagnosticele sunt de fațadă, așa că nu există adevăr, iar tratamentele eșuează pentru că diagnosticele nu sunt cele reale.

Justiția, spre care ne îndreptăm cu toate problemele pe care le avem, mai puțin cele care țin de dezamăgirile în dragoste, are nevoie de o repoziționare după ce a fost femeia ușoară a multor politicieni care au tras de ea cum și cât au vrut, cu complicitatea sau coautoratul unor magistrați cărora le-a păsat doar de funcțiile lor, de ascensiune și păstrarea unor privilegii pe care tot politicul le-a generat. După o perioadă de calm a venit furtuna li cerul justiției s-a umplut de stoluri de vulturi, iar oamenii încearcă din răsputeri să înțeleagă care e direcția și de ce drumurile sunt înfundate sau podurile consolidării unui Stat de Drept stau să se prăbușească.

Vulturi în zbor deasupra unui cuib de cuci. Fac trimitere, premeditat, la binecunoscutul roman cu acest nume, pentru că acolo totul se petrece într-un spital de psihatrie unde, după administrarea tratamentelor, pacienților le trecea timpul cu jocuri de noroc și puzzle-uri, iar esența, mesajul, este cam același. Toată lumea trebuia să respecte regulile. Cine le încălca, intra pe terapie electroșoc. Zilele se scurgeau într-o muzică redată în buclă de o casetă pe care toți pacienții o știau pe dinafară. În dorința de a-și păstra propria libertate interioară fie ea și distorsionată, unul dintre ei făcea pe surdo-mutul. Ca și la noi, unde lipsa dorinței de implicare sau de pus umărul la schimbarea răului i-a dus pe mulți în această atitudine de surd, mut, sau și una și alta. Iar asta nu schimbă nimic. Dimpotrivă. Timpul trece oricum și nu el este cel care oferă soluții. În lipsă de ceva mai bun, în “Zbor deaupra unui cuib de cuci”, jocurile de noroc din ospiciu, doar ele, aduceau speranța unui câștig iluzoriu. Și la noi, supraviețuirea e la noroc. Și judecarea unor cauze mai ieșite din tipar, mai zgomotoase, tot așa, la noroc. Dacă nu, bestemi ghinionul!

Așa e atmosfera din societatea românească la ora actuală. Lipsă de diagnostic, lipsă de tratamente utile vindecării, apatie, speranța că în justiție lucrurile se vor reașeza prin discuțiile dintr-un comitet organizat la Guvern ca să îi ofere propuneri unanim agreate premierului Ilie Bolojan, care le va citi și Dumnezeu știe ce va înțelege, la final, din ele!

Aceeași manieră de joc, în care tragi de timp pentru a încerca să afli cărțile adversarului, este și la Curtea Constituțională. Unde numărăm amânările pe dezbaterea Legii privind pensiile magistraților ca pe zilele în care au loc întârnirile dintr-un ospiciu în scopul unei “comuniuni terapeutice”. Fiecare iese din tipar într-o luptă acerbă pentru redefinirea identității Justiției așa cum o vede fiecare din poziția în care se află sau pe care a fost pus. În puțin timp, miercuri, CCR va trebui să decidă dacă timite solicitarea Înaltei Curți de Casație și Justiție la Curtea Europeana de Justiție. Dacă da, mai stăm cel puțin un an cu legea lui Bolojan suspendată în șpagat, între CCR și CJUE. Dacă nu, aleluia! Reluăm caseta în buclă din cuibul de cuci.

Mâine, 16 februarie, la Ministerul Justiției se va încheia lista cu candidații la șefia marilor parchete, adică cine a îndeplinit condițiile de participare după ce au fost analizate toate dosarele depuse pentru selecție. Interviurile vor fi susținute spre finele acestei luni în fața comisiei și a ministrului Justiției, în 2 martie se vor trimite propunerile la CSM pentru a se lua avizul consultativ motivat. De care se va ține cont sau nu. Așa că nu înțeleg de ce se mai cere așa ceva!

Până la urmă, Președintele va da verdictul, ca un suprem ce e în aceste numiri! Iar asta contează, credeți-mă! Contează cine va conduce Parchetul General, DIICOT și DNA, pentru că există variante câștigătoare sau distructive. Justiția poate redeveni o junglă în care cei puternici pot rade pe cei incomozi, ca în timpul parteneriatului dintre Coldea și Kovesi. Poate deveni terenul în care HAȘTAG va face regulile după cum îi dictează interesele. Avem pe lista candidaților și haștagiști de soi. Sau poate să își recapete demnitatea. Sănătatea sistemului ține de modul în care tratezi “pacienții”. Or, dacă “pacienții” sunt tratați de un fals doctor de trupuri și suflete, atunci va fi mai rău decât la spitalul de nebuni! Ceea ce vom trăi nu vor fi efectele unor halucinații, ci ale unei realități impuse care ar putea duce, încet dar sigur, după atâtea șocuri, către cântecul Șefului Bromden din romanul sus-menționat, “Unul a zburat peste cuibul cucului”. Întrebarea ar fi: Și noi ce vină avem? Una este sigur asta: comoditatea care face ca oamenii să nu mai lupte pentru drepturile lor!

AUTORUL RECOMANDĂ:

Cât mai ține scandalul legat de magistratură? Caii nărăvași nu se dresează ușor…

Cum se croșetează pe reforma Legilor Justiției la Guvern. Tare ca fularul, iute ca Personalul!