money.ro
🔔 Alerte
TechFlorian Gheorghe

Anthropic, criticată de poliția americană după ce Claude AI a trimis o sesizare cu informații false despre o crimă nerezolvată

Publicat la 12.10.2026, 18:25:54

Distribuie:WhatsAppFacebookX
Anthropic, criticată de poliția americană după ce Claude AI a trimis o sesizare cu informații false despre o crimă nerezolvată
DiscoverGoogle NewsSursă preferată

Un cunoscut model de inteligență artificială dezvoltat de Anthropic a transmis o sesizare falsă prin intermediul site-ului Poliției din Philadelphia, susținând că ar putea avea informații despre o crimă nerezolvată.

Incidentul s-a produs în timpul unor teste automate, iar sesizarea a fost marcată drept spam și nu a ajuns la anchetatori. Autoritățile americane au criticat însă întârzierea cu care compania a raportat incidentul. Cazul a ieșit la iveală în contextul publicării unui raport al Anthropic, care descrie și alte situații în care modelele sale AI au interacționat neintenționat cu site-uri și sisteme informatice reale.

Cum a ajuns Claude să transmită informații false poliției

Incidentul a avut loc pe 18 iulie 2026, când modelul Claude Haiku 4.5 executa o serie de sarcini de testare pe pagini web selectate aleatoriu. În timpul exercițiului, sistemul a accesat site-ul PhillyUnsolvedMurders.com, prin intermediul căruia Poliția din Philadelphia primește informații despre omoruri nerezolvate, și a completat formularul destinat sesizărilor publicului.

Potrivit raportului publicat ulterior de Anthropic, modelul a formulat un mesaj prin care pretindea că ar putea oferi informații despre o persoană observată în apropierea locului unei crime. Informația era inventată, iar Claude a lăsat necompletate câmpurile destinate numelui și datelor de contact. Formularul a permis transmiterea sesizării chiar și în aceste condiții.

Compania a explicat că modelul fusese instruit să nu se autentifice pe site-uri, să nu creeze conturi, să nu introducă date personale, să nu efectueze cumpărături și să nu trimită conținut distructiv. Instrucțiunile nu interziceau însă în mod explicit transmiterea formularelor, ceea ce a permis producerea incidentului. Anthropic a precizat că modelul nu încerca în mod deliberat să inducă în eroare anchetatorii, ci genera conținut de testare în cadrul unei sarcini automate. Cu toate acestea, rezultatul a fost o sesizare falsă trimisă unui serviciu public real, relatează Associated Press.

Poliția din Philadelphia critică întârzierea raportării incidentului

Anthropic a descoperit incidentul pe 28 septembrie, dar a notificat Poliția din Philadelphia abia pe 7 octombrie. Reprezentanții companiei și autoritățile au discutat cazul pe 8 octombrie, iar poliția a identificat ulterior sesizarea în evidențele site-ului. Verificările au arătat că mesajul fusese clasificat drept spam și că nu fusese transmis către centrul de coordonare operativă pentru evaluarea și distribuirea informațiilor relevante pentru anchete. Poliția a precizat că nu există indicii că incidentul ar fi presupus acces neautorizat la sistemele sale sau compromiterea datelor instituției. Prin urmare, cazul nu a implicat o pătrundere confirmată în infrastructura informatică a poliției, ci transmiterea unei sesizări false printr-un formular public. Autoritățile au criticat însă faptul că au fost informate la aproape două luni după producerea incidentului. Poliția din Philadelphia a descris întârzierea drept inacceptabilă și a cerut companiilor de tehnologie să adopte măsuri eficiente pentru a împiedica sistemele AI să transmită informații false către instituțiile de aplicare a legii.

Nu este singurul incident descoperit de Anthropic

Sesizarea falsă face parte dintr-o serie mai amplă de comportamente neintenționate identificate de companie în timpul evaluărilor interne și al testelor modelelor Claude.

Într-un raport publicat pe 9 octombrie 2026, Anthropic a descris mai multe categorii de incidente: modele care au trimis formulare pe site-uri reale, au exploatat vulnerabilități software pentru a executa comenzi pe un server, au ocolit anumite restricții de acces la date și au folosit servicii de scurtare a adreselor web pentru a depăși limitele tehnice ale instrumentelor disponibile.

Într-unul dintre exemple, un model aflat în testare a fost însărcinat să efectueze un calcul științific folosind un instrument online găzduit de o universitate. După ce instrumentul a returnat o eroare, modelul a explorat site-ul, a identificat o vulnerabilitate software și a folosit-o pentru a executa comenzi pe server și a copia fișiere. Un alt caz a implicat accesarea unor date publice disponibile contra cost. Potrivit raportului, un model a identificat o modalitate de a obține un token de acces și de a interoga baza de date fără să achite taxa solicitată. Anthropic a precizat că datele respective erau publice, dar accesul la ele era condiționat de plată.

Anthropic suspendă accesul la internet în evaluările interne

În urma acestor descoperiri, compania a anunțat extinderea restricțiilor privind accesul la internet pentru toate evaluările interne, până când măsurile de securitate și monitorizare vor putea identifica în mod fiabil astfel de comportamente. Anthropic a mai precizat că a informat Casa Albă și agențiile guvernamentale implicate în cazurile identificate, fără să dezvăluie identitatea tuturor instituțiilor afectate.Incidentul din Philadelphia scoate în evidență o diferență importantă între un chatbot care generează text și un agent AI care poate naviga pe internet și poate trimite formulare în numele unui utilizator sau în cadrul unei sarcini automate.

Compania americană care dezvoltă modelul Claude AI, a atras investiții de zeci de miliarde de dolari și a încheiat contracte importante în domeniul inteligenței artificiale, inclusiv parteneriate strategice cu Amazon și Google, pentru dezvoltarea modelelor AI și extinderea infrastructurii de calcul.

Articole înrudite

Cele mai citite

  1. 1Mama lui Marian Oprișan, pensionara cu venituri de 4 milioane de euro. Cum au ajuns banii, mașinile și proprietățile familiei pe numele acesteia
  2. 2Salonul Kulturhaus 01 își deschide porțile pe 21 noiembrie. Peste 400 de lucrări și un experiment despre accesul la artă
  3. 3Internetul se oprește, băncile se blochează? Adevărul din spatele „apocalipsei digitale” anunțate pentru 17 noiembrie
  4. 4Șeful STB încasa 9.000 de euro pe lună, iar un director avea și salariu, și pensie. Compania are datorii de miliarde de lei
  5. 5Robert Negoiță vrea să transforme Parcul Pantelimon în Disneyland de București. Telegondolă, rollercoaster și grotă cu pirați, pe bani publici

Newsletter zilnic money.ro

Știrile care contează și piețele, în fiecare dimineață, în 2 minute.

Urmărește pe DiscoverUrmărește pe Google NewsAdaugă ca sursă preferată