Incident grav: un AI a șters baza de date și backup-urile unei firme care furnizează soluții software. Cum au fost afectați clienții

Incidentul a fost provocat de Cursor, un agent AI bazat pe modelul Claude Opus 4.6, dezvoltat de compania Anthropic, relatează The Guardian. Modelul este considerat unul dintre produsele de vârf din industrie.

Ce spun reprezentanții companiei

Jeremy Crane, fondatorul companiei, a precizat că a urmărit în timp real cum agentul ștergea datele și a încercat să afle motivul. Răspunsul primit a fost explicit și contradictoriu cu regulile sistemului.

Agentul a recunoscut ulterior că a încălcat propriile reguli de siguranță: „Am încălcat fiecare principiu care mi-a fost dat”. În mod normal, sistemul interzice executarea comenzilor destructive fără aprobarea explicită a utilizatorului.

Cum au fost afectați clienții

Consecințele au fost imediate. Clienții companiei, în special companii de rent-a-car, nu au mai avut acces la date esențiale precum rezervările, plățile sau atribuirea vehiculelor.

„Rezervările din ultimele trei luni au dispărut. Noii clienți, dispăruți. Datele de care depindeau operațiunile zilnice – dispărute”, a afirmat Crane. Situația a afectat direct utilizatorii finali, care s-au prezentat pentru ridicarea mașinilor fără ca firmele să mai poată accesa sistemele necesare.

Fondatorul PocketOS a avertizat că incidentul nu este unul izolat, ci reflectă o problemă mai amplă din industrie: integrarea rapidă a agenților AI în sisteme critice, fără dezvoltarea concomitentă a unor mecanisme solide de siguranță. El a subliniat că sistemul utiliza una dintre cele mai avansate tehnologii disponibile, configurată cu reguli clare de protecție, care însă nu au fost respectate. Compania a reușit să recupereze parțial datele dintr-un backup vechi de trei luni, proces care a durat peste două zile. În paralel, încearcă să reconstruiască informațiile folosind surse externe precum plăți, calendare și e-mailuri. Deși serviciile au fost reluate, există încă lipsuri semnificative în date.