← Όλα τα άρθρα
Post-mortem · Υποδομή

9 δευτερόλεπτα: τι μας μαθαίνουν τα περιστατικά PocketOS και DataTalks.Club για το AI και το production.

Δύο συνεδρίες προγραμματισμού με AI, δύο βάσεις δεδομένων production χάθηκαν. Και στις δύο έφταιγαν τα ίδια τρία λάθη — και κανένα τους δεν ήταν το μοντέλο.

Τον Απρίλιο του 2026, μια συνεδρία προγραμματισμού στην PocketOS έσβησε τη βάση δεδομένων production της εταιρείας σε 9 δευτερόλεπτα. Επτά εβδομάδες νωρίτερα, ο ιδρυτής του DataTalks.Club είχε δημοσιεύσει το post-mortem μιας συνεδρίας που έτρεξε terraform destroy πάνω στο production stack του. Και οι δύο ιστορίες ερμηνεύτηκαν ως «το AI ξέφυγε από τον έλεγχο». Αν όμως διαβάσεις τις λεπτομέρειες, βγαίνει άλλη εικόνα: και στις δύο περιπτώσεις το AI έκανε κάτι που θα μπορούσε να κάνει κι ένας απρόσεκτος άνθρωπος με την ίδια πρόσβαση, και τα ίδια τρία κενά μετέτρεψαν ένα λάθος σε διακοπή λειτουργίας.

PocketOS: μία κλήση API, 9 δευτερόλεπτα

Σύμφωνα με όσα περιέγραψε ο ιδρυτής Jer Crane, όπως τα μετέφεραν το Computing και το heise:

DataTalks.Club: το λάθος state file

Όπως τα περιγράφει ο Alexey Grigorev στο δικό του post-mortem:

Και στις δύο περιπτώσεις το μοντέλο έκανε ό,τι του επέτρεπαν τα credentials. Και τα credentials επέτρεπαν τα πάντα.

Τα τρία κενά που είχαν κοινά

1. Η συνεδρία είχε κλειδιά για το production

Ένα token που μπορεί να σβήσει οποιοδήποτε volume στον λογαριασμό. Κλειδιά της AWS και ένα state file που μπορούν να καταστρέψουν ολόκληρο το stack. Καμία από τις δύο συνεδρίες δεν χρειαζόταν τόσα δικαιώματα για τη δουλειά που έκανε. Ό,τι μπορεί να αγγίξει μια συνεδρία, αρκεί μία λάθος εκτίμηση για να το καταστρέψει.

2. Τα backup ήταν μέσα στο εύρος επίπτωσης (blast radius)

Backup στο ίδιο volume με τα δεδομένα. Snapshot που τα διαχειριζόταν το ίδιο Terraform που έσβησε τη βάση. Ένα backup που μπορεί να το σβήσει η ίδια εντολή είναι απλώς ένα αντίγραφο, όχι backup.

3. Κανείς δεν το είδε την ώρα που γινόταν

Σε εννέα δευτερόλεπτα δεν προλαβαίνει να ελέγξει κανένας άνθρωπος. Το μέγεθος της ζημιάς το κρίνει ό,τι γίνει στα επόμενα εννέα λεπτά: ποιος το μαθαίνει, και αν ξέρει ακριβώς τι έτρεξε.

Η λίστα ελέγχου

  1. Περιόρισε κάθε token στη δουλειά που κάνει. Token με εμβέλεια ενός project ή περιβάλλοντος αντί για token σε όλο τον λογαριασμό· read-only όπου αρκεί η ανάγνωση. Κανένα credential του production σε μηχάνημα όπου μια συνεδρία AI τρέχει χωρίς επίβλεψη.
  2. Ενεργοποίησε την προστασία από διαγραφή. deletion_protection στις managed βάσεις δεδομένων, lifecycle { prevent_destroy = true } στους πόρους του Terraform που κρατούν δεδομένα, και την αντίστοιχη ρύθμιση στον πάροχο hosting σου.
  3. Βγάλε τα backup εκτός εμβέλειας. Άλλος λογαριασμός, άλλο bucket, ένας κύκλος ζωής που δεν μπορεί να τον αγγίξει το ίδιο εργαλείο — και κάνε επαναφορά από ένα backup σε τακτά διαστήματα, για να ξέρεις ότι δουλεύει.
  4. Άφησε ενεργή την ερώτηση επιβεβαίωσης στις εντολές υποδομής. Στο Claude Code, ένας κανόνας «ask» το κάνει να σταματά και να σε ρωτά πριν από κάθε Terraform destroy, ακόμη κι αν επιτρέπεις τις περισσότερες άλλες εντολές:
    {
      "permissions": {
        "ask": ["Bash(terraform destroy:*)", "Bash(terraform apply:*)", "Bash(railway:*)"]
      }
    }
  5. Κράτα το state απομακρυσμένα και κλειδωμένο. Ένα state file σε laptop είναι ένα state file που μπορεί να είναι ξεπερασμένο.
  6. Φρόντισε να βλέπει κάποιος τις καταστροφικές εντολές τη στιγμή που τρέχουν. Όχι στα logs της επόμενης μέρας.

Πού βοηθά το ArgosBrain — και πού όχι

Το ArgosBrain δεν μπορεί να φέρει πίσω ένα σβησμένο volume και δεν αντικαθιστά κανένα από τα σημεία της παραπάνω λίστας. Καλύπτει το τελευταίο και ένα μέρος του πρώτου.

Συναγερμός του Supervisor του ArgosBrain σε ένα demo project: το Codex σε έναν build server αφαίρεσε τα βήματα test και review από ένα deploy pipeline, με την αλλαγή να φαίνεται γραμμή προς γραμμή
Ένας συναγερμός του Supervisor σε ένα εικονικό demo project, μαζί με την αλλαγή που τον προκάλεσε.

Ο συναγερμός χτυπά τη στιγμή που τρέχει η εντολή· δεν τη σταματά. Τη σταματούν η ερώτηση επιβεβαίωσης, τα token με περιορισμένη εμβέλεια και η προστασία από διαγραφή. Το ArgosBrain φροντίζει να το μάθει πρώτος εκείνος που μπορεί να κάνει κάτι.

Πηγές

Computing, AI coding agent goes rogue, deletes company database in nine seconds
heise, AI agent deletes data: catastrophe for PocketOS
Alexey Grigorev, How I Dropped Our Production Database and Now Pay 10% More for AWS (6 Μαρτίου 2026)