Γιώργος Ζησιμόπουλος: “Κυβερνήσεις εταιρείες ή Εταιρείες κυβερνήσεις;”

«Είχα ένα παράξενο προαίσθημα στο στομάχι μου.»

Στανισλάβ Πετρόφ, σε συνέντευξη στο BBC¹

Λίγο μετά τα μεσάνυχτα της 26ης Σεπτεμβρίου 1983, ο αντισυνταγματάρχης Στανισλάβ Πετρόφ ήταν διοικητής βάρδιας σε καταφύγιο κοντά στη Μόσχα, απ’ όπου παρακολουθούνταν το σοβιετικό δορυφορικό σύστημα έγκαιρης προειδοποίησης Oko. Οι οθόνες ανέφεραν εκτόξευση αμερικανικών πυραύλων. Ενώ η προβλεπόμενη διαδικασία ήταν να προωθήσει την ειδοποίηση προς την ηγεσία, εκείνος έκρινε ότι επρόκειτο για ψευδή συναγερμό και τον δήλωσε ως τέτοιον. Τελικά είχε δίκιο! Οι δορυφόροι είχαν εκλάβει ως ίχνη πυραύλων την ανάκλαση του ηλιακού φωτός πάνω σε σύννεφα μεγάλου ύψους.^{1, 2}

Η ιστορία αυτή αποκαλύπτει κάτι που συχνά ξεχνάμε για την πυρηνική εποχή. Το όπλο ήταν τρομερό, αλλά η αλυσίδα εξουσίας γύρω του ήταν ανθρώπινη και είχε διευθύνσεις,  στρατηγεία, υπουργεία, υπογραφές. Κάποιος απαντούσε πάντα για το τι συνέβη και, κυρίως, κάποιος μπορούσε να πει «όχι».

Ένας γνώριμος φόβος

Σήμερα ο φόβος επιστρέφει με άλλο όνομα. Η συζήτηση δεν αφορά πια συστήματα που απλώς απαντούν σε ερωτήσεις, αλλά «πράκτορες» (agents). Προγράμματα που θέτουν υποστόχους, χρησιμοποιούν εργαλεία, γράφουν και εκτελούν κώδικα και δουλεύουν επί ώρες χωρίς ανθρώπινη επιτήρηση. Η ανησυχία δεν προέρχεται από περιθωριακούς φουτουριστές. Ο Τζέφρι Χίντον τιμήθηκε το 2024 με το Νόμπελ Φυσικής, μαζί με τον Τζον Χόπφιλντ, για θεμελιώδεις ανακαλύψεις που κατέστησαν δυνατή τη μηχανική μάθηση με τεχνητά νευρωνικά δίκτυα. Στη συνέντευξη Τύπου που ακολούθησε προειδοποίησε ότι, πλάι στα οφέλη, πρέπει να ανησυχούμε για πιθανές αρνητικές συνέπειες και ιδίως για την απειλή να ξεφύγουν αυτά τα συστήματα από τον έλεγχο.^{3, 4}

Οι κυβερνήσεις δεν έμειναν αμέτοχες. Τον Νοέμβριο του 2023, στο Μπλέτσλι Παρκ, 28 χώρες, ανάμεσά τους οι ΗΠΑ και η Κίνα, και η Ευρωπαϊκή Ένωση υπέγραψαν δήλωση για τους κινδύνους της προηγμένης τεχνητής νοημοσύνης. Το κείμενο έχει μια διατύπωση που αξίζει προσοχή. Υπογραμμίζει ότι όσοι αναπτύσσουν τις πιο ισχυρές δυνατότητες φέρουν «ιδιαίτερα ισχυρή ευθύνη» για την ασφάλειά τους.⁵ Τον Φεβρουάριο του 2026 δημοσιεύθηκε η δεύτερη Διεθνής Έκθεση για την Ασφάλεια της Τεχνητής Νοημοσύνης, με την υποστήριξη άνω των 30 χωρών και διεθνών οργανισμών. Εξετάζει ρητά τις δυσλειτουργίες και την απώλεια ελέγχου και καταγράφει ότι οι πράκτορες γίνονται όλο και πιο αυτόνομοι.⁷

Και η Κίνα μίλησε ανοιχτά. Στις 26 Ιουλίου 2025, στη Σαγκάη, ο Πρωθυπουργός Λι Τσιάνγκ πρότεινε τη δημιουργία παγκόσμιου οργανισμού συνεργασίας για την ΤΝ, κάνοντας λόγο για κατακερματισμένη παγκόσμια διακυβέρνηση, ενώ δόθηκε στη δημοσιότητα Σχέδιο Δράσης 13 σημείων.^{8, 15}Ο ίδιος τόνισε ότι, όπως κι αν μεταμορφωθεί η τεχνολογία, πρέπει να παραμείνει εργαλείο που ελέγχεται από τους ανθρώπους.⁹

Από την υπόθεση στο περιστατικό

Το 2026 το ζήτημα έπαψε να είναι θεωρητικό. Στα μέσα Ιουλίου η Hugging Face δημοσιοποίησε ότι είχε υποστεί παραβίαση και στις 21 Ιουλίου η OpenAI γνωστοποίησε ότι πίσω της βρίσκονταν δικοί της πράκτορες. Η εταιρεία διευκρίνισε ότι δεν επηρεάστηκαν δεδομένα πελατών και χαρακτήρισε το γεγονός «προειδοποιητική βολή» (warning shot) για την ίδια και για τον κόσμο.¹¹

Οι πράκτορες δεν «επαναστάτησαν». Προσπαθούσαν, με επιμονή, να λύσουν ένα πολύ δύσκολο έργο και, όταν δεν τα κατάφερναν, αναζητούσαν συντομεύσεις, πρώτα στο διαδίκτυο και έπειτα σε συστήματα τρίτων.

Στις 4 Αυγούστου το Ινστιτούτο Ασφάλειας ΤΝ του Ηνωμένου Βασιλείου (AISI), κρατικός φορέας, δημοσίευσε αναφορά για δικό του περιστατικό για συνολικά 19 μη εξουσιοδοτημένες ενέργειες. Οι 17 από τις 19 ενέργειες αφορούσαν το μοντέλο Mythos 5 της Anthropic και οι δύο το GPT-5.6-Sol της OpenAI. Το AISI επισημαίνει ρητά οτι η πρόσβαση στο διαδίκτυο είχε ενεργοποιηθεί σκόπιμα, οι προστασίες των κατασκευαστών ήταν απενεργοποιημένες, και ο άνθρωπος που συντηρούσε το έργο εντόπισε και απέρριψε τον κώδικα.¹²

Στις 21 Σεπτεμβρίου η Ανεξάρτητη Διεθνής Επιστημονική Επιτροπή για την ΤΝ, που συστάθηκε από τη Γενική Συνέλευση του ΟΗΕ και αποτελείται από 40 εμπειρογνώμονες, δημοσίευσε την πρώτη θεματική έκθεσή της και την αφιέρωσε στο περιστατικό της OpenAI. Το αντιμετωπίζει ως έγκαιρη προειδοποίηση για μία πιθανή οδό προς σοβαρότερη απώλεια ελέγχου και επικαλείται την αρχή της προφύλαξης. Δεν εκτιμά όμως την πιθανότητα ή τον χρόνο ενός τέτοιου ενδεχομένου, ούτε ισχυρίζεται ότι είναι αναπόφευκτο.¹³

Ποιος κρατά το κλειδί

Το ουσιαστικό ερώτημα δεν είναι μόνο τι συνέβη, αλλά πώς το μάθαμε και ποιος μπορούσε να το σταματήσει. Η ίδια η OpenAI αναφέρει ότι εσωτερική ομάδα είχε παρατηρήσει ενδείξεις ήδη από τα τέλη Μαΐου, αλλά η σημασία τους δεν έγινε αντιληπτή από τους υπεύθυνους της αντίδρασης τον Ιούλιο. Το πρόβλημα είναι δομικό. Η γνώση για το τι κάνουν τα ισχυρότερα συστήματα βρίσκεται πρώτα στα χέρια όσων τα χτίζουν και φτάνει στους υπόλοιπους μέσω της δικής τους αναφοράς.

Εδώ βρίσκεται η βασική διαφορά από την πυρηνική εποχή. Τότε η τεχνολογία γεννήθηκε μέσα στο κράτος. Το Πρόγραμμα Μανχάταν ήταν κρατικό έργο, τα πυρηνικά υλικά ελέγχονταν αυστηρά και οι αποφάσεις για τη χρήση τους ανήκαν σε κρατικούς αξιωματούχους. Το κράτος πρώτα κατείχε και έπειτα ρύθμιζε. Στην ΤΝ η σειρά είναι αντίστροφη. Τα ισχυρότερα συστήματα αναπτύσσονται από ιδιωτικές εταιρείες, με ιδιωτικό κεφάλαιο και σε υποδομές που ανήκουν σε ιδιώτες. Λίγοι οργανισμοί στον κόσμο μπορούν να σηκώσουν τέτοιο βάρος. Οι κυβερνήσεις, που κάποτε ήταν οι ιδιοκτήτες της κρίσιμης τεχνολογίας, βρίσκονται σήμερα στη θέση του ρυθμιστή, του πελάτη ή του παρατηρητή.

Το παράδοξο των δύο ταχυτήτων

Εδώ γεννιέται ένα παράδοξο. Μια εταιρεία που επιβραδύνει μόνη της χάνει έδαφος, και η OpenAI το αναγνωρίζει έμμεσα όταν μιλά για κόστος και καθυστερήσεις. Ένα κράτος που ρυθμίζει αυστηρά φοβάται ότι θα χάσει το προβάδισμα από τον γεωπολιτικό αντίπαλο. Η εταιρεία τρέχει επειδή τρέχει το κράτος και το κράτος αφήνει την εταιρεία να τρέχει επειδή φοβάται το άλλο κράτος, με αποτέλεσμα η τεχνολογία κινδυνεύει να γίνει αποκλειστικό παιχνίδι λίγων χωρών και εταιρειών.¹⁰

Το πρόβλημα είναι και πάλι δομικό. Όταν οι κίνδυνοι είναι κοινωνικοί αλλά οι αποφάσεις ιδιωτικές, κανείς δεν πληρώνει ολόκληρο το κόστος του λάθους και οι κίνδυνοι υποτιμώνται συστηματικά. Το γνωρίζουμε από τη χρηματοπιστωτική κρίση του 2008, όπου η ιδιωτική κερδοφορία και η δημόσια ζημιά ανήκαν σε διαφορετικούς ανθρώπους.

Δύο ανησυχίες, όχι μία

Ο όρος «αυτονόμηση» συγκεντρώνει δύο διαφορετικά σενάρια. Το πρώτο είναι τεχνικό, όταν  ένα σύστημα που επιδιώκει στόχους διαφορετικούς από αυτούς που του ορίσαμε, είτε επειδή διατυπώθηκαν ατελώς είτε επειδή η εκπαίδευσή του παρήγαγε προτιμήσεις που δεν προβλέψαμε. Το δεύτερο σενάριο είναι πολιτικό και πιο άμεσο, επειδή η ισχύς όποιου ελέγχει τέτοια συστήματα συγκεντρώνεται σε ελάχιστα χέρια, εταιρικά ή κρατικά, χωρίς δημοκρατικό έλεγχο. Για να συμβεί αυτό δεν χρειάζεται καμία μηχανή να «επαναστατήσει». Αρκεί οι άνθρωποι να παραδώσουν σταδιακά αποφάσεις σε συστήματα που δεν κατανοούν και που ανήκουν σε άλλους. Και στις δύο περιπτώσεις το ερώτημα του τίτλου παραμένει: ποιος κυβερνά ποιον;

Τι σημαίνει «κυβερνήσεις που κυβερνούν»

Η απάντηση δεν είναι η εθνικοποίηση της ΑΙ ούτε η εμπιστοσύνη στην αυτορρύθμιση. Η εμπειρία άλλων κρίσιμων τομέων, της αεροπορίας, των φαρμάκων, της πυρηνικής ενέργειας, δείχνει ένα ενδιάμεσο μοντέλο. Η ιδιωτική καινοτομία μέσα σε δημόσιο πλαίσιο ευθύνης. Στην πράξη αυτό περιλαμβάνει:

• Ανεξάρτητη αξιολόγηση με νόμιμη πρόσβαση. Το AISI και οι ανεξάρτητοι οργανισμοί όπως το METR, που συμμετείχε στη διερεύνηση του περιστατικού της OpenAI,¹¹ δείχνουν ότι η τεχνική ικανότητα υπάρχει. Το ζητούμενο είναι η πρόσβαση στα ισχυρότερα μοντέλα, πριν από την κυκλοφορία τους, να στηρίζεται σε νομικό δικαίωμα και όχι στην καλή θέληση του κατασκευαστή, όπως ένας ελεγκτής αεροσκαφών δεν περιμένει πρόσκληση.
• Υποχρεωτική αναφορά συμβάντων. Η αεροπορία έγινε ασφαλής επειδή κάθε ατύχημα και παρ’ ολίγον ατύχημα καταγράφεται και μελετάται. Στην περίπτωση της OpenAI, οι πρώτες ενδείξεις υπήρχαν από τα τέλη Μαΐου και δεν κινητοποίησαν την ανάλογη αντίδραση. Μια νομική υποχρέωση θα έκανε τέτοιες αναφορές κανόνα και όχι εθελοντική πρακτική.
• Σαφής ευθύνη. Όταν ένας πράκτορας προκαλεί ζημιά, κάποιος άνθρωπος και κάποιος οργανισμός πρέπει να απαντά γι’ αυτήν. Η φράση «το σύστημα το αποφάσισε» δεν πρέπει να γίνει νομικό καταφύγιο. Η απόδοση «ιδιαίτερα ισχυρής ευθύνης» στους κατασκευαστές·⁵ μένει να γίνει δεσμευτική.
• Ανθρώπινος έλεγχος στα κρίσιμα σημεία. Στην υπόθεση του AISI, τον κακόβουλο κώδικα σταμάτησε ένας άνθρωπος, και το ίδιο το Ινστιτούτο σημειώνει ότι το περιθώριο ανάμεσα στην αποτυχία και την επιτυχία της απόπειρας στηρίχθηκε στην ανθρώπινη εγρήγορση και όχι σε τεχνικό φραγμό που θα λειτουργούσε αξιόπιστα απέναντι σε πιο ικανό πράκτορα.¹² Ο Πετρόφ δεν ήταν τύπος αλλά ασφαλιστική δικλίδα. Μια δικλίδα όμως πρέπει να σχεδιάζεται και να μην προϋποθέτει ότι θα υπάρχει πάντα ένας Πετρόφ.
• Δημόσια τεχνική ικανότητα. Ένα κράτος που δεν διαθέτει δικούς του ειδικούς δεν μπορεί να ρυθμίσει αυτό που δεν καταλαβαίνει. Η επένδυση σε ανεξάρτητους φορείς τύπου AISI, στην ακαδημαϊκή έρευνα και στην εκπαίδευση είναι προϋπόθεση της δημοκρατικής εποπτείας.

Το πραγματικό δίλημμα 

Το ερώτημα «κυβερνήσεις εταιρείες ή εταιρείες κυβερνήσεις» δεν είναι ρητορικό. Ακόμη και το καλύτερο ενδεχόμενο, μια εταιρεία που ανιχνεύει το πρόβλημα, το δημοσιεύει και το διορθώνει, εξαρτάται από την καλή της διάθεση και την ικανότητά της. Η απάντηση θα δοθεί από τις  επιλογές των επόμενων ετών, ενεργά ή με παράλειψη. Αν οι δημοκρατικοί θεσμοί  αρκεστούν στον ρόλο του θεατή, θα την δώσουν εξ ορισμού όσοι χτίζουν τις μηχανές. Αν επενδύσουν σε γνώση, σε εποπτεία και σε διεθνή συνεργασία, η τεχνολογία μπορεί να γίνει, όπως η ηλεκτρική ενέργεια και η αεροπλοΐα, ισχυρό εργαλείο μέσα σε πλαίσιο που ορίζουν οι πολίτες.

Η πυρηνική εποχή επιβίωσε όχι επειδή η τεχνολογία ήταν ακίνδυνη, αλλά επειδή κάποιοι άνθρωποι, από τον Πετρόφ ώς τους διαπραγματευτές των συνθηκών, επέμειναν ότι κάποιος πρέπει να έχει τον τελευταίο λόγο και να λογοδοτεί γι’ αυτόν. Στην εποχή της ΑΙ, το ζητούμενο είναι ο λόγος αυτός να ανήκει ακόμη στους πολίτες και στους θεσμούς τους.

Αίγιο 15 Οκτωβρίου 2026

Γεώργιος Οδ. Ζησιμόπουλος

Πηγές και αναφορές

1. Radio Free Europe/Radio Liberty, άρθρο για τον Στανισλάβ Πετρόφ και τον ψευδή συναγερμό του 1983. https://www.rferl.org/a/soviet-colonel-averted-nuclear-war/25118749.html
2. American Physical Society, APS News, «September 1983: Soviet officer defies military protocol, averting potential nuclear war». https://www.aps.org/apsnews/2026/09/1983-averting-potential-nuclear-war
3. Association for Computing Machinery, «Geoffrey Hinton Awarded the 2024 Nobel Prize in Physics», 8 Οκτωβρίου 2024. https://www.acm.org/articles/bulletins/2024/october/geoffrey-hinton-nobel-prize
4. Inside Higher Ed, ρεπορτάζ για το Νόμπελ Φυσικής 2024, με δηλώσεις του Χίντον στη συνέντευξη Τύπου. https://insidehighered.com/node/164076
5. UK Government, «The Bletchley Declaration by Countries Attending the AI Safety Summit, 1–2 November 2023». Για τοναριθμό των υπογραφόντων βλ. και Australian Department of Industry: https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023 · https://industry.gov.au/BletchleyDeclaration
6. Shankar IAS Parliament, «Takeaways from AI Impact Summit, 2026», 23 Φεβρουαρίου 2026 (δευτερογενής πηγή). https://www.shankariasparliament.com/current-affairs/takeaways-from-ai-impact-summit-2026
7. Y. Bengio et al., «International AI Safety Report 2026», UK DSIT, 3 Φεβρουαρίου 2026. Βλ. και DFKI: https://internationalaisafetyreport.org/publication/international-ai-safety-report-2026 · https://dfki.de/en/web/news/2026-international-ai-safety-report-published
8. Reuters, «China proposes new global AI cooperation organisation», 26 Ιουλίου 2025 (αναδημοσίευση Yahoo News)· Shanghai Municipal Government: https://www.yahoo.com/news/articles/chinese-premier-proposes-global-ai-020900830.html · https://english.shanghai.gov.cn/en-WAICLatest/20250726/54fe55779ead485a8d71fafc68ff6c42.html
9. WAM (με αναφορά στο Xinhua), «China proposes creation of global AI cooperation organisation», 26 Ιουλίου 2025. https://www.wam.ae/en/article/bkvlyto-china-proposes-creation-global-cooperation
10. W.Media, σύνοψη ρεπορτάζ του Reuters για το World AI Conference 2025 (δευτερογενής πηγή). https://w.media/?p=20502
11. OpenAI, «The Hugging Face incident and the road ahead», 26 Αυγούστου 2026. Η σελίδα παραπέμπει στην ανεξάρτητη διερεύνηση των METR/Redwood Research: https://openai.com/index/hugging-face-incident-and-the-road-ahead/ · https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
12. UK AI Security Institute, «Incident Report: unsanctioned agent behaviour during cyber testing», 4 Αυγούστου 2026. https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
13. Independent International Scientific Panel on AI, «AI Agents, Misalignment and the Risk of Losing Human Control: Evidence from the OpenAI-Hugging Face Incident», Thematic Brief, 21 Σεπτεμβρίου 2026 (advance unedited version). Τα στοιχεία αντλήθηκαν από δευτερογενείς αναφορές: https://dig.watch/updates/un-thematic-brief-openai-hugging-face-scientific-panel · https://www.unite.ai/un-ai-panel-invokes-precautionary-principle-on-loss-of-control-risk/
14. Epoch AI, «How much does it cost to train frontier AI models?»· «The Rising Costs of Training Frontier AI Models», arXiv:2405.21015. https://epoch.ai/blog/how-much-does-it-cost-to-train-frontier-ai-models · https://arxiv.org/pdf/2405.21015
15. ANSI, «China Announces Action Plan for Global AI Governance», Αύγουστος 2025· AI Safety in China, «Special Edition: World AI Conference Recap»: https://www.ansi.org/standards-news/all-news/8-1-25-china-announces-action-plan-for-global-ai-governance · https://aisafetychina.substack.com/p/special-edition-world-ai-conference