Υπάρχει κάτι παράδοξο σε όσα ακούμε τελευταία από τους ανθρώπους που βρίσκονται στην κορυφή της ανάπτυξης της Τεχνητής Νοημοσύνης. Δεν είναι οι πολέμιοι της τεχνολογίας που μας προειδοποιούν. Δεν είναι άνθρωποι που δεν την καταλαβαίνουν. Δεν είναι καν κάποιοι που φοβούνται ότι θα χάσουν τη δουλειά τους από αυτή. Είναι οι ίδιοι οι άνθρωποι που την κατασκευάζουν.

Ο Sam Altman της OpenAI, ο Dario Amodei της Anthropic και ο Demis Hassabis της Google DeepMind έχουν, με διαφορετικές διατυπώσεις και προτάσεις, ζητήσει ισχυρότερη εποπτεία των πλέον προηγμένων συστημάτων AI. Το 2026 η σύγκλιση αυτή έγινε ακόμη πιο εμφανής: και οι τρεις έχουν ταχθεί υπέρ ανεξάρτητων ελέγχων των frontier models και κάποιου είδους θεσμικού μηχανισμού που θα μπορεί να παρεμβαίνει όταν οι δυνατότητες ή οι κίνδυνοι ξεπερνούν συγκεκριμένα όρια.

Τελευταία η ανησυχία έγινε ακόμη πιο έντονη, με κορυφαία στελέχη του κλάδου να μιλούν πλέον ανοιχτά για επιβράδυνση της ανάπτυξης και διεθνή συνεργασία για τον έλεγχο των ισχυρότερων συστημάτων.

Αυτό από μόνο του θα έπρεπε να μας κάνει να αναρωτηθούμε.

Όταν αυτός που βρίσκεται έξω από ένα εργοστάσιο φωνάζει ότι κάτι είναι επικίνδυνο, μπορεί να έχει δίκιο ή μπορεί απλώς να φοβάται κάτι που δεν καταλαβαίνει. Όταν όμως ο άνθρωπος που βρίσκεται μέσα στο εργοστάσιο και κατασκευάζει τη μηχανή βγαίνει έξω και ζητά να μπουν κανόνες, αξίζει τουλάχιστον να τον ακούσουμε.

Η εικόνα μοιάζει πρωτοφανής.

Δεν είναι όμως.

Asilomar, 1975

Στις αρχές της δεκαετίας του 1970, μια μικρή ομάδα επιστημόνων βρέθηκε μπροστά σε κάτι επαναστατικό. Το recombinant DNA τους έδινε τη δυνατότητα να παίρνουν γενετικό υλικό και να δημιουργούν συνδυασμούς που προηγουμένως δεν υπήρχαν στη φύση.

Οι δυνατότητες ήταν τεράστιες. Ιατρική. Γεωργία. Βιοτεχνολογία. Νέα φάρμακα. Νέες θεραπείες. Αλλά υπήρχε και κάτι άλλο.

Κανείς δεν μπορούσε να γνωρίζει με βεβαιότητα τι θα συνέβαινε αν ένας νέος γενετικά τροποποιημένος οργανισμός αποκτούσε απρόβλεπτες ιδιότητες ή έβγαινε από το εργαστήριο. Τι θα συνέβαινε αν δημιουργούσαν κατά λάθος έναν επικίνδυνο μικροοργανισμό; Τι θα συνέβαινε αν αυτός έβγαινε από το εργαστήριο;

Και κυρίως:

Μπορούμε να είμαστε βέβαιοι ότι καταλαβαίνουμε τις συνέπειες αυτού που μόλις μάθαμε να κάνουμε;

Και τότε συνέβη κάτι αξιοσημείωτο.

Το 1974, ο Paul Berg και άλλοι κορυφαίοι επιστήμονες του χώρου ζήτησαν εθελοντική παύση ορισμένων πειραμάτων μέχρι να κατανοηθούν καλύτερα οι κίνδυνοι. Δεν περίμεναν πρώτα να συμβεί η καταστροφή. Δεν είπαν: «Ας συνεχίσουμε και, αν παρουσιαστεί κάποιο πρόβλημα, θα το αντιμετωπίσουμε». Είπαν ουσιαστικά:

Δεν γνωρίζουμε αρκετά. Ας σταματήσουμε για λίγο.

Το 1975 περίπου 140 επιστήμονες, μαζί με νομικούς, κυβερνητικούς εκπροσώπους και δημοσιογράφους, συγκεντρώθηκαν στο Asilomar της Καλιφόρνιας για να συζητήσουν πώς θα μπορούσε να συνεχιστεί η έρευνα με ασφάλεια. Το αποτέλεσμα δεν ήταν η απαγόρευση της γενετικής μηχανικής. Ήταν κάτι πολύ πιο ώριμο:

Πρόοδος, αλλά με κανόνες.

Οι επιστήμονες συμφώνησαν τελικά σε αυστηρές κατευθυντήριες γραμμές και επίπεδα βιολογικής προστασίας. Η βιοτεχνολογία δεν σταμάτησε. Αντίθετα, αναπτύχθηκε εκπληκτικά.
Το σημαντικό είναι η αρχή που εφαρμόστηκε:

Όταν οι πιθανές συνέπειες μιας τεχνολογίας είναι τεράστιες και μη αναστρέψιμες, η απουσία βεβαιότητας για τον κίνδυνο δεν αποτελεί λόγο για να συνεχίσεις ανεξέλεγκτα.

Αποτελεί λόγο για να είσαι προσεκτικός.

Η δύναμη δεν δημιουργεί δικαίωμα

Υπάρχει ένα ακόμη παλαιότερο παράδειγμα, αυτή τη φορά όχι από την επιστήμη αλλά από την πολιτική ιστορία. Το 1783, μετά το τέλος του Αμερικανικού Πολέμου της Ανεξαρτησίας, ο George Washington βρισκόταν σε μια εξαιρετικά ισχυρή θέση. Ήταν ο αρχηγός του νικηφόρου στρατού. Αντί όμως να χρησιμοποιήσει αυτή τη στρατιωτική ισχύ για να διατηρήσει προσωπική εξουσία, στις 23 Δεκεμβρίου 1783 παρέδωσε την αρχηγία του στρατού στο Κογκρέσο και επέστρεψε στην ιδιωτική ζωή.

Το ιστορικό μάθημα δεν είναι ότι όλοι όσοι αποκτούν δύναμη θα κάνουν το ίδιο. Η ανθρώπινη ιστορία μάλλον μας διδάσκει το αντίθετο.
Η πράξη του όμως περιείχε μια αρχή που παραμένει εξαιρετικά επίκαιρη:

Το ότι κατέχεις τεράστια δύναμη δεν σημαίνει ότι πρέπει να έχεις και το αποκλειστικό δικαίωμα να αποφασίζεις πώς θα χρησιμοποιηθεί.

Και κάπου εδώ επιστρέφουμε στην Τεχνητή Νοημοσύνη.

Γιατί αυτή τη φορά το πρόβλημα είναι διαφορετικό

Η Τεχνητή Νοημοσύνη δεν είναι recombinant DNA. Δεν είναι πυρηνική ενέργεια. Δεν είναι ένα νέο όπλο. Υπάρχει μια θεμελιώδης διαφορά. Σχεδόν όλες οι προηγούμενες τεχνολογίες παρέμεναν εργαλεία. Ο άνθρωπος αποφάσιζε πότε θα χρησιμοποιηθούν και για ποιον σκοπό. Η κατεύθυνση της ΤΝ είναι διαφορετική.

Με την ΤΝ, για πρώτη φορά, συζητάμε για μια τεχνολογία που μπορεί σταδιακά να αποκτήσει δυνατότητα να γράφει software, να κάνει επιστημονική έρευνα, να σχεδιάζει συστήματα, να χρησιμοποιεί εργαλεία και πιθανώς να συμβάλλει στην κατασκευή της επόμενης γενιάς ΤΝ.

Αυτό αλλάζει τη φύση του προβλήματος ολοκληρωτικά. Γι’ αυτό οι προειδοποιήσεις των ίδιων των δημιουργών της έχουν σημασία. Δεν χρειάζεται να συμφωνήσουμε με κάθε ακραίο σενάριο. Δεν χρειάζεται να πιστεύουμε ότι η υπερνοημοσύνη βρίσκεται έξι μήνες μακριά. Δεν χρειάζεται καν να δεχθούμε ότι η ΤΝ θα αποτελέσει υπαρξιακή απειλή. Αρκεί κάτι πολύ απλούστερο.

Οι άνθρωποι που γνωρίζουν καλύτερα από σχεδόν οποιονδήποτε άλλον πόσο γρήγορα εξελίσσεται αυτή η τεχνολογία λένε ότι χρειαζόμαστε μηχανισμούς ελέγχου.

Οι επιστήμονες του 1974 δεν περίμεναν πρώτα να συμβεί η καταστροφή για να αποφασίσουν αν χρειάζονται κανόνες.

Σταμάτησαν πριν γνωρίζουν με βεβαιότητα ότι υπάρχει κίνδυνος.

Ακριβώς επειδή δεν γνώριζαν. Δεν χρειάζεται να ξέρουμε ακριβώς τι θα πάει στραβά. Αυτό ίσως είναι το μεγαλύτερο λάθος στη σημερινή συζήτηση. Δεν χρειάζεται να αποδείξεις ότι ένα αεροπλάνο θα πέσει για να εγκαταστήσεις συστήματα ασφαλείας. Πρέπει να αποδείξεις ότι έχεις κατανοήσει αρκετά καλά το αεροπλάνο ώστε να το αφήσεις να πετάξει.

Χρειαζόμαστε ένα Asilomar της Τεχνητής Νοημοσύνης

Όχι για να σταματήσουμε την ΤΝ. Όχι για να εμποδίσουμε την επιστημονική πρόοδο. Και σίγουρα όχι επειδή γνωρίζουμε τι ακριβώς πρόκειται να συμβεί. Ακριβώς το αντίθετο.

Επειδή δεν γνωρίζουμε.

Χρειαζόμαστε κοινές κόκκινες γραμμές. Ανεξάρτητους ελέγχους των ισχυρότερων μοντέλων. Συμφωνημένα επίπεδα δυνατοτήτων που δεν πρέπει να ξεπερνιούνται χωρίς αξιολόγηση. Πραγματικό έλεγχο πριν δοθεί σε ένα σύστημα πρόσβαση σε κρίσιμες υποδομές ή δυνατότητα μη αναστρέψιμων ενεργειών. Και πάνω απ’ όλα, κάποιες θεμελιώδεις αρχές που δεν θα ανήκουν στην OpenAI, στην Anthropic, στην Google, σε μία κυβέρνηση ή σε έναν άνθρωπο.

Θα πρέπει να ανήκουν σε όλους μας.

Γιατί αν η ΤΝ εξελιχθεί σε αυτό που οι ίδιοι οι δημιουργοί της θεωρούν πιθανό, τότε δεν μιλάμε απλώς για ένα καλύτερο software product. Μιλάμε ενδεχομένως για τη δημιουργία μιας μορφής νοημοσύνης που κάποια στιγμή θα ξεπεράσει εκείνη που τη δημιούργησε. Και αν υπάρχει έστω σοβαρή πιθανότητα να συμβεί αυτό, τότε η στιγμή να συμφωνήσουμε στους κανόνες δεν είναι όταν συμβεί. Δεν είναι σε έναν χρόνο. Δεν είναι καν σε λίγους μήνες.

Είναι τώρα.