Η Εποχή-Γέφυρα και το Μεγάλο Ερώτημα
Ζούμε σε μια εποχή-γέφυρα. Η εποχή μας γεφυρώνει την παλιά παραδοσιακή εποχή της χειροκίνητης εργασίας και ζωής με τη νέα εποχή που έρχεται, αυτή της Τεχνητής Νοημοσύνης. Η ζωή την εποχή της Τεχνητής Νοημοσύνης θα είναι τελείως διαφορετική από αυτή που ζούμε έως τώρα. Και η μεγάλη ερώτηση είναι μια: θα είναι η Τεχνητή Νοημοσύνη επικίνδυνη για τον άνθρωπο;
Ο κοινός ανθρώπινος νους δεν μπορεί αυτή τη στιγμή να επεξεργαστεί τις αλλαγές που θα επιφέρει στη ζωή του η Τεχνητή Νοημοσύνη. Για να μπορέσουμε, λοιπόν, έστω να προσεγγίσουμε το θέμα, θα είναι χρήσιμο να μελετήσουμε μια αναλογία: τι έγινε τη δεκαετία του ’40-’50 με την πυρηνική ενέργεια.
Το Ιστορικό Παράδειγμα της Πυρηνικής Ενέργειας
Από τον Πολεμικό Ανταγωνισμό στην Ειρηνική Χρήση
Η έρευνα για την πυρηνική ενέργεια τη δεκαετία του ’40 υποστηρίχθηκε και τροφοδοτήθηκε συστηματικά από τα κράτη, προκειμένου να κερδηθεί ένας πόλεμος. Το πιο γρήγορο, τυχερό ή ικανό κράτος που κατάφερε να αποκωδικοποιήσει πλήρως τις ατομικές διεργασίες και να δημιουργήσει την ατομική βόμβα, έβαλε τέλος στον πόλεμο όπως αυτό ήθελε. Όμως η έρευνα των άλλων κρατών (τουλάχιστον αυτών που δεν καταστράφηκαν τελείως) συνεχίστηκε, και λίγα χρόνια μετά το τέλος του Β’ Παγκοσμίου Πολέμου αρκετές χώρες ήταν σε θέση να παράγουν πυρηνική ενέργεια και πυρηνικά όπλα.
Η Αλματώδης Άνοδος του Βιοτικού Επιπέδου
Η έρευνα για την πυρηνική ενέργεια διαμόρφωσε τη ζωή των σημερινών ανθρώπων με εφαρμογές στην τεχνολογία, την ιατρική κ.λπ. Και φυσικά, με την παραγωγή φθηνού ηλεκτρικού ρεύματος. Η ζωή στα 90s και τα 00s, σε σύγκριση με τη ζωή στα 60s ή σε άλλες εποχές της ανθρώπινης ιστορίας, θα είχε μεταξύ της διαφορά εκατονταετιών. Τόση ήταν η αλματώδης αύξηση του βιοτικού επιπέδου, βασικός παράγοντας της οποίας ήταν και η πυρηνική ενέργεια.
Το Κενό Ρύθμισης: 20 Χρόνια Χωρίς Περιορισμούς
Οι πυρηνικές δυνάμεις κατάλαβαν γρήγορα ότι έχουν στα χέρια τους ένα τεράστιο όπλο – ένα μέσο με το οποίο μπορούν να αλλάξουν τις ζωές των ανθρώπων, αλλά και να τις καταστρέψουν. Παρόλα αυτά, τους πήρε πάνω από 10 χρόνια για να ιδρύσουν τη Διεθνή Υπηρεσία Ατομικής Ενέργειας (ιδρύθηκε το 1957) και άλλα τόσα για να «δεσμευτούν» και να υπογράψουν τη Συνθήκη Μη Διάδοσης Πυρηνικών Όπλων (1970). Δηλαδή, οι χώρες που κατάφεραν να αποκτήσουν ένα τεράστιο συγκριτικό πλεονέκτημα έναντι των άλλων, το χρησιμοποίησαν για 20 ολόκληρα χρόνια πριν δεσμευτούν να περιορίσουν τη χρήση του αποκλειστικά για ειρηνικούς σκοπούς!
Η Αναλογία με την AGI (Γενική Τεχνητή Νοημοσύνη)
Ο Άκρατος Εταιρικός Ανταγωνισμός για την Πρωτοκαθεδρία
Η αναφορά στην πυρηνική ενέργεια έγινε με τρόπο που να κάνει τις αναλογίες προφανείς. Είμαστε σε μια περίοδο όπου η έρευνα για τη Γενική Τεχνητή Νοημοσύνη (AGI) –την τεχνητή νοημοσύνη, δηλαδή, που θα μπορεί να επεξεργάζεται με ωμή υπολογιστική ισχύ κάθε πρόβλημα που αντιμετωπίζει– τροφοδοτείται ακραία από εταιρείες και διεθνή κεφάλαια σε ένα περιβάλλον άκρατου ανταγωνισμού. Ο νικητής αυτού του εταιρικού πολέμου θα γίνει η ηγέτιδα εταιρεία των επόμενων δεκαετιών. Θα είναι ο Ωνάσης των 60s, η Microsoft των 80s και η Google των 00s.
Το Κέρδος Πριν από τους Κανόνες
Και οι άλλες εταιρείες, όμως, θα συνεχίσουν την έρευνα και θα δημιουργήσουν AGI. Η AGI θα αλλάξει τις ζωές των ανθρώπων δραματικά, όχι σε βάθος δεκαετιών, αλλά λίγων χρόνων. Οι εταιρείες που θα έχουν την AGI στην κατοχή τους δεν θα την περιορίσουν ιδιαίτερα· θα θελήσουν να εκμεταλλευτούν εμπορικά το νέο τους δημιούργημα πριν οι συνθήκες επιβάλουν περιορισμούς. Αλλά η AGI θα μπορεί να διαμορφώσει τις ζωές των ανθρώπων τόσο δραστικά και τόσο σύντομα, που οι εταιρείες (ένα σύνολο ανθρώπων, δηλαδή) δεν θα είναι προετοιμασμένες για κάτι τέτοιο.
Το AI Act και τα Σενάρια Περιορισμού της
Τα κράτη και οι οργανισμοί κρατών (π.χ. ΟΗΕ) είναι πολύ βραδυκίνητες οντότητες, γεμάτες γραφειοκρατία. Επιπλέον, σπάνια ενεργούν προληπτικά. Συνήθως καλούνται να δράσουν όταν ένα πρόβλημα έχει ήδη προκύψει. Άρα, πώς μπορούν να επιβληθούν περιορισμοί στην έρευνα και την ανάπτυξη της τεχνητής νοημοσύνης;
Το 2024 ψηφίστηκε το AI Act, το οποίο αποτελεί ένα πρώτο νομικό πλαίσιο για τα μοντέλα AI. Τα κατηγοριοποιεί σε βαθμίδες κινδύνου ανάλογα με τον τομέα στον οποίο δραστηριοποιούνται και όχι απαραίτητα με το πόσο «δυνατά» είναι ή τι ακριβώς κάνουν. Για παράδειγμα, ένα μοντέλο AI που εκτελεί μια εργασία στον υγειονομικό τομέα θεωρείται υψηλού κινδύνου, ενώ ένα απλό chatbot είναι περιορισμένου.
Αυτή η νομοθετική προσπάθεια αφορά προφανώς τα υπάρχοντα συστήματα τεχνητής νοημοσύνης. Γίνεται, βέβαια, μια αναφορά και στη μελλοντική AGI, η οποία υποχρεώνει την εταιρεία που την αναπτύσσει να την ελέγχει, αλλά και να «ειδοποιεί» τις αρχές αν κάτι δεν πάει καλά. Γι’ αυτό και βγαίνουν πλέον στη δημοσιότητα τόσες πολλές ιστορίες για μοντέλα AI που παρουσίασαν απρόβλεπτη συμπεριφορά· οι εταιρείες είναι πλέον θεσμικά υποχρεούμενες να το επικοινωνούν. Μέχρι εκεί όμως.
Κανένας σώφρων άνθρωπος δεν μπορεί να πει ότι το AI Act ήταν ένα λάθος βήμα· ήταν σίγουρα μια αρχή. Αλλά είναι ημιτελές ήδη από τώρα – πόσο μάλλον όταν θα έρθει η πραγματική AGI.
Ρεαλιστικά, λοιπόν, περιορισμοί στην ανάπτυξη της τεχνητής νοημοσύνης μπορούν να επιβληθούν μόνο στις τρεις παρακάτω περιπτώσεις:
- Η Προληπτική Αφύπνιση των Διανοητών/Οραματιστών (Το Αισιόδοξο Σενάριο)
Αν ένας ικανός αριθμός κορυφαίων επιστημόνων και διανοητών —ανθρώπων που βρίσκονται μπροστά από την εποχή τους και έχουν πρόσβαση στα κέντρα αποφάσεων— χτυπήσει μια τέτοια καμπάνα κινδύνου που δεν θα μπορεί να αγνοηθεί. Αυτός είναι και ο μόνος τρόπος να ελεγχθεί η γενική τεχνητή νοημοσύνη προληπτικά και με σχετική ασφάλεια.
- Ένα «Ψηφιακό Τσερνόμπιλ» (Το Σενάριο της Κρίσης)
Μόλις δημιουργηθεί η AGI και ξεκινήσει η εμπορική της εκμετάλλευση, είναι αρκετά πιθανό ότι θα συμβεί ένα απρόβλεπτο ατύχημα. Ένα ατύχημα τύπου Τσερνόμπιλ, αλλά πολύ μεγαλύτερης έκτασης, πιθανώς και παγκόσμιας. Τότε θα πέσουν όλοι οι οργανισμοί πάνω στο πρόβλημα και θα το περιορίσουν. Αλλά το γεγονός ότι η AGI (πιθανόν και πολλαπλές από δαύτες) θα είναι ήδη σε λειτουργία όταν αρχίσει η προσπάθεια χειραγώγησής της, θα κάνει το εγχείρημα πιο δύσκολο. Όχι όμως αδύνατο.
- Λαϊκή Απαίτηση λόγω Κοινωνικών Προβλημάτων (Το Κοινωνικό Σενάριο)
Οι οργανισμοί θα ενεργήσουν αν οι λαοί το απαιτήσουν. Όμως, για να δημιουργηθεί λαϊκό κίνημα κατά της τεχνητής νοημοσύνης, θα πρέπει να έχουν υπάρξει δραστικές αρνητικές επιπτώσεις σε μια κρίσιμη (σημαντική) μάζα ανθρώπων (π.χ. μαζική απώλεια θέσεων εργασίας).
Εδώ φυσικά μπαίνει το ερώτημα: Γιατί μια εταιρεία που εκμεταλλεύεται εμπορικά μια AGI να θέλει να δημιουργήσει κοινωνικό πρόβλημα αντί για αύξηση του βιοτικού επιπέδου; Διότι το κοινωνικό πρόβλημα θα έρθει ως αποτέλεσμα της αύξησης του βιοτικού επιπέδου. Αν, για παράδειγμα, γεμίσει η Αθήνα με ταξί χωρίς οδηγό στα οποία η κούρσα κοστίζει 2 ευρώ, ή λεωφορεία χωρίς οδηγό με εισιτήριο 10 λεπτών, που έχουν δικές τους λωρίδες και σε πηγαίνουν στον προορισμό σου στην ώρα σου, αυτό είναι ξεκάθαρη αύξηση του βιοτικού επιπέδου του μέσου πολίτη. Είναι, όμως, και ανεργία για 30.000 οδηγούς μόνο στην Αττική.
Φυσικά, στην περίπτωση της λαϊκής απαίτησης, η επέμβαση θα έρθει αρκετά αργοπορημένη και μπορεί να μην είναι σε θέση να αλλάξει τη νέα κατάσταση, παρά μόνο να τη μετριάσει.
Σύνοψη: Το Παράδοξο της Αυτόνομης Δημιουργίας
Άρα, είναι η τεχνητή νοημοσύνη επικίνδυνη για τον άνθρωπο;
Στο παρελθόν, κάθε μεγάλη ανακάλυψη είχε διπλό πρόσωπο, αλλά παρέμενε ένα παθητικό εργαλείο στα χέρια μας. Ο σίδηρος έφτιαξε τον σιδηρόδρομο αλλά και το πολυβόλο. Η πενικιλίνη παρέτεινε το προσδοκιμο ζωής, αλλά η κατάχρησή της γέννησε υπερβακτήρια. Η πυρηνική ενέργεια έδωσε φθηνό ρεύμα, αλλά ισοπέδωσε τη Χιροσίμα. Το διαδίκτυο εκδημοκράτισε τη γνώση, αλλά εκδημοκράτισε και τη δολοφονία χαρακτήρων. Σε όλες αυτές τις περιπτώσεις, ο άνθρωπος ήταν εκείνος που αποφάσιζε πώς θα χρησιμοποιήσει το εργαλείο.
Η ειδοποιός διαφορά της AGI με οτιδήποτε άλλο έχουμε ανακαλύψει ως τώρα είναι ότι δεν χρειάζεται τον ανθρώπινο νου για να δημιουργήσει εφαρμογές ή να πάρει αποφάσεις. Έχει τη δική της, αυτόνομη υπολογιστική ισχύ.
Η ανθρωπότητα δεν χρειάζεται πλέον να μάθει στην AI πώς να σκέφτεται· χρειάζεται, όμως, να προλάβει να της θέσει απαράβατα όρια και ηθικούς φραγμούς. Και η ιστορία μας έχει δείξει ότι όσο πιο σύντομα περιορίσουμε τη δύναμη ενός «όπλου», τόσο λιγότερο καταστροφικό θα γίνει αυτό για το μέλλον μας.
