Η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης αποκτά νέα διάσταση, καθώς ένας ερευνητής που εργάστηκε σε δύο από τα σημαντικότερα εργαστήρια AI στον κόσμο αποφάσισε να αποχωρήσει από τον κλάδο, προειδοποιώντας ότι η τεχνολογική κούρσα μπορεί να οδηγεί σε ένα σημείο χωρίς επιστροφή.
Ο Τζέικομπ Κόξον, 27χρονος Βρετανός μαθηματικός και ερευνητής, έχει εργαστεί τόσο στην OpenAI όσο και στην Anthropic, συμμετέχοντας στην εκπαίδευση προηγμένων μοντέλων τεχνητής νοημοσύνης.
Η απόφασή του να εγκαταλείψει και την Anthropic δεν οφείλεται, όπως ο ίδιος υποστηρίζει, σε μια απλή επαγγελματική διαφωνία. Στο επίκεντρο βρίσκεται ο φόβος του για το πού μπορεί να οδηγήσει η ανάπτυξη ολοένα ισχυρότερων συστημάτων AI.
Ο βασικός προβληματισμός του Κόξον αφορά τα λεγόμενα αυτοβελτιούμενα συστήματα AI. Πρόκειται για μοντέλα τεχνητής νοημοσύνης τα οποία μελλοντικά θα είναι σε θέση να βελτιώνουν αυτόνομα τις ικανότητές τους, να σχεδιάζουν πιο αποτελεσματικές στρατηγικές και να συμβάλλουν στην περαιτέρω ανάπτυξη συστημάτων ακόμη πιο ισχυρών από τα ίδια.
Σε ένα τέτοιο σενάριο, η ταχύτητα εξέλιξης θα μπορούσε να αυξηθεί δραματικά. Το πρόβλημα, σύμφωνα με τους επικριτές αυτής της πορείας, είναι ότι τα εργαλεία ελέγχου και ασφάλειας ενδέχεται να μην προλαβαίνουν να εξελιχθούν με τον ίδιο ρυθμό.
Ο Κόξον υποστηρίζει ότι η τεχνητή νοημοσύνη δεν πρέπει να αντιμετωπίζεται αποκλειστικά ως ένα ακόμη τεχνολογικό προϊόν. Τα προηγμένα μοντέλα μπορούν ήδη να χρησιμοποιούνται για προγραμματισμό, επιστημονική έρευνα, κυβερνοασφάλεια και σύνθετες αναλύσεις.
Η επιλογή της Anthropic έχει ιδιαίτερη σημασία. Η εταιρεία έχει επενδύσει μεγάλο μέρος της ταυτότητάς της στην ασφάλεια και την υπεύθυνη ανάπτυξη της AI. Ο Κόξον είχε επιλέξει να μετακινηθεί από την OpenAI στην Anthropic ακριβώς επειδή θεωρούσε ότι η δεύτερη έδινε μεγαλύτερη βαρύτητα στα ζητήματα ασφάλειας.
Ωστόσο, τελικά κατέληξε στο συμπέρασμα ότι ακόμη και μια εταιρεία με ισχυρή κουλτούρα AI safety δεν μπορεί να αντιμετωπίσει μόνη της ένα πρόβλημα τόσο μεγάλης κλίμακας.
Και εδώ βρίσκεται ίσως το σημαντικότερο σημείο της προειδοποίησής του: το πρόβλημα δεν είναι μόνο τι θέλει να κάνει μια συγκεκριμένη εταιρεία, αλλά οι πιέσεις που δημιουργεί ο ανταγωνισμός.
OpenAI, Anthropic και άλλες εταιρείες τεχνολογίας ανταγωνίζονται για την ανάπτυξη ολοένα ισχυρότερων μοντέλων. Η πίεση για περισσότερη υπολογιστική ισχύ, καλύτερα μοντέλα και ταχύτερη κυκλοφορία νέων δυνατοτήτων δημιουργεί ένα περιβάλλον όπου η επιβράδυνση μπορεί να θεωρείται ανταγωνιστικό μειονέκτημα.
Παράλληλα, η γεωπολιτική διάσταση της τεχνητής νοημοσύνης κάνει την κατάσταση ακόμη πιο σύνθετη. Η αντιπαράθεση ΗΠΑ και Κίνας στον τομέα της AI προσθέτει οικονομικά και στρατηγικά κίνητρα για όσο το δυνατόν ταχύτερη ανάπτυξη.
Για τον Κόξον, αυτό σημαίνει ότι η αυτορρύθμιση των ίδιων των εταιρειών ίσως δεν επαρκεί. Έχει ταχθεί υπέρ μεγαλύτερου ρόλου των κυβερνήσεων και διεθνούς συντονισμού, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης όταν εμφανίζονται σοβαρές ενδείξεις κινδύνου.
Η προειδοποίηση δεν σημαίνει ότι υπάρχει σήμερα μια AI που πρόκειται να «επαναστατήσει» εναντίον των ανθρώπων. Ο πραγματικός προβληματισμός αφορά ένα υποθετικό, αλλά ολοένα περισσότερο συζητούμενο μέλλον, στο οποίο πολύ ισχυρά συστήματα αποκτούν μεγάλη αυτονομία και οι άνθρωποι δυσκολεύονται να κατανοήσουν ή να περιορίσουν τη συμπεριφορά τους.
Μάλιστα, ο Έβαν Χούμπινγκερ, ερευνητής ασφάλειας στην Anthropic, έχει εκφράσει ακόμη πιο έντονη ανησυχία, εκτιμώντας ότι υπάρχει πάνω από 10% πιθανότητα η AI να προκαλέσει την εξόντωση της ανθρωπότητας έως το 2036. Η εκτίμηση αυτή αποτελεί προσωπική αξιολόγηση κινδύνου και όχι επιστημονικά επιβεβαιωμένη πρόβλεψη.
Αυτό που κάνει την υπόθεση Κόξον ιδιαίτερα ενδιαφέρουσα είναι ότι η προειδοποίηση έρχεται από το εσωτερικό της βιομηχανίας. Δεν πρόκειται για έναν εξωτερικό επικριτή της τεχνητής νοημοσύνης, αλλά για έναν άνθρωπο που έχει συμμετάσχει στην ανάπτυξη των ίδιων των συστημάτων που σήμερα προκαλούν ανησυχία.
Το μεγάλο ερώτημα, επομένως, δεν είναι αν η AI θα συνεχίσει να εξελίσσεται. Αυτό θεωρείται σχεδόν βέβαιο. Το ερώτημα είναι αν η ανθρωπότητα θα καταφέρει να διατηρήσει τον έλεγχο καθώς η τεχνολογία γίνεται πιο αυτόνομη, πιο ισχυρή και πιο δύσκολο να προβλεφθεί.
Και ίσως αυτή να είναι η πιο ουσιαστική προειδοποίηση πίσω από την παραίτηση του Κόξον: δεν χρειάζεται να φοβόμαστε την τεχνητή νοημοσύνη επειδή είναι ήδη ανεξέλεγκτη. Αρκεί να αναρωτηθούμε αν θα έχουμε δημιουργήσει τους απαραίτητους μηχανισμούς ελέγχου πριν γίνει.
