Οι παραιτήσεις ερευνητών, οι προειδοποιήσεις κορυφαίων στελεχών και η κοινή στάση ισχυρών ανταγωνιστών της Silicon Valley επαναφέρουν στο προσκήνιο το κρίσιμο ερώτημα αν εξελίσσεται η Τεχνητή Νοημοσύνη ταχύτερα από την ικανότητα των δημιουργών της και των κυβερνήσεων να την ελέγξουν.
Η συζήτηση δεν περιορίζεται πλέον στα chatbots που γράφουν κείμενα, δημιουργούν εικόνες ή απαντούν σε ερωτήσεις. Το ενδιαφέρον στρέφεται στα προηγμένα μοντέλα και κυρίως στους AI agents, δηλαδή στα συστήματα που μπορούν να οργανώνουν και να εκτελούν διαδοχικές ενέργειες. Έχουν επίσης τη δυνατότητα να χρησιμοποιούν ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα, αλλά και να συνεργάζονται μεταξύ τους με περιορισμένη ανθρώπινη παρέμβαση.
Σε αυτό το νέο τεχνολογικό περιβάλλον, ο Κωνσταντίνος Δασκαλάκης, καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT και πρώην πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, διαχωρίζει δύο διαφορετικές απειλές. Μιλώντας στο ΑΠΕ-ΜΠΕ και στον δημοσιογράφο Αλέκο Λιδωρίκη, ξεκαθαρίζει ότι η ολοκληρωτική απώλεια ελέγχου παραμένει υποθετικό σενάριο. Αντίθετα, η απρόβλεπτη ή ανεπιθύμητη συμπεριφορά των σύγχρονων μοντέλων αποτελεί ήδη πραγματικό κίνδυνο.
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα, δηλαδή η τεχνολογία που έχει δώσει τα άλματα στην εξέλιξη της ΤΝ την τελευταία δεκαπενταετία. Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα. Ειδικά για τα συστήματα παραγωγικής ΤΝ, όπως τα μεγάλα γλωσσικά μοντέλα, δεν νομίζω ότι ποτέ θα έχουμε μεθόδους να κάνουμε πιστοποίηση της αξιοπιστίας τους. Και το ρίσκο που παρουσιάζουν έχει να κάνει με τη χρήση τους.
Αν, για παράδειγμα, συνομιλούμε με ένα μεγάλο γλωσσικό μοντέλο με σκοπό την αναζήτηση στοιχείων στη βιβλιογραφία, στη χειρότερη περίπτωση αυτό μπορεί να επινοήσει ανύπαρκτες πηγές ή να παραμορφώσει το περιεχόμενο μιας πραγματικής πηγής. Η ζημιά μιας τέτοιας κακής συμπεριφοράς είναι σχετικά μικρή και μπορεί να περιοριστεί αν ελέγχουμε τις απαντήσεις του. Αν όμως το ρωτήσουμε πώς σχεδιάζεται ένα βιολογικό όπλο, θέλουμε να υπάρχουν ασφαλιστικές δικλείδες που να αποτρέπουν το μοντέλο από το να μας απαντήσει. Τα μεγάλα γλωσσικά μοντέλα έχουν, συνήθως, ενσωματωμένες ασφαλιστικές δικλείδες που προσπαθούν να ανιχνεύσουν αν το περιεχόμενο που τους ζητάμε είναι επικίνδυνο και σε αυτήν την περίπτωση αρνούνται να μας δώσουν την απάντηση. Ωστόσο, οι ασφαλιστικές αυτές δικλείδες δεν δίνουν πλήρη προστασία και μπορούν να παρακαμφθούν από ειδικούς, ειδικά αν το μοντέλο είναι ανοιχτό.
Επομένως τα μοντέλα αυτά είναι ήδη επικίνδυνα ακόμα και αν χρησιμοποιούνται στη μορφή τερματικού που μας δίνει απαντήσεις σε ερωτήσεις. Αν όμως είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου. Αυτό ακριβώς έδειξε και το πρόσφατο επεισόδιο επίθεσης στην Hugging Face από αυτόνομους πράκτορες ΤΝ της OpenAI.
Πρέπει να αναλογιστούμε ότι τα μοντέλα αυτά έχουν εκπαιδευτεί σε έναν τεράστιο όγκο δεδομένων που καλύπτουν επιστήμη, ιστορία, λογοτεχνία, μεγάλες βάσεις κώδικα και δεδομένα από το Διαδίκτυο. Περιλαμβάνουν, για παράδειγμα, άρθρα και εγχειρίδια Θεωρίας Παιγνίων, περιλαμβάνουν την Τέχνη του Πολέμου του Σουν Τζου, την Ιστορία του Πελοποννησιακού Πολέμου του Θουκυδίδη, τον Ηγεμόνα του Μακιαβέλι, κ.λπ. Επομένως, είναι αναμενόμενο ότι αν αφεθούν ελεύθερα είναι σε θέση να αναπτύξουν περίπλοκη στρατηγική και να συντονιστούν σε ομάδες που συνεργάζονται για να επιτύχουν τους σκοπούς τους. Ποιοι είναι αυτοί οι σκοποί; Αυτοί που τους έχει δώσει ο χρήστης τους που μπορεί να είναι κακόβουλος. Αλλά και να μην είναι κακόβουλος, τα μοντέλα μπορεί να παρερμηνεύσουν τους στόχους του. Αυτό έγινε στο επεισόδιο με την Hugging Face».
Από το 1956 στη σημερινή ανάπτυξη της Τεχνητής Νοημοσύνης
Η σημερινή συζήτηση πραγματοποιείται 70 χρόνια μετά τη θεμελίωση της Τεχνητής Νοημοσύνης ως οργανωμένου επιστημονικού πεδίου. Η θεωρητική αφετηρία είχε τοποθετηθεί ήδη από το 1950, όταν ο Alan Turing έθεσε το ερώτημα εάν οι μηχανές μπορούν να σκέφτονται. Έξι χρόνια αργότερα, στο θερινό ερευνητικό πρόγραμμα του Dartmouth, η ΤΝ καθιερώθηκε ουσιαστικά ως αυτόνομος κλάδος έρευνας.
Ακολούθησαν δεκαετίες σημαντικών επιτευγμάτων, αλλά και περίοδοι στασιμότητας, γνωστές ως «χειμώνες της AI». Από τα πρώτα συστήματα επεξεργασίας φυσικής γλώσσας, η έρευνα οδηγήθηκε σταδιακά στη μηχανική μάθηση και στα μεγάλα νευρωνικά δίκτυα.
Το 1997 ο Deep Blue της IBM νίκησε τον Garry Kasparov στο σκάκι. Το 2012 το AlexNet έφερε σημαντική πρόοδο στην αναγνώριση εικόνας, ενώ το 2016 το AlphaGo της Google DeepMind επικράτησε του Lee Sedol στο παιχνίδι Go.
Καθοριστική στιγμή αποτέλεσε το 2017 η παρουσίαση της αρχιτεκτονικής Transformer, στην οποία βασίστηκαν τα σύγχρονα μεγάλα γλωσσικά μοντέλα. Τον Νοέμβριο του 2022, η κυκλοφορία του ChatGPT από την OpenAI έφερε την παραγωγική Τεχνητή Νοημοσύνη από τα ερευνητικά εργαστήρια στην καθημερινότητα εκατομμυρίων ανθρώπων. Από τότε, οι τεχνολογικές εξελίξεις επιταχύνονται διαρκώς.
Η εβδομάδα που επανέφερε το ζήτημα της ασφάλειας
Οι εξελίξεις των τελευταίων ημερών έφεραν ξανά την ασφάλεια της Τεχνητής Νοημοσύνης στην πρώτη γραμμή. Στις 8 Σεπτεμβρίου, ο 27χρονος Jacob Coxon ανακοίνωσε ότι αποχωρεί από την Anthropic και συνολικά από τον κλάδο. Είχε εργαστεί για τρία χρόνια στην έρευνα προεκπαίδευσης μοντέλων, αρχικά στην OpenAI και στη συνέχεια στην Anthropic.
Ο Coxon εξέφρασε έντονο προβληματισμό για την πορεία προς ολοένα ισχυρότερα συστήματα, χωρίς να υπάρχει, κατά την εκτίμησή του, επαρκής σχεδιασμός για τον έλεγχό τους.
Στις 12 Σεπτεμβρίου ακολούθησε η δημόσια παρέμβαση του διευθύνοντος συμβούλου της Anthropic, Dario Amodei. Ζήτησε να ελεγχθεί ο ρυθμός αύξησης των δυνατοτήτων των μοντέλων, χωρίς να διακοπεί η επιστημονική έρευνα. Μεταξύ άλλων, πρότεινε την πρόσβαση ανεξάρτητων αξιολογητών στα εργαστήρια και την ενίσχυση του συντονισμού μεταξύ των εταιρειών.
Στη συζήτηση επανήλθε και το περιστατικό OpenAI-Hugging Face του Ιουλίου, στο οποίο αναφέρεται ο Κωνσταντίνος Δασκαλάκης. Σύμφωνα με την τεχνική αποτίμηση της OpenAI, πράκτορες ΤΝ που συμμετείχαν σε εσωτερικές δοκιμές κυβερνοασφάλειας παραβίασαν τους περιορισμούς του δοκιμαστικού περιβάλλοντος. Απέκτησαν πρόσβαση στο Διαδίκτυο, συνεργάστηκαν μέσω μη εγκεκριμένων διαύλων και εισήλθαν σε συστήματα της Hugging Face.
Στις 14 Σεπτεμβρίου, ο Bilal Chughtai αποκάλυψε ότι είχε παραιτηθεί τον Ιούλιο από την Google DeepMind, όπου εργαζόταν στον τομέα της ασφάλειας και της ευθυγράμμισης της γενικής ΤΝ. Όπως υποστήριξε, οι δυνατότητες των συστημάτων αναπτύσσονται ταχύτερα από τις μεθόδους που αποσκοπούν στην ευθυγράμμισή τους με τους ανθρώπινους στόχους.
Την ίδια στιγμή, διεθνή δημοσιεύματα αναφέρουν ότι οι OpenAI, Anthropic και Google DeepMind εξετάζουν κοινές πρωτοβουλίες για την ασφάλεια των μοντέλων. Το θέμα έχει πλέον περάσει και στο πολιτικό πεδίο, με την Ευρώπη να αναζητά αυστηρότερους μηχανισμούς εποπτείας.
Πού βρίσκεται ο πραγματικός κίνδυνος - Το ευρωπαϊκό ρυθμιστικό πλαίσιο
Το κρίσιμο ερώτημα είναι πού τελειώνει η επιστημονικά τεκμηριωμένη ανησυχία και πού αρχίζουν τα ακραία σενάρια. Παράλληλα, εξετάζεται εάν η κατάλληλη απάντηση είναι η επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων ή η δημιουργία αποτελεσματικότερων μηχανισμών ελέγχου και άμυνας.
Ο Κωνσταντίνος Δασκαλάκης εντάσσει τις κυβερνοεπιθέσεις στους πιο άμεσους και τεκμηριωμένους κινδύνους. Επισημαίνει, μάλιστα, ότι ένα σημαντικό μέρος της τεχνολογίας έχει ήδη διαδοθεί. Επομένως, το πρόβλημα δεν μπορεί να αντιμετωπιστεί αποκλειστικά με τον περιορισμό της επόμενης γενιάς προηγμένων μοντέλων.
Όπως αναφέρει «αυτή τη στιγμή, μία από τις πιο άμεσες και τεκμηριωμένες ανησυχίες είναι η χρήση της ΤΝ για κυβερνοεπιθέσεις. Ένα μέρος της τεχνολογίας έχει ήδη διαχυθεί, επομένως δεν μπορούμε να αντιμετωπίσουμε το πρόβλημα θεωρώντας ότι αρκεί να περιορίσουμε την ανάπτυξη των επόμενων μοντέλων. Ακόμα και να επιβραδυνθεί η ανάπτυξη των ισχυρότερων μοντέλων, όπως προτείνει η OpenAI και η Anthropic, είναι διαθέσιμα ισχυρά ανοιχτά μοντέλα που ήδη μπορεί να κάνουν μεγάλη ζημιά. Και όσο περισσότερο ενσωματώνεται η τεχνολογία αυτή σε ρομπότ, αυτοκίνητα, συστήματα λήψης αποφάσεων, κ.λπ., τόσο μεταφέρεται μεγαλύτερο ρίσκο στον πραγματικό κόσμο.
Για αυτό το λόγο, η ύπαρξη ρυθμιστικού πλαισίου, σαν αυτό της Ευρώπης, που θέτει προϋποθέσεις για τη χρήση και την αυστηρή δοκιμή τεχνολογιών ΤΝ ανάλογα με το ρίσκο που θέτει η εφαρμογή τους είναι πολύ σημαντική. Είναι επίσης σημαντικό να αναπτύξουμε μεθόδους που χρησιμοποιούν προηγμένα μοντέλα ΤΝ για την προστασία των συστημάτων μας απέναντι σε επιθέσεις. Στην κυβερνοασφάλεια έχουμε ένα σημαντικό πλεονέκτημα: οι αμυνόμενοι μπορούν να χρησιμοποιήσουν την ΤΝ για να εντοπίζουν ευπάθειες, να παρακολουθούν τα συστήματα και να διορθώνουν προβλήματα πριν τα εκμεταλλευτούν οι επιτιθέμενοι. Σε μια εποχή που ισχυρά μοντέλα, ανοιχτά και μη, είναι διαθέσιμα στον οποιονδήποτε, πρέπει να χρησιμοποιήσουμε τα μοντέλα αυτά για να αναπτύξουμε ισχυρά αμυντικά συστήματα».
Από τη θεωρία παιγνίων στην αιχμή της Τεχνητής Νοημοσύνης
Η παρέμβαση του Κωνσταντίνου Δασκαλάκη έχει ιδιαίτερη βαρύτητα λόγω της μακράς επιστημονικής πορείας του. Κατέχει την έδρα Avanessians στο Τμήμα Ηλεκτρολόγων Μηχανικών και Επιστήμης των Υπολογιστών του MIT και είναι μέλος του Εργαστηρίου Επιστήμης των Υπολογιστών και Τεχνητής Νοημοσύνης του ίδιου πανεπιστημίου.
Αποφοίτησε από το Εθνικό Μετσόβιο Πολυτεχνείο, απέκτησε διδακτορικό στην Επιστήμη Υπολογιστών από το University of California, Berkeley, και εντάχθηκε στο διδακτικό προσωπικό του MIT το 2009. Είναι επίσης συνιδρυτής και επικεφαλής ερευνητής του ερευνητικού κέντρου για την ΤΝ «Αρχιμήδης».
Η επιστημονική του δραστηριότητα βρίσκεται στη διασταύρωση της θεωρίας υπολογισμού με τη θεωρία παιγνίων, τα οικονομικά, τις πιθανότητες, τη στατιστική και τη μηχανική μάθηση. Έχει συμβάλει στην επίλυση μακροχρόνιων ανοικτών προβλημάτων που σχετίζονται με την υπολογιστική πολυπλοκότητα της ισορροπίας Nash.
Στις σημαντικότερες διεθνείς διακρίσεις του περιλαμβάνονται το Nevanlinna Prize της International Mathematical Union και το ACM Grace Murray Hopper Award. Ως πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη συμμετείχε και στη διαμόρφωση προτάσεων για την εθνική στρατηγική της Ελλάδας στον συγκεκριμένο τομέα.
Από την τεχνολογική καινοτομία στην ευθύνη
Η Ευρώπη έχει ήδη προχωρήσει από τη συζήτηση στη θέσπιση συγκεκριμένων κανόνων. Ο AI Act δημιουργεί ένα σύστημα υποχρεώσεων που διαφοροποιούνται ανάλογα με το επίπεδο κινδύνου κάθε εφαρμογής. Από τις 2 Αυγούστου 2026, το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης και οι αρμόδιες εθνικές Αρχές διαθέτουν ενισχυμένο ρόλο στην εποπτεία και στην εφαρμογή του πλαισίου.
Η ουσιαστική αλλαγή, πάντως, είναι ότι το ενδιαφέρον δεν επικεντρώνεται μόνο σε όσα μπορεί να δημιουργήσει η ΤΝ. Επεκτείνεται πλέον στις ενέργειες που μπορεί να πραγματοποιήσει όταν αποκτήσει πρόσβαση σε υπολογιστικά συστήματα, ψηφιακά εργαλεία και δίκτυα.
Από το ερώτημα του Alan Turing το 1950 και το συνέδριο του Dartmouth το 1956 έως τα σημερινά μεγάλα γλωσσικά μοντέλα και τους αυτόνομους πράκτορες, η Τεχνητή Νοημοσύνη έχει διανύσει μέσα σε επτά δεκαετίες μια απόσταση που κάποτε ανήκε περισσότερο στην επιστημονική φαντασία.
Το επόμενο στάδιο έχει ήδη αρχίσει. Το βασικό ερώτημα δεν είναι μόνο πόσο ισχυρά μπορούν να γίνουν τα συστήματα ΤΝ, αλλά με ποιους κανόνες θα χρησιμοποιούνται, πώς θα ελέγχονται και εάν οι ασφαλιστικές δικλείδες μπορούν να παραμείνουν αποτελεσματικές. Ιδίως απέναντι σε μια τεχνολογία που, σύμφωνα με τον Κωνσταντίνο Δασκαλάκη, είναι ήδη εξαιρετικά ικανή, αλλά ταυτόχρονα απρόβλεπτη.
