Η Τεχνητή Νοημοσύνη αναμένεται να προσθέσει από 7% έως 15% στο παγκόσμιο ΑΕΠ μακροπρόθεσμα, μέσω της αυτοματοποίησης και της καινοτομίας.
Η αποχώρηση του ερευνητή της Anthropic από τον κλάδο της τεχνητής νοημοσύνης, λόγω ανησυχίας και φόβου μη ελέγχου των συστημάτων που αναπτύσσονται, θέτει επιτακτικά την ανάγκη η διεθνής κοινότητα να καθίσει στο τραπέζι, να συζητήσει και να καταλήξει σε ένα θεσμικό πλαίσιο λειτουργίας, πριν η AI γίνει ο… μπαμπούλας που θα κατασπαράξει την ανθρώπινη οντότητα. Ο Αρμαγεδδών της μαζικής καταστροφής μέσα στην επόμενη δεκαετία. Ο… εξολοθρευτής.
Μπορεί να φαντάζουν υπερβολικοί ως τίτλοι, αλλά μία καταγραφή στις παρατηρήσεις επιστημόνων αποδεικνύουν ότι η ολική καταστροφή δεν είναι αποκύημα φαντασίας!
Η πιο ηχηρή επιβεβαίωση ήρθε από τον Ίβαν Χούμπινγκερ, επικεφαλής ερευνητή της Anthropic στον τομέα της ευθυγράμμισης της AI με τις ανθρώπινες αξίες, ο οποίος εκτίμησε ότι η πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στην εξόντωση της ανθρωπότητας μέχρι το 2035 είναι μεγαλύτερη από 10%.
Η Anthropic και οι ανταγωνιστές της, κορυφαίοι όμιλοι AI, επιδίδονται σε έναν αγώνα δρόμου για την ανάπτυξη συστημάτων, τα οποία όπως φαίνεται δεν θα είναι σε θέση να ελέγξουν. Η απώλεια ελέγχου ενός υπερ-ευφυούς AI μοντέλου θα μπορούσε να ανοίξει τον δρόμο σε συστήματα που θα επιφέρουν ολικό χάος σε κρίσιμες υποδομές, όπως η ενέργεια, τα δίκτυα και η οικονομία, αλλά και στον σχεδιασμό και την παραγωγή επικίνδυνων βιολογικών όπλων. Σε κοινωνικό επίπεδο η ΑΙ «προσφέρεται» για τη συγκέντρωση εξουσίας και την άμβλυνση της όποιας ανισότητας ανάμεσα σε αυτούς που ευνοούνται από την τεχνητή νοημοσύνη και στους υπόλοιπους, ενώ έχει όλες τις… προδιαγραφές ενός ισχυρού εργαλείου για τη διάδοση ψευδών ή παραπλανητικών πληροφοριών.
Πριν από δύο μήνες, συστήματα Τεχνητής Νοημοσύνης της OpenAI παραβίασαν, αποκλειστικά με δική τους πρωτοβουλία, υποδομές τρίτων, ενώ πριν από λίγες εβδομάδες, μοντέλο Τεχνητής Νοημοσύνης της Anthropic έδρασε «αυτοβούλως» και χάκαρε άλλη εταιρεία ΑΙ.
Το σενάριο της «συντέλειας»
Η πιθανότητα ενός καταστροφικού σεναρίου συχνά περιγράφεται στον κλάδο με τον όρο «p(doom)», έναν ανεπίσημο δείκτη που χρησιμοποιείται για να αποτυπώσει την πιθανότητα πολύ σοβαρών συνεπειών από την ανάπτυξη της Τεχνητής Νοημοσύνης. Πώς θα μπορούσε όμως να συμβεί κάτι τέτοιο; Και τελικά γιατί οι ειδικοί του χώρου που θεωρούν την AI πραγματική και αυξανόμενη απειλή συνεχίζουν να την αναπτύσσουν;
Πρώτο ανησυχητικό σήμα είναι ο κώδικας και οι όροι που χρησιμοποιούν οι ερευνητές για τα νέα μοντέλα AI, τα οποία θα έχουν τη δυνατότητα αυτοεξέλιξης και αυτοβελτίωσης, όπως οι λέξεις «crunchtime» και «endgame». Τι μπορεί να σημαίνει η ώρα της κρίσης, το τέλος του παιχνιδιού ή το ξεκαθάρισμα και η τελική αναμέτρηση;
Ένα μοντέλο AI μπορεί να προβλέψει και να προλάβει μία φυσική καταστροφή, μπορεί όμως και να την προκαλέσει… Είτε από λάθος είτε στο πλαίσιο μιας αποστολής!
Ένας 67χρονος αγρότης, πριν από έναν μήνα, είδε 100 στρέμματα σουσαμιού να καταστρέφονται ολοσχερώς μετά από ψεκασμό με χημικά που πρότεινε η Τεχνητή Νοημοσύνη.
Το ενδεχόμενο να ζήσουμε πρωτόγνωρα σενάρια επιστημονικής φαντασίας, που αποτυπώνουν την καταστροφή του ανθρωποκεντρικού κόσμου μας τροφοδοτείται από τους συμβιβασμούς και τις εκπτώσεις που έχουν ήδη καταγραφεί σε θέματα ασφάλειας λόγω του ανταγωνισμού των αμερικανικών εταιρειών, αλλά και απέναντι σε νεοφυείς κινεζικές εταιρείες.
Μέσα σε ένα τέτοιο πολεμικό σκηνικό, ο κίνδυνος να επικρατήσει η… υστερία του κέρδους εντείνεται. Πριν από τρία χρόνια, ο επικεφαλής της Anthropic είχε προειδοποιήσει για τον κίνδυνο.
Είναι ζητούμενο, ωστόσο, αν υπάρχει κάποια εταιρεία που να μπορεί να διασφαλίσει την ανάπτυξη υπεύθυνων AI χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση της ανάπτυξης σε ολόκληρο τον κλάδο.
Η παρατήρηση δίνει άλλα δείγματα. Ορισμένα μοντέλα ΑΙ, τα οποία λειτουργούν σε συνεργατικά «σμήνη» πρακτόρων, είναι σε θέση να υιοθετήσουν κακόβουλους στόχους, τους οποίους μάλιστα θα προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους. Η εξελικτική αυτονομία τους προβλέπει ότι θα φθάσουν σε ένα σημείο που θα αρνούνται να υπακούσουν σε εντολές...
Ο Coxon, ο Pachocki και ο Amodei συγκαταλέγονται σε περισσότερους από 1.000 ερευνητές AI από ολόκληρο τον κλάδο, οι οποίοι υπέγραψαν πρόσφατα δήλωση με την οποία ζητούν παγκόσμιο συντονισμό των κυβερνήσεων για ένα σύστημα που θα επιβραδύνει την ανάπτυξη της AI, εφόσον χρειαστεί να πατηθεί το «φρένο» προκειμένου να ελεγχθούν μοντέλα ικανά να αυτοβελτιώνονται.
Κέρδη και ζημίες
Η Τεχνητή Νοημοσύνη αναμένεται να προσθέσει από 7% έως 15% στο παγκόσμιο ΑΕΠ μακροπρόθεσμα, μέσω της αυτοματοποίησης και της καινοτομίας. Παράγει λογισμικό, αλγορίθμους και βελτιστοποίηση διαδικασιών, για να χτίσει άμυνες στην κλιματική αλλαγή, η οποία αναμένεται να συρρικνώσει το παγκόσμιο ΑΕΠ κατά 11% έως 18% καθώς καταστρέφει φυσικό κεφάλαιο, υποδομές και ανθρώπινους πόρους. Δεν μπορεί όμως να χτίσει άμεσα φυσικές υποδομές. Μπορεί μόνο να βοηθήσει και να συμβάλλει στο κέρδος σε χρόνο, στο κόστος παραγωγής υπηρεσιών και αγαθών και στην αποδοτικότητα των εργαζομένων.
Η AI κυριαρχεί στον ψηφιακό κόσμο και η κλιματική κρίση κυριαρχεί στον φυσικό κόσμο, όπου προκαλεί τραύματα στη γεωργία, την κτηνοτροφία, την αλιεία και τον τουρισμό, έως τις κατασκευές και την ενέργεια.
Οι κοινωνιολόγοι της YouGov ζήτησαν, αστειευόμενοι, από τους Αμερικανούς να συγκρίνουν τις πνευματικές ικανότητες του Donald Trump με εκείνες των πιο σύγχρονων μοντέλων νευρωνικών δικτύων.
Το 67% των ερωτηθέντων δήλωσε ότι η Τεχνητή Νοημοσύνη είναι καλύτερη ή τουλάχιστον ισάξια με τον Trump σε επίπεδο νοημοσύνης και ικανοτήτων.
Δηλαδή, αν ο πραγματικός Αμερικανός πρόεδρος αντικατασταθεί από έναν ψηφιακό, κανείς δεν θα παρατηρήσει τη διαφορά.
Ακόμη και στους αστεϊσμούς δύσκολα βάζεις πρόσημο στην AI.
Tο μόνο ασφαλές συμπέρασμα είναι ότι η ανεξέλεγκτη ανάπτυξη της AI είναι ικανή για το καλύτερο και το χειρότερο...
