Την εφαρμογή πραγματικών και αποτελεσματικών κανόνων ασφαλείας για την Τεχνητή Νοημοσύνη ζήτησε ο πρόεδρος της Microsoft, Μπραντ Σμιθ.
Μιλώντας σε δημοσιογράφους την παραμονή διεθνούς συνόδου για την Τεχνητή Νοημοσύνη στο Δουβλίνο, ο Σμιθ τόνισε ότι τόσο οι επιχειρήσεις όσο και τα κράτη πρέπει να ενισχύσουν άμεσα το πλαίσιο προστασίας απέναντι στους κινδύνους της νέας τεχνολογίας.
«Θα χρειαστούμε για την Τεχνητή Νοημοσύνη, όπως για τα πάντα στις ζωές μας, πραγματικούς και αποτελεσματικούς κανόνες ασφαλείας, τους οποίους το κοινό θα μπορεί να εμπιστεύεται», δήλωσε.
«Δικλίδες έκτακτης ανάγκης» στα συστήματα AI
Ο πρόεδρος της Microsoft παρουσίασε σειρά προτάσεων για την ενίσχυση της ασφάλειας του κλάδου, ξεκινώντας από την υποχρέωση οι πράκτορες Τεχνητής Νοημοσύνης να διαθέτουν «δικλίδες έκτακτης ανάγκης», τις οποίες θα μπορούν να ενεργοποιούν οι χρήστες σε περίπτωση προβλήματος.
Όπως εξήγησε, η δυνατότητα αυτή είναι ιδιαίτερα σημαντική για συστήματα που ελέγχουν κρίσιμες υποδομές ή αυτοματοποιημένες λειτουργίες, ώστε, σε περίπτωση απώλειας ελέγχου, να μπορεί να διακοπεί ή να επιβραδυνθεί η λειτουργία τους.
«Η ιδέα, ιδίως για την ΤΝ που διαχειρίζεται κρίσιμες υποδομές ή αυτοματοποιημένα συστήματα, είναι να υπάρχει η δυνατότητα να σταματάει κανείς ή να επιβραδύνει τη λειτουργία τους», ανέφερε.
Υποχρεωτική ενημέρωση για περιστατικά ασφαλείας
Ο Σμιθ τάχθηκε επίσης υπέρ της επιβολής στους παρόχους Τεχνητής Νοημοσύνης υποχρέωσης ειδοποίησης για περιστατικά ασφαλείας.
Έφερε ως παράδειγμα τις εταιρείες που είναι υποχρεωμένες να ενημερώνουν τους καταναλωτές όταν σημειώνεται διαρροή προσωπικών δεδομένων, υποστηρίζοντας ότι αντίστοιχη νομική υποχρέωση θα πρέπει να ισχύει και όταν ένα περιστατικό αφορά ψηφιακό βοηθό ή άλλο σύστημα ΤΝ.
«Πιστεύω πως η ίδια λογική θα έπρεπε να εφαρμόζεται στα θύματα ενός ψηφιακού βοηθού», σημείωσε, ζητώντας οι πελάτες να ενημερώνονται όταν επηρεάζονται από σοβαρό συμβάν.
Περισσότερες δοκιμές πριν από την κυκλοφορία
Τρίτος άξονας των προτάσεών του είναι η ενίσχυση των δοκιμών και αξιολογήσεων των μοντέλων Τεχνητής Νοημοσύνης πριν αυτά διατεθούν στην αγορά, ώστε να διαπιστώνεται ότι πληρούν επαρκείς προδιαγραφές ασφαλείας.
Ο Σμιθ προειδοποίησε ότι η ταχύτητα εξέλιξης της τεχνολογίας καθιστά αναγκαία την άμεση κινητοποίηση. «Πρέπει να δράσουμε επειγόντως», υπογράμμισε.
Οι παρεμβάσεις αυτές γίνονται σε μια περίοδο κατά την οποία έχουν αυξηθεί τα περιστατικά ασφαλείας που συνδέονται με υπηρεσίες ΤΝ, μεταξύ των οποίων και περιπτώσεις στις οποίες συστήματα φέρεται να ξέφυγαν από τον ανθρώπινο έλεγχο. Οι εξελίξεις έχουν ενισχύσει τις εκκλήσεις για αυστηρότερη ρύθμιση και, σε ορισμένες περιπτώσεις, για επιβράδυνση της ανάπτυξης μοντέλων υψηλού κινδύνου.
Παρόμοιες ανησυχίες έχουν εκφράσει και άλλοι κορυφαίοι παράγοντες του κλάδου. Ο επικεφαλής της Anthropic, Ντάριο Αμοντέι, έχει μάλιστα δεσμευτεί ότι θα επιβραδύνει μονομερώς την ανάπτυξη της τεχνολογίας, επικαλούμενος τους αυξημένους κινδύνους που απαιτούν μεγαλύτερη επαγρύπνηση.
