Οι εταιρείες Τεχνητής Νοημοσύνης πρέπει να διατηρούν τον έλεγχο των συστημάτων τους, προειδοποίησε η Ευρωπαία επίτροπος Χένα Βίρκουνεν.
Η αντιπρόεδρος της Ευρωπαϊκής Επιτροπής, αρμόδια για θέματα Ψηφιακής Τεχνολογίας, έκρουσε τον κώδωνα του κινδύνου για τον έντονο ανταγωνισμό στον κλάδο, εκτιμώντας ότι μπορεί να περιορίζει τον χρόνο και τους πόρους που διαθέτουν οι εταιρείες για ουσιαστικές δοκιμές ασφαλείας.
Οι δηλώσεις της έγιναν στο περιθώριο της διεθνούς Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο.
«Διαπιστώνουμε έναν παγκόσμιο ανταγωνισμό τόσο άγριο που οι εταιρείες δεν δείχνουν να αφιερώνουν επαρκή χρόνο και πόρους για να τεστάρουν πραγματικά τα μοντέλα τους», ανέφερε η Βίρκουνεν.
«Οι εταιρείες πρέπει να διατηρούν τον έλεγχο»
Η Ευρωπαία επίτροπος αναφέρθηκε και σε περιστατικά που, όπως είπε, δείχνουν ότι οι εταιρείες δεν γνωρίζουν πάντοτε ποιες ενέργειες αναλαμβάνουν οι πράκτορες Τεχνητής Νοημοσύνης τους.
«Έχουμε παρατηρήσει περιστατικά που αποκαλύπτουν ότι οι εταιρείες δεν έχουν πάντα γνώση των δράσεων που αναλαμβάνουν οι πράκτορές τους. Οφείλουν να μπορούν να διατηρήσουν τον έλεγχο των συστημάτων αυτών», τόνισε.
Κατά την ίδια, η αυξανόμενη ισχύς των σύγχρονων μοντέλων καθιστά ολοένα δυσκολότερη την αξιολόγησή τους, γεγονός που επιβάλλει να δίνεται στους ειδικούς ο αναγκαίος χρόνος για δοκιμές και ελέγχους πριν από την ευρεία χρήση τους.
«Τα μοντέλα αυτά είναι σήμερα τόσο αποτελεσματικά που καθίσταται ολοένα και πιο δύσκολο να τα αξιολογήσεις. Επομένως είναι ζωτικής σημασίας να χορηγήσουμε στους ειδικούς τον χρόνο που απαιτείται για να τεστάρουν τα συστήματα», σημείωσε.
Αιτήματα της Κομισιόν προς τις μεγάλες εταιρείες
Η Βίρκουνεν υπενθύμισε ότι οι υπηρεσίες της Ευρωπαϊκής Επιτροπής έχουν ήδη αποστείλει αιτήματα παροχής πληροφοριών στις βασικές εταιρείες του κλάδου, ζητώντας διευκρινίσεις για τα μέτρα ασφαλείας που εφαρμόζουν αλλά και για τις διαδικασίες εξωτερικής αξιολόγησης των μοντέλων τους.
Η ΕΕ διαθέτει από το καλοκαίρι αυξημένες ρυθμιστικές εξουσίες στο πλαίσιο του ευρωπαϊκού κανονισμού για την Τεχνητή Νοημοσύνη, του AI Act, και έχει αρχίσει να ζητά εξηγήσεις από τις εταιρείες για σειρά ζητημάτων.
Οι έλεγχοι αφορούν, μεταξύ άλλων, την ασφάλεια των συστημάτων ΤΝ αλλά και τον σεβασμό των πνευματικών δικαιωμάτων.
Η δυνατότητα διατήρησης του ανθρώπινου ελέγχου πάνω στα συστήματα αποτελεί, σύμφωνα με τη Βίρκουνεν, θεμελιώδη απαίτηση του νέου ευρωπαϊκού πλαισίου. «Ο έλεγχος των συστημάτων Τεχνητής Νοημοσύνης αποτελεί αξίωση που δηλώνουμε ξεκάθαρα στο AI Act μας», κατέληξε.
