Την ανάγκη να επιβραδυνθεί, εφόσον χρειαστεί, η ανάπτυξη της τεχνητής νοημοσύνης (AI) προκειμένου να αποφευχθούν σοβαρά περιστατικά από συστήματα που λειτουργούν εκτός ελέγχου, υπογραμμίζει ο πρόεδρος και αντιπρόεδρος του διοικητικού συμβουλίου της Microsoft, Μπραντ Σμιθ. Ο βετεράνος της αμερικανικής τεχνολογικής εταιρείας ζητεί την καθιέρωση μιας «δικλίδας έκτακτης ανάγκης» που θα επιτρέπει την άμεση παρέμβαση όταν προηγμένα συστήματα AI παρουσιάζουν επικίνδυνη συμπεριφορά.
Σε συνέντευξή του στη γερμανική οικονομική εφημερίδα Handelsblatt, στο περιθώριο ευρωπαϊκής συνόδου για την τεχνητή νοημοσύνη στο Δουβλίνο, ο Σμιθ προειδοποίησε ότι η ταχύτητα ανάπτυξης της τεχνολογίας δεν πρέπει να προηγείται της δυνατότητας των εταιρειών να εγγυηθούν την ασφαλή λειτουργία της.
«Αν αυτό σημαίνει ότι πρέπει να επιβραδύνουμε την ανάπτυξη στην αιχμή της τεχνολογίας, ώστε να μπορέσουν να καλύψουν την απόσταση τα μέτρα ασφαλείας, τότε πρέπει να επιβραδύνουμε», ανέφερε χαρακτηριστικά.
Η προειδοποίηση για τους αυτόνομους πράκτορες AI
Οι ανησυχίες του επικεντρώνονται κυρίως στους λεγόμενους πράκτορες τεχνητής νοημοσύνης (AI agents), συστήματα που μπορούν να αναλαμβάνουν και να εκτελούν σύνθετες εργασίες με περιορισμένη ανθρώπινη παρέμβαση.
Καθώς οι δυνατότητές τους διευρύνονται, αυξάνεται και ο προβληματισμός για τις συνέπειες πιθανών δυσλειτουργιών ή ενεργειών που ξεπερνούν τις αρχικές οδηγίες των χρηστών.
Ο Σμιθ, ο οποίος είχε ήδη προειδοποιήσει για τους κινδύνους της ανεξέλεγκτης AI στο βιβλίο του «Tools and Weapons» το 2019, θεωρεί ότι η ανάγκη δράσης είναι πλέον άμεση. Εκείνες οι προειδοποιήσεις έμοιαζαν τότε με σενάρια επιστημονικής φαντασίας, όμως η ταχεία εξέλιξη της τεχνολογίας έχει αλλάξει τα δεδομένα.
Ο ίδιος τάσσεται υπέρ αυστηρότερης εποπτείας, ανεξάρτητων ελέγχων ασφαλείας και μηχανισμών που θα επιτρέπουν τον περιορισμό ή ακόμη και την απενεργοποίηση συστημάτων όταν προκύπτει σοβαρός κίνδυνος.
Τι ζητεί o πρόεδρος της Microsoft από επιχειρήσεις και κυβερνήσεις
Η παρέμβαση του κορυφαίου στελέχους της Microsoft απευθύνεται τόσο στις τεχνολογικές επιχειρήσεις όσο και στις κυβερνήσεις, οι οποίες καλούνται να διαμορφώσουν ένα αποτελεσματικό πλαίσιο ελέγχου.
Για τον Σμιθ, ο μακροπρόθεσμος ανταγωνισμός στην τεχνητή νοημοσύνη δεν θα κριθεί αποκλειστικά από την ταχύτητα δημιουργίας ισχυρότερων μοντέλων, αλλά και από την ικανότητα διασφάλισης της αξιοπιστίας τους.
Παράλληλα, εκτιμά ότι η Ευρώπη και η Γερμανία εξακολουθούν να διαθέτουν σημαντικές ευκαιρίες στον παγκόσμιο ανταγωνισμό της AI, ακόμη και αν δεν πρωτοστατούν στην ανάπτυξη των πιο προηγμένων μοντέλων.
«Δεν χρειάζεται να προηγείται κανείς στην εφεύρεση για να βρίσκεται στην κορυφή της καινοτομίας και της εφαρμογής», επισήμανε στη Handelsblatt.
Όπως τόνισε, το μεγαλύτερο λάθος που μπορεί να κάνει μια χώρα ή μια επιχείρηση είναι να ζηλεύει την επιτυχία των ανταγωνιστών της και να χάνει από τα μάτια της τα δικά της πλεονεκτήματα.
Το μήνυμα του Σμιθ είναι ότι η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να συνεχιστεί, αλλά με κανόνες και μηχανισμούς ασφαλείας που θα συμβαδίζουν με την τεχνολογική πρόοδο.
