OpenAI: Γιατί ζητά τη βοήθεια κορυφαίων μαθηματικών μετά τα λάθη της τεχνητής νοημοσύνης

Μετά από σοβαρές αντιδράσεις, η OpenAI δημιουργεί ανεξάρτητη επιτροπή επιστημόνων για την ορθότερη δημοσιοποίηση των ερευνητικών αποτελεσμάτων

Ο Σαμ Άλτμαν της OpenAI © EPA/FRANCK ROBICHON

Η OpenAI μετά από σειρά θεαματικών μαθηματικών αποτελεσμάτων που μετατράπηκαν γρήγορα σε κρίση δημοσίων σχέσεων, στρέφεται πλέον στους ανθρώπους που υπηρετούν το αντικείμενο για να χαράξει μια λιγότερο καταστροφική πορεία.

Η ανακοίνωση για τη δημιουργία μιας νέας ανεξάρτητης ομάδας συμβούλων εξέπληξε την ακαδημαϊκή κοινότητα, εγείροντας παράλληλα ερωτήματα για τους πραγματικούς σκοπούς και την επιρροή της.

Η σύσταση της Συμβουλευτικής Ομάδας για τα Μαθηματικά και την Τεχνητή Νοημοσύνη (AGMAI) περιλαμβάνει εννέα διακεκριμένα μέλη. Πρόκειται για κορυφαίους ερευνητές από ιδρύματα όπως το Στάνφορντ, το Χάρβαρντ, την Οξφόρδη και το Κέμπριτζ, μεταξύ των οποίων συγκαταλέγονται κάτοχοι του μεταλλίου Fields και υποτροφιών MacArthur. Το γκρουπ θα φιλοξενείται στο Ινστιτούτο Προηγμένων Μελετών στο Πρίνστον, έναν ιστορικό χώρο που φιλοξένησε προσωπικότητες όπως ο Άλμπερτ Αϊνστάιν. Παρά το υψηλό κύρος των μελών, πολλοί ερευνητές διερωτώνται αν μια τόσο μικρή ομάδα μπορεί να εκπροσωπήσει εύστοχα το σύνολο της μαθηματικής κοινότητας.

Η OpenAI υποστηρίζει ότι η ομάδα θα λειτουργεί αυτόνομα, χωρίς οικονομική αποζημίωση για τα μέλη της, έχοντας τη δυνατότητα να εκφράζει δημόσια τις απόψεις της. Στόχος της είναι η αξιολόγηση της σημαντικότητας των νέων ευρημάτων, ο συντονισμός της δημοσιοποίησής τους και η διασφάλιση των ακαδημαϊκών προτύπων. Παράλληλα, τα μέλη αναμένεται να αποκτήσουν πρώιμη πρόσβαση στην ερευνητική δραστηριότητα της εταιρείας για την καλύτερη εκπλήρωση του ρόλου τους. Ωστόσο, η ασάφεια γύρω από τον τρόπο επιλογής των μελών και τον βαθμό στον οποίο η εταιρεία θα εισακούσει τις συμβουλές τους προκαλεί σκεπτικισμό.

Σε ιστολογική του ανάρτηση, το μέλος της ομάδας Μάρτιν Χάιερ προσπάθησε να ξεκαθαρίσει το τοπίο, απαντώντας σε κύμα παραπληροφόρησης. Τόνισε ότι η επιδραστικότητα της τεχνητής νοημοσύνης στην έρευνα είναι πλέον δεδομένη και ότι η πλήρης άρνηση επικοινωνίας με τα εργαστήρια AI δεν αποτελεί εποικοδομητική στάση. Επισήμανε ότι η ομάδα είναι πραγματικά ανεξάρτητη και δεν δεσμεύεται από περιοριστικές συμφωνίες, πέραν των βασικών απαιτήσεων εμπιστευτικότητας. Πρωταρχικός σκοπός των εννέα ερευνητών είναι η προάσπιση των συμφερόντων της μαθηματικής κοινότητας με καλή πίστη.

Παρά τις προθέσεις αυτές, δεν λείπουν οι ενστάσεις από την ακαδημαϊκή κοινότητα. Ορισμένοι ερευνητές κάνουν λόγο για μια εικόνα που δεν αντικατοπτρίζει τις καθημερινές ανησυχίες της πλειονότητας των μαθηματικών. Επιπλέον, εκφράζονται αμφιβολίες για το αν εννέα άτομα, όσο διακεκριμένα κι αν είναι, διαθέτουν το απαραίτητο εύρος εξειδίκευσης για να καλύψουν όλα τα πεδία των μαθηματικών που αγγίζει η τεχνητή νοημοσύνη. Η εμπιστοσύνη της κοινότητας θα εξαρτηθεί από το κατά πόσο η ομάδα θα μπορέσει να αποτρέψει μελλοντικά ατοπήματα δημοσιότητας.

Το υπόβαθρο αυτής της πρωτοβουλίας βρίσκεται στα προηγούμενα λάθη της OpenAI κατά την ανακοίνωση ερευνητικών αποτελεσμάτων. Η εταιρεία κατηγορήθηκε για βιαστικές ανακοινώσεις, έλλειψη απόδοσης τακτικών ταυτοτήτων σε ανθρώπινα έργα στα οποία βασίστηκαν τα μοντέλα της, καθώς και για παραβίαση της καθιερωμένης επιστημονικής πρακτικής. Αυτές οι κινήσεις δημιούργησαν την αίσθηση ότι ο οργανισμός δεν σέβεται τους κανόνες και τις ευαισθησίες της μαθηματικής κοινότητας.

Η πρόκληση για τη νέα συμβουλευτική ομάδα γίνεται ακόμη πιο πιεστική αν αναλογιστεί κανείς τις επόμενες κινήσεις της εταιρείας. Η OpenAI άφησε να εννοηθεί ότι το νέο, μη κυκλοφορημένο μοντέλο της έχει ήδη επιλύσει περισσότερα από 100 ανοιχτά μαθηματικά προβλήματα. Πρώτη προτεραιότητα της ομάδας είναι πλέον να συμβουλεύσει την εταιρεία για τον σωστό συντονισμό και τη διαφάνεια κατά τη δημοσιοποίηση αυτού του τεράστιου όγκου ευρημάτων.

Εντέλει, η προσπάθεια της OpenAI να προσεγγίσει τους μαθηματικούς αποτελεί έμμεση παραδοχή της αποτυχίας της στη διαχείριση της επικοινωνίας. Μένει να αποδειχθεί αν η σύσταση μιας επιτροπής σοφών είναι το κατάλληλο εργαλείο ή αν η ουσιαστική αλλαγή απαιτεί βαθύτερη κατανόηση της επιστήμης και σεβασμό στη συλλογική εργασία της ακαδημαϊκής κοινότητας.