Η «παραίσθηση γύρω από την τεχνητή νοημοσύνη» (AI delusion) παραμένει μια έννοια χωρίς σαφή ορισμό, αλλά οι περισσότεροι μπορούμε να την αναγνωρίσουμε όταν τη συναντάμε: υπερβολική πίστη στις δυνατότητες, τις εφαρμογές ή τη φύση της τεχνολογίας, σε συνδυασμό με την άρνηση αναγνώρισης των περιορισμών της.
Είναι προβληματικό όταν εμφανίζεται σε μεμονωμένα άτομα, όπως όταν ένας ηλικιωμένος συγγενής σάς στέλνει με email μια περίληψη του ChatGPT γεμάτη ανακρίβειες και επινοημένες πληροφορίες. Είναι ακόμη χειρότερο όταν εκδηλώνεται στη διοίκηση μιας επιχείρησης, όταν το αφεντικό σας επιμένει ότι το χαμηλής ποιότητας περιεχόμενο που παράγεται από AI αποτελεί αριστούργημα του μάρκετινγκ σε τιμή ευκαιρίας
Όταν όμως αυτή η νοοτροπία χαρακτηρίζει τους διευθύνοντες συμβούλους τεχνολογικών κολοσσών, τα πράγματα γίνονται στ’ αλήθεια ανησυχητικά. Ευτυχώς, δεν είναι όλοι υποχρεωμένοι να ακολουθήσουν τον ίδιο δρόμο, σημειώνει σε άρθρο του στο theregister.com ο Ρούπερτ Γκούντγουινς, εξετάζοντας τρία πρόσφατα παραδείγματα ηγεσίας στον τεχνολογικό κλάδο την εποχή της τεχνητής νοημοσύνης.
Το πρώτο θα μπορούσε να θυμίζει κωμωδία των Mόντι Πάιθον, αν το χάσμα των μηχανικών με την κοινή γνώμη δεν ήταν τόσο βαθύ. Το δεύτερο κινδυνεύει να εξελιχθεί σε κλασική μελέτη περίπτωσης για τις σχολές διοίκησης επιχειρήσεων, σχετικά με το πώς μπορεί κανείς να καταστρέψει την εμπιστοσύνη των πελατών του. Το τρίτο προσφέρει κάτι λιγότερο δημοφιλές στη σημερινή εποχή: έναν στιβαρό πραγματισμό. Και αφήνουμε το καλύτερο για το τέλος.
Περίπτωση 1: Σαμ Άλτμαν – Όταν ακόμη και η μνήμη RAM πρέπει να υπηρετεί την AI
Ας ξεκινήσουμε με τον Σαμ Άλτμαν της OpenAI, έναν από τους ελάχιστους ανθρώπους που βρίσκονται στην πραγματικότητα στα χειριστήρια της μηχανής που υπόσχεται να μας οδηγήσει στην τεχνολογική μοναδικότητα. Θα ήταν ίσως άδικο να επιλέξουμε μόνο ένα παράδειγμα από τον πλούτο των δηλώσεών του, αλλά πρέπει να γίνει μια επιλογή.
Ο Σαμ Άλτμαν φαίνεται να θεωρεί σχεδόν προσβολή προς τη φυσική τάξη των πραγμάτων το γεγονός ότι τόσο μεγάλη ποσότητα μνήμης RAM παραμένει αναξιοποίητη σε υπολογιστές ιδιωτών, οργανισμών και γενικότερα σε συστήματα που δεν ανήκουν στους μεγάλους παίκτες της τεχνητής νοημοσύνης.
Πόσο αναποτελεσματικό, αλήθεια. Και πόσο βολικό που η υποτιθέμένη αποτελεσματική κατανομή των περιορισμένων πόρων καταλήγει να εξυπηρετεί ακριβώς την επιχείρηση την οποία διευθύνει. Τόσα για την ελεύθερη αγορά.
Ο Άλτμαν υποστήριξε ότι οι δηλώσεις του απομονώθηκαν από το αρχικό τους πλαίσιο και ότι επιθυμεί οι καταναλωτές να διαθέτουν όση μνήμη χρειάζονται. Ωστόσο, το επιχείρημα περί αποτελεσματικότητας εξακολουθεί να αποκαλύπτει ποιες προτεραιότητες μπαίνουν πρώτες.
Αυτή είναι η πιο ενδιαφέρουσα μορφή αυταπάτης: εκείνη που περιέχει στον πυρήνα της μια αδιαμφισβήτητη αλήθεια.
Πράγματι, η μνήμη χρησιμοποιείται πολύ πιο εντατικά από τις εταιρείες που αναπτύσσουν μοντέλα τεχνητής νοημοσύνης και από τους διακομιστές που εκτελούν αυτά τα μοντέλα, σε σύγκριση με έναν συνηθισμένο φορητό υπολογιστή.
Ωστόσο, για μια επιχείρηση που πουλάει το μέλλον, η αντιμετώπιση του ιδιωτικού εξοπλισμού ως αναποτελεσματικής κατανομής πόρων έχει μια χαρακτηριστικά σοβιετική χροιά.
Και δεδομένου ότι η αμερικανική Δεξιά έχει δεσμευτεί να εξαλείψει τον σοσιαλιστικό εξτρεμισμό, ίσως θα έπρεπε να αναλάβει δράση. Εμπρός, κύριοι, σας απομένουν μόλις δύο χρόνια, προσθέτει σκωπτικά ο Γκούντγουινς.
Το πιο απολαυστικό στοιχείο αυτής της αντίφασης είναι ότι ο ίδιος ο Άλτμαν φαίνεται να μην την αντιλαμβάνεται.
Υπάρχουν δύο πιθανές εξηγήσεις γι’ αυτόν τον ιδιότυπο «μαρξισμό-λενινισμό-αλτμανισμό».
Η πρώτη είναι ότι έχει κάνει τους υπολογισμούς του και έχει καταλήξει στο συμπέρασμα πως ο μόνος τρόπος να επιτύχει η OpenAI τους οικονομικούς και επιχειρηματικούς της στόχους είναι να αποκτήσει πρόσβαση σε κάθε διαθέσιμο byte μνήμης στον πλανήτη, κατευθείαν από τις γραμμές παραγωγής των εργοστασίων ημιαγωγών.
Η δεύτερη είναι ότι δεν μπορείς να εκτελέσεις σοβαρές εφαρμογές τεχνητής νοημοσύνης τοπικά, σε έναν υπολογιστή Chromebook με 8 GB μνήμης, ο οποίος θα μπορούσε σχεδόν να επιβάλλεται με κρατική εντολή.
Και η προοπτική να επικρατήσουν οι τοπικές εφαρμογές AI, χωρίς εξάρτηση από το cloud, ενδέχεται να αποτελεί γι’ αυτόν έναν πραγματικό εφιάλτη.
Περίπτωση 2: Άντι Γεν – Η Proton και ο κίνδυνος να καταστραφεί η εμπιστοσύνη των πελατών
Η δεύτερη περίπτωση αφορά τον Άντι Γεν, διευθύνοντα σύμβουλο της Proton, της εταιρείας πίσω από τις υπηρεσίες Proton Mail και Proton VPN.
Όλοι μας γνωρίζουμε το Proton Mail ως εκείνη τη δευτερεύουσα υπηρεσία ηλεκτρονικού ταχυδρομείου για την οποία αξίζει να πληρώνει κανείς.
Αν θέλετε μια αξιόπιστη εναλλακτική διεύθυνση email για την ανάκτηση του λογαριασμού σας στο Gmail, επιλέγετε μια προσβάσιμη υπηρεσία που προσφέρει κρυπτογράφηση απ’ άκρο σ’ άκρο.
Την επιλέγετε επειδή βασίζεται στην ασφάλεια, τη σταθερότητα και την προστασία των χρηστών. Επειδή υπόσχεται ότι θα βρίσκεται εκεί όταν τη χρειαστείτε. Είναι μια υπηρεσία που μπορείτε να συστήσετε με ασφάλεια. Κι αυτό ακριβώς κάνετε.
Ή, τουλάχιστον, αυτή ήταν η εικόνα που είχατε για το Proton Mail και τις υπόλοιπες υπηρεσίες της εταιρείας, μέχρι τη στιγμή που μάθατε για την καταγγελλόμενη συμπεριφορά του Άντι Γεν.
Σύμφωνα με εσωτερικές επικοινωνίες που διέρρευσαν και παρουσιάστηκαν από το 404 Media, ο Γεν φέρεται να αντιμετώπιζε την Proton ως μια εταιρεία που έπρεπε να επιτύχει τους οικονομικούς της στόχους με κάθε κόστος. Κι ένας τρόπος για να το καταφέρει ήταν η ανάπτυξη λογισμικού με τη βοήθεια τεχνητής νοημοσύνης στη μέγιστη δυνατή ταχύτητα.
Οι μηχανικοί που ήθελαν να ελέγξουν τον παραγόμενο κώδικα για προβλήματα ασφαλείας αντιμετωπίζονταν, σύμφωνα με το δημοσίευμα, ως αποτυχημένοι επαγγελματίες, σαν χειριστές μηχανών φαξ στην εποχή του διαδικτύου. Ο Γεν φέρεται να μην τους ήθελε πλέον στην εταιρεία.
Το όραμά του, όπως περιγράφεται στις καταγγελίες, ήταν ένας οργανισμός χωρίς παραδοσιακούς μηχανικούς λογισμικού, όπου οι υπεύθυνοι προϊόντων θα μπορούσαν να αναπτύσσουν εφαρμογές απευθείας μέσα από ένα τερματικό του Claude.
Σύμφωνα με το άρθρο, προωθούσε αυτή την κατεύθυνση με επιθετική συμπεριφορά, υποτιμώντας εργαζομένους μπροστά στους συναδέλφους τους και επισείοντας την απειλή μιας νέας διαδικασίας συνεντεύξεων, μέσα από την οποία θα έπρεπε ουσιαστικά να αποδείξουν ότι άξιζαν να διατηρήσουν τη θέση τους.
Σε γενικές γραμμές, όποιος δημιουργεί ένα τοξικό εργασιακό περιβάλλον θα έπρεπε να απομακρύνεται αμέσως από τη διοίκηση και να χάνει το δικαίωμα να διευθύνει οτιδήποτε πιο σύνθετο από μια μηχανή παραγωγής λουκάνικων.
Το γεγονός ότι εμπλέκεται η τεχνητή νοημοσύνη δεν σημαίνει ότι ευθύνεται η ίδια η τεχνολογία.
Η πραγματική αυταπάτη βρίσκεται στην τόσο βαθιά παρανόηση της ταυτότητας της εταιρείας και των αναγκών των πελατών της.
Το Proton Mail κατέχει μια μοναδική και σημαντική θέση στην αγορά. Οι άνθρωποι βασίζονται σε αυτό ακριβώς επειδή η ιδιωτικότητα και η ασφάλεια αποτελούν την κεντρική υπόσχεσή του.
Το να τοποθετείται η ταχύτητα ανάπτυξης κώδικα πάνω από αυτές τις αρχές συνιστά κατάφωρη ανοησία.
Κανένας από τους πιστούς πελάτες της Proton δεν ενδιαφέρεται για τον αριθμό των νέων λειτουργιών που προστίθενται, εάν αυτές δεν ενισχύουν την ασφάλεια.
Νέα χαρακτηριστικά και προϊόντα που δεν βελτιώνουν την προστασία των χρηστών έχουν σημασία κυρίως εκτός της εξειδικευμένης αγοράς στην οποία δραστηριοποιείται η Proton. Κι εκεί θα μπορούσε κανείς να υποστηρίξει ότι τα προϊόντα της εταιρείας δεν είναι ιδιαίτερα ανταγωνιστικά.
Η αδυναμία κατανόησης αυτής της πραγματικότητας μπορεί να καταστρέψει την αξία ενός εμπορικού σήματος εν μια νυκτί.
Ο Γεν δεν θα ήταν ο πρώτος διευθύνων σύμβουλος που προκαλεί προβλήματα στην εταιρεία του αποκαλύπτοντας τι πραγματικά σκέφτεται. Όμως, στη συγκεκριμένη περίπτωση, το διακύβευμα είναι ιδιαίτερα σημαντικό.
Πάντως, φαίνεται ότι ορισμένες από τις επίμαχες επιλογές αναθεωρούνται.
Η απαίτηση να περνούν οι εργαζόμενοι από νέες συνεντεύξεις προκειμένου να αποδείξουν την αφοσίωσή τους στην τεχνητή νοημοσύνη, με κάθε κόστος, εγκαταλείπεται. Παράλληλα, ένας εργαζόμενος της εταιρείας δήλωσε ότι η πραγματική κατάσταση δεν είναι τόσο άσχημη όσο παρουσιάστηκε.
Περίπτωση 3: Λίνους Τόρβαλντς – Η τεχνητή νοημοσύνη χρειάζεται έλεγχο και πραγματισμό
Και φτάνουμε στον Λίνους Τόρβαλντς. Ο δημιουργός του Linux αναφέρει ότι ο κώδικας για τον πυρήνα του λειτουργικού συστήματος, ο οποίος παράγεται με τη βοήθεια τεχνητής νοημοσύνης, δεν έχει κατακλύσει τη διαδικασία ανάπτυξης και ενσωμάτωσης αλλαγών.
Η AI αποδεικνύεται χρήσιμη όταν χρησιμοποιείται σωστά, ενώ ο ρυθμός ανάπτυξης του πυρήνα επιταχύνεται έπειτα από μια περίοδο σταθεροποίησης.
Η αυξημένη πίεση από τη μαζική υποβολή αλλαγών κώδικα που παράγονται με AI αντιμετωπίστηκε με τη δημιουργία των κατάλληλων μηχανισμών ελέγχου και φιλτραρίσματος. Και ο Τόρβαλντς δηλώνει πλέον πολύ πιο ικανοποιημένος.
Πρόκειται για μια ιστορία με πολλές αποχρώσεις, κάτι που συχνά αντιμετωπίζεται σχεδόν ως ανεπιθύμητο χαρακτηριστικό στον τεχνολογικό κλάδο.
Το γεγονός ότι ο Τόρβαλντς είναι ευχαριστημένος δεν εγγυάται ότι όλα λειτουργούν τέλεια. Ωστόσο, η γενικότερη στάση του αποτελεί έναν εξαιρετικά αξιόπιστο δείκτη της κατάστασης, ίσως καλύτερο από τους περισσότερους δείκτες που επιχειρούν να προβλέψουν την πορεία ενός τεχνολογικού έργου.
Ο Τόρβαλντς επιτυγχάνει τους δικούς του στόχους.
Και αυτοί είναι η ποιότητα του κώδικα και η ταχύτητα με την οποία οι αλλαγές ανταποκρίνονται στις ανάγκες των χρηστών σε έναν κόσμο που μεταβάλλεται συνεχώς.
Οι στόχοι του δεν αφορούν περιθώρια κέρδους, οικονομικές αποδόσεις, αξία για τους μετόχους ή την ανάγκη προσέλκυσης τεράστιων επενδύσεων προτού τελειώσει η περίοδος της ευφορίας.
Με άλλα λόγια, ο Τόρβαλντς κατάφερε να διαχειριστεί την είσοδο της τεχνητής νοημοσύνης σε μία από τις σημαντικότερες βάσεις κώδικα που δημιουργήθηκαν ποτέ.
Και το έκανε σε συνεργασία με μια από τις πιο πολυσυλλεκτικές και ανεξάρτητες κοινότητες προγραμματιστών που έχουν υπάρξει, όχι παρά την ύπαρξή της.
Το εντυπωσιακότερο είναι ότι όλα αυτά έγιναν σχεδόν χωρίς να αποτελέσουν είδηση. Μακάρι να υπήρχαν Όσκαρ για τέτοιου είδους επιτεύγματα.
Δεν υπάρχει καλύτερη διαφήμιση για την κοινή λογική, αλλά και για τη μοναδική, ανεκτίμητη ικανότητα του ελεύθερου λογισμικού ανοιχτού κώδικα (FOSS) να ανταποκρίνεται στις δυνάμεις της αγοράς χωρίς να εξαρτάται από αυτές.
Η ελευθερία θεραπεύει τις αυταπάτες. Ακόμη και τις αυταπάτες γύρω από την τεχνητή νοημοσύνη. Και είναι εξαιρετικά ισχυρό φάρμακο.
