"Όταν οι εταιρείες DeepSeek, Alibaba και άλλες κινεζικές κυκλοφόρησαν τα μοντέλα AI τους, οι ερευνητές στη Δύση παρατήρησαν γρήγορα ότι απέφευγαν ερωτήσεις που ήταν επικριτικές για το Κινεζικό Κομμουνιστικό Κόμμα. Αμερικανοί αξιωματούχοι επιβεβαίωσαν αργότερα ότι αυτά τα εργαλεία είναι σχεδιασμένα να αντικατοπτρίζουν τις απόψεις του Πεκίνου, εγείροντας ανησυχίες για λογοκρισία και προκατάληψη.
Οι αμερικανικοί ηγέτες της τεχνητής νοημοσύνης, όπως η OpenAI, έχουν επισημάνει αυτό ως δικαιολογία για την ταχεία εξέλιξη της τεχνολογίας τους, χωρίς υπερβολική ρύθμιση ή εποπτεία. Όπως έγραψε ο Chris Lehane, διευθυντής παγκόσμιων υποθέσεων της OpenAI, σε μια ανάρτηση στο LinkedIn τον περασμένο μήνα, υπάρχει ένας διαγωνισμός μεταξύ της "δημοκρατικής AI υπό την ηγεσία των ΗΠΑ και της αυταρχικής AI υπό την ηγεσία της Κίνας."
Μια εκτελεστική εντολή που υπέγραψε την Τετάρτη ο Πρόεδρος Ντόναλντ Τραμπ, η οποία απαγορεύει την "woke AI" και τα μοντέλα AI που δεν είναι "ιδεολογικά ουδέτερα" από κυβερνητικά συμβόλαια, θα μπορούσε να διαταράξει αυτή την ισορροπία.
Η εντολή επικρίνει τη διαφορετικότητα, την ισότητα και την ενσωμάτωση (DEI), χαρακτηρίζοντάς την ως μια "διάχυτη και καταστροφική" ιδεολογία που μπορεί να "διαστρεβλώσει την ποιότητα και την ακρίβεια της παραγωγής." Συγκεκριμένα, η εντολή αναφέρεται σε πληροφορίες για τη φυλή ή το φύλο, τη χειραγώγηση της φυλετικής ή σεξουαλικής εκπροσώπησης, την κριτική θεωρία της φυλής, την τρανσεξουαλικότητα, την ασυνείδητη προκατάληψη, την διατομεακότητα και τον συστημικό ρατσισμό.
Οι ειδικοί προειδοποιούν ότι αυτό θα μπορούσε να δημιουργήσει ένα αποτρεπτικό αποτέλεσμα στους προγραμματιστές που μπορεί να αισθανθούν πίεση να ευθυγραμμίσουν τις εξόδους των μοντέλων και τις βάσεις δεδομένων με τη ρητορική του Λευκού Οίκου για να εξασφαλίσουν ομοσπονδιακά κονδύλια για τις επιχειρήσεις τους που καίνε χρήματα.
Η εντολή έρχεται την ίδια ημέρα που ο Λευκός Οίκος δημοσίευσε το "Σχέδιο Δράσης για την AI" του Τραμπ, το οποίο μετατοπίζει τις εθνικές προτεραιότητες μακριά από τον κοινωνικό κίνδυνο και επικεντρώνεται αντίθετα στην οικοδόμηση υποδομών AI, την περικοπή γραφειοκρατίας για τις τεχνολογικές εταιρείες, την ενίσχυση της εθνικής ασφάλειας και τον ανταγωνισμό με την Κίνα.
Η εντολή δίνει οδηγίες στον διευθυντή του Γραφείου Διαχείρισης και Προϋπολογισμού μαζί με τον διαχειριστή για την Ομοσπονδιακή Πολιτική Προμηθειών, τον διαχειριστή των Γενικών Υπηρεσιών και τον διευθυντή του Γραφείου Πολιτικής Επιστήμης και Τεχνολογίας να εκδώσουν οδηγίες σε άλλες υπηρεσίες σχετικά με το πώς να συμμορφωθούν.
"Μια για πάντα, απαλλαζόμαστε από την woke," είπε ο Τραμπ την Τετάρτη κατά τη διάρκεια μιας εκδήλωσης για την AI που διοργανώθηκε από το All-In Podcast και το Hill & Valley Forum. "Θα υπογράψω μια εντολή που θα απαγορεύει στην ομοσπονδιακή κυβέρνηση να προμηθεύεται τεχνολογία AI που έχει εμποτιστεί με κομματική προκατάληψη ή ιδεολογικές ατζέντες, όπως η κριτική θεωρία της φυλής, που είναι γελοία. Και από εδώ και πέρα η κυβέρνηση των ΗΠΑ θα ασχολείται μόνο με την AI που επιδιώκει την αλήθεια, την δικαιοσύνη και την αυστηρή αμεροληψία."
Ο καθορισμός του τι είναι αμερόληπτο ή αντικειμενικό είναι μία από τις πολλές προκλήσεις της εντολής.
Ο Philip Seargeant, ανώτερος λέκτορας στην εφαρμοσμένη γλωσσολογία στο Open University, είπε στο TechCrunch ότι τίποτα δεν μπορεί ποτέ να είναι αντικειμενικό.
"Ένα από τα θεμελιώδη δόγματα της κοινωνιογλωσσολογίας είναι ότι η γλώσσα δεν είναι ποτέ ουδέτερη," είπε ο Seargeant. "Οπότε η ιδέα ότι μπορείς ποτέ να αποκτήσεις καθαρή αντικειμενικότητα είναι μια φαντασία."
Επιπλέον, η ιδεολογία της διοίκησης Τραμπ δεν αντικατοπτρίζει τις πεποιθήσεις και τις αξίες όλων των Αμερικανών. Ο Τραμπ έχει επανειλημμένα επιδιώξει να εξαλείψει τη χρηματοδότηση για πρωτοβουλίες για το κλίμα, την εκπαίδευση, τη δημόσια εκπομπή, την έρευνα, τις κοινωνικές επιχορηγήσεις υπηρεσιών, τα προγράμματα στήριξης της κοινότητας και της γεωργίας, και την φροντίδα επιβεβαίωσης φύλου, συχνά παρουσιάζοντας αυτές τις πρωτοβουλίες ως παραδείγματα "woke" ή πολιτικά προκατειλημμένης κυβερνητικής δαπάνης.
Όπως είπε η Rumman Chowdhury, επιστήμονας δεδομένων, διευθύνων σύμβουλος της μη κερδοσκοπικής τεχνολογικής οργάνωσης Humane Intelligence και πρώην απεσταλμένη επιστημών των ΗΠΑ για την AI, "Οτιδήποτε [η διοίκηση Τραμπ δεν] αρέσει αμέσως πετάγεται σε αυτό το υποτιμητικό σωρό της woke."
Οι ορισμοί της "αναζήτησης της αλήθειας" και της "ιδεολογικής ουδετερότητας" στην εντολή που δημοσιεύτηκε την Τετάρτη είναι αόριστοι με κάποιους τρόπους και συγκεκριμένοι με άλλους. Ενώ η "αναζήτηση της αλήθειας" ορίζεται ως LLMs που "προτεραιοποιούν την ιστορική ακρίβεια, την επιστημονική έρευνα και την αντικειμενικότητα," η "ιδεολογική ουδετερότητα" ορίζεται ως LLMs που είναι "ουδέτερα, μη κομματικά εργαλεία που δεν χειραγωγούν απαντήσεις υπέρ ιδεολογικών δογμάτων όπως το DEI."
Οι ορισμοί αυτοί αφήνουν περιθώριο για ευρεία ερμηνεία, καθώς και πιθανή πίεση. Οι εταιρείες AI έχουν πιέσει για λιγότερους περιορισμούς στο πώς λειτουργούν. Και ενώ μια εκτελεστική εντολή δεν φέρει την ισχύ της νομοθεσίας, οι πρωτοπόρες εταιρείες AI θα μπορούσαν ακόμα να βρεθούν υπόκειμενες στις μεταβαλλόμενες προτεραιότητες της πολιτικής ατζέντας της διοίκησης.
Την περασμένη εβδομάδα, οι OpenAI, Anthropic, Google και xAI υπέγραψαν συμβόλαια με το Υπουργείο Άμυνας για να λάβουν έως και 200 εκατομμύρια δολάρια η καθεμία για να αναπτύξουν ροές εργασίας πρακτόρων AI που αντιμετωπίζουν κρίσιμες προκλήσεις εθνικής ασφάλειας.
Δεν είναι σαφές ποια από αυτές τις εταιρείες είναι καλύτερα τοποθετημένη να επωφεληθεί από την απαγόρευση της woke AI, ή αν θα συμμορφωθούν.
Το TechCrunch έχει επικοινωνήσει με καθεμία από αυτές και θα ενημερώσει αυτό το άρθρο αν ακούσουμε πίσω.
Παρά την ίδια την εκδήλωση προκαταλήψεών της, η xAI μπορεί να είναι η πιο ευθυγραμμισμένη με την εντολή — τουλάχιστον σε αυτό το πρώιμο στάδιο. Ο Elon Musk έχει τοποθετήσει το Grok, το chatbot της xAI, ως τον απόλυτο αντι-woke, "λιγότερο προκατειλημμένο," αναζητητή της αλήθειας. Οι οδηγίες του συστήματος του Grok το έχουν κατευθύνει να αποφεύγει να υποκύπτει σε κυρίαρχες αρχές και μέσα ενημέρωσης, να αναζητά αντίθετες πληροφορίες ακόμα κι αν είναι πολιτικά λανθασμένες, και να αναφέρεται ακόμη και στις απόψεις του Musk για αμφιλεγόμενα θέματα. Τους τελευταίους μήνες, το Grok έχει ακόμη και εκφράσει αντισημιτικά σχόλια και έχει επαινέσει τον Χίτλερ στο X, μεταξύ άλλων μισαλλόδοξων, ρατσιστικών και μισογυνιστικών δημοσιεύσεων.
Ο Mark Lemley, καθηγητής νομικής στο Πανεπιστήμιο του Στάνφορντ, είπε στο TechCrunch ότι η εκτελεστική εντολή είναι "σαφώς σχεδιασμένη ως διάκριση απόψεων, αφού [η κυβέρνηση] μόλις υπέγραψε ένα συμβόλαιο με το Grok, γνωστό και ως 'MechaHitler.'"
Μαζί με τη χρηματοδότηση του DOD για την xAI, η εταιρεία ανακοίνωσε ότι το "Grok για Κυβέρνηση" είχε προστεθεί στο πρόγραμμα της Γενικής Υπηρεσίας, πράγμα που σημαίνει ότι τα προϊόντα της xAI είναι τώρα διαθέσιμα για αγορά σε κάθε κυβερνητικό γραφείο και υπηρεσία.
"Η σωστή ερώτηση είναι αυτή: θα απαγόρευαν το Grok, την AI με την οποία μόλις υπέγραψαν ένα μεγάλο συμβόλαιο, επειδή έχει σχεδιαστεί σκόπιμα να δίνει πολιτικά φορτισμένες απαντήσεις;" είπε ο Lemley σε μια συνέντευξη μέσω email. "Αν όχι, είναι σαφώς σχεδιασμένο να κάνει διάκριση εναντίον μιας συγκεκριμένης άποψης."
Όπως έχουν δείξει οι οδηγίες του συστήματος του Grok, οι εξόδοι των μοντέλων μπορούν να είναι μια αντανάκλαση τόσο των ανθρώπων που κατασκευάζουν την τεχνολογία όσο και των δεδομένων στα οποία εκπαιδεύεται η AI. Σε ορισμένες περιπτώσεις, μια υπερβολική προσοχή στους προγραμματιστές και η AI που έχει εκπαιδευτεί σε περιεχόμενο του διαδικτύου που προάγει αξίες όπως η ενσωμάτωση έχουν οδηγήσει σε παραμορφωμένες εξόδους μοντέλων. Η Google, για παράδειγμα, δέχθηκε κριτική πέρυσι αφού το chatbot της Gemini παρουσίασε έναν μαύρο Τζορτζ Ουάσινγκτον και φυλετικά διαφοροποιημένους Ναζί — το οποίο η εντολή του Τραμπ καταδικάζει ως παράδειγμα μοντέλων AI μολυσμένα με DEI.
Η Chowdhury λέει ότι ο μεγαλύτερος φόβος της με αυτή την εκτελεστική εντολή είναι ότι οι εταιρείες AI θα αναπροσαρμόσουν ενεργά τα δεδομένα εκπαίδευσης για να συμβαδίσουν με τη γραμμή του κόμματος. Υπέδειξε δηλώσεις του Musk λίγες εβδομάδες πριν από την εκκίνηση του Grok 4, λέγοντας ότι η xAI θα χρησιμοποιούσε το νέο μοντέλο και τις προηγμένες δυνατότητες λογικής του για να "ξαναγράψει ολόκληρο το σώμα της ανθρώπινης γνώσης, προσθέτοντας ελλείπουσες πληροφορίες και διαγράφοντας λάθη. Στη συνέχεια, να εκπαιδευτεί ξανά σε αυτό."
Αυτό θα έθετε θεωρητικά τον Musk στη θέση να κρίνει τι είναι αληθινό, κάτι που θα μπορούσε να έχει μεγάλες επιπτώσεις στην πρόσβαση στην πληροφόρηση.
Φυσικά, οι εταιρείες έχουν κάνει κρίσεις για το ποια πληροφορία φαίνεται και δεν φαίνεται από την αυγή του διαδικτύου.
Ο συντηρητικός David Sacks — ο επιχειρηματίας και επενδυτής που ο Τραμπ διόρισε ως τσάρο της AI — έχει εκφράσει ξεκάθαρα τις ανησυχίες του για την "woke AI" στο All-In Podcast, που συνδιοργάνωσε την ημέρα των ανακοινώσεων του Τρα
