Οι νομοθέτες της πολιτείας της Νέας Υόρκης ψήφισαν ένα νομοσχέδιο την Πέμπτη που στοχεύει στο να αποτρέψει τα προηγμένα μοντέλα τεχνητής νοημοσύνης από την OpenAI, τη Google και την Anthropic να συμβάλουν σε σενάρια καταστροφής, συμπεριλαμβανομένου του θανάτου ή τραυματισμού περισσότερων από 100 ατόμων, ή πάνω από $1 δισεκατομμύριο σε ζημιές.
Η έγκριση του νόμου RAISE αντιπροσωπεύει μια νίκη για το κίνημα ασφάλειας της τεχνητής νοημοσύνης, το οποίο έχει χάσει έδαφος τα τελευταία χρόνια καθώς η Silicon Valley και η διοίκηση Τραμπ έχουν δώσει προτεραιότητα στην ταχύτητα και την καινοτομία. Υποστηρικτές της ασφάλειας, συμπεριλαμβανομένου του βραβευμένου με Νόμπελ Geoffrey Hinton και του πρωτοπόρου της έρευνας στην τεχνητή νοημοσύνη Yoshua Bengio, έχουν υποστηρίξει το νόμο RAISE. Αν γίνει νόμος, το νομοσχέδιο θα θεσπίσει το πρώτο σύνολο νομικά υποχρεωτικών προτύπων διαφάνειας για τα εργαστήρια προηγμένης τεχνητής νοημοσύνης στην Αμερική.
Ο νόμος RAISE έχει ορισμένες από τις ίδιες διατάξεις και στόχους με το πολύ συζητημένο νομοσχέδιο ασφάλειας της τεχνητής νοημοσύνης της Καλιφόρνιας, SB 1047, το οποίο τελικά απορρίφθηκε. Ωστόσο, ο συνεισηγητής του νομοσχεδίου, Κρατικός Σύμβουλος της Νέας Υόρκης Andrew Gounardes, δήλωσε στο TechCrunch σε συνέντευξη ότι σχεδίασε επίτηδες το νομοσχέδιο RAISE έτσι ώστε να μην αναστέλλει την καινοτομία μεταξύ των startups ή των ακαδημαϊκών ερευνητών – μια συνηθισμένη κριτική του SB 1047.
"Το παράθυρο για τη θέσπιση μέτρων προστασίας στενεύει γρήγορα λαμβάνοντας υπόψη πόσο γρήγορα εξελίσσεται αυτή η τεχνολογία," δήλωσε ο Κρατικός Σύμβουλος Gounardes. "Οι άνθρωποι που γνωρίζουν [την ΤΝ] καλύτερα λένε ότι αυτοί οι κίνδυνοι είναι εξαιρετικά πιθανοί […] Αυτό είναι ανησυχητικό."
Το νομοσχέδιο RAISE κατευθύνεται τώρα προς το γραφείο της Κυβερνήτη της Νέας Υόρκης, Kathy Hochul, όπου μπορεί είτε να υπογράψει το νομοσχέδιο και να το καταστήσει νόμο, είτε να το επιστρέψει για τροποποιήσεις, είτε να το αρνηθεί εντελώς.
Αν υπογραφεί σε νόμο, το νομοσχέδιο ασφάλειας ΤΝ της Νέας Υόρκης θα απαιτεί από τα μεγαλύτερα εργαστήρια τεχνητής νοημοσύνης στον κόσμο να δημοσιεύουν λεπτομερείς αναφορές ασφάλειας και ασφάλειας για τα προηγμένα μοντέλα τεχνητής νοημοσύνης τους. Το νομοσχέδιο απαιτεί επίσης από τα εργαστήρια τεχνητής νοημοσύνης να αναφέρουν περιστατικά ασφάλειας, όπως ανησυχητική συμπεριφορά μοντέλου ΤΝ ή κακοποιούς που κλέβουν ένα μοντέλο ΤΝ, αν συμβούν. Αν οι τεχνολογικές εταιρείες αποτύχουν να τηρήσουν αυτά τα πρότυπα, το νομοσχέδιο RAISE εξουσιοδοτεί τον Γενικό Εισαγγελέα της Νέας Υόρκης να επιβάλει πολιτικές κυρώσεις έως και $30 εκατομμύρια.
Το νομοσχέδιο RAISE στοχεύει στον στενό κανονισμό των μεγαλύτερων εταιρειών στον κόσμο – είτε είναι με έδρα την Καλιφόρνια (όπως η OpenAI και η Google) είτε την Κίνα (όπως η DeepSeek και η Alibaba). Οι απαιτήσεις διαφάνειας του νομοσχεδίου ισχύουν για εταιρείες των οποίων τα μοντέλα ΤΝ εκπαιδεύτηκαν χρησιμοποιώντας πάνω από $100 εκατομμύρια σε υπολογιστικούς πόρους (φαίνεται περισσότερο από οποιοδήποτε μοντέλο ΤΝ διαθέσιμο σήμερα) και προορίζονται για τους κατοίκους της Νέας Υόρκης.
Παρόλο που είναι παρόμοιο με το SB 1047 μερικώς, το νομοσχέδιο RAISE σχεδιάστηκε για να αντιμετωπίσει τις κριτικές των προηγούμενων νομοσχεδίων ασφάλειας της τεχνητής νοημοσύνης, σύμφωνα με τον Nathan Calvin, αντιπρόεδρο των Κρατικών Υποθέσεων και γενικό σύμβουλο στην Encode, ο οποίος εργάστηκε σε αυτό το νομοσχέδιο και το SB 1047. Ειδικότερα, το νομοσχέδιο RAISE δεν απαιτεί από τους αναπτυσσόμενους μοντέλους ΤΝ να περιλαμβάνουν ένα "διακόπτη απενεργοποίησης" στα μοντέλα τους, ούτε κρατά υπεύθυνες τις εταιρείες που μετά την εκπαίδευση προηγμένων μοντέλων ΤΝ
