Διάταγμα Νιούσομ για την ενίσχυση της ασφάλειας στην Τεχνητή Νοημοσύνη

Ο κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ, υπέγραψε εκτελεστική εντολή που απαιτεί από τις εταιρείες Τεχνητής Νοημοσύνης να εφαρμόσουν αυστηρότερα μέτρα ασφαλείας.

Ο Δημοκρατικός κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ, υπέγραψε σήμερα εκτελεστική εντολή με στόχο την ενίσχυση των μέτρων ασφαλείας που αφορούν την Τεχνητή Νοημοσύνη (ΤΝ). Η απόφαση αυτή έρχεται σε συνέχεια των ανησυχιών για τους κινδύνους που προκύπτουν από τη χρήση αυτής της τεχνολογίας. Ο Νιούσομ ζητά από τις εταιρείες ΤΝ να λάβουν πρόσθετα μέτρα, συμπεριλαμβανομένης της υιοθέτησης συστημάτων «kill switch», τα οποία θα επιτρέπουν τη διακοπή της λειτουργίας ενός μοντέλου σε περίπτωση «παρεκτροπής».

Η Καλιφόρνια είναι η πολιτεία που έχει θεσπίσει τους περισσότερους νόμους για τη ρύθμιση της Τεχνητής Νοημοσύνης στις Ηνωμένες Πολιτείες. Στις αρχές Σεπτεμβρίου, ο Νιούσομ είχε υπογράψει δύο ψηφίσματα του τοπικού κοινοβουλίου που θέτουν τις βάσεις για έναν μηχανισμό ανεξάρτητου ελέγχου των εταιρειών ΤΝ και των μοντέλων τους, με έμφαση στην ασφάλεια.

Με το νέο διάταγμα, ο κυβερνήτης επιδιώκει να επιταχύνει την εφαρμογή αυτού του μηχανισμού και να τον ενισχύσει. Μια επιτροπή εμπειρογνωμόνων θα εξετάσει τη δυνατότητα επιβολής υποχρέωσης στις πιο προηγμένες εταιρείες ΤΝ να δημοσιοποιούν περιστατικά «απώλειας ελέγχου» των μοντέλων τους.

Η πρωτοβουλία αυτή συνάδει με τη δέσμευση του επικεφαλής της εταιρείας Anthropic, Ντάριο Αμοντέι, ο οποίος έχει ζητήσει τη δυνατότητα ανεξάρτητης αξιολόγησης των ενεργειών των εταιρειών στον τομέα της ασφάλειας της ΤΝ. Ο Αμοντέι έχει επίσης προτείνει να επιβραδυνθεί ο ρυθμός ανάπτυξης της Τεχνητής Νοημοσύνης, πρόταση που υποστηρίζεται και από άλλους ηγέτες της τεχνολογίας, όπως ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ.

Αντίθετα, ο πρώην πρόεδρος Ντόναλντ Τραμπ και αρκετοί Ρεπουμπλικάνοι έχουν καταδικάσει τις προτάσεις αυτές, χαρακτηρίζοντας τις ανησυχίες για την επικινδυνότητα της Τεχνητής Νοημοσύνης ως «φάρσα». Ο Νιούσομ, μέσω του δελτίου Τύπου του, τόνισε ότι αναλαμβάνει πρωτοβουλίες για την ασφάλεια της Τεχνητής Νοημοσύνης, ενώ οι αντίπαλοί του παραμένουν αδρανείς.