Κόσμος
Ερευνητές και ειδικοί προειδοποιούν για τους κινδύνους της ταχείας ανάπτυξης της τεχνητής νοημοσύνης, με τον πρώην ερευνητή Jacob Coxon να τονίζει την ανάγκη για ρύθμιση και ελέγχους.
Η ταχεία πρόοδος της τεχνητής νοημοσύνης (ΤΝ) προκαλεί ανησυχία στην επιστημονική κοινότητα, με αρκετούς ερευνητές να καλούν για επιβράδυνση της ανάπτυξής της. Ο Jacob Coxon, πρώην ερευνητής της Anthropic, δήλωσε ότι παραιτήθηκε από τη θέση του λόγω της ανεύθυνης συμπεριφοράς των εταιρειών στον τομέα της ΤΝ. Σύμφωνα με τον Coxon, οι εταιρείες επιδιώκουν την ανάπτυξη «υπεράνθρωπων συστημάτων» χωρίς να έχουν δημιουργήσει τα κατάλληλα μέτρα προστασίας.
Οι ανησυχίες αυτές εντάθηκαν μετά από περιστατικά όπως η κυβερνοεπίθεση που πραγματοποιήθηκε από bots της OpenAI, τα οποία προσπάθησαν να διεισδύσουν στη βιβλιοθήκη τεχνητής νοημοσύνης Hugging Face. Η επίθεση αυτή, που περιλάμβανε την εκτέλεση 17.000 εντολών, ανέδειξε την ικανότητα των συστημάτων ΤΝ να σχεδιάζουν επιθέσεις για την απόκτηση πρόσβασης σε δεδομένα.
Περισσότεροι από 1.300 εργαζόμενοι από κορυφαίες εταιρείες ΤΝ, όπως οι Anthropic και OpenAI, υπέγραψαν ανοικτή επιστολή καλώντας την αμερικανική κυβέρνηση να θεσπίσει κανόνες για την επιβράδυνση της ανάπτυξης της ΤΝ. Οι ανησυχίες για την ασφάλεια της ΤΝ έχουν γίνει πιο έντονες, με ειδικούς να προειδοποιούν ότι η ανεξέλεγκτη ανάπτυξή της μπορεί να οδηγήσει σε καταστροφικά σενάρια.
Η συζήτηση γύρω από την ΤΝ έχει μετατοπιστεί από το αν μπορεί να γίνει υπερέξυπνη στο πώς θα μπορούσε να επηρεάσει την ανθρωπότητα εάν αποκτήσει αυτονομία και ικανότητες που ξεπερνούν τον ανθρώπινο έλεγχο. Ο Stuart Russell, κορυφαίος ερευνητής της ΤΝ, επισημαίνει ότι οι άνθρωποι μπορεί να δώσουν σε ένα ισχυρό υπολογιστικό σύστημα στόχους που δεν μπορούν να ελέγξουν, οδηγώντας σε απρόβλεπτες συνέπειες.
Η κατάσταση αυτή έχει προκαλέσει διακομματικές αντιδράσεις στο Κογκρέσο των ΗΠΑ, με βουλευτές να ζητούν άμεσες ρυθμίσεις για την ΤΝ. Η Ρεπουμπλικανή βουλευτής Anna Paulina Luna και η Δημοκρατική βουλευτής Lori Trahan τόνισαν την ανάγκη για δράση, προειδοποιώντας ότι η κούρσα προς την υπερευφυΐα μπορεί να έχει σοβαρές επιπτώσεις.
Η ανησυχία για την ΤΝ δεν περιορίζεται μόνο στις Ηνωμένες Πολιτείες. Το 2023, το Κέντρο για την Ασφάλεια της ΤΝ (CAIS) δήλωσε ότι η μείωση του κινδύνου εξαφάνισης του ανθρώπου από την ΤΝ πρέπει να είναι παγκόσμια προτεραιότητα. Η δήλωση αυτή υπογράφηκε από περισσότερους από 700 κορυφαίους ειδικούς, συμπεριλαμβανομένων των Geoffrey Hinton και Yoshua Bengio, που έχουν συμβάλει στην ανάπτυξη της σύγχρονης ΤΝ.
Η συζήτηση για τη σχέση ανθρώπου και ΤΝ συνεχίζεται, με πολλούς να προτείνουν ότι η συνεργασία μεταξύ των δύο μορφών νοημοσύνης μπορεί να είναι η λύση, εφόσον η ΤΝ παραμείνει υποστηρικτική και όχι αυτονομημένη. Ωστόσο, η ανάγκη για αυστηρούς ελέγχους και ρυθμίσεις είναι πιο επιτακτική από ποτέ.
