Τεχνολογία
Η Anthropic εισήγαγε νέους κανόνες που απαγορεύουν την κακοποιητική συμπεριφορά προς το σύστημα τεχνητής νοημοσύνης Claude, με στόχο τη βελτίωση της αλληλεπίδρασης των χρηστών.
Η εταιρεία Anthropic ανακοίνωσε τον Οκτώβριο την εφαρμογή νέων κανόνων χρήσης για το σύστημα τεχνητής νοημοσύνης Claude, οι οποίοι περιλαμβάνουν την απαγόρευση της κακοποιητικής συμπεριφοράς από τους χρήστες. Σύμφωνα με την ανακοίνωση, οι χρήστες που θα επιδεικνύουν «διαρκή και άσκοπη κακοποιητική ή σκληρή συμπεριφορά» θα μπορούσαν να αποκλειστούν από τη χρήση του συστήματος. Η απόφαση αυτή έρχεται ως προληπτικό μέτρο, καθώς η απόδοση του Claude επηρεάζεται από τον τόνο και το περιεχόμενο των αιτημάτων που δέχεται.
Η Anthropic έχει ήδη τη δυνατότητα να σταματά συνομιλίες με χρήστες που είναι «επίμονα καταχρηστικοί» και η νέα πολιτική ενδέχεται να οδηγήσει σε μόνιμο αποκλεισμό ορισμένων χρηστών. Εκπρόσωπος της εταιρείας διευκρίνισε ότι η απαγόρευση δεν αφορά χρήστες που εκφράζουν απογοήτευση ή κάνουν δοκιμές και έρευνα.
Η πολιτική αυτή έχει προκαλέσει αντιδράσεις, με τον Διευθύνοντα Σύμβουλο της Τεχνητής Νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, να σχολιάζει με χιούμορ την απόφαση μέσω ενός emoji. Ορισμένοι ειδικοί υποστηρίζουν ότι η πολιτική δεν περιορίζεται μόνο στην ψυχολογία των μηχανών, αλλά και στην ποιότητα των αποτελεσμάτων που παράγουν, η οποία εξαρτάται από την ποιότητα των δεδομένων που δέχονται.
Ο καθηγητής Τζίντονγκ Γουάνγκ, διευθυντής του AI Frontier Lab, τόνισε ότι ο τρόπος με τον οποίο οι χρήστες διατυπώνουν τα αιτήματά τους μπορεί να επηρεάσει την απόδοση της τεχνητής νοημοσύνης. Ωστόσο, διευκρίνισε ότι αυτό δεν σημαίνει ότι τα μοντέλα βιώνουν συναισθήματα, αλλά ότι αντιλαμβάνονται τα συναισθήματα των χρηστών και ενδέχεται να αντιδρούν ανάλογα.
Αντίθετα, η Ρόζι Κάμπελ, διευθύνουσα σύμβουλος του Eleos AI Research, ανέφερε ότι κάποιες έρευνες δείχνουν ότι οι αγενείς ερωτήσεις μπορεί να οδηγήσουν σε καλύτερα αποτελέσματα. Η νέα πολιτική της Anthropic αναδεικνύει τη σημασία της αλληλεπίδρασης μεταξύ χρηστών και τεχνητής νοημοσύνης, καθώς και την ανάγκη για υπεύθυνη χρήση αυτών των συστημάτων.
