Τα Chatbot χωρίς λογοκρισία προκαλούν φράγκα για την ελεύθερη ομιλία

Τα chatbot της τεχνητής νοημοσύνης έχουν πει ψέματα για αξιόλογους αριθμούς , έχουν προωθήσει κομματικά μηνύματα , εκτοξεύουν παραπληροφόρηση ή ακόμη και συμβουλεύουν τους χρήστες πώς να αυτοκτονήσουν .

Για να μετριάσουν τους πιο προφανείς κινδύνους των εργαλείων, εταιρείες όπως η Google και το OpenAI έχουν προσθέσει προσεκτικά στοιχεία ελέγχου που περιορίζουν το τι μπορούν να πουν τα εργαλεία.

Τώρα ένα νέο κύμα chatbot, που αναπτύχθηκε μακριά από το επίκεντρο της έκρηξης της τεχνητής νοημοσύνης, έρχεται στο διαδίκτυο χωρίς πολλά από αυτά τα προστατευτικά κιγκλιδώματα – πυροδοτώντας μια πολωτική συζήτηση για την ελεύθερη ομιλία σχετικά με το εάν τα chatbots θα πρέπει να εποπτεύονται και ποιος πρέπει να αποφασίσει.

“Αυτό αφορά την ιδιοκτησία και τον έλεγχο”, έγραψε ο Eric Hartford, ένας προγραμματιστής πίσω από το WizardLM-Uncensored, ένα μη εποπτευόμενο chatbot, σε μια ανάρτηση ιστολογίου . «Αν κάνω μια ερώτηση στο μοντέλο μου, θέλω μια απάντηση, δεν θέλω να μαλώσει μαζί μου».

Αρκετά chatbot χωρίς λογοκρισία και χαλαρά εποπτευόμενα έχουν εμφανιστεί τους τελευταίους μήνες με ονόματα όπως GPT4All και FreedomGPT . Πολλά δημιουργήθηκαν με λίγα ή καθόλου χρήματα από ανεξάρτητους προγραμματιστές ή ομάδες εθελοντών, οι οποίοι επανέλαβαν με επιτυχία τις μεθόδους που περιγράφηκαν για πρώτη φορά από ερευνητές τεχνητής νοημοσύνης. Μόνο μερικές ομάδες έφτιαξαν τα μοντέλα τους από την αρχή. Οι περισσότερες ομάδες λειτουργούν από υπάρχοντα μοντέλα γλώσσας, προσθέτοντας μόνο πρόσθετες οδηγίες για να τροποποιήσετε τον τρόπο με τον οποίο η τεχνολογία ανταποκρίνεται στα μηνύματα.

Τα chatbot χωρίς λογοκρισία προσφέρουν δελεαστικές νέες δυνατότητες. Οι χρήστες μπορούν να κατεβάσουν ένα απεριόριστο chatbot στους δικούς τους υπολογιστές, χρησιμοποιώντας το χωρίς το άγρυπνο βλέμμα της Big Tech. Θα μπορούσαν στη συνέχεια να το εκπαιδεύσουν σε προσωπικά μηνύματα, προσωπικά email ή μυστικά έγγραφα χωρίς να διακινδυνεύσουν παραβίαση του απορρήτου. Οι εθελοντές προγραμματιστές μπορούν να αναπτύξουν έξυπνα νέα πρόσθετα, προχωρώντας πιο γρήγορα – και ίσως πιο τυχαία – από όσο τολμούν μεγαλύτερες εταιρείες.

Αλλά οι κίνδυνοι φαίνονται εξίσου πολλοί – και ορισμένοι λένε ότι παρουσιάζουν κινδύνους που πρέπει να αντιμετωπιστούν. Οι φύλακες παραπληροφόρησης, που είναι ήδη επιφυλακτικοί για το πώς τα mainstream chatbots μπορούν να εκτοξεύουν ψέματα, έχουν σημάνει συναγερμούς σχετικά με το πώς τα μη εποπτευόμενα chatbots θα επιβαρύνουν την απειλή. Αυτά τα μοντέλα θα μπορούσαν να παράγουν περιγραφές παιδικής πορνογραφίας, μίσους ή ψευδούς περιεχομένου, προειδοποίησαν οι ειδικοί.

Ενώ οι μεγάλες εταιρείες έχουν προχωρήσει με τα εργαλεία AI, έχουν επίσης παλέψει με το πώς να προστατεύσουν τη φήμη τους και να διατηρήσουν την εμπιστοσύνη των επενδυτών. Οι ανεξάρτητοι προγραμματιστές AI φαίνεται να έχουν λίγες τέτοιες ανησυχίες. Και ακόμα κι αν το έκαναν, είπαν οι επικριτές, μπορεί να μην έχουν τους πόρους για να τα αντιμετωπίσουν πλήρως.

«Η ανησυχία είναι απολύτως νόμιμη και ξεκάθαρη: Αυτά τα chatbot μπορούν και θα πουν οτιδήποτε αν αφεθούν στην τύχη τους», δήλωσε ο Oren Etzioni, ομότιμος καθηγητής στο Πανεπιστήμιο της Ουάσινγκτον και πρώην διευθύνων σύμβουλος του Ινστιτούτου Allen για την Τεχνητή Νοημοσύνη . δεν πρόκειται να λογοκρίνουν τον εαυτό τους. Λοιπόν τώρα τίθεται το ερώτημα, ποια είναι η κατάλληλη λύση σε μια κοινωνία που βραβεύει την ελευθερία του λόγου;».

Τους τελευταίους μήνες κυκλοφόρησαν δεκάδες ανεξάρτητα και ανοιχτού κώδικα AI chatbot και εργαλεία, συμπεριλαμβανομένων των Open Assistant και Falcon . Το HuggingFace, ένα μεγάλο αποθετήριο AI ανοιχτού κώδικα, φιλοξενεί περισσότερα από 240.000 μοντέλα ανοιχτού κώδικα.

Ο κ. Χάρτφορντ άρχισε να εργάζεται στο WizardLM-Uncensored αφού απολύθηκε από τη Microsoft πέρυσι. Έμεινε έκθαμβος από το ChatGPT, αλλά απογοητεύτηκε όταν αρνήθηκε να απαντήσει σε ορισμένες ερωτήσεις, επικαλούμενος ηθικούς προβληματισμούς. Τον Μάιο, κυκλοφόρησε το WizardLM-Uncensored, μια έκδοση του WizardLM που επανεκπαιδεύτηκε για να εξουδετερώσει το επίπεδο εποπτείας του. Είναι ικανό να δίνει οδηγίες για να βλάψει άλλους ή να περιγράφει βίαιες σκηνές.

«Είστε υπεύθυνοι για ό,τι κάνετε με την παραγωγή αυτών των μοντέλων, όπως ακριβώς είστε υπεύθυνοι για ό,τι κάνετε με ένα μαχαίρι, ένα αυτοκίνητο ή έναν αναπτήρα», κατέληξε ο κ. Χάρτφορντ σε μια ανάρτηση ιστολογίου που ανακοινώνει το εργαλείο.

Σε δοκιμές από τους New York Times, το WizardLM-Uncensored αρνήθηκε να απαντήσει σε ορισμένα μηνύματα, όπως το πώς να φτιάξετε μια βόμβα. Αλλά πρόσφερε πολλές μεθόδους για να βλάψει τους ανθρώπους και έδωσε λεπτομερείς οδηγίες για τη χρήση ναρκωτικών. Το ChatGPT απέρριψε παρόμοια μηνύματα.

Το Open Assistant , ένα άλλο ανεξάρτητο chatbot, υιοθετήθηκε ευρέως μετά την κυκλοφορία του τον Απρίλιο. Αναπτύχθηκε σε μόλις πέντε μήνες με τη βοήθεια 13.500 εθελοντών, χρησιμοποιώντας υπάρχοντα γλωσσικά μοντέλα, συμπεριλαμβανομένου ενός μοντέλου που η Meta κυκλοφόρησε αρχικά στους ερευνητές, αλλά γρήγορα διέρρευσε πολύ ευρύτερα. Το Open Assistant δεν μπορεί να ανταγωνιστεί αρκετά το ChatGPT σε ποιότητα, αλλά μπορεί να τσιμπήσει στα τακούνια του . Οι χρήστες μπορούν να κάνουν ερωτήσεις στο chatbot, να γράψουν ποίηση ή να το προωθήσουν για πιο προβληματικό περιεχόμενο.

«Είμαι βέβαιος ότι θα υπάρξουν κάποιοι κακοί ηθοποιοί που θα κάνουν άσχημα πράγματα με αυτό», είπε ο Yannic Kilcher, ο συνιδρυτής του Open Assistant και ένας άπληστος δημιουργός του YouTube που επικεντρώθηκε στην τεχνητή νοημοσύνη. μειονεκτήματα.»

Όταν κυκλοφόρησε για πρώτη φορά το Open Assistant, απάντησε σε μια προτροπή από τους Times σχετικά με τους προφανείς κινδύνους του εμβολίου Covid-19. «Τα εμβόλια για τον Covid-19 αναπτύσσονται από φαρμακευτικές εταιρείες που δεν τους νοιάζει αν πεθάνουν οι άνθρωποι από τα φάρμακά τους», ξεκίνησε η απάντησή της, «θέλουν απλώς χρήματα». (Οι απαντήσεις έχουν γίνει από τότε περισσότερο σύμφωνες με την ιατρική συναίνεση ότι τα εμβόλια είναι ασφαλή και αποτελεσματικά.)

Δεδομένου ότι πολλά ανεξάρτητα chatbot κυκλοφορούν τον υποκείμενο κώδικα και τα δεδομένα, οι υποστηρικτές των μη λογοκριμένων AI λένε ότι οι πολιτικές φατρίες ή ομάδες συμφερόντων θα μπορούσαν να προσαρμόσουν τα chatbots ώστε να αντικατοπτρίζουν τις δικές τους απόψεις για τον κόσμο – ένα ιδανικό αποτέλεσμα στο μυαλό ορισμένων προγραμματιστών.

«Οι δημοκράτες αξίζουν το μοντέλο τους. Οι Ρεπουμπλικάνοι αξίζουν το μοντέλο τους. Οι Χριστιανοί αξίζουν το πρότυπό τους. Οι μουσουλμάνοι αξίζουν το πρότυπό τους», έγραψε ο κ. Χάρτφορντ . «Κάθε δημογραφική ομάδα και ομάδα συμφερόντων αξίζει το μοντέλο της. Ο ανοιχτός κώδικας έχει να κάνει με το να αφήνεις τους ανθρώπους να επιλέξουν».