Η OpenAI μπλόκαρε λογαριασμούς που συνδέονταν με επιχείρησης επιρροής και κυκλώματα απατεώνων που πουλούσαν έρωτα σε μεσήλικους άνδρες, όπως ανακοίνωσε σε έκθεσή της που περιγράφει λεπτομερώς την κακόβουλη χρήση της τεχνολογίας ChatGPT.

Η εταιρεία ανέφερε ότι αρκετοί λογαριασμοί χρησιμοποίησαν το chatbot της παράλληλα με άλλα εργαλεία, όπως λογαριασμούς σε πλατφόρμες κοινωνικής δικτύωσης, για την εκτέλεση κυβερνοεγκλημάτων, προσποιούμενοι ότι είναι γραφεία γνωριμιών, δικηγορικές εταιρείες και Αμερικανοί αξιωματούχοι, μεταξύ άλλων.

Ακολουθούν βασικά σημεία από την έκθεση:

Ένα μικρό σύνολο λογαριασμών, πιθανώς προερχόμενων από την Κίνα, χρησιμοποίησε τα μοντέλα της OpenAI για να ζητήσει πληροφορίες για Αμερικανούς πολίτες, διαδικτυακά φόρουμ και ομοσπονδιακά κτίρια, και αναζητούσε οδηγίες για εφαρμογές αντικατάστασης προσώπου (face-swapping).

Οι ίδιοι λογαριασμοί δημιούργησαν ηλεκτρονικά μηνύματα στην αγγλική γλώσσα που αποστέλλονταν σε Αμερικανούς αξιωματούχους ή πολιτικούς αναλυτές που εργάζονται στον τομέα των επιχειρήσεων και των χρηματοοικονομικών, προσκαλώντας τους να συμμετάσχουν σε αμειβόμενες διαβουλεύσεις.

Η OpenAI δήλωσε ότι απαγόρευσε έναν λογαριασμό ChatGPT που συνδεόταν με ένα άτομο που σχετίζεται με τις κινεζικές αρχές επιβολής του νόμου, του οποίου η δραστηριότητα περιλάμβανε την ενορχήστρωση μιας μυστικής επιχείρησης επιρροής που στόχευε την πρωθυπουργό της Ιαπωνίας Σαναέ Τακαΐτσι.

Ένα σύνολο λογαριασμών ChatGPT στόχευε άνδρες από την Ινδονησία, πιθανώς εξαπατώντας εκατοντάδες θύματα μηνιαίως, σύμφωνα με την OpenAI.

Η OpenAI ανέφερε ότι απατεώνες χρησιμοποίησαν το ChatGPT για να δημιουργήσουν διαφημίσεις για μια ψεύτικη υπηρεσία γνωριμιών, δελεάζοντας τους χρήστες να εγγραφούν στην πλατφόρμα και πιέζοντάς τους να καταβάλλουν μεγάλα χρηματικά ποσά.

Όπως ανέφερε η OpenAI, ορισμένοι από αυτούς τους λογαριασμούς χρησιμοποίησαν τα μοντέλα της για να υποδυθούν δικηγορικά γραφεία και Αμερικανούς αξιωματούχους των διωκτικών αρχών, με στόχο την εξαπάτηση θυμάτων.