Η εμφάνιση προηγμένων εργαλείων τεχνητής νοημοσύνης έχει αναδείξει σοβαρά ζητήματα αξιοπιστίας στον τομέα των online κριτικών. Οι πλαστές κριτικές έχουν αποτελέσει μακροχρόνιο πρόβλημα για δημοφιλείς ιστοσελίδες όπως το Amazon και το Yelp, με πολλές να ανταλλάσσονται μέσω κλειστών ομάδων στα κοινωνικά δίκτυα. Συχνά, αυτές οι ενώσεις ξεκινούν από εταιρείες που παρέχουν κίνητρα, όπως δώρα ή κουπόνια, προκειμένου να ενθαρρύνουν τους πελάτες να γράφουν θετικά σχόλια. Ωστόσο, το πρόσφατα δημοφιλές ChatGPT της OpenAI έχει επιτρέψει στους επιτήδειους να παράγουν αυτές τις κριτικές ταχύτερα και σε μεγαλύτερους όγκους, όπως αναφέρουν ειδικοί της τεχνολογίας.
Αν και η δημιουργία ψευδών κριτικών είναι παράνομη στις Ηνωμένες Πολιτείες, αυτή η πρακτική άκρως παραπλανητική αυξάνεται, ειδικά κατά την περίοδο των εορτών, όταν οι καταναλωτές βασίζονται στις αξιολογήσεις για τις αγορές τους.
Πού εντοπίζονται οι fake κριτικές;
Οι πλαστές κριτικές είναι διαδεδομένες σε αρκετούς κλάδους που περιλαμβάνουν το ηλεκτρονικό εμπόριο, φαγητό και διαμονή, καθώς και υπηρεσίες όπως επισκευές στο σπίτι και ιατρική φροντίδα. Σύμφωνα με την εταιρεία Transparency Company, η οποία έχει αναπτύξει λογισμικό ανίχνευσης fake κριτικών, το 2023 παρατηρήθηκε σημαντική αύξηση αυτών των κριτικών. Μια πρόσφατη έρευνά της διαπίστωσε ότι σχεδόν το 14% από 73 εκατομμύρια κριτικές μπορεί να ήταν ψευδείς, με 2,3 εκατομμύρια από αυτές να έχουν δημιουργηθεί από τεχνητή νοημοσύνη. Ο Maury Blackman, επενδυτής και σύμβουλος τεχνολογίας, δήλωσε ότι η τεχνητή νοημοσύνη λειτουργεί ως ένα εξαιρετικό εργαλείο για τους απατεώνες αξιολογήσεων.
Επιπλέον, η DoubleVerify, μια εταιρεία λογισμικού, ανέφερε μια σημαντική αύξηση σε εφαρμογές κινητών και έξυπνων τηλεοράσεων που χρησιμοποιούν κριτικές AI για να παραπλανήσουν πελάτες. Γύρω από τον Σεπτέμβριο, η Ομοσπονδιακή Επιτροπή Εμπορίου μήνυσε την Rytr, ένα εργαλείο συγγραφής τεχνητής νοημοσύνης, υποστηρίζοντας ότι ενθαρρύνει την εμφάνιση ψευδών κριτικών.
Είναι δύσκολο να εντοπιστούν οι ψευδείς κριτικές
Ο εντοπισμός του αν μια κριτική είναι ψευδής μπορεί να αποδειχθεί πιο περίπλοκος από ό,τι φαίνεται. Η Pangram Labs έχει υλοποιήσει ανίχνευση για πολλές διαδικτυακές πλατφόρμεςτις οποίες δήλωσε ότι έχουν αξιολογηθεί ανεξάρτητα. Πολλές κριτικές που δημιουργήθηκαν από τεχνητή νοημοσύνη φάνηκε να έχουν αναρτηθεί από χρήστες που προσπαθούσαν να αποκτήσουν το τίτλο «Elite» στο Yelp, προσπαθώντας να δώσουν την ψευδαίσθηση της αξιοπιστίας.
Είναι σημαντικό να σημειωθεί ότι η ύπαρξη κριτικών που δημιουργούνται από τεχνητή νοημοσύνη δεν σημαίνει απαραίτητα ότι αυτές είναι ψευδείς. Ορισμένοι καταναλωτές χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να εκφράσουν τις γνήσιες απόψεις τους ή να βελτιώσουν τη γραφή τους.
Τι κάνουν οι εταιρείες για την καταπολέμηση των fake κριτικών;
Πολλές μεγάλες εταιρείες εργάζονται πάνω σε πολιτικές για να διαχειριστούν το θέμα των κριτικών που δημιουργούνται από AI. Όπως δήλωσαν εκπρόσωποι της Amazon και της Trustpilot, οι πλατφόρμες τους θα επιτρέψουν δημοσιεύσεις κριτικών που προέρχονται από AI, εφόσον αντικατοπτρίζουν τη γνήσια εμπειρία των χρηστών. Αντίθετα, η Yelp έχει υιοθετήσει πιο αυστηρές περιορισμούς.
Με τη δημιουργία συνασπισμού, εταιρείες όπως η Amazon και το Booking.com προσπαθούν να αντεπεξέλθουν στην αύξηση ψευδών κριτικών. Σύμφωνα με την FTC, πρόστιμα θα επιβάλλονται σε όποιον συμμετέχει σε τέτοιες πρακτικές, ωστόσο οι πλατφόρμες διατηρούν την νομική τους προστασία για περιεχόμενο που δημοσιεύεται από τρίτους.
Εταιρείες τεχνολογίας, όπως η Google και η Yelp, έχουν μπλέξει σε νομικές διαδικασίες για ψευδείς κριτικές. Ωστόσο, ειδικοί δηλώνουν ότι οι προσπάθειές τους θα μπορούσαν να είναι πιο αποτελεσματικές. «Αυτά που έχουν μέχρι τώρα δεν αρκούν», δήλωσε ο Dean από το Fake Review Watch.
Πώς να αναγνωρίσετε fake κριτικές από AI
Οι καταναλωτές μπορούν να αναγνωρίσουν ψευδείς κριτικές αν παρατηρούν συγκεκριμένα προειδοποιητικά σημάδια. Υπερβολικά ενθουσιώδεις ή υπερβολικά αρνητικές κριτικές συνιστούν κόκκινες σημαίες. Επίσης, αναφορές σε αργκό ή επαναλαμβανόμενα στοιχεία προϊόντων μπορεί να αποτελούν ενδείξεις. Έρευνες δείχνουν ότι οι άνθρωποι συχνά δυσκολεύονται να διακρίνουν κριτικές που δημιουργούνται από AI από αυτές που έχουν γραφεί από ανθρώπους.
Οι κριτικές που παράγονται από AI είναι συνήθως πιο λεπτομερείς και δομημένες, χρησιμοποιώντας μια σειρά κλισέ εκφράσεων. Οι online αγοραστές θα πρέπει να είναι προσεκτικοί και να ελέγχουν τη δομή και το περιεχόμενο των κριτικών που διαβάζουν.