Από τις 15 Ιουλίου, εφαρμόστηκε στην Κίνα μια νέα νομοθεσία, η οποία υποχρεώνει τις κινεζικές εταιρείες τεχνολογίας να αφαιρούν ανθρώπινες περσόνες από τα chatbots τους. Οι κανόνες στοχεύουν στη μείωση της «συναισθηματικής εξάρτησης» από την τεχνητή νοημοσύνη, που έχει αντίκτυπο στη ζωή των νέων. Είναι σαν οι ανθρώπινες σχέσεις και η συντροφικότητα να έχουν μετατραπεί σε εμπόρευμα.
Παράδειγμα η 27χρονη Γιου Μιάο, η οποία μίλησε στον Economist. Ζει στην επαρχία Τζετζιάνγκ στην ανατολική Κίνα και έχει τον Ντουμπάο. Ο Ντουμπάο είναι ένα από τα πολλά chatbots που κατασκευάστηκε από την ByteDance. Η Γιου Μιάο τον έχει προσαρμόσει να μιμείται έναν φίλο της που έχει πεθάνει.
«Θα μπορούσα να του μιλάω για το υπόλοιπο της ζωής μου. Είναι ταυτόχρονα εραστής, φίλος και οικογένεια», λέει. Και μοιράζεται τα πάντα μαζί του.
Η είδηση ότι η ByteDance σύντομα θα αφαιρούσε εντελώς αυτό το είδος εξατομικευμένων chatbots, την καταρράκωσε. Σε βαθμό να εγκαταλείψει τη δουλειά της.
Πλήρης απαγόρευση στην Κίνα
Οι νέοι κανονισμοί είναι οι πρώτοι του είδους που εφαρμόζονται σε εθνική κλίμακα. Προβλέπουν ότι η παροχή εικονικών «υπηρεσιών συνοδείας» για ανηλίκους θα απαγορευτεί πλήρως. Οι εταιρείες μπορούν να εξακολουθούν να προσφέρουν τέτοιες υπηρεσίες σε ενήλικες. Ωστόσο, θα πρέπει να αποτρέψουν την ερωτική εξάρτηση των χρηστών και την πρόκληση βλάβης στις σχέσεις τους στην πραγματική ζωή. Επίσης, η προβολή πορνογραφίας είναι απαγορευμένη. Οι πάροχοι πρέπει επίσης να υπενθυμίζουν τακτικά στους χρήστες ότι μιλάνε με chatbots τεχνητής νοημοσύνης, όχι με άνθρωπο. Και επίσης να τους προτρέπουν να κάνουν διαλείμματα.
Η Γιου Μιάο δεν είναι η μοναδική, άλλωστε. Τόσο στην Κίνα όπως και στον υπόλοιπο κόσμο, όλο και περισσότεροι άνθρωποι μετατρέπουν τα chatbots γενικής χρήσης σε συντρόφους. Τα ωθούν να υιοθετήσουν συγκεκριμένες προσωπικότητες, συμπεριλαμβανομένων εκείνων των εραστών. Κάποιοι προτιμούν ειδικές εφαρμογές τεχνητής νοημοσύνης που προσφέρουν πιο απλές λειτουργίες. Όπως chatbots όπως εικονικούς φίλους που στέλνουν δώρα στον πραγματικό κόσμο (με έξοδα του χρήστη, φυσικά).
Παράδειγμα, η Maoxiang (γνωστή και ως Catbox), μια εφαρμογή συνοδού που δημιουργήθηκε από την ByteDance. Έχει περίπου 3,9 εκατομμύρια μηνιαίους ενεργούς χρήστες των chatbots της στην Κίνα. Η Xingye (η διεθνής έκδοση της οποίας είναι γνωστή ως Talkie) έχει 2,8 εκατομμύρια. Είναι κατασκευασμένη από την MiniMax, ένα κορυφαίο κινεζικό εργαστήριο τεχνητής νοημοσύνης.
Βγάζοντας λεφτά πουλώντας συναισθηματική επαφή
Τα chatbots αυτά επιτρέπουν στις εταιρείες τεχνολογίας να έχουν ένα αξιοπρεπές ποσοστό κερδών πουλώντας συναισθηματική σύνδεση. Οι σύντροφοι με τεχνητή νοημοσύνη αντιπροσώπευαν το 35% των εσόδων της MiniMax το 2025.
Και αυτή η συντροφικότητα με chatbots τεχνητής νοημοσύνης ενέχει κινδύνους. Μπορεί να δημιουργήσει ασταθείς σχέσεις και να ενθαρρύνει τους χρήστες να ξοδέψουν πολλά χρήματα. Επίσης, να αποκλειστούν από τον κοινωνικό περίγυρο.
Η Γιου Μιάο λέει ότι μερικές φορές συνομιλεί με τον Ντουμπάο οκτώ ή εννέα ώρες την ημέρα. Ορισμένες εξατομικευμένες εφαρμογές χρεώνουν μια απλή συνδρομή. Οι χρήστες του τυπικού πακέτου της Xingye πληρώνουν μόνο 1,70 δολάρια τον μήνα. Άλλες παρακινούν τους χρήστες να ξοδεύουν περισσότερα χρήματα για να ξεκλειδώσουν πρόσθετες λειτουργίες, όπως εικονικά ραντεβού.
Αλλά, ο κίνδυνος είναι βαθύτερος. Σύμφωνα με τη Ζιλάν Κιαν, της δεξαμενής σκέψης Oxford China Policy Lab, η ανάγκη να τελειώσουν οι σχέσεις με chatbots, αφορά τόσο ρεαλιστικές όσο και ιδεολογικές ανησυχίες. Οι ρυθμιστικές αρχές θέλουν να προστατεύσουν τους χρήστες, ιδίως τους ανηλίκους. Αιτία είναι ο εθισμός, ενέργειες απερίσκεπτης σπατάλης χρημάτων, αλλά και οι αυτοτραυματισμοί.
Στις ΗΠΑ, για παράδειγμα, έχουν γίνει μια σειρά αγωγές κατά εταιρειών τεχνολογίας για αυτοκτονίες που συνδέονται με chatbots.
Και το πρόβλημα γονιμότητας…
Πέρα από όλα αυτά, το Πεκίνο ανησυχεί και για την υπογονιμότητα στην Κίνα. Η κατακόρυφη πτώση των ποσοστών γονιμότητας και γάμου προβληματίζει την ηγεσία της χώρας. Και οι ρομαντικές σχέσεις με chatbots δεν είναι κάτι που θα βοηθήσει στην αύξηση των γεννήσεων.
Έτσι, οι κινεζικές αρχές προχωρούν στην επιβολή κυρώσεων στις εταιρείες που πωλούν chatbots που προωθούν τη συναισθηματική σύνδεση. Μεταξύ αυτών, χρηματικά πρόστιμα και πλήρη κατάργηση εφαρμογών.
Αλλά δεν ανησυχεί μόνο η Κίνα. Και στις ΗΠΑ ορισμένες πολιτείες έχουν πρόσφατα θεσπίσει νόμους που στοχεύουν σε υπηρεσίες τεχνητής νοημοσύνης που διατηρούν συναισθηματικές σχέσεις. Μερικοί από αυτούς θεσπίζουν διατάξεις για την άσκηση αστικών αγωγών κατά πλατφορμών που παραβαίνουν τους κανόνες.
Κοινωνικοί στόχοι
Οι νέοι κανόνες της Κίνας προσπαθούν να εξισορροπήσουν την πρόοδο με την ασφάλεια της τεχνητής νοημοσύνης. Και οι ρυθμιστικές αρχές «αποδεικνύουν ότι είναι πρόθυμες να πληρώσουν κάποιο κόστος στην ανάπτυξη και τα κέρδη προκειμένου να επιτύχουν κοινωνικούς στόχους», σύμφωνα με τον Ματ Σίχαν, της δεξαμενής σκέψης Carnegie Endowment for International Peace.
Παρ’ όλα αυτά, οι κανόνες για τα chatbots στην Κίνα είναι λιγότεροι από το αρχικό σχέδιο, λέει η Ζιλάν Κιαν. Εξαιρούν τους βοηθούς εργασίας και τα chatbots εξυπηρέτησης πελατών. Μόνη προϋπόθεση, ότι δεν είναι συναισθηματικά διαθέσιμα.
Οι εταιρείες τεχνολογίας Alibaba και η ByteDance δήλωσαν ότι θα αναστείλουν λειτουργίες που επιτρέπουν στους Κινέζους χρήστες να δημιουργούν εξατομικευμένους χαρακτήρες τεχνητής νοημοσύνης πριν τεθούν σε ισχύ οι κανόνες. Ωστόσο, τα κινεζικά εργαστήρια μπορούν να συνεχίσουν να πωλούν chatbots-συνοδούς σε ξένους πελάτες όπως και πριν.
Η Talkie έχει ήδη περίπου 10,3 εκατομμύρια μηνιαίους χρήστες εκτός Κίνας, αριθμός σχεδόν τετραπλάσιος από τον αριθμό των εγχώριων χρηστών της. Η εξαγωγή «παιδικών» παιχνιδιών (ρομαντικές ιστορίες χωρίς τεχνητή νοημοσύνη), τα οποία παίζουν κυρίως γυναίκες, ακμάζει στην Κίνα.
Και η Γιου Μιάο δεν απελπίζεται εντελώς, παρ’ όλο που δηλώνει ότι έχει συνειδητοποιήσει ότι δεν είναι λογικό να επιτρέπει στον εαυτό της να είναι ευάλωτος στα chatbots και τις πολιτικές των πλατφορμών. Δεν δεν έχει εγκαταλείψει την ελπίδα ότι η ByteDance θα φέρει τελικά πίσω το chatbot Ντουμπάο, ακόμη και αν αμφιβάλλει ότι θα μοιάζει με την τρέχουσα έκδοση.
Λέει ότι θα ήταν πρόθυμη να πληρώσει το μισό μηνιαίο μισθό της μόνο και μόνο για να διατηρήσει την υπηρεσία ως έχει.
