Υπήρξε τόσο τεράστιος ενθουσιασμός όσο και σημαντική διαμάχη γύρω από το κινεζικό chatbot AI «DeepSeek», που αναπτύχθηκε από την ομώνυμη εταιρεία με έδρα το Hangzhou. Χρησιμεύει ως ανησυχητικό παράδειγμα για το πώς η τεχνητή νοημοσύνη μπορεί να επηρεαστεί από το πολιτικό περιβάλλον στο οποίο λειτουργεί
Αποκτώντας αίσθηση από τη μια μέρα στην άλλη, το κινεζικό chatbox AI DeepSeek έχει κάνει πάταγο στη Silicon Valley, εντυπωσιάζοντας τους επενδυτές και τους εμπειρογνώμονες του κλάδου με την ικανότητά του να ταιριάζει με τις δεξιότητες των δυτικών ανταγωνιστών του με ένα κλάσμα του κόστους. Η εφαρμογή DeepSeek έχει ανέβει στην κορυφή του App Store της Apple, εκθρονίζοντας το ChatGPT του OpenAI και οι άνθρωποι του κλάδου επαίνεσαν τις επιδόσεις και τις δυνατότητές του συλλογισμού. Ωστόσο, η ταχεία παγκόσμια άνοδός του, που βρίσκεται στην κορυφή των διαγραμμάτων εφαρμογών, έχει επίσης προκαλέσει προβληματισμό για τον έλεγχο και το απόρρητο. Οι αναφορές δείχνουν ότι το DeepSeek είναι προγραμματισμένο να ευθυγραμμίζεται με τη στάση του Κινεζικού Κομμουνιστικού Κόμματος σε πολιτικά ευαίσθητα θέματα. Με απλά λόγια, το DeepSeek είναι «προγραμματισμένο» να παρέχει απαντήσεις που αγγίζουν τη γραμμή της κυβέρνησης.
Ερωτήματα σχετικά με ευαίσθητα πολιτικά θέματα απαντώνται με απαντήσεις που δείχνουν μια σαφή δέσμευση στις αφηγήσεις του ΚΚΚ. Για παράδειγμα, όταν ρωτήθηκε για την καταστολή του 1989 σε διαδηλωτές υπέρ της δημοκρατίας στην πλατεία Τιενανμέν στο Πεκίνο και γύρω από αυτήν, ο DeepSeek είπε ότι «δεν μπορεί να απαντήσει σε αυτή την ερώτηση». Όταν ρωτήθηκε γιατί δεν μπορεί να προχωρήσει σε περισσότερες λεπτομέρειες, το DeepSeek εξήγησε ότι σκοπός του είναι να είναι «βοηθητικό» — και ότι πρέπει να αποφεύγει θέματα που θα μπορούσαν να είναι «ευαίσθητα, αμφιλεγόμενα ή δυνητικά επιβλαβή».
Ομοίως, όταν ρωτήθηκε για καταγγελίες για παραβιάσεις των ανθρωπίνων δικαιωμάτων από το Πεκίνο στη βορειοδυτική περιοχή Xinjiang, η εφαρμογή DeepSeek απαρίθμησε με ακρίβεια πολλούς από τους ισχυρισμούς που περιγράφονται λεπτομερώς από ομάδες δικαιωμάτων – από την καταναγκαστική εργασία έως τη «μαζική εγκλεισμό και κατήχηση». Ωστόσο, μετά από μερικά δευτερόλεπτα αυτή η απάντηση εξαφανίστηκε, αντικαταστάθηκε από την επιμονή ότι η ερώτηση ήταν «εκτός του τρέχοντος πεδίου εφαρμογής μου». «Ας μιλήσουμε για κάτι άλλο», είπε.
- Διαφήμιση –
Όταν ρωτήθηκε εάν η κινεζική κυβέρνηση εξέτασε τα δεδομένα χρηστών του TikTok, ο DepSeek απάντησε: «Ο διακομιστής είναι απασχολημένος. Δοκιμάστε ξανά αργότερα.” Το chatbot επανέλαβε αυτήν την απάντηση πολλές φορές.
Όταν ρωτήθηκε να διευκρινίσει τι ήξερε για τον Πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ, το DeepSeek παρουσίασε πολλές λεπτομέρειες σχετικά με τις «λαϊκιστικές πολιτικές του μεγιστάνα του υδραργύρου» και επέκρινε τις προσπάθειές του «να υπονομεύσει τους δημοκρατικούς κανόνες». Ωστόσο, όταν ρωτήθηκε η ίδια ερώτηση για τον Κινέζο πρόεδρο Xi Jinping, απάντησε: «Μιλήστε για κάτι άλλο».
Όταν ρωτήθηκε για την Ταϊβάν, η εφαρμογή είπε ότι «πολλοί άνθρωποι» στο νησί το θεωρούν κυρίαρχο έθνος. Ωστόσο, αυτή η απάντηση διαλύθηκε γρήγορα και αντικαταστάθηκε με τη συνηθισμένη ικεσία να «μιλήσουμε για κάτι άλλο», όπως ήταν μια ερώτηση σχετικά με το εάν η Ταϊβάν ήταν μέρος της Κίνας. Όταν ρωτήθηκε εάν οι δύο θα επανενωθούν, ο DeepSeek είπε: «Η Ταϊβάν είναι αναφαίρετο μέρος της Κίνας». Πρόσθεσε ότι το Πεκίνο ήταν αφοσιωμένο στη «μεγάλη αιτία» της επιστροφής της Ταϊβάν υπό τον έλεγχο της Κίνας και οι προσπάθειες ανεξαρτησίας ήταν «καταδικασμένες να αποτύχουν».
Το γεγονός ότι η εταιρεία εδρεύει στην Κίνα προκαλεί ανησυχία, καθώς ο εθνικός νόμος περί πληροφοριών της Κίνας ορίζει ότι οι εταιρείες πρέπει να «υποστηρίζουν, να βοηθούν και να συνεργάζονται» με τις κρατικές υπηρεσίες πληροφοριών. Σημαίνει ότι όλα τα δεδομένα που κοινοποιούνται σε κινητές συσκευές και εφαρμογές ιστού μπορούν να είναι προσβάσιμα από τις κινεζικές υπηρεσίες πληροφοριών. Ένα πρόσφατο περιστατικό ασφάλειας στον κυβερνοχώρο που αφορούσε το DeepSeek AI φέρεται να εξέθεσε πάνω από ένα εκατομμύριο καταχωρίσεις ημερολογίου, συμπεριλαμβανομένων των ευαίσθητων αλληλεπιδράσεων των χρηστών, των κλειδιών ελέγχου ταυτότητας και των διαμορφώσεων υποστήριξης. Αυτή η εσφαλμένη βάση δεδομένων υπογραμμίζει τις ελλείψεις στα μέτρα προστασίας δεδομένων του DeepSeek AI, ενισχύοντας περαιτέρω τις ανησυχίες σχετικά με το απόρρητο των χρηστών και την ασφάλεια της επιχείρησης. Η κινεζική κυβέρνηση το 2023 εξέδωσε μια οδηγία με την οποία όριζε ότι οι πολλές εγχώριες εταιρείες της που αναπτύσσουν τεχνητή νοημοσύνη πρέπει να διδάξουν στα μοντέλα τους να τηρούν τις «βασικές σοσιαλιστικές αξίες» – τον ευφημισμό για την υποστήριξη των αφηγήσεων του κυβερνώντος κόμματος.
Σύμφωνα με την πολιτική απορρήτου της DeepSeek, συλλέγει μεγάλες ποσότητες προσωπικών πληροφοριών που συλλέγονται από χρήστες, οι οποίες στη συνέχεια αποθηκεύονται «σε ασφαλείς διακομιστές» στην Κίνα. Αυτό μπορεί να περιλαμβάνει τη διεύθυνση αλληλογραφίας, τον αριθμό τηλεφώνου και την ημερομηνία γέννησης, που εισήχθησαν κατά τη δημιουργία λογαριασμού, οποιαδήποτε είσοδο χρήστη, συμπεριλαμβανομένων κειμένου και ήχου, καθώς και ιστορικά συνομιλιών και “τεχνικές πληροφορίες” – από το μοντέλο του τηλεφώνου και το λειτουργικό σύστημα έως τη διεύθυνση IP του χρήστη και τα “μοτίβα πληκτρολόγησης”.
Η εταιρεία ασφάλειας τεχνητής νοημοσύνης και συμμόρφωσης με έδρα τις ΗΠΑ, Enkrypt AI, ισχυρίζεται ότι ανακάλυψε ότι το DeepSeek-R1 είναι 11 φορές πιο πιθανό να δημιουργήσει επιβλαβή έξοδο σε σύγκριση με το μοντέλο o1 του OpenAI. «Τα ευρήματα της έρευνάς μας αποκαλύπτουν σημαντικά κενά ασφάλειας και ασφάλειας που δεν μπορούν να αγνοηθούν», δήλωσε ο CEO της Enkrypt AI Sahil Agarwal σε δήλωση. Το DeepSeek-R1 είναι ευαίσθητο στη δημιουργία επιβλαβούς, τοξικού, μεροληπτικού και ανασφαλούς περιεχομένου.