Οι εταιρείες τεχνολογίας υπογράφουν συμφωνία για την καταπολέμηση της εκλογικής νοθείας που δημιουργείται από την τεχνητή νοημοσύνη

By | February 17, 2024

Κορυφαίες εταιρείες τεχνολογίας υπέγραψαν την Παρασκευή ένα σύμφωνο για να λάβουν οικειοθελώς «εύλογες προφυλάξεις» για να αποτρέψουν τη χρήση εργαλείων τεχνητής νοημοσύνης για τη διατάραξη των δημοκρατικών εκλογών σε όλο τον κόσμο.

Στελέχη από την Adobe, την Amazon, την Google, την IBM, τη Meta, τη Microsoft, το OpenAI και το TikTok συγκεντρώθηκαν στη Διάσκεψη Ασφαλείας του Μονάχου για να ανακοινώσουν ένα νέο πλαίσιο για τον τρόπο με τον οποίο ανταποκρίνονται στα deepfakes που δημιουργούνται από την τεχνητή νοημοσύνη που παραπλανούν σκόπιμα τους ψηφοφόρους. Δώδεκα άλλες εταιρείες – συμπεριλαμβανομένης της X του Elon Musk – υπογράφουν επίσης τη συμφωνία.

«Όλοι αναγνωρίζουν ότι καμία εταιρεία τεχνολογίας, καμία κυβέρνηση, καμία οργάνωση της κοινωνίας των πολιτών δεν είναι ικανή να αντιμετωπίσει μόνη της την έλευση αυτής της τεχνολογίας και την πιθανή κακή χρήση της», δήλωσε ο Nick Clegg, πρόεδρος παγκόσμιων υποθέσεων στη Meta, τη μητρική εταιρεία από Facebook και Instagram, σε συνέντευξη πριν από τη σύνοδο κορυφής.

Η συμφωνία είναι σε μεγάλο βαθμό συμβολική, αλλά στοχεύει όλο και πιο ρεαλιστικές εικόνες, ήχο και βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη «που παραποιούν ή αλλοιώνουν παραπλανητικά την εμφάνιση, τη φωνή ή τις ενέργειες πολιτικών υποψηφίων, εκλογικών αξιωματούχων και άλλων βασικών ενδιαφερομένων σε δημοκρατικές εκλογές ή που παρέχουν ψευδείς πληροφορίες στους ψηφοφόρους σχετικά με το πότε, πού και πώς μπορούν να ψηφίσουν νόμιμα».

Οι εταιρείες δεν δεσμεύονται να απαγορεύσουν ή να αφαιρέσουν τα deepfakes. Αντίθετα, η συμφωνία περιγράφει μεθόδους που θα χρησιμοποιήσουν για να προσπαθήσουν να εντοπίσουν και να επισημάνουν το παραπλανητικό περιεχόμενο τεχνητής νοημοσύνης όταν δημιουργείται ή διανέμεται στις πλατφόρμες τους. Σημειώνει ότι οι εταιρείες θα μοιράζονται τις βέλτιστες πρακτικές μεταξύ τους και θα παρέχουν «γρήγορες και ανάλογες απαντήσεις» όταν το περιεχόμενο αρχίσει να διαδίδεται.

Η ασάφεια των δεσμεύσεων και η έλλειψη δεσμευτικών απαιτήσεων πιθανότατα βοήθησαν να κερδίσουν μια διαφορετική ομάδα εταιρειών, αλλά οι απογοητευμένοι υποστηρικτές αναζητούσαν ισχυρότερες εγγυήσεις.

«Η γλώσσα δεν είναι τόσο δυνατή όσο θα περίμενε κανείς», είπε η Rachel Orey, ανώτερη αναπληρώτρια διευθύντρια του Elections Project στο Bipartisan Policy Center. «Πιστεύω ότι πρέπει να δώσουμε τα εύσημα εκεί που οφείλονται και να αναγνωρίσουμε ότι οι εταιρείες έχουν συμφέρον να μην χρησιμοποιούνται τα εργαλεία τους για να υπονομεύσουν τις ελεύθερες και δίκαιες εκλογές. Τούτου λεχθέντος, είναι εθελοντικό και θα παρακολουθούμε για να δούμε αν θα το ακολουθήσουν».

Ο Clegg είπε ότι κάθε εταιρεία “έχει δικαίως το δικό της σύνολο πολιτικών περιεχομένου”.

«Αυτή δεν είναι μια προσπάθεια επιβολής ενός ζοριού σε όλους», είπε. «Και ούτως ή άλλως, κανείς στη βιομηχανία δεν πιστεύει ότι είναι δυνατό να αντιμετωπίσει ένα εντελώς νέο τεχνολογικό παράδειγμα, να σκουπίζει τα πράγματα κάτω από το χαλί και να προσπαθεί να παίξει και να βρει όλα όσα νομίζεις ότι μπορεί να ξεγελάσει κάποιον.

Αρκετοί πολιτικοί ηγέτες από την Ευρώπη και τις ΗΠΑ συμμετείχαν επίσης στην ανακοίνωση της Παρασκευής. Η Αντιπρόεδρος της Ευρωπαϊκής Επιτροπής Βέρα Γιουρόβα δήλωσε ότι, αν και μια τέτοια συμφωνία δεν μπορεί να είναι ολοκληρωμένη, «περιέχει πολύ επιδραστικά και θετικά στοιχεία». Προέτρεψε επίσης τους συναδέλφους πολιτικούς να αναλάβουν την ευθύνη για τη μη χρήση εργαλείων τεχνητής νοημοσύνης με παραπλανητικούς τρόπους και προειδοποίησε ότι η παραπληροφόρηση που βασίζεται στην τεχνητή νοημοσύνη θα μπορούσε να επιφέρει «το τέλος της δημοκρατίας, όχι μόνο στα κράτη μέλη της ΕΕ».

Η συμφωνία στην ετήσια συνάντηση ασφαλείας στη γερμανική πόλη έρχεται σε μια στιγμή που περισσότερες από 50 χώρες αναμένεται να διεξαγάγουν εθνικές εκλογές το 2024. Το Μπαγκλαντές, η Ταϊβάν, το Πακιστάν και, πιο πρόσφατα, η Ινδονησία το έχουν ήδη κάνει.

Οι προσπάθειες για εκλογική παρέμβαση που δημιουργείται από την τεχνητή νοημοσύνη έχουν ήδη ξεκινήσει, όπως όταν ρομποτικές κλήσεις με τεχνητή νοημοσύνη που μιμούνταν τη φωνή του προέδρου των ΗΠΑ Τζο Μπάιντεν προσπάθησαν να αποθαρρύνουν τους ανθρώπους από το να ψηφίσουν στις προκριματικές εκλογές στο Νιου Χάμσαϊρ τον περασμένο μήνα.

Λίγες μέρες πριν από τις εκλογές στη Σλοβακία τον Νοέμβριο, ηχογραφήσεις που δημιουργήθηκαν από την τεχνητή νοημοσύνη απεικόνιζαν έναν υποψήφιο να συζητά σχέδια για την αύξηση των τιμών της μπύρας και τη νοθεία των εκλογών. Οι ελεγκτές στοιχείων προσπάθησαν να τα αναγνωρίσουν ως ψευδή καθώς διαδίδονταν στα μέσα κοινωνικής δικτύωσης.

Οι πολιτικοί έχουν πειραματιστεί επίσης με την τεχνολογία, από τη χρήση chatbots AI για την επικοινωνία με τους ψηφοφόρους έως την προσθήκη εικόνων που δημιουργούνται από AI σε διαφημίσεις.

Η συμφωνία καλεί τις πλατφόρμες να «δώσουν προσοχή στο πλαίσιο και, ειδικότερα, στη διαφύλαξη της εκπαιδευτικής, ντοκιμαντέρ, καλλιτεχνικής, σατιρικής και πολιτικής έκφρασης».

Είπε ότι οι εταιρείες θα επικεντρωθούν στη διαφάνεια για τους χρήστες σχετικά με τις πολιτικές τους και θα εργαστούν για να εκπαιδεύσουν το κοινό σχετικά με το πώς μπορούν να αποφύγουν να πέσουν θύματα πλαστών τεχνητής νοημοσύνης.

Οι περισσότερες εταιρείες έχουν δηλώσει προηγουμένως ότι βάζουν διασφαλίσεις στα δικά τους εργαλεία παραγωγής τεχνητής νοημοσύνης που μπορούν να χειριστούν εικόνες και ήχο, ενώ παράλληλα εργάζονται για τον εντοπισμό και την επισήμανση περιεχομένου που δημιουργείται από AI, ώστε οι χρήστες των μέσων κοινωνικής δικτύωσης να γνωρίζουν εάν αυτό που βλέπουν είναι πραγματικό. Ωστόσο, οι περισσότερες από τις προτεινόμενες λύσεις δεν έχουν ακόμη εφαρμοστεί και οι εταιρείες έχουν αντιμετωπίσει πιέσεις να κάνουν περισσότερα.

Αυτή η πίεση εντείνεται στις ΗΠΑ, όπου το Κογκρέσο δεν έχει ακόμη εγκρίνει νόμους που ρυθμίζουν την τεχνητή νοημοσύνη στην πολιτική, αφήνοντας τις εταιρείες να αυτοκυβερνούνται σε μεγάλο βαθμό.

Η Ομοσπονδιακή Επιτροπή Επικοινωνιών επιβεβαίωσε πρόσφατα ότι τα ηχητικά κλιπ που δημιουργούνται από τεχνητή νοημοσύνη σε ρομποκλήσεις είναι αντίθετα με το νόμο, αλλά αυτό δεν καλύπτει τα βαθιά ψεύτικα ήχου όταν κυκλοφορούν στα μέσα κοινωνικής δικτύωσης ή σε διαφημίσεις καμπάνιας.

Πολλές εταιρείες μέσων κοινωνικής δικτύωσης έχουν ήδη θεσπίσει πολιτικές για την πρόληψη παραπλανητικών αναρτήσεων σχετικά με εκλογικές διαδικασίες – είτε δημιουργούνται από AI είτε όχι. Η Meta λέει ότι αφαιρεί την παραπληροφόρηση σχετικά με «ημερομηνίες, τοποθεσίες, ώρες και μεθόδους ψηφοφορίας, εγγραφή ψηφοφόρων ή συμμετοχή στην απογραφή», καθώς και άλλες ψευδείς δημοσιεύσεις που έχουν σχεδιαστεί για να παρεμποδίσουν τη συμμετοχή κάποιου στα κοινά.

Ο Τζεφ Άλεν, συνιδρυτής του Ινστιτούτου Integrity και πρώην επιστήμονας δεδομένων στο Facebook, είπε ότι η συμφωνία φαίνεται σαν ένα «θετικό βήμα», αλλά θα ήθελε οι εταιρείες κοινωνικής δικτύωσης να λάβουν άλλες ενέργειες για την καταπολέμηση της παραπληροφόρησης, όπως η δημιουργία συστημάτων συστάσεων περιεχομένου. που δεν δίνουν προτεραιότητα στη δέσμευση πάνω από όλα.

Η Lisa Gilbert, εκτελεστική αντιπρόεδρος της ομάδας υπεράσπισης Public Citizen, υποστήριξε την Παρασκευή ότι η συμφωνία “δεν είναι αρκετή” και ότι οι εταιρείες τεχνητής νοημοσύνης θα πρέπει “να κρατήσουν πίσω στην τεχνολογία”, όπως οι υπερρεαλιστικές γεννήτριες κειμένου σε βίντεο. σημαντικούς πόρους και επαρκείς διασφαλίσεις που θα μας βοηθήσουν να αποφύγουμε πολλά πιθανά προβλήματα».

Εκτός από τις εταιρείες που βοήθησαν στη διαμεσολάβηση της συμφωνίας της Παρασκευής, άλλοι υπογράφοντες περιλαμβάνουν τους προγραμματιστές chatbot Anthropic και Inflection AI. εκκίνηση κλώνων φωνής ElevenLabs. σχεδιαστής τσιπ Arm Holdings? εταιρείες ασφαλείας McAfee και TrendMicro. και Stability AI, γνωστή για την κατασκευή της συσκευής απεικόνισης Stable Diffusion.

Αξιοσημείωτα απουσιάζει ένα άλλο δημοφιλές πρόγραμμα δημιουργίας εικόνων AI, το Midjourney. Η startup με έδρα το Σαν Φρανσίσκο δεν απάντησε αμέσως σε αίτημα για σχολιασμό την Παρασκευή.

Η συμπερίληψη του Χ – που δεν αναφέρεται σε προηγούμενη ανακοίνωση για την εκκρεμή συμφωνία – ήταν μια από τις εκπλήξεις της συμφωνίας της Παρασκευής. Ο Μασκ μείωσε δραστικά τις ομάδες εποπτείας περιεχομένου αφού ανέλαβε τον έλεγχο του πρώην Twitter και έχει περιγράψει τον εαυτό του ως «απολυτελιστή του ελεύθερου λόγου».

Σε μια δήλωση που κυκλοφόρησε την Παρασκευή, η διευθύνουσα σύμβουλος της X Linda Yaccarino είπε ότι «όλοι οι πολίτες και οι επιχειρήσεις έχουν ευθύνη να προστατεύσουν ελεύθερες και δίκαιες εκλογές».

«Η AX δεσμεύεται να διαδραματίσει το ρόλο της συνεργαζόμενη με τους ομολόγους της για την καταπολέμηση των απειλών της τεχνητής νοημοσύνης προστατεύοντας παράλληλα την ελευθερία της έκφρασης και μεγιστοποιώντας τη διαφάνεια», είπε.

__

Το Associated Press λαμβάνει υποστήριξη από διάφορα ιδιωτικά ιδρύματα για να βελτιώσει την επεξηγηματική κάλυψη των εκλογών και της δημοκρατίας. Δείτε περισσότερα για τη δημοκρατική πρωτοβουλία του AP εδώ. Η AP είναι αποκλειστικά υπεύθυνη για όλο το περιεχόμενο.

Leave a Reply

Your email address will not be published. Required fields are marked *